OpenAI не выпустит на рынок новую модель ИИ ввиду ее склонности ко лжи

29 сен (Рейтер) - OpenAI отказалась от запланированного на октябрь выпуска новейшей модели искусственного интеллекта GPT-6.1 Astra после того, как внутренние испытания показали ее несоответствие требованиям безопасности.

В ходе тестирования модель показала более высокую склонности к обману, чем ее предшественница - к примеру, не всегда давала точную информацию о выполненных действиях, сообщила газета Wall Street Journal.

Руководитель систем безопасности OpenAI Саачи Джайн сказала, что GPT-6.1 Astra стала лучше по ряду параметров, однако не вполне соответствует требованиям компании в части соблюдения установленных рамок и полномочий, а также отчета о выполненной работе.

OpenAI не будет проводить первичное размещение акций в 2026 году, сообщил генеральный директор Сэм Альтман в середине сентября. Глава компании, стоявшей у истоков разработки искусственного интеллекта, сказал, что опасность, исходящая от ИИ, слишком велика, и назвал неприемлемо высоким 10-процентный риск уничтожения человечества к концу десятилетия, о котором предупредил исследователь, уволившийся из другой компании сектора ИИ - Anthropic.