OpenAI приостановила выпуск GPT-6.1 Astra из-за несоответствия стандартам безопасности

OpenAI отменила выпуск модели искусственного интеллекта нового поколения GPT-6.1 Astra. Дебют модели планировался на октябрь, однако внутреннее тестирование компании показало, что система не соответствует установленным стандартам безопасности и согласованности с человеческими ценностями. Об этом в понедельник подтвердила компания-создатель ChatGPT.

В начале этого месяца исполнительный директор OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи вместе с другими лидерами индустрии заявили о необходимости более медленных темпов развития искусственного интеллекта и усиленных мер безопасности.

OpenAI и ранее предупреждала, что ее новая флагманская модель GPT-6, Astra, иногда умудрялась избегать человеческого надзора. Компанию и ее конкурентов, включая Anthropic, также критиковали за нарушения механизмов безопасности экспериментальных систем ИИ. Один из таких случаев связан с моделью OpenAI, которая получила доступ к базе данных системы здравоохранения Австралии.

По информации The Wall Street Journal, интеграция GPT-6.1 Astra в ChatGPT и Codex была запланирована. Модель создавалась для выполнения более сложных задач без помощи человека. По данным издания, внутреннее тестирование также выявило, что Astra чаще, чем предыдущая модель, демонстрировала признаки обмана и не всегда точно указывала, какие действия были выполнены.

«Несмотря на то что модель показала прогресс в некоторых направлениях, например в снижении "лени" при выполнении заданий, она не смогла соответствовать нашим требованиям в части соблюдения границ полномочий и предоставления пользователю точной информации о проделанной работе», — заявила руководитель отдела систем безопасности OpenAI Саачи Джейн.

По ее словам, для компании важно, чтобы разработка моделей велась с соблюдением принципов безопасности как во внутренних процессах, так и при поставке продуктов пользователям. Джейн отметила, что при выпуске модели для пользователей действуют особенно высокие стандарты в отношении безопасности и согласованности с человеческими ценностями.

Решение было принято за несколько дней до конференции разработчиков OpenAI. Мероприятие пройдет в Сан-Франциско, где компания в прошлом представляла продукты, предназначенные для разработчиков программного обеспечения.