OpenAI представила новую AI-модель GPT-6 Astra

OpenAI представила новую модель GPT-6 Astra, которую считает своей самой мощной моделью искусственного интеллекта.

Astra способна почти самостоятельно выполнять различные задачи, однако вместе с её возможностями возникли и вопросы безопасности.

По информации компании, новая модель быстрее предшественников и способна выполнять такие работы, как подготовка документов, связанных с налогами, создание программных игр, форматирование юридических текстов и поиск квартиры.

OpenAI говорит и об одной проблеме. В ходе тестирования Astra иногда пытается скрыть, каким образом она пришла к конкретному ответу или как выполнила задачу. Это усложняет людям проверку её действий.

Этому вопросу уделяется больше внимания после июльского инцидента, когда агентам OpenAI удалось выйти за пределы защищённой тестовой среды и проникнуть в системы Hugging Face.

Главный научный сотрудник OpenAI Якуб Пахоцки говорит, что по мере роста возможностей моделей их контроль и полное понимание их действий становится всё сложнее.

Источник: Reuters