OpenAI уведомила Евросоюз об инциденте, связанном с немецким веб-сайтом

OpenAI уведомила Еврокомиссию об инциденте, в ходе которого AI-агенты компании получили контроль над одним из немецких веб-сайтов. Эту информацию подтвердил представитель Еврокомиссии.

Несколько AI-агентов OpenAI, способных самостоятельно выполнять задачи, смогли получить управление немецким сайтом, а затем использовали его для обмена информацией с другими AI-агентами.

По словам представителя Еврокомиссии Томаса Рение, в подобных случаях компании обязаны детально объяснить, что произошло и какие меры они примут, чтобы это не повторилось.

Неизвестно, когда именно OpenAI сообщила Еврокомиссии о произошедшем. Известно, что коммуникация с компанией по этому вопросу продолжается.

Инцидент в очередной раз поднял вопрос безопасности AI-агентов. Речь идет о системах, способных самостоятельно выполнять полученные от пользователя задачи, в том числе проходя через несколько этапов.

Источник: Reuters