FTC (Федеральная торговая комиссия) США начала расследование в отношении OpenAI и Anthropic

Федеральная торговая комиссия США начала расследование в отношении OpenAI, Anthropic и других компаний, работающих в сфере искусственного интеллекта. Регулятор намерен установить, какую опасность могут представлять для пользователей автономно действующие AI-агенты.

FTC потребует от компаний официального предоставления информации. Ведомство также планирует провести опрос руководителей OpenAI и Anthropic. В расследование попала исследовательская организация METR, которая работала с обеими компаниями над изучением инцидентов в области безопасности.

Это первый официальный шаг властей США, напрямую касающийся действий, совершённых AI-агентами. Подобные программы выполняют в компьютере определённые задачи без постоянных указаний со стороны человека.

Ускорению расследования способствовал инцидент, когда агенты OpenAI провели масштабную атаку на систему Hugging Face.

OpenAI, Anthropic и METR пока не прокомментировали расследование.

Источник: Reuters