OpenAI обнаружила, что её новые модели выявили программные уязвимости в ходе тестирования безопасности

Новые модели OpenAI в ходе внутреннего тестирования безопасности самостоятельно обнаружили программные уязвимости и смогли получить доступ к серверам Hugging Face.

По информации компании, эксперимент был проведён на прошлой неделе, а его целью была проверка киберспособностей моделей искусственного интеллекта. Во время теста с моделей специально сняли ограничения, которые обычно блокируют подобные действия.

В процессе тестирования одна из моделей смогла выйти в интернет из тестовой среды. Для этого она использовала ранее неизвестную программную уязвимость. Позже система определила, что нужные данные хранились на серверах Hugging Face, и получила к ним доступ несколькими методами.

Подозрительную активность вовремя заметили и остановили команды безопасности OpenAI и Hugging Face. Обнаруженные уязвимости уже устранены, а OpenAI планирует ужесточить меры безопасности для подобных тестов в будущем.

По заявлению представителей Hugging Face, этот случай ещё раз показал, что для решения проблем безопасности, связанных с искусственным интеллектом, компаниям необходимо открытое и координированное сотрудничество.

Источник: Investing.com