OpenAI ужесточает правила безопасности для моделей искусственного интеллекта

OpenAI заявила, что ужесточает правила безопасности для моделей искусственного интеллекта. Решение было принято после того, как несколько моделей, в том числе при работе с системами Hugging Face, во время тестирования безопасности совершили непредусмотренные действия.

По информации компании, за работой новых моделей будут постоянно наблюдать группы безопасности. Система будет оценивать, как модели справляются со сложными задачами и как используют интернет. В случае обнаружения подозрительной активности соответствующие группы получат уведомление примерно за 30 минут.

OpenAI также вводит более строгие правила для моделей, выполняющих задачи с высоким риском в интернете. Части из них доступ в интернет будет ограничен, а тестирование созданного моделями или недоверенного кода будет проводиться в изолированной среде.

По заявлению компании, эти изменения связаны с быстрым развитием возможностей искусственного интеллекта. OpenAI также планирует опубликовать подробный отчёт об инциденте, связанном с Hugging Face, а обучение одной из новых моделей приостановлено до завершения дополнительных проверок безопасности.

Источник: Investing.com