Риски безопасности, связанные с ИИ, растут, однако ведущие лаборатории не замедляют темпы разработки

По оценке инвестиционного банка BMO, опасения, связанные с безопасностью искусственного интеллекта, обоснованы, однако ведущие AI-лаборатории практически не демонстрируют признаков замедления темпов развития технологии и выпуска более мощных моделей.

В обзоре, опубликованном в пятницу, BMO со ссылкой на собственного AI-эксперта отмечает, что опасения лидеров AI-индустрии реальны. Главный вызов заключается в том, чтобы привести системы искусственного интеллекта в соответствие с человеческими интересами до того, как потенциальные проблемы станут необратимыми.

При этом банк ставит под сомнение, насколько такие компании, как Anthropic и OpenAI, действительно готовы замедлить темпы развития ради безопасности. В качестве аргумента BMO приводит тот факт, что эти компании продолжают выпускать всё более мощные AI-модели.

По оценке аналитиков, недавние хакерские инциденты, связанные с AI, в основном обошлись без серьёзного ущерба. Тем не менее банк предупреждает, что злоумышленники могут всё чаще использовать модели искусственного интеллекта с открытым доступом. Пользователи уже показали, что в отдельных случаях способны обходить защитные механизмы безопасности и направлять модели на действия, противоречащие их первоначальным целям. Призыв главы Anthropic Дарио Амодеи к скоординированному замедлению разработки наиболее продвинутых AI-моделей усилил дискуссию в индустрии по вопросам безопасности. По словам Амодеи, стремительное развитие технологии может создать значительные риски для человечества.

Несколько руководителей AI-компаний поддержали идею пересмотра темпов развития в целях безопасности. Этот вопрос обсуждался и на прошедшем на этой неделе саммите США и Китая. Однако в индустрии пока нет единого подхода к тому, как именно следует снижать темпы развития на практике.

BMO ожидает, что США и Китай в конечном итоге ужесточат регулирование искусственного интеллекта. По прогнозу банка, обе страны уделят особое внимание моделям с открытым исходным кодом и открытым доступом, а не закрытым системам.

По оценке эксперта BMO, новые правила могут потребовать предварительного разрешения на выпуск моделей искусственного интеллекта с открытым доступом для широкой публики. У обеих стран есть мотивация ограничить открытый доступ к AI-технологиям.

По мнению банка, подобное регулирование может укрепить возможности компаний-разработчиков закрытых, продвинутых AI-моделей, в том числе Anthropic и OpenAI, в части установления цен. Эти компании предлагают пользователям доступ к своим моделям через контролируемые коммерческие сервисы.