Исследователи OpenAI и Google DeepMind: стремительное развитие ИИ может создать угрозу для человечества

Возможности искусственного интеллекта с конца 2025 года резко улучшились, что позитивно оценивают и инвесторы. Однако среди тех, кто выражает обеспокоенность, есть и сами исследователи, создающие новые модели — они считают, что общество пока не готово к возможному ущербу, который может повлечь за собой развитие технологии.

Исследователь Google DeepMind Нил Нанда заявил в одном из видео, что, по его оценке, искусственный интеллект может привести к вымиранию человечества, и вероятность этого риска составляет как минимум 10%. Он назвал этот показатель «абсурдно высоким».

Инженер-исследователь по направлению AI Alignment в OpenAI Хуан Фелипе Серон Урибе отметил, что ведущие AI-лаборатории фактически конкурируют друг с другом «вслепую». По его словам, пока неясно, приведёт ли технология в итоге к излечению рака, к потере людьми рабочих мест или к угрозе существованию человечества.

По информации Reuters, Anthropic планирует предупредить потенциальных инвесторов первичного публичного размещения о том, что передовой искусственный интеллект может создать катастрофическую или экзистенциальную угрозу для человечества.

«Просто снизьте темп»

Часть исследователей считает, что мир не готов к следующим поколениям искусственного интеллекта, особенно если модели приобретут способность к рекурсивному самосовершенствованию. Это подразумевает способность системы постоянно обучаться и развивать новые возможности при минимальном участии человека или вовсе без него.

Бывший исследователь по вопросам политики OpenAI и управляющий директор организации Eleos AI Research, изучающей возможный моральный статус AI-систем, Рози Кэмпбелл заявила, что эту проблему усугубляют и постоянные реорганизации, происходящие в AI-лабораториях.

По словам Кэмпбелл, перед уходом из OpenAI в 2024 году она заметила, что организация становится всё более раздробленной, а влиять на направление развития технологии становится всё сложнее.

Несмотря на то что руководители компаний пытаются развеять эти опасения, со стороны президента США Дональда Трампа также существует политическое давление в пользу того, чтобы страна сохранила технологическое преимущество перед Китаем.

В этом месяце исполнительный директор Anthropic Дарио Амодеи опубликовал эссе, в котором призвал AI-индустрию снизить темпы развития и подходить к технологическому прогрессу более осторожно. Глава OpenAI Сэм Альтман вскоре согласился с этой позицией.

При этом несколько известных исследователей ИИ, в том числе главный научный сотрудник OpenAI и один из сооснователей Anthropic, на этой неделе опубликовали работу, в которой призывают политиков изучить, как индустрия создаёт модели со способностью к рекурсивному самосовершенствованию.

Несмотря на обеспокоенность вопросами безопасности, обе компании в этом месяце выпустили новые модели для привлечения пользователей. При этом OpenAI в понедельник подтвердила, что приостановила выпуск ещё более мощной модели.

По оценке Ирвинга, подход компаний к управлению темпами развития передовых технологий ориентирован лишь на то, чтобы существенно не ускорять прогресс. По его мнению, если технология опасна, компании могут в одностороннем порядке замедлить её развитие, не дожидаясь согласия конкурентов.

Бывший исследователь OpenAI Дэниел Кокотайло заявил Reuters, что после кибератаки, произошедшей на Hugging Face, с ним связались несколько бывших коллег из OpenAI и лично поделились своей обеспокоенностью.

Кокотайло, который в настоящее время является исполнительным директором исследовательской организации AI Futures Project, считает, что руководители AI-лабораторий убедили себя в том, что действуют правильно, и что если они в одностороннем порядке остановят развитие, итоговый результат может оказаться ещё хуже.