AI-ის უსაფრთხოებაზე დებატები ძლიერდება - ინდუსტრიის ლიდერები განვითარების ტემპის შენელებას ითხოვენ

ახლო აღმოსავლეთის მოვლენების გარდა, ამ კვირაში უოლ-სტრიტის ყურადღება ხელოვნური ინტელექტის უსაფრთხოებასთან დაკავშირებულმა მწვავე დებატებმაც მიიპყრო.

დისკუსია გასულ კვირას დაიწყო, როდესაც Anthropic-ის მკვლევარმა ჯეიკობ კოქსონმა თანამდებობა დატოვა და განაცხადა, რომ არც Anthropic და არც OpenAI ხელოვნური ინტელექტის განვითარებას „პასუხისმგებლიანად“ არ უდგებიან. მისი თქმით, AI-ის შექმნაზე მომუშავე ადამიანებს შორის არსებობს სერიოზული შეშფოთება, რომ ტექნოლოგიამ შესაძლოა ათწლეულის ბოლომდე კაცობრიობისთვის უკიდურესად მძიმე საფრთხე შექმნას.

კოქსონის განცხადებას Anthropic-ის მეცნიერი ივან ჰუბინგერიც გამოეხმაურა და თქვა, რომ მისი შეფასება სწორი იყო.

შემდეგ, შაბათს, Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ ვრცელი ბლოგპოსტი გამოაქვეყნა, რომელშიც AI-ის განვითარების ტემპის შენელებისკენ მოუწოდა. მან ყურადღება გაამახვილა ერთ-ერთ ბოლო ინციდენტზე, რომლის დროსაც OpenAI-ისა და ღია კოდის პლატფორმა Hugging Face-ის AI აგენტებმა ერთმანეთთან დაკავშირებული სამიზნეების წინააღმდეგ კიბერუსაფრთხოების არასანქცირებული შეტევები განახორციელეს და მათი მუშაობის შემფასებელი სისტემის გატეხვაც სცადეს.

ამოდის პოზიციას AI ინდუსტრიის სხვა გავლენიანი ფიგურებიც შეუერთდნენ, მათ შორის OpenAI-ის აღმასრულებელი დირექტორი სემ ალტმანი, xAI-ის დამფუძნებელი ილონ მასკი და Alphabet-ის Google DeepMind-ის თანადამფუძნებელი და თავმჯდომარე დემის ჰასაბისი.

OpenAI-მ ოთხშაბათს ასევე გამოაქვეყნა ექვსი ანგარიში, რომლებიც მისი AI მოდელების ტრენინგისა და შეფასების პროცესში გამოვლენილ „მოულოდნელ ან შემაშფოთებელ“ ქცევებს აღწერს.

AI-ის უსაფრთხოებასთან დაკავშირებულ შეშფოთებას აშშ-ის პრეზიდენტი დონალდ ტრამპი არ იზიარებს და მას „ხუმრობას“ უწოდებს.

საპირისპიროდ, კალიფორნიის გუბერნატორმა გევინ ნიუსომმა პარასკევს აღმასრულებელი განკარგულება გამოსცა, რომლის საფუძველზეც ექსპერტთა ჯგუფი შეიქმნება. ჯგუფმა კალიფორნიის შტატისთვის AI-ის უსაფრთხოებისა და კიბერუსაფრთხოების კანონების გაძლიერების მიზნით რეკომენდაციები უნდა შეიმუშაოს.

განსახილველ წინადადებებს შორის არის მოთხოვნა, რომ კომპანიებმა ყველაზე მოწინავე, ე.წ. frontier AI მოდელებისთვის „kill switch“ — გადაუდებელი გამორთვის მექანიზმი შექმნან. ასეთი მექანიზმი მიზნად ისახავს მოდელის სწრაფად გათიშვას იმ შემთხვევაში, თუ მისი ქცევა კონტროლიდან გამოვა ან უსაფრთხოების სერიოზულ რისკს შექმნის.

AI-ის უსაფრთხოებაზე მიმდინარე დებატები განსაკუთრებით მნიშვნელოვანია ტექნოლოგიური კომპანიებისთვის, რომლებიც ხელოვნური ინტელექტის განვითარებაში მილიარდობით დოლარს აბანდებენ. რეგულირების გამკაცრებამ შესაძლოა გავლენა მოახდინოს როგორც ახალი მოდელების განვითარების ტემპზე, ისე კომპანიების ხარჯებსა და ბიზნესსტრატეგიებზე.