AI-ის უსაფრთხოების რისკები იზრდება, თუმცა წამყვანი ლაბორატორიები განვითარებას არ ანელებენ

საინვესტიციო ბანკ BMO-ს შეფასებით, ხელოვნური ინტელექტის უსაფრთხოებასთან დაკავშირებული შეშფოთება საფუძვლიანია, თუმცა წამყვანი AI-ლაბორატორიები ტექნოლოგიის განვითარებისა და უფრო ძლიერი მოდელების გამოშვების ტემპის შენელების ნიშნებს ნაკლებად აჩვენებენ.

BMO პარასკევს გამოქვეყნებულ მიმოხილვაში, საკუთარ AI ექსპერტზე დაყრდნობით, აღნიშნავს, რომ AI ინდუსტრიის ლიდერების შეშფოთება რეალურია. მთავარი გამოწვევა ხელოვნური ინტელექტის სისტემების ადამიანურ ინტერესებთან შესაბამისობაში მოყვანაა მანამ, სანამ შესაძლო პრობლემები შეუქცევადი გახდება.

ამასთან, ბანკი ეჭვქვეშ აყენებს, რამდენად მზად არიან ისეთი კომპანიები, როგორებიცაა Anthropic და OpenAI, უსაფრთხოების მიზნით განვითარების ტემპი რეალურად შეანელონ. ამის საფუძვლად BMO მათ მიერ სულ უფრო ძლიერი AI მოდელების გამოშვებას ასახელებს.

ანალიტიკოსების შეფასებით, ბოლო პერიოდში AI-სთან დაკავშირებული ჰაკერული ინციდენტები ძირითადად სერიოზული ზიანის გარეშე დასრულდა. მიუხედავად ამისა, ბანკი აფრთხილებს, რომ მავნე განზრახვის მქონე პირებმა შესაძლოა სულ უფრო ხშირად გამოიყენონ ღია წვდომის AI მოდელები. მომხმარებლებმა უკვე აჩვენეს, რომ გარკვეულ შემთხვევებში შეუძლიათ უსაფრთხოების დამცავი მექანიზმების გვერდის ავლა და მოდელების ისეთი მოქმედებებისკენ მიმართვა, რომლებიც მათ თავდაპირველ მიზნებს ეწინააღმდეგება. Anthropic-ის ხელმძღვანელის, დარიო ამოდეის მოწოდებამ AI-ის ყველაზე მოწინავე მოდელების განვითარების კოორდინირებული შენელების შესახებ, ინდუსტრიაში უსაფრთხოების საკითხებზე დისკუსია გააძლიერა. ამოდეის თქმით, ტექნოლოგიის სწრაფმა განვითარებამ შესაძლოა კაცობრიობისთვის მნიშვნელოვანი რისკები შექმნას.

რამდენიმე AI კომპანიის ხელმძღვანელმა მხარი დაუჭირა უსაფრთხოების მიზნით განვითარების ტემპის გადახედვას. საკითხი აშშ-სა და ჩინეთს შორის ამ კვირაში გამართულ სამიტზეც განიხილეს. თუმცა, ინდუსტრიაში ჯერ კიდევ არ არსებობს ერთიანი მიდგომა იმის შესახებ, თუ როგორ უნდა განხორციელდეს განვითარების ტემპის შემცირება პრაქტიკაში.

BMO ელოდება, რომ აშშ და ჩინეთი საბოლოოდ AI-ის რეგულირებას გაამკაცრებენ. ბანკის პროგნოზით, ორივე ქვეყანა განსაკუთრებულ ყურადღებას ღია კოდის მქონე და ღია წვდომის მოდელებზე გაამახვილებს და არა დახურულ სისტემებზე.

BMO-ს ექსპერტის შეფასებით, ახალი წესები შესაძლოა ღია წვდომის AI მოდელების ფართო საზოგადოებისთვის გამოშვებამდე წინასწარ ნებართვას მოითხოვდეს. ორივე ქვეყანას აქვს მოტივაცია, შეზღუდოს AI ტექნოლოგიებზე ღია წვდომა.

ბანკის აზრით, ასეთი რეგულაციები შესაძლოა დახურული, მოწინავე AI მოდელების შემქმნელი კომპანიების, მათ შორის Anthropic-ისა და OpenAI-ის, ფასების განსაზღვრის შესაძლებლობას გააძლიერებდეს. ეს კომპანიები მომხმარებლებს თავიანთ მოდელებზე წვდომას კონტროლირებადი კომერციული სერვისების საშუალებით სთავაზობენ.