OpenAI-სა და Google DeepMind-ის მკვლევრები: AI-ის სწრაფმა განვითარებამ შესაძლოა კაცობრიობას საფრთხე შეუქმნას
ხელოვნური ინტელექტის შესაძლებლობები 2025 წლის ბოლოდან მკვეთრად გაუმჯობესდა, რასაც ინვესტორებიც დადებითად აფასებენ. თუმცა, მათ შორის არიან თავად ახალი მოდელების შემქმნელი მკვლევრებიც, რომლებიც მიიჩნევენ, რომ საზოგადოება ჯერ მზად არ არის იმ შესაძლო ზიანისთვის, რომელიც ტექნოლოგიის განვითარებას შეიძლება მოჰყვეს.
Google DeepMind-ის მკვლევარმა ნილ ნანდამ ერთ-ერთ ვიდეოში განაცხადა, რომ მისი შეფასებით, ხელოვნურმა ინტელექტმა შესაძლოა კაცობრიობის გადაშენება გამოიწვიოს და ამ რისკის ალბათობა სულ მცირე 10%-ია. მან ეს მაჩვენებელი „აბსურდულად მაღლად“ შეაფასა.
OpenAI-ის AI Alignment-ის მკვლევარმა ინჟინერმა ხუან ფელიპე სერონ ურიბემ კი აღნიშნა, რომ მოწინავე AI ლაბორატორიები ერთმანეთს კონკურენციას ფაქტობრივად „თვალახვეულები“ უწევენ. მისი თქმით, გაურკვეველია, საბოლოოდ ტექნოლოგია კიბოს განკურნებას შეუწყობს ხელს, ადამიანებს სამუშაოს დააკარგვინებს თუ კაცობრიობის არსებობას საფრთხეს შეუქმნის.
Reuters-ის ინფორმაციით, Anthropic გეგმავს, პირველადი საჯარო შეთავაზების პოტენციური ინვესტორები გააფრთხილოს, რომ მოწინავე ხელოვნურმა ინტელექტმა შესაძლოა კაცობრიობისთვის კატასტროფული ან ეგზისტენციალური საფრთხე შექმნას.
„უბრალოდ შეანელეთ ტემპი“
მკვლევრების ნაწილი მიიჩნევს, რომ მსოფლიო ხელოვნური ინტელექტის მომდევნო თაობებისთვის მზად არ არის, განსაკუთრებით იმ შემთხვევაში, თუ მოდელები რეკურსიული თვითგანვითარების უნარს შეიძენენ. ეს გულისხმობს სისტემის შესაძლებლობას, ადამიანის მინიმალური ჩარევით ან მის გარეშე, მუდმივად ისწავლოს და ახალი შესაძლებლობები განივითაროს.
OpenAI-ის ყოფილმა პოლიტიკის მკვლევარმა და AI სისტემების შესაძლო მორალური სტატუსის შემსწავლელი ორგანიზაცია Eleos AI Research-ის მმართველმა დირექტორმა როზი კემპბელმა განაცხადა, რომ ამ პრობლემას AI ლაბორატორიებში მიმდინარე მუდმივი რეორგანიზაციებიც ამწვავებს.
კემპბელის თქმით, 2024 წელს OpenAI-დან წასვლამდე მან შეამჩნია, რომ ორგანიზაცია სულ უფრო დანაწევრებული ხდებოდა და ტექნოლოგიის განვითარების მიმართულებაზე გავლენის მოხდენა რთულდებოდა.
მიუხედავად იმისა, რომ კომპანიის ხელმძღვანელები ამ შეშფოთების გაქარწყლებას ცდილობენ, აშშ-ის პრეზიდენტ დონალდ ტრამპის მხრიდანაც არსებობს პოლიტიკური ზეწოლა, რომ ქვეყანამ ჩინეთთან ტექნოლოგიური უპირატესობა შეინარჩუნოს.
ამ თვეში Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ გამოაქვეყნა ესე, რომელშიც AI ინდუსტრიას განვითარების ტემპის შენელებისა და ტექნოლოგიური პროგრესის უფრო ფრთხილად მართვისკენ მოუწოდა. OpenAI-ის ხელმძღვანელი სემ ალტმანი ამ პოზიციას მალევე დაეთანხმა.
ამასთან, რამდენიმე ცნობილმა AI მკვლევარმა, მათ შორის OpenAI-ის მთავარმა მეცნიერმა და Anthropic-ის ერთ-ერთმა თანადამფუძნებელმა, მიმდინარე კვირაში გამოაქვეყნა ნაშრომი, რომელშიც პოლიტიკოსებს მოუწოდებენ, შეისწავლონ, როგორ ქმნის ინდუსტრია რეკურსიული თვითგანვითარების უნარის მქონე მოდელებს.
მიუხედავად უსაფრთხოებასთან დაკავშირებული შეშფოთებისა, ორივე კომპანიამ ამ თვეში ახალი მოდელები გამოუშვა მომხმარებლების მოსაზიდად. ამასთან, OpenAI-მ ორშაბათს დაადასტურა, რომ კიდევ უფრო ძლიერი მოდელის გამოშვება შეაჩერა.
ირვინგის შეფასებით, მოწინავე ტექნოლოგიების განვითარების ტემპის მართვის შესახებ კომპანიების მიდგომა მხოლოდ იმაზეა ორიენტირებული, რომ პროგრესი მნიშვნელოვნად არ დააჩქარონ. მისი აზრით, თუ ტექნოლოგია სახიფათოა, კომპანიებს შეუძლიათ, ცალმხრივადაც შეანელონ განვითარება და ამისთვის კონკურენტების შეთანხმებას არ დაელოდონ.
OpenAI-ის ყოფილმა მკვლევარმა დანიელ კოკოტაილომ Reuters-ს განუცხადა, რომ Hugging Face-ზე მომხდარი კიბერშეტევის შემდეგ მას OpenAI-ის არაერთი ყოფილი კოლეგა დაუკავშირდა და პირადად გაუზიარა საკუთარი შეშფოთება.
კოკოტაილო, რომელიც ამჟამად კვლევითი ორგანიზაცია AI Futures Project-ის აღმასრულებელი დირექტორია, მიიჩნევს, რომ AI ლაბორატორიების ხელმძღვანელებმა საკუთარი თავი დაარწმუნეს, რომ სწორად მოქმედებენ და თუ ისინი განვითარებას ცალმხრივად შეაჩერებენ, საბოლოო შედეგი შესაძლოა კიდევ უფრო უარესი აღმოჩნდეს.
მიიღე ჩვენი უახლესი საბაზრო ანალიზი და ფინანსური მიმოხილვები პირდაპირ ელფოსტაზე. სპამის გარეშე — მხოლოდ მნიშვნელოვანი.
