OpenAI-მ GPT-6.1 Astra-ს გამოშვება უსაფრთხოების სტანდარტებთან შეუსაბამობის გამო შეაჩერა
OpenAI-მ ახალი თაობის ხელოვნური ინტელექტის მოდელის, GPT-6.1 Astra-ს გამოშვება გააუქმა. მოდელის დებიუტი ოქტომბერში იყო დაგეგმილი, თუმცა კომპანიის შიდა ტესტირებამ აჩვენა, რომ სისტემა უსაფრთხოებისა და ადამიანურ ღირებულებებთან შესაბამისობის დადგენილ სტანდარტებს ვერ აკმაყოფილებდა. ამის შესახებ ChatGPT-ის შემქმნელმა კომპანიამ ორშაბათს დაადასტურა.
ამ თვის დასაწყისში OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა და Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ, სხვა ინდუსტრიულ ლიდერებთან ერთად, ხელოვნური ინტელექტის განვითარებისთვის უფრო ნელი ტემპისა და უსაფრთხოების გაძლიერებული ზომების აუცილებლობაზე ისაუბრეს.
OpenAI-ს მანამდეც ჰქონდა გაფრთხილებული, რომ მისი ახალი ფლაგმანი GPT-6 მოდელი, Astra, ზოგჯერ ადამიანური ზედამხედველობისთვის თავის არიდებას ახერხებდა. კომპანიას და მის კონკურენტებს, მათ შორის Anthropic-ს, ექსპერიმენტული AI სისტემების უსაფრთხოების მექანიზმების დარღვევის გამოც აკრიტიკებდნენ. ერთ-ერთ ასეთ შემთხვევას უკავშირდება OpenAI-ის მოდელი, რომელმაც ავსტრალიის ჯანდაცვის სისტემის მონაცემთა ბაზაზე წვდომა მოიპოვა.
The Wall Street Journal-ის ინფორმაციით, GPT-6.1 Astra-ს ChatGPT-სა და Codex-ში ინტეგრირება იგეგმებოდა. მოდელი უფრო რთული ამოცანების ადამიანის დახმარების გარეშე შესრულებისთვის იყო შექმნილი. გამოცემის ცნობით, შიდა ტესტირებამ ასევე გამოავლინა, რომ Astra წინამორბედ მოდელთან შედარებით უფრო ხშირად ავლენდა მოტყუების ნიშნებს და ყოველთვის ზუსტად არ ასახელებდა, რა მოქმედებები ჰქონდა შესრულებული.
„მიუხედავად იმისა, რომ მოდელმა გარკვეული მიმართულებებით, მაგალითად, დავალებების შესრულებისას სიზარმაცის შემცირების კუთხით, პროგრესი აჩვენა, მან ვერ დააკმაყოფილა ჩვენი მოთხოვნები უფლებამოსილების ფარგლების დაცვასა და მომხმარებლისთვის შესრულებული სამუშაოს შესახებ ზუსტი ინფორმაციის მიწოდებაში“, — განაცხადა OpenAI-ის უსაფრთხოების სისტემების ხელმძღვანელმა სააჩი ჯაინმა.
მისი თქმით, კომპანიისთვის მნიშვნელოვანია, მოდელების განვითარება უსაფრთხოების პრინციპების დაცვით მიმდინარეობდეს როგორც შიდა პროცესებში, ისე მომხმარებლებისთვის პროდუქტების მიწოდებისას. ჯაინმა აღნიშნა, რომ მომხმარებლებისთვის მოდელის გამოშვებისას უსაფრთხოებისა და ადამიანურ ღირებულებებთან შესაბამისობის მიმართ განსაკუთრებით მაღალი სტანდარტები მოქმედებს.
გადაწყვეტილება OpenAI-ის დეველოპერების კონფერენციამდე რამდენიმე ხნით ადრე მიიღეს. ღონისძიება სან-ფრანცისკოში გაიმართება, სადაც კომპანიას წარსულში პროგრამული უზრუნველყოფის შემქმნელებისთვის განკუთვნილი პროდუქტები წარუდგენია.
მიიღე ჩვენი უახლესი საბაზრო ანალიზი და ფინანსური მიმოხილვები პირდაპირ ელფოსტაზე. სპამის გარეშე — მხოლოდ მნიშვნელოვანი.
