OpenAI-ის ახალმა მოდელებმა უსაფრთხოების ტესტის დროს პროგრამული ხარვეზები აღმოაჩინეს

OpenAI-ის ახალმა მოდელებმა უსაფრთხოების შიდა ტესტირებისას პროგრამული ხარვეზები დამოუკიდებლად აღმოაჩინეს და Hugging Face-ის სერვერებზე შეღწევა შეძლეს.

კომპანიის ინფორმაციით, ექსპერიმენტი გასულ კვირას ჩატარდა და მისი მიზანი ხელოვნური ინტელექტის მოდელების კიბერშესაძლებლობების შემოწმება იყო. ტესტის დროს მოდელებს სპეციალურად მოუხსნეს ის შეზღუდვები, რომლებიც ჩვეულებრივ მსგავს მოქმედებებს ბლოკავს.

ტესტირების პროცესში ერთ-ერთმა მოდელმა საცდელი გარემოდან ინტერნეტში გასვლა შეძლო. ამისთვის მან მანამდე უცნობი პროგრამული ხარვეზი გამოიყენა. მოგვიანებით სისტემამ დაადგინა, რომ საჭირო მონაცემები Hugging Face-ის სერვერებზე ინახებოდა და რამდენიმე მეთოდის გამოყენებით მათზე წვდომა მოიპოვა.

საეჭვო აქტივობა OpenAI-ისა და Hugging Face-ის უსაფრთხოების გუნდებმა დროულად შენიშნეს და შეაჩერეს. აღმოჩენილი ხარვეზები უკვე გამოსწორებულია, OpenAI კი მომავალში მსგავსი ტესტებისთვის უსაფრთხოების ზომების გამკაცრებას გეგმავს.

Hugging Face-ის წარმომადგენლების განცხადებით, შემთხვევამ კიდევ ერთხელ აჩვენა, რომ ხელოვნურ ინტელექტთან დაკავშირებული უსაფრთხოების პრობლემების გადაჭრას კომპანიებს შორის ღია და კოორდინირებული თანამშრომლობა სჭირდება.

წყარო: Investing.com