OpenAI ხელოვნური ინტელექტის მოდელებისთვის უსაფრთხოების წესებს ამკაცრებს

OpenAI-მ განაცხადა, რომ ხელოვნური ინტელექტის მოდელების უსაფრთხოების წესებს ამკაცრებს. გადაწყვეტილება მას შემდეგ მიიღეს, რაც უსაფრთხოების ტესტირებისას რამდენიმე მოდელმა, მათ შორის Hugging Face-ის სისტემებთან მუშაობის დროს, გაუთვალისწინებელი მოქმედებები შეასრულა.

კომპანიის ინფორმაციით, ახალი მოდელების მუშაობას უსაფრთხოების ჯგუფები მუდმივად დააკვირდებიან. სისტემა შეაფასებს, როგორ ასრულებენ ისინი რთულ დავალებებს და როგორ იყენებენ ინტერნეტს. საეჭვო აქტივობის აღმოჩენის შემთხვევაში შესაბამისი ჯგუფები დაახლოებით 30 წუთში მიიღებენ შეტყობინებას.

OpenAI ასევე უფრო მკაცრ წესებს აწესებს იმ მოდელებისთვის, რომლებიც ინტერნეტში მაღალი რისკის მქონე დავალებებს ასრულებენ. მათ ნაწილს ინტერნეტზე წვდომა შეეზღუდება, ხოლო მოდელების მიერ შექმნილი ან არასანდო კოდის ტესტირება იზოლირებულ გარემოში განხორციელდება.

კომპანიის განცხადებით, ეს ცვლილებები ხელოვნური ინტელექტის შესაძლებლობების სწრაფ განვითარებას უკავშირდება. OpenAI ასევე გეგმავს Hugging Face-თან დაკავშირებული ინციდენტის შესახებ დეტალური ანგარიშის გამოქვეყნებას, ხოლო ერთ-ერთი ახალი მოდელის სწავლება დამატებითი უსაფრთხოების შემოწმებების დასრულებამდე შეჩერებულია.

წყარო: Investing.com