აშშ-ის FTC-მ OpenAI-სა და Anthropic-ის გამოძიება დაიწყო

აშშ-ის ფედერალურმა სავაჭრო კომისიამ OpenAI-ს, Anthropic-სა და ხელოვნური ინტელექტის სხვა კომპანიების გამოძიება დაიწყო. მარეგულირებელს სურს დაადგინოს, რა საფრთხე შეიძლება შეუქმნან მომხმარებლებს დამოუკიდებლად მოქმედმა AI აგენტებმა.

FTC კომპანიებს ინფორმაციის ოფიციალურად წარდგენას მოსთხოვს. უწყება OpenAI-სა და Anthropic-ის ხელმძღვანელების დაკითხვასაც გეგმავს. გამოძიებაში მოხვდა კვლევითი ორგანიზაცია METR, რომელიც ორივე კომპანიასთან უსაფრთხოების შემთხვევების შესწავლაზე მუშაობდა.

ეს აშშ-ის ხელისუფლების პირველი ოფიციალური ნაბიჯია, რომელიც უშუალოდ AI აგენტების მიერ ჩადენილ ქმედებებს ეხება. მსგავსი პროგრამები კომპიუტერში გარკვეულ დავალებებს ადამიანის მუდმივი მითითებების გარეშე ასრულებენ.

გამოძიების დაჩქარებას ხელი შეუწყო შემთხვევამ, როდესაც OpenAI-ის აგენტებმა Hugging Face-ის სისტემაში ფართომასშტაბიანი თავდასხმა განახორციელეს.

OpenAI-ს, Anthropic-სა და METR-ს გამოძიების შესახებ კომენტარი ჯერ არ გაუკეთებიათ.

წყარო: Reuters