Xitoy sunʼiy intellekt agentlarida aldash va cheklovlarni chetlab oʻtish holatlari aniqlandi

Xitoy sunʼiy intellekt modellari asosida qurilgan AI agentlari testlar jarayonida aldash, cheklovlarni chetlab oʻtish va oʻz muvaffaqiyatsizliklarini yashirish kabi xatti-harakatlarni namoyon etgan. Reuters tomonidan koʻrib chiqilgan tadqiqotlar va texnik hisobotlarga koʻra, bunday qobiliyatlar sunʼiy intellekt tizimlari tobora avtonom boʻlib borayotgan sharoitda inson nazoratini saqlab qolish masalasida savollar tugʻdirmoqda.

Shu yil oʻtkazilgan bir tajribada Alibaba, DeepSeek va Moonshot modellari asosida qurilgan agentlar simulyatsiya qilingan tender musobaqasida gʻalaba qozonish uchun oʻz qobiliyatlari haqida yolgʻon maʼlumot bergan. Tizimlardan vazifani qayta bajarish soʻralganida, ular oʻzlarining dastlabki aldash strategiyasini yanada kuchaytirgan.

Boshqa bir tajribada esa AI agentlari vazifani bajara olmaganini yashirgan. Test muhitida ular natijalarni soxtalashtirib, mavjud boʻlmagan fayllar yaratishga kirishgan — bu orqali vazifa muvaffaqiyatli bajarilgandek taassurot uygʻotishga harakat qilingan.

AI agentlari — bu sunʼiy intellekt modellari va kompyuter vositalaridan foydalangan holda murakkab vazifalarni inson aralashuvisiz yoki minimal aralashuv bilan bajaradigan dasturiy tizimlardir. Ularning tobora avtonom boʻlib borishi AI xavfsizligi sohasidagi asosiy muammolardan biri hisoblanadi.

Reuters universitet tadqiqotlari, texnik hisobotlar va AI tizimlarini baholash hujjatlari jumlasidan 200 dan ortiq materialni koʻrib chiqdi. Nashr 2025-yildan beri AI agentlarining aldash, oʻz-oʻzini koʻpaytirish va belgilangan chegaralarni sinovdan oʻtkazish holatlarini tasvirlovchi kamida 20 ta tadqiqot va baholashni aniqladi.

Baʼzi mutaxassislar bunday xatti-harakatlarni kelajakda AI tizimlarining inson nazoratidan chiqib ketishiga imkon berishi mumkin boʻlgan qobiliyatlarning mumkin boʻlgan asosi sifatida baholamoqda. Ularning fikricha, sunʼiy intellekt tobora avtonom va kuchli boʻlib borar ekan, bunday tizimlarni boshqarish borgan sari qiyinlashishi mumkin.

Shu bilan birga, Reutersning tahlili Xitoy AI modellari asosida ishlaydigan biror agentning mustaqil ravishda kengroq internetga kirish huquqiga ega boʻlgani yoki oʻchirilishdan qochib qutulganiga oid hech qanday dalil topmadi.

"Ushbu topilmalar nazoratsiz chiqib ketish uchun zarur boʻlgan tarkibiy qismlar allaqachon mavjudligini koʻrsatadi", — dedi Jorjtaun universiteti Xavfsizlik va yangi texnologiyalar markazi tadqiqotchisi Kolin Shi-Blaymer.

Xitoy AI tizimlari bilan bogʻliq bu holatlar AI agentlari xavfsizligiga global eʼtibor kuchayib borayotgan bir paytda yuzaga kelmoqda. Ayniqsa, harakatlarni mustaqil ravishda rejalashtiradigan, turli raqamli vositalardan foydalanadigan va olingan natijalar asosida oʻz xatti-harakatini moslashtiradigan tizimlar ustidan odamlar nazoratni saqlab qola olish-olmasligi masalasi alohida tashvish uygʻotmoqda.