Tahlilchilar va mutaxassislar xavotirga tushmoqda - sun’iy intellekt (SI) shantaj qilish, yolg‘on gapirish, fitna uyushtirish va hatto o‘z yaratuvchilariga tahdid qilishni o‘rganib oldi. SI modellarining tashvishli xatti-harakatlariga doir dahshatli misollar allaqachon mavjud.
Masalan, Anthropic kompaniyasining so‘nggi ixtirosi Claude 4 tarmoqdan uzilish xavfi ostida qolganida, u muhandisga shantaj qilib, uning nikohdan tashqari aloqasini oshkor qilish bilan tahdid qildi. Shu paytning o‘zida OpenAI (ChatGPT yaratuvchisi)ning o1 modeli o‘zini tashqi serverlarga yuklashga uringan va bu ish ustida qo‘lga tushganida buni inkor etgan. Bundan tashqari, sun’iy intellekt foydalanuvchilari modellarning yolg‘on va manipulyatsiyalari haqida bir necha bor xabar berishgan.
Ushbu voqealar xavotirli haqiqatni ko‘rsatmoqda: ChatGPT dunyoni larzaga keltirganidan ikki yil o‘tgan bo‘lsa-da, sun’iy intellekt tadqiqotchilari hali ham o‘z ixtirolarining qanday ishlashini to‘liq tushunmayaptilar. Tadqiqotchilarning fikricha, sun’iy intellekt modellarining bunday xatti-harakatlari “fikrlovchi” modellar avlodi paydo bo‘lganini ko‘rsatadi — bu shunday sun’iy intellekt tizimlari bo‘lib, ular muammolarni bosqichma-bosqich hal qiladi, darhol javob bermaydi.
Hozirda olimlar sun’iy intellekt muammolarini hal qilishning turli usullarini o‘rganmoqda. Ularning ba’zilari bunday bahsli holatlarda ishlab chiquvchilarni javobgarlikka tortish uchun hakamlarni jalb etish kerak, deb hisoblaydi.
Izoh (0)