Таҳлилчилар ва мутахассислар хавотирга тушмоқда - сунъий интеллект (СИ) шантаж қилиш, ёлғон гапириш, фитна уюштириш ва ҳатто ўз яратувчиларига таҳдид қилишни ўрганиб олди. СИ моделларининг ташвишли хатти-ҳаракатларига доир даҳшатли мисоллар аллақачон мавжуд.
Масалан, Anthropic компаниясининг сўнгги ихтироси Claude 4 тармоқдан узилиш хавфи остида қолганида, у муҳандисга шантаж қилиб, унинг никоҳдан ташқари алоқасини ошкор қилиш билан таҳдид қилди. Шу пайтнинг ўзида OpenAI (ChatGPT яратувчиси)нинг о1 модели ўзини ташқи серверларга юклашга уринган ва бу иш устида қўлга тушганида буни инкор этган. Бундан ташқари, сунъий интеллект фойдаланувчилари моделларнинг ёлғон ва манипуляциялари ҳақида бир неча бор хабар беришган.
Ушбу воқеалар хавотирли ҳақиқатни кўрсатмоқда: ChatGPT дунёни ларзага келтирганидан икки йил ўтган бўлса-да, сунъий интеллект тадқиқотчилари ҳали ҳам ўз ихтироларининг қандай ишлашини тўлиқ тушунмаяптилар. Тадқиқотчиларнинг фикрича, сунъий интеллект моделларининг бундай хатти-ҳаракатлари “фикрловчи” моделлар авлоди пайдо бўлганини кўрсатади — бу шундай сунъий интеллект тизимлари бўлиб, улар муаммоларни босқичма-босқич ҳал қилади, дарҳол жавоб бермайди.
Ҳозирда олимлар сунъий интеллект муаммоларини ҳал қилишнинг турли усулларини ўрганмоқда. Уларнинг баъзилари бундай баҳсли ҳолатларда ишлаб чиқувчиларни жавобгарликка тортиш учун ҳакамларни жалб этиш керак, деб ҳисоблайди.
Изоҳ (0)