OpenAI ишлаб чиқилаётган янги сунъий интеллект модели киберхавфсизлик соҳасида жуда кучли имкониятларга эга бўлиши мумкинлигини маълум қилди. Дастлабки синовлардан сўнг компания модел билан ишлашда хавфсизлик чораларини кучайтирган.
Reutersнинг ёзишича, OpenAI таснифида бундай даража модел мустақил равишда мураккаб кибервазифаларни бажара олиши, жиддий дастурий заифликларни аниқлаши ва улардан фойдаланиш имконига эга бўлиши эҳтимоли билан боғлиқ.
Компания ўтказган дастлабки синовлар янги модел киберхавфсизлик бўйича аввалги тизимларга нисбатан анча юқори натижалар кўрсатаётганини кўрсатган. Шу сабабли OpenAI унинг имкониятларини тўлиқ баҳолаб бўлмагунча эҳтиёткорлик чораларини кучайтиришга қарор қилган.
Жумладан, модел изоляцияланган муҳитларда синовдан ўтказилмоқда, кодни бажариш имкониятлари эса қўшимча назорат остига олинган. Янги хавфсизлик талабларига жавоб бермайдиган айрим ички жараёнлар вақтинча тўхтатилган.
“Ҳозирча модел амалда энг юқори хавф даражасига етган, деб айтишга етарли асос йўқ. Бироқ дастлабки натижалар бундай эҳтимолни истисно қилишга ҳам имкон бермаяпти”, дейилади хабарда.
Компания кучли сунъий интеллект моделларининг киберхавфсизликка таъсирини баҳолаш учун ташқи экспертлар ва тегишли ташкилотлар билан ҳамкорликни ҳам кучайтирмоқда.
Қайд этилишича, сўнгги пайтларда йирик сунъий интеллект компаниялари ўз моделларининг киберхавфсизлик синовларида тобора мураккаб вазифаларни бажара олаётганини маълум қилмоқда. Бу эса AI имкониятлари ўсиши билан бирга уларни назорат қилиш ва хавфсиз фойдаланиш масаласини ҳам долзарблаштирмоқда.
Аввалроқ OpenAI компанияси ўзининг иккита сунъий интеллект (СИ) модели ички синовлар пайтида назоратдан чиққанини маълум қилганди. Бу моделлар СИ моделларини синаш учун мўлжалланган Hugging Face платформаси инфратузилмасига киберҳужум уюштирди.
