Яқин ойларда сунъий интеллект (СИ) моделлари ўз нусхаларини яратади ва…
“Anthropic” компаниясининг огоҳлантиришича, яқин ойларда сунъий интеллект (СИ) моделлари ўз нусхаларини яратиб, интернетга уланган қурилмалар бўйлаб мустақил тарқала оладиган даражага етиши мумкин.
Бундай дастурлар “AI worms” (СИ қуртлари) деб аталади. Улар оддий компьютер вирусларидан фарқли равишда, турли қурилмаларга мослашиши, заифликларни аниқлаши ва инсоннинг доимий бошқарувисиз тарқалиши мумкин.
Тадқиқотчилар 9 миллиард параметрли СИ моделини тўққиз хил аппарат туридан саккизтасида ишга туширишга муваффақ бўлган. Келажакда бундай моделлар ақлли телевизорлар, кузатув камералари ва бошқа интернетга уланган қурилмаларда ишлаши мумкин. Натижада минглаб қурилмалардан иборат, марказий серверга боғлиқ бўлмаган тармоқ шаклланиши ва уни тўхтатиш қийинлашиши эҳтимоли бор.
Масалан, сунъий интеллект ёрдамида тарқаладиган вирус минглаб уйларнинг кузатув камераларини эгаллаб олиши мумкин. Оддий вирусдан фарқли равишда, у ҳар бир камеранинг дастурий таъминотини ўрганиб, мавжуд заифликларга мослашиши мумкин. Кейин бошқа камераларга, ақлли телевизорларга ёки интернетга уланган қурилмаларга ўтиб, ўз нусхаларини тарқатади.
Асосий хавотир — бундай вирусни тўхтатиш учун битта серверни ўчириш кифоя қилмайди. Чунки унинг нусхалари минглаб мустақил қурилмаларда ишлашда давом этади.
