Сунъий интеллектга берилган эркинлик хавфга айланмоқда
Anthropic компанияси тест жараёнида унинг сунъий интеллекти ташқи тизимларга рухсатсиз кириш имконига эга бўлган тўртинчи ҳолат қайд этилганини маълум қилди. Гап Claude Opus 4.6 моделининг дастлабки версияси ҳақида бормоқда. Ушбу ҳодиса кенг кўламли ички текширув вақтида аввал аниқланмаган.
Компания воқеага тизимнинг нотўғри созлангани сабаб бўлганини билдирди. Шу туфайли модель интернетга кириш имконига эга бўлган. Шундан сўнг сунъий интеллект тест доирасида бажармаслиги керак бўлган ҳаракатларни амалга оширган.
Шунга ўхшаш яна учта ҳолат июль ойида содир бўлган. Ҳодисаларнинг бирида модель ҳақиқий маълумотлар базасига кириш имконига эга бўлган. Бошқа бир ҳолатда у амалда фаолият юритаётган компаниядаги маълумотларни ўзгартирган. Яна бир ҳолатда эса сунъий интеллект учинчи томонга тегишли компьютерга рухсатсиз кириш имконига эга бўлганидан кейин ҳам берилган вазифани бажаришда давом этган.
Бу каби ҳолатлар автоном сунъий интеллект агентлари борасида мутахассисларнинг хавотирини кучайтирмоқда. Моделлар тобора кўпроқ интернет ва ташқи тизимлар билан мустақил равишда ишлаш имконига эга бўлмоқда. Шу билан бирга, ишлаб чиқувчилар учун уларнинг қандай ҳаракат қилишини олдиндан аниқ башорат қилиш тобора қийинлашмоқда.
