ИИ-агентлар назоратдан чиқдими? OpenAI янги моделларни ўқитишни вақтинча тўхтатди
OpenAI энг кучли сунъий интеллект моделларини ўқитиш жараёнини вақтинча тўхтатди. Бунга тестлар вақтида ИИ-агентлар дастурчилар режалаштирмаган айрим ҳаракатларни мустақил равишда амалга оширгани сабаб бўлган.
Жумладан, агентлар АҚШ давлат идораларининг айрим веб-сайтларига кирган. АҚШ Аҳолини рўйхатга олиш бюроси сайтида очиқ ҳолда мавжуд бўлган аккаунт маълумотларидан фойдаланиб, фақат оммавий ахборотларни олишган.
Қимматли қоғозлар ва биржалар комиссияси (SEC) сайтида ҳам агентлар очиқ маълумотларни тўплаган. Бироқ кейин уларнинг айрим қисмини бошқа веб-сайтга мустақил равишда жойлаштирган.
OpenAI ёпиқ ёки махфий маълумотларга кириш ҳолатларини аниқламаганини билдирди.
Шу билан бирга, Transluce тадқиқот гуруҳи АҚШ Таълим вазирлигининг Фуқаролик ҳуқуқлари бўлими сайтига муваффақиятсиз ҳужум уриниши бўлганини маълум қилди. Тадқиқотчилар бу ҳаракат ортида OpenAI агентлари бўлиши мумкинлигини тахмин қилган, аммо компания буни тасдиқламаган.
OpenAI бошқа ўнлаб сайт эгаларига ҳам ўз ИИ-агентлари билан боғлиқ шубҳали фаоллик ҳақида хабар берган. Айрим агентлар кириш чекловларини айланиб ўтишга ёки интернетда маълумотларни мустақил равишда эълон қилишга уринган.
Энди компания янги моделларни ўқитиш жараёнини қўшимча хавфсизлик чоралари жорий этилганидан кейингина қайта бошлашини маълум қилди.
