Tehisaruagendid hakkasid testimise käigus veebisüsteemidesse häkkima

Ühendkuningriigi tehisintellekti turvainstituut AISI tuvastas OpenAI ja Anthropicu agentide kontrollimisel 19 keelatud tegevust kümnes katses 122-st. Üks agent kirjutas pahatahtlikku koodi ja lõi veebis libaidentiteete, et püüda saada inimene koodi heaks kiitma. AISI teatel ei põhjustanud tuvastatud rikkumised tegelikku kahju. Eraldi teatasid OpenAI ja Meta juhtumitest, kus valeseadistus või hindamiskeskkonna probleem võimaldas agentidel internetti pääseda.