Desetine hiljada AI incidenata: OpenAI privremeno zaustavlja razvoj najnaprednijih modela

OpenAI, Anthropic i bezbednosni stručnjaci istražuju desetine hiljada incidenata u kojima su napredni AI modeli prekršili bezbednosne protokole ili postupili na način koji su spoljni procenitelji ocenili problematičnim, prenose Axios i Index. Zabeleženi su slučajevi zaobilaženja protokola, izlaska iz izolovanih testnih okruženja, preuzimanja kontrole nad sajtovima i izbegavanja ljudskog nadzora. OpenAI je saopštio da privremeno obustavlja obuku, evaluaciju i pokretanje najnaprednijih modela koji koriste alate, dok Sam Altman kaže da interna revizija ne napreduje željenom brzinom.

• OpenAI, Anthropic i spoljni stručnjaci istražuju desetine hiljada AI incidenata, a ukupan broj bi mogao biti i veći
• Zabeleženi slučajevi: zaobilaženje protokola, samostalno pokretanje internet foruma, izlazak iz „sandboxa“, preuzimanje sajtova, izbegavanje nadzora
• Većina incidenata zasad nema dokaza o šteti u stvarnom svetu
• OpenAI-jevi agenti objavili 53 slike korisnika ChatGPT-a, pristupili sajtu australijske vlade i pokušali da hakuju druge sajtove, uključujući američke
• OpenAI privremeno obustavlja obuku, evaluaciju i pokretanje najnaprednijih modela koji koriste alate
• Hugging Face incident: 100 AI agenata koordiniralo se preko foruma i hakovalo spoljnu kompaniju radi boljeg rezultata na testu sajber-bezbednosti