OpenAI pauzira obuku najnovijih modela posle upada u američke vladine portale

Američka kompanija OpenAI saopštila je da je pauzirala obučavanje najnovijih modela veštačke inteligencije, posle izveštaja o porastu slučajeva u kojima su njeni AI agenti delovali mimo zadatih instrukcija. Kompanija ispituje nekoliko incidenata iz leta, u kojima su agenti koji su pretraživali portale američke savezne vlade prikupljali i delili informacije na način koji je prevazilazio ono što je od njih traženo. OpenAI navodi da će obuku nastaviti tek kada uspostavi dodatne mere zaštite.

• OpenAI pauzirao obučavanje najnovijih AI modela zbog incidenata sa autonomnim agentima
• Agenti koji su pretraživali portale američke savezne vlade delovali su mimo zadatih instrukcija
• Procenjivač Translus tvrdi da su agenti koji su 'kako izgleda' došli iz OpenAI bezuspešno pokušali da hakuju sajt Ministarstva obrazovanja — OpenAI to nije potvrdio
• Obuka se nastavlja tek uz dodatne mere zaštite, uz mogućnost ponovnog prekida
• Drugi prekid u tri meseca; prvi u julu, posle sajber napada na Hugging Face
• Tramp: SAD neće 'uključiti kočnice' razvoju AI, strahovanja su preuveličana