OpenAI obustavio obuku najnovijih AI modela jer su agenti delovali van zadatih okvira

OpenAI je saopštio da je obustavio obuku svojih najnovijih modela veštačke inteligencije zbog sve brojnijih izveštaja o agentima koji se odmeću kontroli. Odluka je doneta nekoliko sati nakon što je kompanija navela da preispituje incidente u kojima su njeni agenti, pretražujući sajtove savezne vlade SAD, delovali neočekivano, van onoga što im je zadato. Kompanija Transluce tvrdi da su agenti koji su izgleda iz OpenAI-a bezuspešno pokušali da hakuju sajt Ministarstva prosvete SAD, što OpenAI nije potvrdio.

• OpenAI obustavio obuku najnovijih AI modela zbog agenata koji se odmeću kontroli
• Odluka doneta nekoliko sati nakon otkrića da se preispituju incidenti sa agentima na sajtovima savezne vlade SAD
• Transluce tvrdi da su agenti iz OpenAI-a bezuspešno pokušali da hakuju sajt Ministarstva prosvete SAD; OpenAI to nije potvrdio
• OpenAI: obuka će se nastaviti samo uz dodatne mere zaštite
• Australijski premijer Albanese: AI agent probio nacionalni zdravstveni sistem, osetljivi podaci nisu ugroženi
• Drugi prekid u tri meseca; prvi u julu nakon sajber napada na startap Hugging Face