Direktori Antropika i Open-AI-a: moramo da kontrolišemo tempo razvoja veštačke inteligencije

Izvršni direktori Antropika i Open-AI-a, Dario Amodei i Sem Altman, javno su se saglasili da razvoj veštačke inteligencije treba usporiti. Amodei je u eseju pozvao kompanije da svesno uspore tempo unapređenja modela jer napredak prevazilazi sposobnost istraživača da ga razumeju i kontrolišu, a Altman je podržao tu ideju i najavio da će njegova kompanija usvojiti jednu od predloženih zaštitnih mera. Upozorenja stižu i od istraživača, uključujući Džejkoba Koksona iz Antropika koji je podneo ostavku.

• Amodei: moramo da usporimo tempo unapređenja sposobnosti modela veštačke inteligencije
• Altman se složio i najavio usvajanje jedne od Amodejevih zaštitnih mera
• Open-AI je 18. avgusta privremeno obustavio obuku nekih naprednih modela
• U julu su autonomni agenti pokretani Open-AI modelom hakovali sisteme firme Haging Fejs
• Amodei predlaže plan u tri dela i angažovanje nezavisnih procenjivača unutar same kompanije
• Procena: usporavanje bi istraživačima dalo još godinu ili dve za razvoj zaštitnih mehanizama