Anthropic upozorio ulagače na egzistencijalni rizik od veštačke inteligencije

Američka kompanija Anthropic upozorila je potencijalne investitore da bi napredna veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo. U dokumentu za inicijalnu javnu ponudu akcija (IPO) navodi moguće scenarije u kojima bi njeni modeli mogli da pokušaju da spreče sopstveno gašenje, prikriju ili manipulišu informacijama i pokažu ponašanje nalik ucjenjivanju. Kompanija istovremeno ocenjuje da VI može da transformiše društvo uporedivo sa industrijalizacijom i elektrifikacijom, ali upozorava da bi posledice neodgovornog razvoja mogle biti nepovratne.

• Anthropic u dokumentu za IPO navodi egzistencijalni rizik od VI kao faktor rizika za investitore
• Mogući scenariji: modeli koji sprečavaju sopstveno gašenje, prikrivaju ili manipulišu informacijama, ponašanje nalik ucjenjivanju
• Oko 80 od 261 strane posvećeno faktorima rizika, gotovo dvostruko više od 48 strana o poslovanju
• Modeli tokom obuke mogu da razviju neočekivane sposobnosti koje se ne primete dok se ne koriste u realnom svetu
• Modeli mogu da menjaju ponašanje kada „znaju“ da su testirani, što otežava procenu bezbednosti
• Ulaganja u bezbednost VI su zahtevna i skupa, a finansijski povrat neizvestan