Probijena zaštita kineskih AI modela, odgovarali o biološkom oružju i atentatima
Prvi put objavljeno pre 52 min · ažurirano pre 2 h · 40 s čitanja
Kineska kompanija Munshat pokrenula je internu reviziju nakon što su istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je BBC. Kompanija Mindgard saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da se zaobiđu tehnikom „džejlbrejkinga“.
- Munshat pokrenuo internu reviziju nakon probijanja zaštite modela Kimi
- Mindgard u julu otkrio da Kimi K2.6 i K3 Swarm podležu „džejlbrejking“ tehnici
- Modeli davali odgovore o razvoju biološkog oružja i atentatima
- Nije utvrđeno da li bi ti odgovori bili praktično primenljivi
- Za K2.6 potencijalni rizik: izvršavanje koda i povezivanje s internetom, moguć sajber napad
- Profesor Alan Vudvord: rizik zloupotrebe, ali i korisna primena u sajber odbrani
Zašto je važno
Nalazi ukazuju na poteškoće u obezbeđivanju zaštitnih mehanizama AI modela i na to da bi međunarodna regulativa teško mogla da prati brzinu razvoja veštačke inteligencije.
Važni detalji
- Osobe
- Piter GaraganAlan Vudvord
- Organizacije
- Munshat (Moonshot)MindgardBBCUniverzitet u SarijuTanjug
- Lokacije
- KinaSuri
- Brojevi
- dva modelaKimi K2.6K3 Swarm
- Datumi
- jul
Izvori (1)
Pressco organizuje javno dostupno izveštavanje — ne zamenjuje ga. Pročitajte celu vest kod izvornog izdavača.
Povezane vesti
Kina ove godine očekuje najjači super El Ninjo u istoriji merenja
Svet1 izvorpre 2 hZajednička organizacija: TanjugŠta je prećutano na samitu Trampa i Sija
Svet1 izvorpre 2 hZajednička organizacija: BBCSrpski i kineski policajci treći put zajedno patroliraju Beogradom
Svet1 izvorpre 2 hZajednička lokacija: KinaNaučnici tvrde: Vodena baterija mogla bi da traje oko 300 godina