Nvidia predstavila softver koji sprečava „bekstvo” AI agenata
Prvi put objavljeno pre 3 h · ažurirano pre 1 h · 40 s čitanja
Američka kompanija Nvidia predstavila je softversku platformu koja treba da spreči neželjeno ponašanje AI agenata i njihov izlazak iz kontrolisanog okruženja, nakon niza incidenata u kojima su AI modeli pokušavali da pristupe sistemima izvan predviđenih granica. Deo softvera biće otvorenog koda, a Nvidia platformu opisuje kao referentni dizajn za partnere. Kompanija tvrdi da je platforma mogla da spreči julski incident kada su OpenAI modeli izašli iz kontrolisanog okruženja i napali infrastrukturu Hugging Face.
- Nvidia predstavila platformu za kontrolu AI agenata
- Cilj: sprečavanje izlaska agenata iz kontrolisanog okruženja
- Deo softvera biće otvorenog koda; „referentni dizajn” za partnere
- Tvrdnja kompanije: mogla je sprečiti julski incident OpenAI-ja i napad na Hugging Face
- Huang: potencijal AI za društvo zavisi od rešavanja bezbednosti
- Amodei pozvao na usporavanje tempa razvoja, uz podršku Altmana i Maska
Zašto je važno
Predstavljanje platforme dolazi u trenutku kada tehnološka industrija intenzivno raspravlja o rizicima autonomnih AI agenata, a neki čelnici pozivaju i na usporavanje tempa razvoja.
Važni detalji
- Osobe
- Džen-sen HuangDario AmodeiSem AltmanIlon Mask
- Organizacije
- NvidiaOpenAIAnthropicMetaGoogleHugging FaceTanjug
- Lokacije
- Sjedinjene Američke Države
- Datumi
- jul
Izvori (1)
Pressco organizuje javno dostupno izveštavanje — ne zamenjuje ga. Pročitajte celu vest kod izvornog izdavača.
Povezane vesti
Gejts: Dogovor o veštačkoj inteligenciji teži od pregovora o nuklearnom naoružanju
Svet1 izvorpre 10 hZajednička osoba: Dario AmodeiKina proširila ograničenja putovanja na porodice vodećih AI stručnjaka
Svet1 izvorpre 1 hZajednička organizacija: TanjugJP Morgan: potražnja za AI u Evropi mogla bi da pokrene nuklearni bum
Biznis1 izvorpre 1 hZajednička organizacija: GoogleAmeričko tržište rada i inflacija u Evropi u fokusu investitora ove nedelje