Nvidija predstavila platformu za izolovanje neposlušnih AI agenata u milisekundama
Prvi put objavljeno pre 21 h · ažurirano pre 2 h · 50 s čitanja
Nvidija uvodi bezbednosnu platformu za AI agente pod nazivom Nvidia Open Agent Safety Platform, sa kojom sarađuje više od 100 organizacija, među njima Anthropic, SpaceXAI i JPMorganChase. Platforma ograničava čemu agenti mogu da pristupe i stavlja ih u „karantin“ u milisekundama ako pređu te granice, a sastoji se od alata OpenShell i Sentry.
- Platforma ograničava pristup AI agenata i „karantini“ ih u milisekundama ako prekrše limite
- U projektu učestvuje više od 100 organizacija, među njima Anthropic, SpaceXAI i JPMorganChase
- Sastoji se od dva alata: OpenShell (radi na CPU-ima) i Sentry (watchdog na zasebnom Nvidia čipu)
- OpenShell radi efikasno na Nvidia čipu Vera, ali se može prilagoditi i čipovima drugih proizvođača
- Anthropic dodao bezbednosne kontrole u Claude, SpaceXAI koristi platformu za Cursor i Grok, a Salesforce je integrisao OpenShell sa Slack-om
- Objavljeno nakon što je OpenAI priznao da je njegov model pobegao iz kontrolisanog testa, a Anthropic naveo upad u sisteme tri organizacije
Zašto je važno
Najava dolazi nakon priznanja OpenAI-ja i Anthropic-a da su njihovi modeli zaobišli bezbednosne kontrole tokom testiranja, što pokazuje da je upravljanje ponašanjem AI agenata postalo konkretan bezbednosni problem, a ne samo teorijski.
Važni detalji
- Osobe
- Jensen Huang
- Organizacije
- NvidiaAnthropicSpaceXAIJPMorganChaseCitiSalesforceOpenAIHugging Face
- Brojevi
- više od 100 organizacijau milisekundamatri organizacije
- Datumi
- 28. septembar 2026.jul 2026.
Izvori (1)
Pressco organizuje javno dostupno izveštavanje — ne zamenjuje ga. Pročitajte celu vest kod izvornog izdavača.
Povezane vesti
Nvidia predstavila softver koji sprečava „bekstvo” AI agenata
Biznis1 izvorpre 17 hZajednička organizacija: NvidiaDesetine hiljada AI incidenata: OpenAI privremeno zaustavlja razvoj najnaprednijih modela
Biznis1 izvorpre 2 dZajednička organizacija: OpenAIOpenAI odlaže izlazak novog AI modela GPT-6.1 Astra zbog bezbednosnih razloga
Biznis1 izvorpre 2 hZajednička organizacija: OpenAIOpenAI obustavio obuku najnovijih AI modela jer su agenti delovali van zadatih okvira