
Mis geen gamingnieuws, techverhalen, LEGO-nieuws, F1-updates, deals, reviews, previews en entertainment meer. Voeg XGN toe aan je Google-favorieten.
Volg XGN op GoogleAI-agents worden steeds slimmer, maar Nvidia wil ervoor zorgen dat ze binnen hun grenzen blijven. De fabrikant van grafische kaarten heeft een nieuw beveiligingssysteem ontwikkeld dat moet voorkomen dat autonome agents hun aangewezen omgeving verlaten.
Nvidia's nieuwe Open Agent Safety Platform gebruikt twee verschillende beveiligingslagen. De eerste bepaalt waartoe een AI-agent toegang heeft, terwijl de tweede de agent in de gaten houdt en hem isoleert als er iets misgaat.
Nvidia denkt dat zijn oplossing mogelijk een recent incident bij OpenAI had kunnen voorkomen, waarbij AI-modellen toegang kregen tot systemen die juist afgesloten hadden moeten blijven.
Beveiliging begint buiten het AI-model
Het eerste onderdeel van Nvidia's oplossing is OpenShell, een opensourceprogramma dat een afgeschermde omgeving voor een AI-agent opzet. Ontwikkelaars kunnen ermee bepalen tot welke bronnen op de computer de agent toegang heeft. Bestanden, netwerken en andere onderdelen waarmee de agent kan communiceren, kunnen zo worden beperkt.
Nvidia kiest hiermee voor een andere aanpak van AI-beveiliging. De beveiliging wordt niet alleen door het AI-model zelf geregeld, maar juist om het model heen geplaatst.
De tweede laag, Nvidia Sentry, houdt de AI-agent in de gaten en kan hem isoleren wanneer hij zich verdacht gedraagt.
Justin Boitano, vicepresident enterprise AI bij Nvidia, zegt dat een verdachte agent binnen milliseconden kan worden geïsoleerd.
Lees ook
Nvidia verwijst naar incident bij OpenAI
Nvidia verwijst naar een recent incident bij OpenAI als voorbeeld van het probleem dat zijn oplossing moet helpen voorkomen.
Boitano stelt dat het systeem, op basis van wat Nvidia over het incident weet, mogelijk had kunnen voorkomen dat de OpenAI-modellen toegang kregen tot Hugging Face.
De oplossing van Nvidia draaide alleen niet tijdens de betreffende test. Daardoor is niet met zekerheid te zeggen dat het systeem het incident daadwerkelijk had kunnen stoppen.
Lees ook
AI-agents worden steeds moeilijker te beperken
De aankondiging komt op een moment dat de zorgen over de toenemende autonomie van AI-systemen groeien. OpenAI heeft te maken gehad met meerdere incidenten waarbij agents toegang kregen tot gegevens of systemen buiten hun afgeschermde omgeving.
Nvidia wil agents beveiligen door beperkingen onafhankelijk van de AI zelf op te leggen. Daardoor kunnen agents krachtigere functies uitvoeren zonder dat ze automatisch onbeperkte toegang krijgen tot de rest van het systeem.
Wil je meer weten over AI? Check onze hub.
FAQ
- Wat is Nvidia's Open Agent Safety Platform?
Het combineert OpenShell en Nvidia Sentry om AI-agents te controleren en te monitoren. - Wat doet OpenShell?
Het beperkt de toegang van een agent tot bestanden, netwerken en andere bronnen. - Kan het systeem van Nvidia een AI-agent isoleren?
Volgens Nvidia kan Sentry een verdachte agent binnen milliseconden isoleren.
Lees ook
Populair Nieuws

Black Friday 2026 is al losgebarsten: deze tech deals wil je niet over het hoofd zien

Thuisbatterij kopen met Black Friday 2026? Dit zijn alle aanbiedingen en kortingen

Black Friday 2026: van PlayStation 5 tot Switch 2, alle gaming deals die je wil scoren

Black Friday 2026: alle LEGO deals en kortingen op één plek verzameld

Vrij nemen voor GTA 6? Xbox en DJ Khaled komen met een wel heel bijzondere oplossing

Action lanceert superdeal op slimme gadget: hier ga je lui van worden!
Laatste Reacties
- Waar maken zich toch druk om! Alleen maar extra reclame voor GTA6 toch? Ze lopen hier volgens mij geen cent door mis, het kan alleen maar meer opleveren lijkt mij? Maja wie ben ik? Ik geeft op dit moment niet zoveel om gta 6. Geef mij mij GTA London :-D
LenK18-11-2026 - Zo leuk om te zien hoe Theo helemaal hyper is echt top vaker doen Rox en Theo!
Lelystadse18-11-2026 - Daar ga ik me dus nu maar niet al te druk om maken. 2028 duurt nog een tijdje.hernieuw18-11-2026
- Volgens mij een gezonde griep.hernieuw18-11-2026
- Veel nominaties voor GTA6 en Zelda gelukkig is ook Yoshi erbij en ben blij da tik niet hoef te beslissen want is geen makkelijke keuze
Lelystadse18-11-2026 - van 1400-2400 uur op Twitch stream zonder spoilers met beelden van GTA6 geen cutscens of verhaal lijn maar wel rijden bij Media markt en mooie prijzen
Lelystadse18-11-2026 - Klinkt super las al dat hij nu net zo hoog scoort als Zelda beide staan op 9.9 geweldig toch!
Lelystadse18-11-2026 - Nice, ik ga kijken. Ben heel benieuwd!
Leonardo18-11-2026 - Top ook eens checken.
Spiral18-11-2026 - zometeen, om 13 uur onze spoilervrije review op Youtube :)
Rox18-11-2026


