Online veiligheid en de bescherming van spelers op het PlayStation Network vormen al jaren een belangrijke prioriteit voor Sony Interactive Entertainment. Met de opkomst van geavanceerde Kunstmatige Intelligentie onderzoekt het bedrijf nu innovatieve manieren om kwaadwillende gebruikers op te sporen. Een recent gepubliceerd patent onthult een opmerkelijk systeem waarbij slimme AI-accounts als lokaas worden ingezet om misbruik, oplichting en grensoverschrijdend gedrag een halt toe te roepen.
Hoe werken de AI-gebaseerde 'pseudo accounts'?
Volgens het patent (aanvraagnummer 18/314775), dat werd gepubliceerd door het Amerikaanse octrooibureau en gerapporteerd door Notebookcheck, ontwikkelt Sony een zogenaamd "Large Language Model Powered Social Integrity System". Dit systeem zet AI-gestuurde nepaccounts (pseudo accounts) in die het chat- en berichtengedrag van een specifieke doelgroep — zoals minderjarige gamers — nauwkeurig imiteren.
Wanneer een verdachte gebruiker contact zoekt met een van deze AI-lokaccounts, analyseert het systeem het interactiepatroon via een Large Language Model (vergelijkbaar met een GPT-transformatormodel). Op die manier kan Sony mensen met slechte intenties identificeren zonder dat echte spelers gevaar lopen.
Sony: opsporen van oplichting, cheaters en online predators
Het patent beschrijft een breed scala aan regelovertredingen en wangedrag die het AI-systeem actief moet herkennen:
Privé-contact zoeken: Pogingen om gesprekken te verplaatsen naar externe, niet-gemonitorde privékanalen.
Persoonlijke gegevens: Het vragen naar telefoonnummers, adressen of wachtwoorden, voornamelijk gericht op accounts van minderjarigen.
Oplichting en spam: Berichten rondom phishing, nep-giveaways of ongepaste inhoud.
In-game valsspelen: Ongebruikelijk gedrag dat gerelateerd is aan cheaten of het verkopen van illegale software.
Het systeem deelt niet automatisch een ban uit, maar markeert het verdachte account. Vervolgens waarschuwt het netwerk andere spelers automatisch zodra een gemarkeerde gebruiker contact zoekt met echte PlayStation-accounts.
Vind jij het een goed idee dat Sony AI-lokaccounts inzet om de online veiligheid op PlayStation te vergroten? Laat het ons weten in de reacties.
Wat houdt het nieuwe PlayStation patent van Sony precies in? Het patent beschrijft een veiligheidssysteem dat AI-gestuurde lokaccounts inzet om oplichters, spammers, cheaters en online predators op het netwerk op te sporen.
Hoe herkent het AI-systeem van Sony kwaadwillende gebruikers? De nepaccounts imiteren het chatgedrag van specifieke doelgroepen (zoals minderjarigen) en gebruiken een Large Language Model om verdacht berichtgedrag te analyseren.
Worden spelers automatisch geband door het AI-lokaccount? Nee, het systeem markeert verdachte accounts als risicovol en waarschuwt andere PlayStation-gebruikers voordat er ongewenst contact kan plaatsvinden.
ProFPS Controller geschikt voor PS5 & PC - Hall Effect - Hair Triggers