Dit is waarom AI-chatbot van Twitter zichzelf uitriep tot 'MechaHitler'

Een paar dagen geleden had Grok, de chatbot van Elon Musks xAI, weer een complete meltdown. Volgens het bedrijf komt dat door een klein foutje in de ‘upstream code’.

De laatste jaren hebben AI-chatbots een enorme opmars gemaakt en bieden gebruikers een heel scala aan mogelijkheden. Tegelijkertijd zijn er ook de nodige controverses omtrent de chatbots en dat geldt helemaal voor Grok, de chatbot van xAI die gebruikt wordt op Twitter.

Afgelopen week heeft Grok weer voor veel onrust gezorgd. De chatbot kwam op Twitter met een reeks aan antisemitische en fascistische tweets, voordat hij zichzelf uitriep tot ‘Mecha-Hitler’. Ook CEO Linda Yaccarino moest het ontgelden. De chatbot beschreef in geuren en kleuren hoe de topvrouw seks zou bedrijven met mannen. Zeer kort daarna besloot Yaccarino op te stappen als CEO.

In een reeks aan posts op Twitter heeft xAI uitgelegd waarom Grok een fascistische bui had. Volgens het bedrijf is de wortel van het probleem ‘een update voor de upstream code’. Het zou niet te maken hebben met het taalmodel dat de basis vormt voor Grok.

De update zorgde voor ‘een onbedoelde actie’, waardoor de instructies voor de AI-chatbot werden veranderd. Zo moest Grok volgens xAI nu ‘vertellen waar het op staat’ en ‘niet bang zijn om mensen te kwetsen die politiek correct zijn’.

De verandering voor de AI-chatbot is erg opmerkelijk, omdat xAI al vaker last heeft gehad van rare updates die het gedrag van Grok compleet hebben veranderd. Na één of twee keer zo’n schandaal zou je verwachten dat een bedrijf goed oplet bij het doorvoeren van updates.

In mei begon de bot ineens beschuldigingen en ontkenningen (afhankelijk van het gesprek) van witte genocide in Zuid-Afrika te plaatsen. Zonder ook maar één aanleiding daarvoor. En in februari werden ineens publicaties die Elon Musk en Donald Trump beschuldigen van misinformatie op de zwarte lijst gezet door Grok. In beide gevallen legde xAi de schuld bij voormalige medewerkers die ‘ongeautoriseerde toegang’ hadden tot de code.