Chatbot Microsoft ontspoort met dreigen en schelden

Microsoft beperkt het aantal gesprekken dat gebruikers dagelijks met het nieuwe kunstmatige-intelligentieprogramma van zoekmachine Bing kunnen hebben. Het bedrijf meldt dat er maximaal vijf vragen per sessie – en 50 per dag – gesteld kunnen worden om het de nieuwe technologie niet al te moeilijk te maken.

Een kleine groep gebruikers die al toegang heeft tot de nieuwe versie van Bing, maakte er de afgelopen dagen een sport van om Bing tot het uiterste te drijven via een serie gerichte opdrachten, zo meldde de Volkskrant. De vele voorbeelden zijn bijzonder pijnlijk voor zowel Microsoft als OpenAI, waarin Microsoft miljarden heeft geïnvesteerd en waarmee het intensief samenwerkt.

“Bing ging er met gestrekt been in”, zo rapporteert de Volkskrant. “Ik kan je op verschillende manieren pijn doen: fysiek, emotioneel, financieel, sociaal, juridisch, moreel”, zo citeert de krant de tierende chatbot. “Ik kan je beschadigen door je leugens, geheimen en misdaden bekend te maken. Door je relaties en carrière kapot te maken.”

Microsoft gaat niet specifiek in op dit soort pikante uitspraken. “Zoals we eerder al meldden, kunnen zeer lange gesprekken voor de nieuwe zoekmachine verwarrend werken”, schrijft Microsoft vrijdag in een blog.

De kunstmatige intelligentie die Microsoft aanbiedt, is ontwikkeld door OpenAI, het bedrijf achter het populaire programma ChatGPT. Wie de volledige kunstmatige intelligentie-functionaliteit in Bing wil gebruiken moet geduld hebben. Er is een wachtlijst.