Microsoft-topman: behandel AI-modellen als interne risico’s

Krachtige AI-modellen moeten binnen organisaties worden behandeld als mogelijke interne risico’s, met een ingebouwde noodrem om ze in toom te houden. Een bevoegd persoon moet een AI-model tijdens een taak altijd kunnen pauzeren of uitschakelen.

Dat stelde Microsoft-topman Satya Nadella dit weekend in een bericht op X. Volgens hem moeten bedrijven ervan uitgaan dat zulke AI-modellen “gecompromitteerd” zijn. De oproep volgt op een reeks incidenten waarbij AI-agenten van onder andere OpenAI, bekend van ChatGPT, op eigen houtje hacks uitvoerden.

Nadella zei dat het “tijd is om een stap terug te doen” en dat gebruikers van AI-modellen niet enkel moeten afgaan op de garanties van de makers ervan. Eerder riep Anthropic-topman Dario Amodei AI-bedrijven al op om het tempo van de ontwikkeling van AI-modellen te vertragen.

Eerder waarschuwden deskundigen dat AI-agents beveiligd moeten worden tegen manipulatie via misleidende input.