Je AI mag slim zijn. Maar wie controleert wat hij doet?
AI mag slim zijn. Maar slimheid is geen controle. Wie kijkt of de AI daadwerkelijk doet wat hij zou moeten doen, en niet wat hij toevallig het best kon? Dat is de vraag die de meeste organisaties pas stellen nadat er iets mis is gegaan.
Slim is niet hetzelfde als betrouwbaar
Een AI die een goed antwoord geeft, is nog niet een AI die je kunt vertrouwen. Slimheid betekent dat het model een antwoord kan genereren dat voor de lezer plausibel klinkt. Betrouwbaarheid betekent dat het antwoord ook klopt, dat het binnen de afgesproken grenzen blijft en dat er iemand ziet wanneer het dat niet doet. Die tweede eigenschap zit niet in het model zelf, maar in de software eromheen.
Wie kijkt mee?
Bij traditionele software is het antwoord simpel: de code doet wat de code zegt. Een AI-model doet dat niet. Het kiest zelf per situatie een weg, en die weg is niet altijd de afgesproken weg. Zonder controle zie je dat niet. De AI lijkt te werken, totdat op een dag een antwoord, een actie of een beslissing eruit springt die niet klopt. De vraag is dan niet of de AI slim was, maar wie die afwijking had moeten zien en waarom niemand het zag.
Controle hoort in het systeem, niet in het model
De oplossing is niet een slimmer model, maar software die de AI omringt en begrenst. Die software bepaalt wat de AI mag, wanneer een mens moet meekijken en wat er gebeurt als het antwoord buiten de grenzen valt. Het model mag slim zijn; de controle zit in het systeem dat eromheen zit. Dat is het verschil tussen AI als hulpmiddel en AI als onderdeel van een proces waarop je daadwerkelijk kunt bouwen.
Lees ook
Marketingcoordinator bij Wabber B.V.