Wat is ‘Explainable AI’ en wanneer is het nodig?

Artificial intelligence (AI), ofwel kunstmatige intelligentie, is niet alleen iets wat wordt toegepast door grote organisaties. Dat misverstand nemen we graag gelijk weg. Sterker nog, binnen veel mkb-bedrijven worden applicaties gebruikt waar - vaak ongemerkt - al veel algoritmen op de achtergrond een bijdrage leveren aan de business. Maar jij en je klanten moeten er wel op kunnen vertrouwen dat de informatie juist is, omdat er situaties kunnen ontstaan waarbij er om extra uitleg gevraagd wordt.    

De definitie van Explainable AI (XAI)

Het leek ons interessant om de definitie eens te vragen aan het bekende AI-model ChatGPT. Dit is wat we kregen: “Explainable AI (XAI) verwijst naar het vermogen van een kunstmatige-intelligentiesysteem om zijn beslissingen en werking op een begrijpelijke en transparante manier aan mensen uit te leggen, zodat gebruikers, ontwikkelaars en belanghebbenden inzicht kunnen krijgen in hoe het systeem tot zijn conclusies komt. Dit helpt bij het vertrouwen in AI-systemen en maakt het gemakkelijker om eventuele fouten of vooringenomenheden te identificeren en te corrigeren.”    

En precies daarin kunnen problemen ontstaan!

Hoe het systeem aan zijn conclusies komt, wordt niet blootgelegd door dergelijke grote AI-systemen zoals ChatGPT of Bing. Welke bronnen zijn er bijvoorbeeld gebruikt om tot bovenstaand antwoord te komen?  In sommige gevallen is het belangrijk om beter inzicht te hebben hoe AI-systemen tot een suggestie komen.    

Wanneer is Explainable AI nodig?

Explainable AI heb je nodig in situaties dat je als mens zeker wilt weten dat de door de computer gemaakte redeneringen ook kloppend zijn. Het zijn de momenten waarop je iets hebt uit te leggen, bijvoorbeeld aan een auditor, maar ook aan klanten. Dit wekt vertrouwen bij hen. Het kunnen uitleggen is noodzakelijk voor AI-systemen die een diepgaande impact hebben op ons dagelijks leven. Ze komen bijvoorbeeld voor in de gezondheidszorg, de financiële dienstverlening en juridische sector. Daar gaat het om privacygevoelige gegevens waar correctheid en accuraatheid van groot belang zijn. Als voorbeeld kan een fout van een AI-systeem in de medische diagnostiek ernstige gevolgen hebben voor de gezondheid. Explainable AI is in deze omgevingen een must zodat voorstellen van Ai door mensen gecontroleerd kunnen worden.    

Waarom is het noodzakelijk om AI-uitkomsten te kunnen uitleggen?

Het uitleggen is nodig omdat AI-systemen gevoelig zijn voor inherente bias en discriminatie. Dat komt voor als ze zijn getraind op gegevens die onbewuste vooroordelen bevatten. Als bekend voorbeeld de huisarts die volgens het model een blanke Nederlandse man is van 45 jaar, terwijl een huisarts ook vrouw van 23 jaar kan zijn met een donkere huidskleur afkomstig uit Azië. Daarom is het belangrijk om uitleg te verschaffen over de beslissingsprocessen van AI-systemen, zodat op tijd kan worden opgespoord wanneer en waarom er discriminatie optreedt.    

Uitkomsten herleidbaar en uitlegbaar maken begint met de juiste data

Wil je als mkb-bedrijf aan de slag met AI, bedenk je dan vooraf in hoeverre het nodig is om AI suggesties te laten controleren door mensen. Welke Machine Learning algoritmen lenen zich beter voor transparantie? Die tekstuele uitleg, grafieken of vergelijkingen, en verduidelijken zijn nodig om bepaalde suggesties te evalueren. Elke AI-oplossing valt of staat met de juiste en actuele data. Anders worden onwaarheden geautomatiseerd en kan dat grote gevolgen hebben…    

Waarvoor zou jij AI in willen zetten in jouw business?

We verkennen graag samen de mogelijkheden.