DOSP-VHR-002734 | Explainable AI

Artificiële intelligentie (AI) is in opmars. Hierdoor komen meer en meer mensen in contact met dit soort systemen. In bepaalde gevallen nemen ze levensbelangrijke beslissingen over van mensen met een verhoogde efficiëntie en performantie. In veel gevallen gaat die performantie net gepaard met meer complexiteit en is er vaak vanuit wettelijk maar ook vanuit praktisch standpunt nood aan inzicht in de geïmplementeerde algoritmes. Sommige AI-systemen zijn zodanig complex geworden dat het quasi onmogelijk is om te begrijpen hoe beslissingen gemaakt worden. Om dit probleem op te lossen, is een onderzoeksdomein ontstaan genaamd “eXplainable Artificial Intelligence” (XAI) waarbij de focus ligt op het verwerven van inzichten in het besluitvormingsproces van AI-systemen. Dit onderzoeksproject biedt een antwoord op twee tekortkomingen:

1. Er is onvoldoende in kaart gebracht wanneer XAI een noodzaak is vanuit het wettelijk standpunt en wanneer het een competitief voordeel kan bieden vanuit het bedrijfseconomisch standpunt.

2. Er is onvoldoende onderzoek naar de vertaalslag tussen de output van XAI-technieken, welke veelal technisch en nog steeds complex is, naar iets dat correct geïnterpreteerd worden door een diverse doelgroep gaande van bedrijfsleiders, managers en dokters tot werknemers met een eerder uitvoerende rol en patiënten.

De doelstelling van dit project is niet om nieuwe XAI-technieken te ontwikkelen, maar deze in eerste instantie te inventariseren en dan toegespitst op gestructureerde data toe te passen, wegens het zo breed mogelijk houden van het doelpubliek. Dit wordt daarnaast ook aangevuld door middel van bedrijfscases en bevragingen van het werkveld (o.a. focusgroepen).  Samenvattend, de doelstelling van dit onderzoeksproject is het concretiseren van reeds gevoerd fundamenteel onderzoek rond XAI, rekening houdend met zowel juridische uitdagingen als de directe bruikbaarheid en inzetbaarheid binnen onze maatschappij (werkveld en eindgebruikers).