Betere AI door gebruik van sentiment, motivatie en emotie
Aanmelden
Je kunt je nog aanmelden om deel te nemen.
Ethiek steeds een toenemend belangrijke rol bij de ontwikkeling van AI en algoritmes. Onderzoek laat zien dat systemen die vooral vanuit technisch perspectief worden ontworpen, risico lopen op bias, contextverlies en daardoor ook op beperkte toepasbaarheid in de praktijk. Wanneer perspectieven van gebruikers, burgers en domeinexperts ontbreken, ontstaan blinde vlekken die kunnen leiden tot onbegrip, uitsluiting of discriminatie. Een belangrijk inzicht is dat kwaliteitsverbetering vooral ontstaat door de AI zelf te verbeteren en niet pas achteraf via slimme prompting of correcties.
Er bestaan inmiddels gevalideerde methoden om stakeholderperspectieven systematisch te betrekken bij de ontwikkeling en evaluatie van AI. Het laten beoordelen van data, modeloutput en prototypes door zorgvuldig geselecteerde stakeholders leidt aantoonbaar tot betere kwaliteit en minder risico’s. Traditionele benaderingen zoals sentimentanalyse kijken vooral naar de oppervlaktelaag (positief, negatief, neutraal), maar missen de onderliggende drijfveren. Door sentiment te combineren met motivatie (waarom iemand handelt) en emotie (hoe iets wordt beleefd) en ontstaat een betrouwbaarder beeld.
Voor informatieprofessionals betekent dit dat ethiek en techniek onlosmakelijk met elkaar verbonden zijn. Het structureel betrekken van diverse perspectieven is geen extra stap, maar een randvoorwaarde voor betrouwbare, uitlegbare en maatschappelijk verantwoorde AI. Het leidt ook tot betere en robuustere informatiesystemen.
In een online sessie gaat Philippine Waisvisz in op theorie, praktijkvoorbeelden en recent onderzoek. Philippine is werkzaam als onderzoeker op de Hogeschool Utrecht bij het Lectoraat Procesinnovatie & Informatiesystemen. Zij werkt aan een promotieonderzoek over het onderwerp.
Als vervolg organiseren we een verdiepende sessie waarin we demonstreren een doelgroep-in-de-loop project en kunnen deelnemers de mogelijkheid om zelf te ervaren hoe stakeholder-inclusie bijdraagt aan betere AI. Het zou een opstap kunnen zijn naar een gezamenlijk vervolgproject om AI voor contentmoderatie te verbeteren.