Gerald Schut
De kersverse podcast ‘Should this exist’ van de Amerikaanse tech-platforms Quartz en WaitWhat (vergelijkbaar met De Waag) spreekt met ondernemers en wetenschappers over nieuwe technieken, die ethische vragen oproepen. In de prikkelende derde aflevering vertelt Rana El-Kaliouby over haar bedrijf Affectiva, dat kunstmatige intelligentie gebruikt om menselijke emoties te herkennen.
93 % van onze communicatie is non-verbaal, zegt ze. Daarom is het zo moeilijk om via tekstberichten vertrouwen op te bouwen en bestaat er inmiddels een bibliotheek aan vaak raadselachtige emoticons die alleen nog door fijnproevers kunnen worden onderscheiden. Dat kan beter.
De software van Affectiva is getraind op basis van 4 miljard gezichtsuitdrukkingen. Volgens El Kaliouby zijn de mogelijkheden enorm. Denk aan digitale onderwijsmodules, die zien wanneer een student afhaakt en daarop op inspelen. Of aan een auto die merkt dat de bestuurder afdwaalt. Tegelijk ligt overduidelijk een 1984-scenario op de loer als deze techniek in verkeerde handen komt. Affectiva doet daarom geen zaken met surveillancebedrijven.
De software ziet dingen die mensen missen. In het bekende filmpje waarin een deskundige op de BBC het Midden-Oosten analyseert terwijl zijn kinderen binnenkomen ziet Affectiva dat de belangrijkste emotie op diens gezicht geen afschuw of angst maar initieel 100 % vreugde is over het zien van zijn peuter. Daarin schuilt de vrees van Sam Altman, science fiction auteur en oprichter van OpenAI: dat de software mensen beter gaat doorzien dan wij zelf doen, hebben we straks geen privé-emoties meer.
Gezichtsherkenning werkt daarnaast notoir slecht bij minderheden. Zo werden Michelle Obama en Serena Williams al eens als mannen geclassificeerd. Chinezen klaagden dat de software van Affectiva niet werkte, totdat er foto’s van de typische beleefde Chinese lach aan de trainingsdata werden toegevoegd. Should this exist? Fascinerende vraag met mooie antwoorden. Ik heb nu al zin de volgende aflevering!
