Christian Jongeneel
Het begon als een grappig nieuwsitem: een zesjarig kind had Amazons tafelcomputer Echo de opdracht gegeven om een poppenhuis voor haar te kopen. De ouders onderschepten de opdracht. Een lokale televisieploeg kwam langs – zoveel gebeurt er niet rond de jaarwisseling in San Diego. Op televisie herhaalde de presentator de woorden van de kleuter: ‘Alexa, koop een poppenhuis voor me.’
Alexa is de roepnaam van de stemherkenning van de Echo. Even later hingen tientallen boze kijkers aan de lijn bij het televisiestation. De presentator had onbedoeld bestellingen geplaatst. Het incident maakte duidelijk wat de implicaties kunnen zijn van een tafelcomputer die constant luistert of hij misschien een opdracht krijgt.
Amazon ligt momenteel ook in de clinch met de politie in Arkansas, die wil weten of een Echo misschien toevallig opnamen gemaakt heeft tijdens een moord. Amazon weigert uit privacyoverwegingen inzicht te geven, maar zegt wel dat er geen opnamen zouden moeten zijn, tenzij iemand voorafgaand aan de moord ‘Alexa’ heeft geroepen.
Op dit moment zijn de bijkomstigheden vooral hinderlijk. Kopers vragen zich bijvoorbeeld af waarom Alexa’s eerste reactie op iedere vraag is om iets te kopen. Een aankoop annuleren kan Alexa niet. Daarvoor moet je inloggen op de site van Amazon. Wel kun je de mogelijkheid van aankopen helemaal uitschakelen; op basis van stemherkenning aankopen toestaan wordt in de toekomst vast mogelijk.
Duidelijk is in ieder geval dat de tafelcomputer (ook Google en Apple hebben er inmiddels een in de aanbieding) een nieuw type apparaat is dat de gang van zaken in huishoudens drastisch kan veranderen. Het aantal mogelijkheden zal rap groeien en daarmee ook de mogelijkheden van misbruik, die verder zullen gaan dan onvermoede bestellingen. Dat is op zich niet verontrustend, iedere technologie brengt risico’s met zich mee.
Het verschil zit erin dat de tafelcomputer aan de hand van commando’s waarvan hij denkt dat die gegeven zijn, zelfstandig beslissingen neemt met consequenties in de fysieke wereld. Een voor de hand liggende applicatie daarvoor is bijvoorbeeld de tafelcomputer in het huis van ouderen, die reageert op hulpgeroep en dan de ambulance belt. Maar als Alexa zo’n hulpkreet dan een keer niet registreert, wiens schuld is dat dan? Of als er zo regelmatig vals alarm gegeven wordt dat hulpdiensten er niet meer op vertrouwen?
Alexa is nu een jaar oud. Geef dergelijke computersystemen nog een paar jaar en de opvolger is waarschijnlijk het eerste stuk kunstmatig intelligente technologie dat in miljoenen huizen constant staat op te letten of ze actie moet ondernemen. Dat is een fascinerend vooruitzicht. Maar het is wel te hopen dat de ontwerpers in de tussentijd leren hun product wat verder door te denken. Want het geval met het poppenhuis is grappig, maar er zijn gevaarlijker bestellingen dan een poppenhuis.
Christian Jongeneel, freelance medewerker van TW
