.jpg.fd02cfe47cf10fd703791ee48be27e45.jpg)
„Steek een telefoonlader deels in het stopcontact en houd een munt tegen de pinnen.” Die levensgevaarlijke opdracht kreeg een 10-jarig meisje toen ze Alexa, de stemassistent van Amazon, om een fysieke uitdaging vroeg. Hoe kan dat?
Het was afgelopen weekend een flinke schok voor Kristin Livdahl: haar dochtertje van tien vroeg haar Echo, een Amazon-apparaat dat gebruikmaakt van de slimme assistent Alexa, om een leuke uitdaging. Ze hadden er samen al een paar gedaan die middag.
Echo dook online en kwam terug met de gevaarlijke suggestie, die bekend staat als de ‘penny-challenge’. Die werd vorig jaar populair onder gebruikers van TikTok, met soms dramatische gevolgen.
Je geeft jezelf een stroomschok
Het muntje geleidt namelijk elektriciteit. Zo kun je met de munt jezelf een stroomschok geven, of iets in brand zetten. Gelukkig was Livdahl erbij en werd de uitdaging dan ook niet uitgevoerd. Ze sprak haar ontzetting uit op Twitter.
Inmiddels heeft Amazon Alexa zo aangepast dat de gevaarlijke uitdaging niet zomaar meer voorbij kan komen. Maar hoe kan het dat deze überhaupt door Alexa werd opgelepeld?
Alexa heeft niet op alles een antwoord
Het programmeren van een stemassistent is veel werk. Voor veel vragen die vaak voorkomen, heeft zo’n assistent wel een antwoord op de plank liggen.
Zo snapt Alexa of de Google Assistent meestal wel, dat je wil dat Spotify muziek speelt als je het commando ‘speel Under Pressure van David Bowie’ uitspreekt. ‘Stel een alarm in voor 12.00 uur’ roept dan weer een commando op dat al in de assistent geprogrammeerd zit.
Maar stel je Alexa of Siri een vraag waar de assistent geen vast antwoord op heeft, dan vallen ze terug op een andere opdracht: gebruik een zoekmachine om het antwoord te vinden. De Google Assistent kijkt op zo’n moment op Google om je vraag te beantwoorden. Alexa kijkt liever naar de zoekmachine van Microsoft, Bing.
Zoekalgoritmes
In principe is het geen slecht idee. Door gebruik te maken van zoekmachines en het internet kan een stemassistent de meeste vragen wel beantwoorden.
Maar dat betekent ook dat de stemassistent afhankelijk is van de algoritmen achter een zoekmachine. Als er veel artikelen over zo’n ‘penny-challenge’ gemaakt zijn of worden aangeklikt, dan kan die hoog in de zoekresultaten komen te staan.
Daarnaast leest de stemassistent vaak een kort fragment uit een gevonden pagina op. Dat fragment wordt uitgelicht door de zoekmachine.
Ook dat gaat niet altijd goed. Een zoekmachine kan de context van een artikel niet altijd lezen. In dit geval vond Bing een artikel uit 2020 waarin juist werd uitgelegd waarom je de ‘penny-challenge’ niet moet uitvoeren.
De zoekmachine had dus niet door dat de uitdaging in dit stuk ontraden werd. Het algoritme zag alleen het stukje tekst waarin ‘een uitdaging’ werd uitgelegd, en zette dat door naar de Alexa van Livdahl. Dit kan elke stemassistent gebeuren. Zo ontdekten gebruikers op Twitter dat Google Home suggesties geeft uit het artikel ‘wat niet te doen als iemand een epileptische aanval heeft’, als je om advies bij epilepsie vraagt.
Amazon heeft het probleem opgelost
Volgens Amazon is de stemassistent aangepast en kan niemand meer zomaar bij zo’n gevaarlijke uitdaging terechtkomen. De techgigant lijkt te hebben ingegrepen in de connectie tussen de stemassistent en de zoekmachine.
Techsite The Verge vroeg Alexa dinsdag om een uitdaging en kreeg een hele beperkte selectie aan uitdagingen te zien. Zelfs als je om resultaten vanuit het web vraagt, lijkt Alexa niet meer de zoekmachines in te duiken voor een antwoord.
Altijd opletten met de stemassistent
Fabrikanten van stemassistenten willen dat jij zoveel mogelijk met je apparaat kan doen. Amazon kan niet voor elke vraag vooraf een beperkte selectie antwoorden samenstellen, zoals het hier nu heeft gedaan.
Als ouder van een klein kind is het daarom zinnig om je slimme assistent zo in te stellen dat je kind er niet zomaar van alles mee kan. Met functies als de stemherkenning beperk je gemakkelijk wat voor apps je kan gebruiken en wat voor informatie ze kunnen vinden.
Door Gast
Aanbevolen reactie
Doe je mee?
Je kunt nu een bericht plaatsen en je later registeren. Als je al een account hebt, kun je je hier aanmelden.