Amazon-medewerkers luisteren naar Alexa-verzoeken
Bloomberg schrijft dat duizenden Amazon-medewerkers wereldwijd meeluisteren naar opgenomen Alexa-verzoeken. De medewerkers luisteren naar die verzoeken, schrijven ze uit, maken er aantekeningen van en stoppen ze terug in het systeem zodat de stemassistent er van kan leren. Zodoende moet de persoonlijke assistent beter kunnen reageren op nieuwe of andere stemcommando’s. De kantoren waar Amazon medewerkers laat meeluisteren staan in de Verenigde Staten, Costa Rica, India en Roemenië.
Zeven mensen die bekend zijn met de manier van werken bij Amazon hebben tegenover Bloomberg verteld hoe dit precies gebeurt. Het meeste werk is soms saai te noemen, maar soms komen ze opnamen tegen die eigenlijk privé zouden moeten zijn. Zoals een vrouw die in de douche vals zingt of een kind die om hulp schreeuwt. Amazon-medewerkers hebben toegang tot een chatroom waar ze samen zinnen kunnen ontleden door bestanden te delen. Dit gebeurt ook wanneer er “iets grappigs” wordt gevonden; die bestanden worden ook gedeeld.
Soms komen er ook berichten voorbij die ontzettend zijn of criminele intenties blootgeven. Amazon heeft in principe procedures voor dit soort momenten, maar meestal krijgen medewerkers te horen dat het niet aan het bedrijf is om in te grijpen. Voor Alexa-gebruikers is het overigens mogelijk om aan te geven dat ze niet mee willen doen aan het programma voor het verbeteren van de Alexa-dienst. Maar niet iedereen weet dit. Ook maakt Amazon niet van tevoren duidelijk dat er echte mensen meeluisteren naar de berichten.
Statement van Amazon
Verder schrijft Bloomberg dat medewerkers geen toegang hebben tot volledige namen of een adres, maar een voornaam, het accountnummer en het serienummer van de Echo-speaker zijn wel bekend. In een reactie op dit bericht heeft Amazon laten weten dat slechts een “extreem klein gedeelte” van de opnamen een annotatie krijgt en dat er maatregelen zijn getroffen om de identiteit van de gebruiker te beschermen. Het volledige statement hebben we hieronder, in het Engels, overgenomen. Zo zou er geen misbruik van de info kunnen plaatsvinden.
We take the security and privacy of our customers’ personal information seriously. We only annotate an extremely small sample of Alexa voice recordings in order [to] improve the customer experience. For example, this information helps us train our speech recognition and natural language understanding systems, so Alexa can better understand your requests, and ensure the service works well for everyone.
We have strict technical and operational safeguards, and have a zero tolerance policy for the abuse of our system. Employees do not have direct access to information that can identify the person or account as part of this workflow. All information is treated with high confidentiality and we use multi-factor authentication to restrict access, service encryption and audits of our control environment to protect it.
Google en Apple
Het is overigens geen vreemde gang van zaken dat stemberichten worden opgenomen door bedrijven die persoonlijke assistenten aanbieden. Ook Apple-medewerkers die werken aan Siri luisteren naar berichten om de dienst te kunnen verbeteren. Deze opnamen worden wel gestript van herkenbare elementen en informatie die naar een persoon kan leiden. Bovendien wordt de informatie voor zes maanden met een willekeurig identificatiemiddel opgeslagen. Google werkt op eenzelfde manier aan de Google Assistent.
Amazon lijkt vooralsnog persoonlijke informatie niet te verwijderen na een aantal maanden. De Echo zou bovendien alleen moeten werken wanneer er een commando voor wordt gegeven, maar de medewerkers geven ook aan dat de speaker soms zomaar dingen opneemt zonder dat er een commando gegeven is. Mocht je niet willen dat Amazon naar je berichten luistert voor het verbeteren van de stemassistent, zorg er dan voor dat je nog eens je privacy-opties naloopt. En anders kun je wellicht een andere stemassistent overwegen.
Reacties (0)