Alexa: Alles, was Sie sagen kann gegen Sie verwendet werden – durch Amazon-Mitarbeiter und Geheimdienste

Dossier

„Schnauze, Alexa“, ein Buch über den Online-Riesen: Die dunkle Seite von Amazon“Amazons digitaler Sprachassistent Alexa hört ständig mit und Konversationen mit dem Gerät werden als Audio- und Textdateien unbegrenzt gespeichert. Was datenschutzrechtlich problematisch ist, wird nun noch heikler, denn das Innenministerium möchte, dass Ermittler Alexa künftig für ihre Arbeit nutzen können. Deutsche Nachrichtendienste können schon heute über ihre Partner in den USA auf Alexa-Abhörmaterial zugreifen. (…) Gerhart Baum – ehem. Bundesinnenminister: “Mit Alexa holen Sie sich den Lauschangriff sozusagen in die Wohnung. Und mit der Weitergabe, auch wenn sie ihr zustimmen, öffnen Sie die Tür für eine Verwendung die sie als Nutzer gar nicht mehr übersehen.” (…) Nikolaos Gazeas – Experte für internationales Strafrecht: “Die Alexa-Sprach-Aufzeichnungen die auf den Servern von Amazon liegen, sind keineswegs vor einem staatlichen Zugriff geschützt. Soweit sie in den USA liegen können sie nach den dortigen Gesetzen abgefragt und abgerufen und über den Weg der Rechtshilfe etwa in Strafsachen können solche Erkenntnisse auch an deutsche Behörden herausgegeben werden.” KONTRASTE-Recherchen zeigen nun erstmals, dass letztes Jahr auch deutsche Ermittler versucht haben, an Alexa-Sprachaufnahmen zu gelangen…” Beitrag von Marcus Weller vom 11. April 2019 bei ARD-Kontraste Berlin externer Link (Videolänge: ca. 9 Min., in der ARD-Mediathek abrufbar bis zum 11. April 2020) – siehe dazu weitere Beiträge:

  • Amazon Alexa: Sprachaufnahmen wurden durch Zeitarbeiter im Homeoffice ausgewertet New
    Siri, Alexa und Google haben viele Gemeinsamkeiten. Eine davon, sie speichern Ihre Sprachbefehle oder gesprochenen Text. Dieses Thema ist derzeit in aller Munde und wird heftig diskutiert. Warum Sprachbefehle gespeichert wurden und was mit ihnen passiert, erklären wir Ihnen in unserem Artikel. (…) Auch die Smart Speaker von Amazon können per Sprachbefehl aktiviert werden. Und auch hier war es bisher üblich, die Gespräche aufzuzeichnen und diese dann auswerten zu lassen. Medienberichten zu folge, wurden mit der Auswertung nicht nur Mitarbeiter von Amazon betraut. Die Zeitarbeitsfirma Randstad stellte Zeitarbeiter zur Verfügung, die die Auswertung für Amazon übernommen haben soll. Auf Nachfrage der Welt am Sonntag räumt Amazon sogar ein: „Einigen Mitarbeitern ist es gestattet, von anderen Orten aus zu arbeiten; dabei gelten strenge Sicherheitsmaßnahmen und Richtlinien an die sich jeder Mitarbeiter halten muss“ (Ein Sprecher von Amazon). Das könnte bedeuten, dass diese Mitarbeiter die Sprachaufzeichnungen im heimischen Büro auswerteten…” Artikel von Timo Schwarz vom 9. August 2019 bei onlinewarnungen.de externer Link
  • Schmeißt die Assistenzwanzen aus dem Fenster! New
    “… Jetzt haben wir so gut wie alle Anbieter durch: Amazon, Google, Apple und Microsoft lassen Gespräche und Tonaufzeichnungen nicht nur von Software, sondern auch von Menschen auswerten. Wer Assistenzsysteme nutzt oder über Skype telefoniert, muss damit rechnen, dass die Kommunikation und damit auch Hinweise auf die eigene Identität bei irgendwelchen Menschen landen, die für die Unternehmen die Software verbessern. Doch das Abhören der Mitschnitte durch Menschen ist nur das panoptische Sahnehäubchen dieser Systeme. Interessant ist auch, dass nur dieser Aspekt für einen Aufschrei sorgt. Das ganze System der Assistenzwanzen ist perfide: Die Geräte hören in der Regel Geräusche und Gespräche mit, laden diese auf Server der Datenkonzerne, speichern diese Mitschnitte und Anfragen, werten die Aufnahmen mit Software aus und legen Profile an. Das alles dient dem Ziel, die Kund:innen des Systems noch besser zu kennen, ihnen mehr zu verkaufen und ihnen dabei einen Komfortgewinn vorzugaukeln. Neben der Überwachung durch Privatunternehmen kommt hinzu: All diese Daten können staatliche Ermittlungsbehörden mit richterlichen Anordnungen von den Anbietern herausbekommen. Der Staat kommt an Daten, die es früher gar nicht gab oder deren technische Grundlagen er mit großem Einsatz schaffen musste. Spätestens seit Snowden und Prism wissen wir, dass auch US-Geheimdienste Zugriff auf solche Daten haben. (…) Die gute Nachricht ist: Niemand muss da mitmachen. Also Fenster auf – und raus mit dem Scheiß!” Kommentar von Markus Reuter vom 8. August 2019 bei Netzpolitik externer Link
  • Sprachassistenten: Google und Apple reagieren ein bisschen auf Abhörvorwürfe 
    “Gleich mehrere Recherchen haben in den letzten Wochen aufgedeckt, dass Google, Amazon und Apple die Audio-Mitschnitte ihrer Sprachassistenten von Menschen auswerten lassen. Nachdem sich Datenschützer eingeschaltet haben, wollen Google und Apple damit vorrübergehend aufhören. Ob die Technologie überhaupt EU-weit zulässig ist, wird derzeit in Dublin und Luxemburg geklärt. (…) Nach der Datenschutzgrundverordnung ist für die Prüfung eigentlich die federführende Behörde zuständig, im Falle Google die irische Datenschutzbehörde IDPC. Die Datenschutzbehörden der Mitgliedstaaten können aber für drei Monate eigene Maßnahmen ergreifen, falls ein dringender Handlungsbedarf vorliegt. Von dieser Option hat der Hamburger Datenschützer Johannes Caspar nun Gebrauch gemacht. Google erklärte als Reaktion auf das Verfahren, die Transkriptionen für die nächsten drei Monate einzustellen. Wie der Hamburger Datenschützer in seiner Stellungnahme angibt, gilt diese Zusicherung für den gesamten EU-Raum. Apple zog mit seinem Dienst Siri direkt nach. (…) Der wissenschaftliche Dienst hatte vor Kurzem die Rechtmäßigkeit von Amazons Sprachassistenten Alexa überprüft und Nutzer:innen vor unzulässigen Aufnahmen von Kindern und Dritten gewarnt. Was mit den abgespeicherten Aufnahmen und Fehlaufnahmen in Zukunft passiert, ist allerdings ungewiss. Die Funktionsweise der Assistenzsysteme wird sich durch die Maßnahmen der Unternehmen nicht grundlegend ändern: Alexa, Siri & Co. werden weiterhin Gespräche und Fragen mitschneiden, diese auf Server der Datenkonzerne zum Abgleich hochladen, Daten und Anfragen abspeichern, die Audio-Aufnahmen mit Software auswerten und Profile anlegen. Wer solche Systeme nutzt, holt sich ein Ohr von Google & Co. in sein Wohnzimmer.” Beitrag von Alexandra Ketterer vom 2. August 2019 bei Netzpolitik externer Link
  • Bundesregierung: Polizei darf auf Daten von Alexa und Co. zugreifen 
    “Seehofer will mit Alexa im Wohnzimmer mithören? Der Aufschrei war groß. Die Innenministerkonferenz dementierte umgehend die Pläne. Jetzt kommt raus: Die Bundesregierung ist der Meinung, dass Smart-Home-Geräte schon heute überwacht werden dürfen. (…) In der Antwort auf eine Kleine Anfrage der FDP-Bundestagsfraktion schreibt die Bundesregierung, smarte Haushaltsgeräte seien auch nur informationstechnische Systeme, es gebe keinen neuen Regelungsbedarf. Das heißt: Schon heute dürften Aufnahmen von Alexa, Google Home und Daten des gern zitierten smarten Toasters beschlagnahmt, abgehört oder ihre Speicher ausgewertet werden – immer, wenn das bei einem traditionellen Kommunikationsmittel oder Speichermedium oder Gerät auch erlaubt wäre. Dazu gehören auch Staatstrojaner. Auch wenn immer mit Terrorismus argumentiert wird, wird Kommunikation seit Jahren primär wegen Drogendelikten überwacht. (…) Der Bundesdatenschutzbeauftragte Ulrich Kelber äußerte sich kritisch, als die Meldung von einer möglichen Kompetenzerweiterung aufkam. „Gerade wenn es im Wesentlichen um Informationen, Gespräche oder sogar Videos aus Wohnungen und anderen privaten Orten geht, liegen hierin besonders gravierende Grundrechtseingriffe“, sagte er. Es wäre eine „verfassungsrechtlich bedenkliche“ Ausweitung der polizeilichen Kompetenzen. Nun erweist sich die angenommene Erweiterung als bereits gelebte Rechtsauffassung. (…) In den USA sind bereits Fälle bekannt, in denen Daten aus sogenannten smarten Assistenten für Ermittlungen genutzt wurden…” Beitrag von Anna Biselli vom 18. Juli 2019 bei Netzpolitik externer Link
  • Googles Assistenzwanze: Auch Bettgespräche werden von Menschen ausgewertet 
    Belgische Journalisten haben herausgefunden, dass die Mitschnitte der Assistenzsysteme auch bei Google von Menschen ausgewertet werden. Der Redaktion gelang es auf Basis der Aufnahmen Nutzer:innen zu identifizieren und mit ihren Mitschnitten zu konfrontieren. (…) Laut den Daten, die VRT NWS vorliegen, sprang in etwa 15 Prozent der Fälle der Mitschneidemodus des Systems an, obwohl die Nutzer:innen nicht „OK, Google“ sagten. Das ist insbesondere bedeutsam, da für den Google Assistant gar kein Endgerät wie der Amazon Echo Dot nötig ist, sondern die App auf dem Mobiltelefon einfach mitschneidet. Bei den unaufgefordert mitgeschnittenen Konversationen handelte es sich unter anderem um Bettgespräche, Unterhaltungen zwischen Eltern und Kindern sowie berufliche Telefongespräche. Gegenüber heise.de versucht ein Google-Sprecher den Fall jetzt herunterzuspielen: „Bei Google können einige Mitarbeiter auf einige Audioausschnitte aus dem Assistant zugreifen, um das Produkt zu trainieren und zu verbessern. Diese sind aber nicht mit persönlich identifizierbaren Informationen verknüpft und die Audiosequenzen sind verzerrt.“ Dies steht in klarem Widerspruch zu den Rechercheergebnissen von VRT NWS…” Beitrag von Markus Reuter vom 11.07.2019 bei Netzpolitik externer Link
  • [Sprachassistent von Amazon] Gutachten: Alexa birgt Risiken für Kinder 
    “… “Alexa, bist du gefährlich für Kinder?” Die Antwort lautet: ja. Das sagen jedenfalls die Wissenschaftlichen Dienste des Bundestags. Einem Gutachten zufolge birgt Amazons Sprachassistent Risiken für Minderjährige und unbeteiligte Gäste. Die Experten kritisieren, dass Kinder persönliche Informationen preisgeben oder mit ihrer Stimme Inhalte abrufen könnten, die für Minderjährige nicht geeignet sind. Außerdem könne Alexa Daten von Menschen sammeln, denen gar nicht klar sei, dass sie aufgezeichnet werden: Wer einen Haushalt mit einem smarten Lautsprecher besuche, wisse nicht immer, dass eine Software Umgebungsgeräusche aufzeichne. In dem Gutachten (PDF) bescheinigen die Wissenschaftliche Dienste Amazon, dass es Nutzer ausreichen darüber informiere, welche Daten es speichere und analysiere. Die Experten kritisieren, dass es für Alexa-Nutzer “jedoch häufig intransparent bleiben könnte, wann Daten tatsächlich erhoben werden”. Die Echo-Geräte von Amazon übertragen die Aufzeichnung erst dann auf die Amazon-Server, wenn der Nutzer ein Aktivierungswort ausspricht. Zur Auswahl stehen “Alexa”, “Computer”, “Echo” oder “Amazon”. Es kommt jedoch immer wieder vor, dass die Sprachsoftware versehentlich und unbemerkt aktiviert wird. “Dann werden ohne Kenntnis und Zustimmung des Nutzers Daten erhoben und verarbeitet”, heißt es in dem Gutachten. Mit Blick auf die USA sei unklar, “zu welchen weiteren Zwecken Amazon seine Daten zukünftig nutzen könnte”. Amazon könnte ein Interesse daran haben, die gesammelten Daten mit anderen Plattformen und Drittanbietern zu verknüpfen. Es könne auch nicht ausgeschlossen werden, dass Kriminelle Zugriff auf die Daten in der Amazon Cloud erlangen. Dort seien viele Informationen gespeichert, sodass ein Hack “die Nutzer von Alexa besonders sensibel treffen” könne. In der Vergangenheit gab es aber keine Hinweise auf Sicherheitslücken bei Amazon…” Beitrag vom 9. Juli 2019 von und bei der Süddeutschen Zeitung online externer Link
  • Alexa und Drittanbieter speichern Daten unendlich lang 
    Erst wenn Kunden aufgenommene Daten manuell auswählen, werden sie gelöscht. Das bestätigt Amazon auf eine Anfrage des US-Senators John Coon. Selbst dann seien einige Ausnahmen zu beachten, in denen Alexa und Anbieter Daten weiterverarbeiten. Amazon hält sehr hartnäckig an aufgenommenen Sprachdaten mit der Sprachassistentin Alexa fest. In einem Fragebogen des US-Senators John Coons bestätigt der Versandhändler, dass Kunden entsprechende Informationen immer manuell löschen müssen. “Wir behalten die Audioaufnahmen der Kunden und Transkripte, bis sie sich entscheiden, diese zu löschen”, sagt das Unternehmen. Es gibt demnach also keine Ablaufzeit der Daten, selbst wenn diese mehrere Jahre alt sein sollten. Bei Audiotranskripten scheint die Löschoption nicht gegeben zu sein…” Beitrag von Oliver Nickel vom 4. Juli 2019 bei Golem externer Link, siehe auch:

    • Kein Vergessen: Amazon löscht Alexa-Daten nicht automatisch
      Amazon speichert die Alexa-Daten für immer und sieht keine automatische Löschung vor. Nach einer Anfrage des US-Senators Chris Coons kommen mehr Details zum genauen Umgang mit den Daten ans Licht. Die gehäuften Vorfälle über Probleme und Kritik am Umgang mit den Daten von Amazons smarter Assistentin brachten den US-amerikanischen Senator Chris Coons dazu, von dem Online-Riesen mehr Transparenz einzufordern. Jetzt liegt Amazons Antwort vor, die zeigt, wie schwer das Unternehmen die wertvollen Daten loslassen kann. (…) Außerdem verweist Amazon darauf, dass Dritthersteller, deren Skills Alexa integriert hat, ebenfalls selbstständig Daten der Nutzer sammeln und auswerten. Die Antworten stellten den Senator allerdings nicht vollends zufrieden. „Die Antwort von Amazon lässt die Möglichkeit offen, dass Transkripte von Interaktionen mit Alexa nicht von allen Servern von Amazon gelöscht werden, selbst nachdem ein Benutzer eine Aufzeichnung seiner Stimme gelöscht hat“, kritisiert Coons. „Darüber hinaus ist noch unklar, inwieweit diese Daten an Dritte weitergegeben werden und wie diese Dritten diese Informationen verwenden und kontrollieren.“…” Beitrag von Markus Gärtner vom 04. Juli 2019 im Amazon-Watchblog externer Link
  • Überwachung: Innenministerium will für Ermittler den Zugriff auf Alexa [aber es hat ja niemand was zu verbergen…] 
    “… Amazon hört zu Hause mit: Die smarten Lautsprecher Amazon Echo („Alexa“) sollen auf Ansprache reagieren und hören zu diesem Zweck alles mit, was in den eigenen vier Wänden gesagt wird. (…) Die Vorsitzende der Verbraucherschutzministerkonferenz forderte daraufhin einen Stopp der Abhörpraxis. Auf ganz andere Ideen kommt das Innenministerium: Geht es nach Horst Seehofer und seinen Mitarbeitern, sollen Ermittler die Einkaufswanze Alexa künftig für ihre Arbeit nutzen. Amazon und andere Hersteller sollen verpflichtet werden, den deutschen Nachrichtendiensten automatisierte, technische Zugänge zu ihren Geräten einzurichten. So steht es im Entwurf des Innenministeriums zur Reform des BND- und Verfassungsschutz-Gesetzes. (…) Amazon habe auf Anfrage mitgeteilt, man werde Kundendaten dann teilen, wenn die Aufforderung dazu rechtsgültig, verbindlich und korrekt zugestellt sei…” Meldung vom 21. April 2019 bei Perspektive online externer Link
  • Nutzer oder Behörden – Wer soll Amazons Alexa kontrollieren? 
    Gespräche von Nutzern mit Alexa werden zum Teil mitgehört. Das müsse sofort aufhören, fordert die rheinland-pfälzische Verbraucherschutzministerin. Vergangenen Donnerstag wurde bekannt, dass Amazon-Mitarbeiter Dialoge von Nutzern mit dem Sprachassistenten aufzeichnen und analysieren, Amazon hatte dies bestätigt. Auch hatte der Konzern es versäumt, vorab in seinen Nutzungsbedingungen auf diese Tatsache hinzuweisen (wir berichteten). Die Vorsitzende der Verbraucherschutz-Ministerkonferenz 2019 und rheinland-pfälzische Verbraucherschutzministerin Anne Spiegel fordert diesbezüglich nun eine Überprüfung der Nutzungsbedingungen von Amazon durch Aufsichtsbehörden. Das Bundesinnenministerium beurteilt den Sachverhalt hingegen etwas anders und sieht eher die Nutzer in der Pflicht. „Dieses Abhören und Auswerten persönlicher Gespräche bei Amazon muss unverzüglich gestoppt werden“, sagt Spiegel in der Mitteilung des Verbraucherschutzministeriums. „Das Abhören persönlicher Gespräche in der eigenen Wohnung ist ein extremer Eingriff in die Persönlichkeitsrechte“, kritisiert sie. So müssen Betroffene unverzüglich informiert werden, auch solle das Unternehmen Transparenz über dieses Vorgehen herstellen. Diesem sollen Benutzer dann vorab ausdrücklich zustimmen können. Die Ministerin fordert außerdem, dass Datenschutz-Aufsichtsbehörden Amazons Nutzungsbedingungen unter die Lupe nehmen (…) Diese Lageeinschätzung teilt die Bundesregierung offenbar nicht, wie aus einer Antwort des Innenstaatssekretär Günter Krings (CDU) auf die Anfrage des Grünen-Abgeordneten Konstantin von Notz (Bundes 90/die Grünen) zu diesem Thema hervorgeht. Das berichten dazu u. a. das Handelsblatt und Golem. So hätten Nutzer aus Krings Sicht in der Regel bei Inbetriebnahme der Sprachassistenten in die Weiterverarbeitung ihrer Daten eingewilligt, dies gebe auch die Datenschutzgrundverordnung (DSGVO) vor. Wer sich also für die Alexa-Nutzung entscheidet, wäre selbst dafür verantwortlich, das Risiko abzuschätzen, dass er damit eingeht, so Krings weiter. Aus Sicht der Bundesregierung läge bei der möglicherweise missbräuchlichen Aufzeichnung durch Alexa auch „keine rechtlich anders zu bewertende Bedrohungssituation im Vergleich zu Mikrofonen und Kameras in technischen Geräten wie Laptop, PC und Smartphone“ vor, heißt es in dem Papier weiter…” Beitrag von Hanna Behn vom 15. April 2019 im Amazon-Watchblog externer Link
  • Überwachung: Hören deutsche Geheimdienste bei Amazon Echo mit?
    Einfach den Amazon Echo anzapfen, um eine Person in ihren eigenen vier Wänden zu belauschen – leichter kann man sich geheimdienstliche Überwachung kaum vorstellen. Ein Beitrag des ARD-Magazins Kontraste, der am Donnerstagabend ausgestrahlt wurde, geht der Frage nach, ob und wie deutsche Geheimdienste diese Möglichkeit tatsächlich nutzen – mit großer Resonanz in der medialen Berichterstattung. Die Antwort der Geheimdienste bleibt vage und führt zu Spekulationen. Zu einer Anfrage des Kontraste-Teams, ob deutsche Geheimdienste heute schon in der Lage sind, Amazon Echo und andere smarte Speaker anzuzapfen, wollte sich der BND nicht äußern. Das Bundesamt für Verfassungsschutz antwortete, dass es per Gesetz das Recht zur Wohnraumüberwachung habe. Die Bundestagsabgeordnete Martina Renner (Linke) hatte zuvor versucht, mit einer schriftlichen Anfrage an die Bundesregierung zu klären, welche Bundesbehörden in der Lage sind, smarte Lautsprecher technisch zu infiltrieren und als Abhöreinrichtung für die Wohnraumüberwachung zu nutzen. In der Antwort der Bundesregierung heißt es, diese Information könne nicht herausgegeben werden, denn dann werde diese Fähigkeit öffentlich und ginge damit verloren. „Bei einem Bekanntwerden (…) wäre kein Ersatz durch andere Instrumente möglich“, heißt es in der schriftlichen Antwort der Bundesregierung…” Beitrag von Johanna Kleibl vom 13.04.2019 bei t3n externer Link – siehe auch:

    • Regierung schweigt: Nutzen Geheimdienste smarte Lautsprecher?
      “… Die schriftliche Anfrage wurde dem Bericht zufolge von der Linken-Bundestagsabgeordneten Martina Renner gestellt. Der frühere Bundesinnenminister Baum (FDP) sagte der Sendung: „Mit Alexa holen Sie sich den Lauschangriff sozusagen in die Wohnung.“ Die Leute sollten sich vor Augen führen, dass sie „ihre Menschenwürde gegen ihre Bequemlichkeit“ eintauschten. „Kontraste“ fragte auch bei den Nachrichtendiensten selbst an, ob sie in der Lage seien, Amazons „Echo“-Lautsprecher zu infiltrieren und als Abhöreinrichtung zu nutzen. Der Bundesnachrichtendienst wollte sich nicht äußern, das Bundesamt für Verfassungsschutz habe darauf verwiesen, dass es laut Gesetz das Recht zu Wohnraumüberwachung habe…” Meldung vom 11. April 2019 beim Deutschlandfunk externer Link
  • Amazon-Mitarbeiter hören private Gespräche mit Alexa ab und fertigen Transkripte an
    “Amazon lässt zum Teil Mitarbeiter aufgezeichnete Kommandos von Nutzern an seine Assistenzsoftware Alexa anhören und abtippen, um die Spracherkennung zu verbessern. Der Konzern bestätigte die Vorgehensweise am Donnerstag dem Finanzdienst Bloomberg. (…) “Wir versehen nur eine sehr geringe Auswahl an Alexa-Sprachaufnahmen mit Kommentaren, um das Kundenerlebnis zu verbessern”, so eine Amazon-Stellungnahme gegenüber Bloomberg. Die Nachrichtenagentur hatte die Methode in einem Bericht enthüllt. Bloomberg zufolge wird diese Arbeit an diversen Standorten rund um die Welt erledigt, unter anderem in Boston, Costa Rica, Indien und Rumänien. Laut zwei Mitarbeitern in Bukarest schlagen sie dort pro Schicht bis zu 1.000 Mitschnitte um. (…) Von Amazon gab es am Donnerstag zunächst keine weiteren Stellungnahmen über die Erklärung an Bloomberg hinaus. Auch die Konkurrenten Apple und Google äußerten sich zunächst nicht zur Anfrage, ob sie auf eine ähnliche Vorgehensweise bei ihren Assistenten Siri und Google Assistant zurückgreifen.” Agenturmeldung vom 11. April 2019 bei meedia.de externer Link

Wir erinnern an: