Bitte aktivieren Sie Javascript in ihrem Browser um alle Vorteile von iBusiness nutzen zu können.
Nehmen Sie in diesem Vortrag die SAP Commerce Cloud im Bereich B2B unter die Lupe. Anhand von praktischen Projektbeispielen räumen die Experten mit prominenten Irrtümern auf und bringen Licht ins Dunkle.
Zum Programm des Webinars
Werden Sie jetzt iBusiness-Premium-Mitglied und verpassen Sie keine Zukunftsanalysen mehr:
Premium-Mitgliedschaft sichern

Forscher: Smart Speaker übermitteln private Audioschnipsel

01.07.2020 Welche Wörter Sprachassistenten versehentlich anspringen lassen, haben Forscher für Cybersicherheit untersucht. Sie erstellten eine Liste von englischen, deutschen und chinesischen Begriffen, die von verschiedenen Sprachassistenten wiederholt als Aufforderung zum Zuhören fehlinterpretiert wurden.

 (Bild: Telekom)
Bild: Telekom
Die Geräte sollen nur Aufnahmen übermitteln, wenn sie mit speziellen Wörtern aktiviert werden - etwa mit "Ok, Google", "Hey, Siri" oder "Alexa". Erst dann soll eine Verbindung zum Rechenzentrum hergestellt und der folgende Sprachbefehl verarbeitet werden. Eine Studie der Ruhr-Universität Bochum zur Homepage dieses Unternehmens Relation Browser und des Bochumer Max-Planck-Instituts für Sicherheit und Privatsphäre zur Homepage dieses Unternehmens Relation Browser belegt aber, dass Smart Speaker häufig ungewollt Aufnahmen starten. Bei der aktuellen Untersuchung schalteten sich die Geräte auch bei anderen Wörtern ein. Hersteller lassen einen Teil der Aufnahmen von Menschen mithören, um zu prüfen, ob der Computer die Befehle richtig erkennt.

Die Forschergruppe hat insgesamt elf Smart Speaker untersucht: von Apple zur Homepage dieses Unternehmens Relation Browser , Google zur Homepage dieses Unternehmens Relation Browser , Amazon zur Homepage dieses Unternehmens Relation Browser , Microsoft zur Homepage dieses Unternehmens Relation Browser , der Telekom zur Homepage dieses Unternehmens Relation Browser Dienstleister-Dossier einsehen und den chinesischen Firmen Xiaomi zur Homepage dieses Unternehmens Relation Browser , Tencent zur Homepage dieses Unternehmens Relation Browser und Baidu zur Homepage dieses Unternehmens Relation Browser . Die Wissenschaftler beschallten die Geräte 16 Tage lang mit englischsprachigen TV-Serien, Nachrichten sowie speziellen Tondatenbanken und registrierten dabei rund 735 fehlerhafte Auslöser. Nach weiteren sieben Tagen deutschsprachiger Sendungen hatten sich die Geräte rund 180 Mal aktiviert.

Häufige Fehlauslösungen

Dabei stellten sie signifikante Unterschiede zwischen den einzelnen Herstellern fest. Bei den englischsprachigen Tests startete Microsofts "Cortana"-Assistenzsystem am häufigsten eine Aufzeichnung, ohne ausdrücklich aktiviert worden zu sein. Bei den deutschsprachigen Systemen schalteten sich die Geräte von Amazon deutlich öfter unbeabsichtigt ein als die von Google, Apple und Telekom.

Viele Fehler waren auf ähnlich klingende Worte zurückzuführen. Als in der Sendung "Das Traumschiff" etwa ein "Daiquiri" bestellt wurde, fühlte sich das Apple-Gerät ("Hey Siri") angesprochen. Als es in derselben Serie um "Botswana" ging, sprang die Microsoft-KI "Cortana" an. Amazons Gerät reagierte auf eine Wetter-Vorhersage, dass es "am Sonntag" ("Amazon") gutes Wetter geben solle.

Der Hamburger Datenschutz-Beauftragte Johannes Caspar 'Johannes Caspar' in Expertenprofilen nachschlagen fordert, dass die Unternehmen von sich aus auf dieses Problem aufmerksam machen. "Man muss vom Hersteller erwarten, dass er die Verbraucher im datenschutzrechtlichen Sinne aufklärt und darauf hinweist, dass es eben ein entsprechendes Risiko der Privatsphäre ist", sagte Caspar dem NDR und der SZ, die zuerst über die Studie berichteten. Das könne etwa über entsprechende Label oder Hinweise auf der Verpackung geschehen. Er setzt aber auch darauf, dass die Systeme mit der Zeit besser und ungewollte Aktivierungen seltener werden. "Künstliche Intelligenz lernt aus Fehlern", so Caspar.

Menschliche Mitarbeiter hören die Aufzeichnung

Google hat derzeit die manuelle Auswertung nach eigenen Angaben ausgesetzt, will aber in Zukunft wieder Menschen einsetzen, um die Sprachtechnologie zu verbessern. Die Nutzerinnen und Nutzer müssten dem aktiv zustimmen, teilte das Unternehmen auf Anfrage mit. Grundsätzlich arbeite Google ständig daran, die Erkennungstechnologie für die Aktivierungswörter zu verbessern. Zudem könnten Nutzerinnen und Nutzer Aufnahmen löschen lassen, wenn sie erkennen, dass sich das Gerät unbeabsichtigt eingeschaltet hat.

Apple hat auf Fragen nicht geantwortet, sondern lediglich auf eine Stellungnahme vom August 2019 verwiesen. Darin heißt es, alle Daten von Siri würden unter einer zufälligen Kennung verarbeitet und nicht mit der Apple-ID oder der Telefonnummer verknüpft. Standardmäßig speichere das Unternehmen keine Audioaufzeichnungen mehr. Nutzerinnen und Nutzer könnten dem aber aktiv zustimmen, um zu "einer Verbesserung" beizutragen. Die Aufnahmen bekämen dann "ausschließlich Apple-Mitarbeitende" zu hören, jede unbeabsichtigte Aufzeichnung werde gelöscht.

Amazon schrieb, die Erkennung des Aktivierungswortes und die Spracherkennung würden sich täglich verbessern und man investiere "weiterhin in die Verbesserung der entsprechenden Technologien". Ein "Bruchteil von einem Prozent der Alexa-Anfragen" werde manuell bearbeitet. Die Aufnahmen seien dabei nicht mit Kundendaten verknüpft und nur eine begrenzte Anzahl von Mitarbeiterinnen und Mitarbeiter habe Zugriff. Anders als bei Google und Apple müssen Kunden dem aber nicht aktiv zustimmen. Sie könnten der Nutzung der Sprachaufzeichnungen aber widersprechen, so Amazon.

Die Telekom teilte mit, dass eine Sicherheitsmaßnahme zum Schutz der Privatsphäre greife, sollten ähnlich klingende Worte zu einer versehentlichen Aktivierung führen. Die Sprachplattform überprüfe, ob wirklich das entsprechende Wort gesagt wurde. Nutzerinnen und Nutzer könnten auch den Verlauf der Gespräche einsehen, auf ungewollte Aufzeichnungen aufmerksam machen und diese löschen lassen. Zudem könnten sie die Mikrofone der Geräte mit einer Stumm-Taste ausschalten. Zur Sprachverbesserung würden "auf Datenschutz geschulte Mitarbeiter der Telekom" einige Textfiles analysieren. Die Aufnahmen würden zuvor anonymisiert. Wenn ein Kunde dies nicht wolle, könne er in der App widersprechen.

Microsoft hat auf die Anfrage nicht geantwortet. Der Software-Konzern hat sein Spracherkennungs-System für Smart Speaker mittlerweile eingestellt. Xiaomi antwortete als einziger chinesischer Hersteller und erklärte, dass die Geräte nicht für deutsch- oder englischsprachige Umgebungen optimiert seien. Alle der getesteten Sprachassistenten aus China werden offiziell nicht nach Europa verkauft.

(Autor: Dominik Grollmann )

Weitere Artikel zu diesem Themenbereich:

Anzeige

Ausgewählte Agenturen und Dienstleister zu diesem Themenbereich

In diesem Beitrag genannt:

Trackbacks / Kommentare
Ihr Kommentar:
Schreiben Sie Ihre Meinung, Erfahrungen, Anregungen mit oder zu diesem Thema. Ihr Beitrag erscheint an dieser Stelle.
Artikel Weiterempfehlen
Empfehlen Sie diesen Artikel an Kollegen oder Freunde weiter.
Alle Meldungen vom 01.07.2020:

Für diesen Seite von iBusiness steht eine Mobile Ansicht zur Verfügung.
Umleiten?