Apples Vertragspartner hören im Rahmen der Qualitätsverbesserung für den Sprachassistenten Siri regelmäßig vertrauliche medizinische Informationen, die Abwicklung von Drogengeschäften und Aufnahmen von Paaren beim Sex.
Obwohl Apple dies den Nutzern nicht ausdrücklich mitteilt, wird ein kleiner Teil der Siri-Aufnahmen an Vertragspartner weitergegeben, die auf der ganzen Welt für das Unternehmen arbeiten.
Die Vertragspartner sind damit beauftragt, eine Vielzahl von Faktoren zu bewerten, einschließlich der Frage, ob die Aktivierung des Sprachassistenten absichtlich oder zufällig erfolgte und wie gut Siri mit seiner Antwort helfen konnte.
Das kalifornische Unternehmen weist jedoch nicht ausdrücklich darauf hin, dass die Qualitätskontrolle bei den Vertragspartnern nicht maschinell, sondern von Menschen übernommen wird, welche die Aufnahmen dazu anhören müssen.
Ein kleiner Teil der Siri-Anfragen werde analysiert, um den Assistenten zu verbessern, sagte Apple gegenüber dem britischen Guardian. Dabei würden die zu prüfenden Aufnahmen aber nicht mit der Apple-ID des Benutzers verknüpft.
Die Aufnahmen würden "in sicheren Einrichtungen analysiert", und alle Prüfer seien verpflichtet, strenge Vertraulichkeit zu wahren, so Apple weiter. Weniger als 1 Prozent der Siri-Aktivierungen würden analysiert und seien "in der Regel nur wenige Sekunden lang".
Laut einem für das Unternehmen tätigen Whistleblower, der aus Angst um seinen Arbeitsplatz anonym bleiben will, erfassen unbeabsichtigte Siri-Aktivierungen in vielen Fällen äußerst sensible personenbezogene Daten.
Der Sprachassistent wird versehentlich aktiviert, wenn es irrtümlich den Ausdruck "Hey Siri" hört. Aus diesem Grund wurde im letzten Jahr ein BBC-Interview über Syrien unterbrochen, da das Land im Englischen ähnlich klingen.
Auch den Klang eines Reißverschlusses könne Siri irrtümlich als Aktivator wahrnehmen. Und wenn eine Apple Watch angehoben wird und dann Sprache hört, könne die Aufnahmen dadurch ebenfalls automatisch aktiviert werden.
"Es gab unzählige Fälle von Aufnahmen mit privaten Gesprächen zwischen Ärzten und Patienten, Geschäftsabschlüssen, scheinbar kriminellen Geschäften, sexuellen Begegnungen und so weiter", so der Whistleblower.
Und weiter: "Mit den Aufzeichnungen kommen Benutzerdaten wie der Standort, Kontaktinformationen und App-Daten". Diese Benutzerdaten können verwendet werden, um zu überprüfen, ob eine Anfrage erfolgreich bearbeitet worden ist.
Versehentliche Aktivierungen haben bei Apple zur Weiterleitung von sensibelsten Daten geführt. Obwohl Siri auf den meisten Apple-Geräten installiert ist, sind die Apple Watch und der HomePod Smart Speaker die häufigsten Quellen für fälschliche Aktivierungen.
"Die Regelmäßigkeit von versehentlichen Auslösungen auf der Uhr ist unglaublich hoch", so der Whistleblower. "Die Uhr kann Ausschnitte von 30 Sekunden aufnehmen - nicht wirklich lange, aber man kann eine gute Vorstellung davon bekommen, was da passiert."
Der Whistleblower sagte, dass die Mitarbeiter in der Qualitätskontrolle versehentliche Siri-Aktivierungen als technisches Problem melden sollen. Er sei mit diesen Informationen an die Öffentlichkeit gegangen, weil er Missbrauch befürchtet.
Es werde kaum geprüft, wer in der Qualitätskontrolle arbeitet, und die Menge der Daten, die den Mitarbeitern zugänglich sind, sei ziemlich groß. "Es wäre nicht schwer, die Person zu identifizieren, die man da hört", so der Whistleblower.
Wenn man Siri auffordert immer zuzuhören, antwortet der persönliche Assistent: "Ich höre nur zu, wenn du mit mir redest." Doch das ist offensichtlich falsch. Die versehentlichen Aktivierungen sind einfach zu regelmäßig.
Nicht nur bei Apple übernehmen Menschen die Überprüfung des Sprachassistenten. Im April wurde aufgedeckt, dass Amazon Personal hat, das Alexa-Aufnahmen anhört. Anfang Juli wurde berichtet, dass Google-Mitarbeiter dasselbe mit dem Google Assistant tun.
Doch Apple unterscheidet sich von diesen Unternehmen in gewisser Weise. Während Amazon und Google es den Nutzern erlauben, einige Verwendungen ihrer Aufnahmen abzulehnen, bietet Apple nur die Wahl, Siri vollständig zu deaktivieren.
Laut Counterpoint Research hält Apple 35 Prozent des Smartwatch-Marktes, mehr als dreimal so viel wie sein nächster Wettbewerber Samsung und mehr als seine nächsten sechs größten Wettbewerber zusammen.
