Die Apple Watch kann sich jetzt an Gespräche erinnern

Die neuesten Smartwatches von Apple können Gespräche zusammenfassen und Ausschnitte des gerade Gesagten wiedergeben. Apple betont, dass der Datenschutz bei diesen Funktionen im Mittelpunkt steht, doch sie werfen auch eine unangenehme Frage auf: Was ist mit den Personen, die mit dem Träger der Uhr sprechen?

Die wichtigsten Punkte

• Die Apple Watch Series 12 und Ultra 4 führen neue KI-gestützte Funktionen zur Audio-Analyse („Audio Intelligence“) ein.
• „Live Rewind“ kann die vorangegangenen 15 Sekunden eines Gesprächs in Text umwandeln.
• „Siri Recap“ kann übergeordnete Zusammenfassungen von Gesprächen erstellen, die der Träger im Laufe des Tages geführt hat.
• Laut Apple werden keine Rohaudiodaten gespeichert oder für Apps, das Betriebssystem oder Apple selbst zugänglich gemacht.
• „Live Rewind“ gibt bei Aktivierung akustische und visuelle Signale aus; dies bedeutet jedoch nicht zwangsläufig, dass alle Personen in der Nähe ihre Zustimmung gegeben haben.
• Eine Umfrage von Bitdefender zur Cybersicherheit für Verbraucher ergab, dass 77 % der Befragten Apple ein gewisses Maß an Vertrauen entgegenbringen, womit das Unternehmen zu den vertrauenswürdigsten Tech-Giganten zählt.
• Verbraucher sollten KI-Wearables wie jedes andere Gerät behandeln, das sensible Informationen erfassen kann: Sie sollten sich mit den Einstellungen vertraut machen und die Privatsphäre anderer respektieren.

Ihre Uhr hört zu

Apple stattet seine neuesten Smartwatches mit einer beeindruckenden neuen Fähigkeit aus: Sie können die Umgebung belauschen und mithilfe von KI dabei helfen, sich an Gehörtes zu erinnern.

Die neue Apple Watch Series 12 und die Apple Watch Ultra 4 führen „Audio Intelligence“ ein – eine Reihe von Funktionen, die die Mikrofone der Uhren und Apples KI-Technologie nutzen, um Geräusche zu erkennen, Musik zu identifizieren und Gespräche zu verarbeiten.

Insbesondere zwei Funktionen – „Live Rewind“ und „Siri Recap“ – sorgen für Aufmerksamkeit, da sie Gespräche verarbeiten können, an denen auch andere Personen als der Träger der Uhr beteiligt sind.

„Live Rewind“ ist für Momente gedacht, in denen man etwas verpasst hat, das gerade gesagt wurde.

Durch zweimaliges Drücken der Digital Crown der Apple Watch kann sich der Träger die vorangegangenen 15 Sekunden des Gesprächs als Text anzeigen lassen. Die zugrundeliegenden Audiodaten werden nach der Verarbeitung verworfen, während der resultierende Text auf Wunsch des Nutzers gespeichert werden kann.

Zudem gibt die Uhr einen hörbaren Signalton ab – selbst im Stummmodus – und zeigt einen visuellen Hinweis an, wenn „Live Rewind“ aktiviert ist, um Personen in der Nähe darauf aufmerksam zu machen.

Apple hat verschiedene Schutzmaßnahmen implementiert, um zu verhindern, dass diese Funktion zu einem Überwachungsinstrument wird. Audiodaten werden nicht als herkömmliche Aufnahme gespeichert; die Rohdaten sind in einer hardwareseitig isolierten Umgebung geschützt, und laut Apple hat nicht einmal das Unternehmen selbst Zugriff auf die zugrundeliegenden Audiodaten. Doch technische Privatsphäre und die Privatsphäre im Gespräch sind nicht zwangsläufig dasselbe.

Siri Recap geht einen Schritt weiter

Anstatt ein wortgetreues Transkript zu erstellen, kann die Funktion aus den Gesprächen des Tages zusammenfassende Notizen generieren. Laut Apple werden dabei keine einzelnen Sprecher identifiziert; zudem ist das System so konzipiert, dass sensible Informationen – etwa Finanz- oder Authentifizierungsdaten – ausgeblendet werden.

Apple betont zudem, dass „Audio Intelligence“ keine dauerhaften Audioaufnahmen speichert. Die Rohdaten des Audiosignals werden innerhalb der in den S11-Chip integrierten „Secure Enclave“ verarbeitet; dort sind sie für das Betriebssystem, Apps oder selbst für Apple unzugänglich. Für die Erstellung der endgültigen Zusammenfassungen nutzt Siri Recap Apples „Private Cloud Compute“.

Dies sind durchaus wirksame Datenschutzmaßnahmen. Dennoch lassen sie nicht alle Bedenken hinsichtlich der Privatsphäre ausräumen.

Beim Datenschutz geht es nicht nur darum, wohin die Daten fließen

Die Electronic Frontier Foundation (EFF) vertritt die Ansicht, dass Menschen ein Mitspracherecht haben sollten, wenn Technologie dazu eingesetzt wird, ihre Worte in einem privaten Gespräch aufzuzeichnen.

Adam Schwartz, Leiter der Abteilung für Rechtsstreitigkeiten im Datenschutzbereich bei der EFF, gab gegenüber „The Register“ zu bedenken, dass es für Betroffene praktisch keine Möglichkeit gebe, dieser Art der Verarbeitung zuzustimmen oder sie abzulehnen, wenn sich eine Person mit der Uhr in ihrer Nähe aufhält.

Hierbei ist eine wichtige Unterscheidung zu treffen.

Apple legt kein geheimes, endloses Archiv all dessen an, was die Uhren aufnehmen. „Live Rewind“ kündigt sich durch ein akustisches Signal an, Siri Recap erstellt kein wortgetreues Transkript, und Apple hat die Systemarchitektur bewusst so gestaltet, dass der Zugriff auf die Audiodaten minimiert wird.

Dennoch kann es passieren, dass die Worte einer Person, die einem gegenübersteht, unerwartet verarbeitet und in Informationen umgewandelt werden.

Da KI-Technologien zunehmend von Smartphones und Computern auf Uhren, Brillen, Ohrhörer und andere Wearables wandern, dürfte dieser Unterschied künftig immer stärker an Bedeutung gewinnen.

Wie es (wirklich) schiefgehen kann

Die deutlichsten Beispiele dafür, wie Apples Technologie problematische Folgen haben könnte, finden sich in alltäglichen Situationen, in denen niemand damit rechnet, dass sein Gespräch „aufgezeichnet“ wird:

• Das Familiengespräch: Sie erzählen Ihrem Partner leise von einem medizinischen Problem, finanziellen Schwierigkeiten oder einem Familienstreit. Jemand anderes am Tisch trägt eine leistungsfähige Smartwatch, und Teile des Gesprächs werden als Text festgehalten oder tauchen in einer späteren Zusammenfassung wieder auf.
• Das Bürogespräch: Zwei Kollegen unterhalten sich beiläufig über eine bevorstehende Umstrukturierung, die Leistung eines Mitarbeiters oder ein noch nicht angekündigtes Projekt. Die Uhr eines dritten Kollegen verarbeitet das Gespräch. Ein privates Gespräch existiert nun als abrufbare Information.
• Das Geständnis im Café: Ein Freund erzählt Ihnen bei einer Tasse Kaffee etwas zutiefst Persönliches. Sie kämen nie auf die Idee, Ihr Handy herauszuholen und das Gespräch aufzunehmen, doch mit einem Wearable lassen sich Teile des Gesprächs viel unauffälliger festhalten oder zusammenfassen.
• Der unfreiwillige Zuhörer: Sie sprechen am Nachbartisch in einem Restaurant über Ihre Finanzen, Ihre Beziehung oder Ihre Gesundheit. Jemand in der Nähe lauscht zwar nicht absichtlich, doch sein Wearable verarbeitet womöglich Sprachfetzen, die gar nicht für diese Person bestimmt waren.
• Der Streit: Nach einer hitzigen Auseinandersetzung ruft jemand die letzten Sekunden des Gesagten wieder ab. Eine eigentlich als Gedächtnisstütze gedachte Funktion wird zum Werkzeug, um eine Bemerkung festzuhalten, von der der Sprecher zu Recht annahm, sie sei flüchtig.
• Der vertrauliche Termin: Eine Person trägt das Gerät bei einem Gespräch mit Arzt, Therapeut, Anwalt, Steuerberater oder Finanzberater. Selbst wenn die Audioaufnahme nicht dauerhaft gespeichert wird, könnten Zusammenfassungen oder Gesprächsfetzen Informationen bewahren, die normalerweise als streng vertraulich gelten.
• Das Kind, das keine wirksame Einwilligung geben kann: Eltern, Lehrer oder andere Erwachsene besprechen persönliche Angelegenheiten eines Kindes, während ein KI-Wearable anwesend ist. Dem Kind ist womöglich kaum bewusst, dass das, was es sagt – oder was andere über es sagen –, verarbeitet und zusammengefasst werden kann.

Apple genießt großes Vertrauen bei den Verbrauchern

Das Thema ist besonders interessant, da Apple zu den Technologieunternehmen mit dem höchsten Vertrauensvorschuss zählt.

In unserer jüngsten Umfrage zur Cybersicherheit von Verbrauchern, an der mehr als 7.000 Internetnutzer aus sieben Ländern teilnahmen, gaben 77 % der Befragten an, Apple zumindest bis zu einem gewissen Grad zu vertrauen. Google kam auf 88 % und Microsoft auf 85 %.

Dies steht in starkem Kontrast zur Einstellung gegenüber einigen sozialen Netzwerken und neueren KI-Plattformen. Mehr als die Hälfte der Befragten gab an, X/Twitter (52 %) oder TikTok (51 %) überhaupt nicht zu vertrauen, während 45 % eine ähnliche Skepsis gegenüber OpenAI äußerten.

Doch Vertrauen ist kein Freibrief.

Unsere Umfrage zeigt zudem, dass Verbraucher großen Wert auf den Schutz ihrer persönlichen Daten legen: 59 % wollen nicht, dass große Technologieunternehmen Zugriff auf ihre Finanzdaten erhalten; auch Fotos und Standortdaten sind Bereiche, die viele Befragte lieber privat halten möchten.

Funktionen wie „Audio Intelligence“ verdeutlichen, dass Vertrauen zunehmend nicht nur davon abhängt, ob ein Unternehmen die gesammelten Daten sicher verwahrt, sondern auch davon, welche Informationen die Technologie überhaupt erfassen oder daraus ableiten darf.

So nutzen Sie KI-Wearables, ohne dass sich Gesprächspartner von Ihnen abwenden

Es besteht derzeit kein Grund zur Panik, dass eine Smartwatch heimlich jedes Gespräch in Ihrer Umgebung belauscht. Apple hat umfassende Schutzmaßnahmen implementiert, und die Funktionen sind so konzipiert, dass Nutzer selbst entscheiden können, wann und wie sie eingesetzt werden. Dennoch bewirkt ein wenig Rücksichtnahme viel.

Wenn Sie ein KI-gestütztes Wearable verwenden:

• Machen Sie sich mit den Funktionen für Mikrofon, Transkription, Zusammenfassung und Aufnahme vertraut, anstatt einfach die Standardeinstellungen zu übernehmen.
• Deaktivieren Sie Funktionen zur Gesprächsanalyse, die Sie nicht benötigen.
• Informieren Sie Ihr Gegenüber, wenn Sie gezielt eine Funktion nutzen, die das Gesagte transkribieren oder zusammenfassen kann.
• Vermeiden Sie den Einsatz dieser Tools bei Gesprächen über Gesundheit, Finanzen, berufliche oder rechtliche Angelegenheiten sowie andere persönliche Themen.
• Gehen Sie nicht davon aus, dass ein hörbares Signal automatisch als Zustimmung gilt.
• Überprüfen Sie regelmäßig gespeicherte Zusammenfassungen sowie Transkripte und löschen Sie alles, was Sie nicht mehr benötigen.
• Seien Sie besonders vorsichtig am Arbeitsplatz, in der Schule oder in anderen Umgebungen, in denen Datenschutzrichtlinien oder lokale Gesetze gelten.
  

Wenn Ihnen das Wearable einer anderen Person während eines sensiblen Gesprächs Sorgen bereitet, ist es absolut legitim, diese Person zu bitten, die Aufnahmefunktion zu deaktivieren – oder das Gerät für die Dauer des Gesprächs abzulegen.

KI verleiht Alltagsgeräten immer leistungsfähigere Fähigkeiten, um das Geschehen um uns herum zu interpretieren. Doch wir wollen weiterhin ein gewichtiges Mitspracherecht dabei haben, woran sich Technologie erinnert – insbesondere bei einer der menschlichsten aller Tätigkeiten: dem Gespräch.