L'Apple Watch peut désormais mémoriser les conversations

Les dernières montres intelligentes d’Apple peuvent résumer les conversations et récupérer des extraits de ce qui vient d’être dit. Apple affirme que les fonctionnalités sont conçues autour de la confidentialité, mais elles soulèvent également une question délicate : qu'en est-il des personnes qui parlent à la personne qui porte la montre ?

Points clés à retenir

• Les Apple Watch Series 12 et Ultra 4 présentent de nouvelles fonctionnalités d'intelligence audio basées sur l'IA
• Live Rewind peut transformer les 15 secondes précédentes de conversation en texte
• Siri Recap peut générer des résumés de haut niveau des conversations tout au long de la journée de l'utilisateur.
• Apple affirme que l'audio brut n'est pas stocké ni accessible aux applications, au système d'exploitation ou à Apple lui-même
• Live Rewind fournit des indications sonores et visuelles lorsqu'il est activé, mais cela ne signifie pas que toutes les personnes à proximité ont consenti
• L'enquête Bitdefender sur la cybersécurité auprès des consommateurs révèle que 77 % des personnes interrogées font confiance à Apple dans une certaine mesure, ce qui en fait l'une des grandes entreprises technologiques les plus fiables.
• Les consommateurs devraient traiter les appareils portables dotés d'IA comme ils le feraient avec n'importe quel appareil capable de capturer des informations sensibles : comprendre les paramètres et respecter la vie privée des autres.

Votre montre écoute

Apple donne à ses dernières montres intelligentes une nouvelle capacité impressionnante : elles peuvent écouter le monde qui vous entoure et utiliser l'IA pour vous aider à vous souvenir de ce que vous avez entendu.

Les nouvelles Apple Watch Series 12 et Apple Watch Ultra 4 introduisent Audio Intelligence, un ensemble de fonctionnalités qui utilisent les microphones des montres et la technologie IA d’Apple pour reconnaître les sons, identifier la musique et traiter les conversations.

Deux fonctionnalités en particulier – Live Rewind et Siri Recap – retiennent l'attention car elles permettent de traiter des conversations impliquant des personnes autres que celle qui porte la montre.

Live Rewind est conçu pour les moments où vous manquez quelque chose que quelqu'un vient de dire.

Une double pression sur la couronne numérique de l'Apple Watch permet à l'utilisateur de voir les 15 secondes de conversation précédentes sous forme de texte. L'audio sous-jacent est supprimé après le traitement, tandis que le texte résultant peut être enregistré si l'utilisateur le souhaite.

La montre émet également un carillon sonore – même en mode silencieux – et affiche une indication visuelle lorsque Live Rewind est activé, aidant ainsi à alerter les personnes à proximité.

Apple a mis en place plusieurs mesures de protection pour empêcher cette fonctionnalité de devenir un outil de surveillance. L'audio n'est pas stocké comme un enregistrement conventionnel, l'audio brut est protégé dans un environnement isolé du matériel, et même Apple lui-même ne peut pas accéder à l'audio sous-jacent, affirme la société.

Mais la confidentialité technique et la confidentialité conversationnelle ne sont pas nécessairement la même chose.

Siri Recap va plus loin

Plutôt que de produire une transcription mot à mot, il peut créer des notes de haut niveau à partir des conversations de la journée. Apple affirme qu'il n'identifie pas les locuteurs individuels et qu'il est conçu pour omettre les informations sensibles telles que les données financières et d'authentification.

Apple indique également qu'Audio Intelligence ne crée pas d'enregistrements audio stockés. L’audio brut est traité à l’intérieur du Secure Exclave intégré à sa puce S11, où il n’est pas accessible au système d’exploitation, aux applications ou même à Apple. Siri Recap utilise le Private Cloud Compute d'Apple pour générer ses résumés finaux.

Ce sont des protections significatives de la vie privée. Mais ils n’éliminent pas tous les problèmes de confidentialité.

La confidentialité ne concerne pas seulement la destination des données

L’Electronic Frontier Foundation (EFF) soutient que les gens devraient avoir leur mot à dire sur l’utilisation ou non de la technologie pour documenter leurs propos lors d’une conversation privée.

S'adressant à The Register, Adam Schwartz, directeur des litiges en matière de confidentialité de l'EFF, a averti que les gens n'ont aucun moyen pratique de consentir – ou de rejeter – ce type de traitement lorsqu'une personne à proximité porte la montre.

Il y a ici une distinction importante.

Apple ne stocke pas secrètement une archive infinie de tout ce que ses montres entendent. Live Rewind s'annonce avec un signal sonore, Siri Recap ne produit pas de transcription textuelle et Apple a délibérément conçu son architecture pour minimiser l'accès à l'audio.

Mais la personne debout en face de la table peut quand même voir ses mots traités de manière inattendue et transformés en informations.

Et à mesure que l’IA passe des téléphones et des ordinateurs aux montres, lunettes, écouteurs et autres appareils portables, cette distinction deviendra probablement de plus en plus importante.

Comment ça peut (vraiment) mal tourner

Les exemples les plus clairs de la façon dont la technologie d’Apple pourrait déraper sont les situations banales où personne ne pense avoir une conversation « enregistrée » :

• La conversation familiale : Vous parlez tranquillement à votre partenaire d’un problème médical, financier ou d’un conflit familial. Quelqu'un d'autre à la table porte une montre intelligente performante, et une partie de la conversation finit par être capturée sous forme de texte ou reflétée dans un résumé ultérieur.
• Le bavardage au bureau : deux collègues discutent avec désinvolture d'une réorganisation à venir, de la performance d'un collègue ou d'un projet inopiné. La montre d'un troisième collègue traite la conversation. Une conversation privée existe désormais sous forme d’informations récupérables.
• La confession du café : un ami vous raconte quelque chose de profondément personnel autour d'un café. Vous ne rêveriez jamais de sortir votre téléphone et de les enregistrer, mais un appareil portable permet de capturer ou de résumer des bribes de conversation beaucoup plus discrètement.
• L'auditeur involontaire : Vous discutez de vos finances, de votre vie privée ou de votre santé à la table voisine dans un restaurant. Une personne à proximité ne cherche pas délibérément à espionner, mais son appareil portable peut tout de même traiter des fragments de conversation qui ne lui étaient pas destinés.
• La dispute : Après une vive altercation, une personne récupère les dernières secondes de ce qui a été dit. Une fonctionnalité conçue comme une aide-mémoire devient un outil permettant de conserver une remarque que l'interlocuteur pensait, à juste titre, éphémère.
• Le rendez-vous sensible : Une personne porte l'appareil lors d'une consultation avec un médecin, un thérapeute, un avocat, un comptable ou un conseiller financier. Même si l'audio n'est pas conservé indéfiniment, des résumés ou des extraits pourraient préserver des informations normalement considérées comme hautement confidentielles.
• L'enfant incapable de donner un consentement éclairé : Des parents, enseignants ou autres adultes discutent de la situation personnelle d'un enfant en présence d'un appareil portable doté d'IA. L'enfant peut ne pas bien comprendre que ses propos — ou ce que les autres disent à son sujet — sont susceptibles d'être traités et résumés.

Apple jouit d'une grande confiance de la part des consommateurs

La question est particulièrement intéressante car Apple figure parmi les entreprises technologiques qui inspirent le plus confiance.

Dans notre dernière enquête sur la cybersécurité des consommateurs, portant sur plus de 7 000 internautes répartis dans sept pays, 77 % des répondants ont déclaré faire confiance à Apple dans une certaine mesure. Google a obtenu un score de 88 % et Microsoft de 85 %.

Ce constat contraste fortement avec l'attitude envers certains réseaux sociaux et les plateformes d'IA plus récentes. Plus de la moitié des répondants ont déclaré ne pas faire confiance du tout à X/Twitter (52 %) ou à TikTok (51 %), tandis que 45 % ont exprimé un scepticisme similaire à l'égard d'OpenAI.

Toutefois, la confiance ne vaut pas blanc-seing.

Notre enquête révèle également que les consommateurs tiennent à protéger leurs informations personnelles : 59 % refusent que les géants de la technologie accèdent à leurs données financières, tandis que les photos et les données de localisation sont autant d'éléments que de nombreux répondants préfèrent garder privés.

Des fonctionnalités telles que « Audio Intelligence » montrent que la confiance dépend de plus en plus non seulement de la capacité d'une entreprise à sécuriser les données qu'elle collecte, mais aussi de ce que la technologie est autorisée à collecter ou à déduire dès le départ.

Comment utiliser des appareils portables dotés d'IA sans que votre entourage n'évite de discuter en votre présence

Pour l'instant, il n'y a pas de quoi s'alarmer à l'idée qu'une montre connectée espionne toutes les conversations autour de vous. Les mesures de protection mises en place par Apple sont considérables, et ces fonctionnalités sont conçues pour permettre aux utilisateurs de contrôler le moment et la manière dont elles sont utilisées. Toutefois, faire preuve d'un peu de savoir-vivre est toujours appréciable.

Si vous utilisez un appareil connecté doté d'une IA :

• Prenez le temps de découvrir les fonctionnalités liées au microphone, à la transcription, au résumé et à l'enregistrement, plutôt que de vous contenter des réglages par défaut.
• Désactivez les fonctionnalités de traitement des conversations dont vous n'avez pas besoin.
• Prévenez vos interlocuteurs lorsque vous utilisez délibérément une fonctionnalité capable de transcrire ou de résumer leurs propos.
• Évitez d'utiliser ces outils lors de conversations portant sur la santé, les finances, le travail, des questions juridiques ou d'autres informations personnelles.
• Ne partez pas du principe qu'une notification sonore équivaut automatiquement à un consentement.
• Consultez régulièrement les résumés et transcriptions enregistrés, et supprimez ceux dont vous n'avez plus l'utilité.
• Soyez particulièrement vigilant sur le lieu de travail, dans les établissements scolaires et dans tout autre environnement régi par des politiques de confidentialité ou des réglementations locales.

Si l'appareil connecté d'une autre personne vous préoccupe lors d'une discussion sensible, il est tout à fait légitime de lui demander de désactiver les fonctions d'écoute, voire de retirer l'appareil le temps de la conversation.

L'IA dote les appareils du quotidien de capacités toujours plus puissantes pour interpréter ce qui nous entoure. Nous tenons toutefois à garder une réelle maîtrise sur ce que la technologie mémorise, en particulier lorsqu'il s'agit d'une activité profondément humaine : la conversation.