Avec l’équipement informatique intelligent, les entreprises technologiques étendent la définition de ce qui constitue ou n’est pas une enregistrement. Pendant la plupart de l’histoire des gadgets, on pourrait supposer que un appareil doté d’un micro ou d’une caméra enregistre ou ne n’enregistre pas ; il est soit en marche, soit éteint, sans grande zone grise. Les microphones captent le son. Les caméras captent les images. Ces données sont stockées sur l’appareil. Parfois, elles sont également envoyées au cloud — en espérant qu’il y a une cryptographie end-to-end — pour traitement. Ces données constituent un instant préservé dans le temps, et donc une enregistrement.
Peut-être plus jamais.
La semaine dernière, Mark Gurman de Bloomberg a rapporté que Apple travaille sur une caméra domotique qui ne stocke pas de enregistrements vidéo. À la place, l’IA utilise les données visuelles pour créer des extraits textuels décrivant ce qui se passe autour de chez vous. Il est supposé qu’elle supportera le reconnaissance faciale, mais sans images vidéo. L’idée est que cela protège néanmoins une certaine vie privée. Cette technologie, dit Gurman, est similaire à celle qui sera également présente dans les AirPods futurs.
Cela ressemble à l’Audio Intelligence d’Apple sur l’Apple Watch Series 12 et l’Apple Watch Ultra 4. L’Apple Watch dispose depuis longtemps d’un microphone, principalement pour Siri et pour prendre les appels téléphoniques depuis le poignet. Parmi les quatre fonctionnalités Audio Intelligence, deux ont suscité le plus de débats en ligne : Live Rewind et Siri Recap. Le premier produit une transcription des 15 dernières secondes, tandis que le second permet de générer des résumés de haut niveau des conversations que vous avez eues au cours de la journée.
En d’autres termes, les lunettes Ray-Ban Meta permettent de prendre des photos et de enregistrer des vidéos, qui sont stockées sur votre téléphone. Cette méthode supposée d’Apple signifierait que les caméras peuvent vous voir, et les microphones peuvent vous entendre — mais il n’y a pas de « sauvegarde » de quoi que ce soit.
Est-ce considéré comme une enregistrement ? Apple ne commente pas les rumeurs, mais, en se basant sur la manière dont elle communique publiquement sa philosophie de confidentialité pour l’intelligence audio, je pense que l’entreprise ne le pense pas. Apple affirme que ces fonctionnalités ne sauvent aucun son. Les données brutes sont supprimées dès qu’elles sont traitées dans un espace sécurisé sur le processeur S11. Toute information envoyée au cloud se fait via un calcul en cloud privé, et est donc inaccessible pour Apple ou des tiers.
Ce n’est pas seulement Apple. Sandeep Waraich, directeur senior de wearables chez Google, a déclaré à The Verge dans une conversation que Google envisage également cette idée. Il a suggéré : et si, par exemple, les caméras sur les lunettes intelligentes n’enregistraient pas de données ? Par exemple, si les lunettes pouvaient traiter les données visuelles de votre environnement grâce à l’IA, mais ne sauvegardaient aucune vidéo pour l’avenir. De cette manière, selon Waraich, la caméra pourrait simplement être un capteur d’images.
Selon ces définitions, quelque chose doit être conservé et pouvoir être examiné pour être considéré comme une « enregistrement ». Mais ne seraient-ils pas considérés comme tels tous les transcrits de texte générés par une caméra ou un montre intelligente ? Ou bien, en tentant de rendre le matériel d’IA plus acceptable, les entreprises technologiques comptent-t‑elles sur ce qui peut être demandé devant un tribunal ?
Relatif
Il pourrait sembler stupide de discuter de la sémantique, mais plusieurs concepts sont actuellement testés ici.
Quelles que soient vos opinions personnelles sur la vie privée, on est généralement d’accord sur le fait que vous pouvez faire ce que vous voulez avec vos propres données. Avant que les appareils ne puissent « écouter constamment », ils s’intégraient plus naturellement dans les espaces publics et privés. Cependant, cette nouvelle série d’appareils vous oblige à être un gardien plus actif de la vie privée des autres. Après tout, les humains ne vivent pas dans des bulles hermétiquement scellées. Nous vivons, travaillons et nous rencontrons dans de nombreux environnements – certains privés, d’autres publics, et beaucoup se situant dans une zone grise. Les règles pour un restaurant diffèrent de celles d’un théâtre, d’un bureau ou d’un stade sportif. Elles sont très différentes de celles d’un toilettes publique, bien que tous ces lieux soient au moins semi-publics. Même si vous « enregistrez » tout ce que vous voyez dans votre esprit, les souvenirs humains ne peuvent pas être partagés objectivement. Ils sont influencés par des biais et distordus par la perspective. Les enregistrements sont moins subjectifs et, sans doute, factuels.
Il y a aussi la question de la signalisation de l'intention en l'absence de normes universellement comprises. Prenons les lunettes intelligentes de Meta. Elles utilisent une lumière blanche pulsante pour indiquer quand quelqu’un enregistre une vidéo. En revanche, la couleur universelle pour les lumières d'enregistrement est le rouge, de sorte qu'une personne moins familière avec la technologie ne saurait peut-être pas non plus ce que signifie une lumière blanche. (Ces produits restent, après tout, des articles de niche.) Même sans modification, les lumières de confidentialité blanches sont facilement masquées par les cheveux et par un jour ensoleillé. C’est également une nouvelle norme ; d’autres entreprises de lunettes intelligentes ou de matériel AI n’ont pas l’obligation de signaler cette intention de la même manière que Meta. Un bracelet ou un pendentif IA qui enregistre audio ou vidéo peut ne contenir aucune lumière.
Plus confus encore, les produits qui peuvent enregistrer des images ressemblent de plus en plus à des produits qui ne le peuvent pas. La situation pourrait s’aggraver si les entreprises technologiques commencent à intégrer des caméras qui ne enregistrent pas de vidéos. Si nous commençons à ajouter des caméras aux lunettes intelligentes qui ne enregistrent pas de vidéos, comment pourrons-nous les distinguer des paires qui le font ? Si une Oura Ring – qui n’a pas de micro – ressemble à une Vocci Ring – qui le fait – et que toutes deux ressemblent à des boucles ordinaires, que doit faire une personne moyenne ?
En ce moment, l’équipement matériel semble être l’objet principal du débat sur la technologie de surveillance. On a l’impression que se débarrasser des caméras résout le problème. Mais ce n’est pas le cas, car cela rend l’utilisation de cette technologie de manière malveillante plus difficile. Cependant, il est probable que ce n’est pas les caméras ou les microphones qui provoquent cette sensation désagréable. C’est plutôt la conscience qu’un fragment de vous-même peut exister sur le appareil d’une autre personne, sans savoir comment il sera utilisé.
C’est ici que toute la tension liée aux équipements d’IA se concentre. Pour que l’IA soit « bonne » et vraiment personnalisée, comme le imagine Big Tech, elle doit savoir beaucoup à votre sujet — et sur les personnes de votre vie. Elle doit « voir » ce que vous voyez, entendre ce que vous entendez, et apprendre à partir de vos actions quotidiennes. Pour cela, elle doit « se souvenir » de ces choses. Ainsi, d’une certaine manière, elle doit enregistrer votre vie et tout ce qui s’y passe. Les incitations pour que Big Tech collecte ces données sont évidentes : les données personnelles sont de l’argent, l’argent est pouvoir, et le pouvoir est influence. Ce qui est moins clair, c’est ce que la société obtient de cet équilibre. Des promesses vagues de utilité et de commodité ?
Quoi qu’il en soit, il est clair que les entreprises technologiques ont décidé de mettre massivement l’IA dans tous les appareils existants, tout en inventant de nouveaux formats. Actuellement, cela se manifeste principalement sur les téléphones et les accessoires portables, mais ces considérations vont bientôt s’étendre aux foyers intelligents, aux téléviseurs, aux ordinateurs portables, aux tablettes et aux casques. Probablement de manières que les consommateurs n’ont pas encore envisagées.
Ce que nous permettons ces gadgets d’IA de mémoriser va réécrire la culture telle que nous la connaissons. C’est pourquoi nous devons parvenir à un consensus social sur ce qui constitue une enregistrement — et qui, si quelqu’un existe, a le droit de modifier cette définition.
Suivez les sujets et les auteurs de cette histoire pour voir plus de contenu similaire dans votre flux de page d'accueil personnalisée, et pour recevoir des mises à jour par e-mail.