Con el hardware de IA, las empresas tecnológicas están definiendo qué constituye y no constituye una grabación. Durante la mayor parte de la historia de los dispositivos, sería razonable asumir que un dispositivo con micrófono o cámara está grabando o no; está encendido o apagado, sin mucha zona gris. Los micrófonos capturan sonido. Las cámaras capturan imágenes. Esos datos se guardan en el dispositivo. A veces, también se envían a la nube —esperamos que con cifrado de extremo a extremo— para su procesamiento. Esos datos son un instante preservado en el tiempo y, por lo tanto, constituyen una grabación.
Tal vez ya no.
La semana pasada, Mark Gurman de Bloomberg informó que Apple está trabajando en una cámara inteligente para el hogar que no guarda grabaciones de video. En su lugar, la IA utiliza los datos visuales para crear fragmentos de texto que describen lo que está ocurriendo en su casa. Se supone que permitirá el reconocimiento facial, pero sin imágenes de video. La idea es que aún se protege cierta privacidad. Según Gurman, esta tecnología es similar a la forma en que las cámaras en los rumores de futuros AirPods también funcionarán.
Es similar a la Audio Intelligence de Apple en el Apple Watch Series 12 y en el Apple Watch Ultra 4. El Apple Watch ha tenido un micrófono desde hace mucho tiempo, principalmente para Siri y para recibir llamadas telefónicas desde la muñeca. De las cuatro funciones de Audio Intelligence, dos han provocado más debate en línea: Live Rewind y Siri Recap. La primera produce una transcripción de los últimos 15 segundos, mientras que la segunda puede generar resúmenes de alto nivel de las conversaciones que tienes durante el día.
En otras palabras, las gafas Ray-Ban Meta permiten tomar fotos y grabar vídeo, lo cual se almacena en el teléfono. Este método rumoreado de Apple significaría que las cámaras pueden verte y los micrófonos pueden escucharte — pero ninguno “guarda” nada.
¿Se considera esto como grabación? Apple no comenta sobre rumores, pero basándose en la forma en que se comunica públicamente su filosofía de privacidad de Inteligencia Auditiva, yo diría que la compañía no lo cree. Apple dice que estas funciones no conservan ningún audio. Los datos brutos se eliminan una vez que terminan de procesarse en un exclave seguro separado en el procesador S11. Cualquier información enviada a la nube se realiza a través de computación en la nube privada y, por lo tanto, es inaccesible para Apple o terceros.
Tampoco es solo Apple. Sandeep Waraich, director senior de wearables de Google, le dijo a The Verge en una conversación que Google también está considerando este concepto. ¿Qué pasaría si, según él, las cámaras en los gafas inteligentes no grabaran datos? Por ejemplo, si los gafas pudieran procesar datos visuales de su entorno utilizando IA, pero no guardaran ninguna grabación para la posteridad. De esa manera, argumentó Waraich, la cámara podría “simplemente” ser un sensor de imagen.
Según estas definiciones, algo debe ser preservado y revisable para poder considerarse “grabar”. Pero, ¿no serían considerados como algo preservado y revisable todos los transcripciones de texto generadas por una cámara inteligente o un reloj inteligente? O, al intentar hacer el hardware de la IA más aceptable, ¿están las empresas tecnológicas basándose en lo que puede ser solicitado en los tribunales?
Relacionado
Puede parecer estúpido discutir semánticas, pero se están probando varios conceptos aquí.
Cualquiera que sea su opinión personal sobre la privacidad, se ha acordado en general que puede hacer lo que quiera con sus propios datos. Antes de que los dispositivos pudieran “escuchar siempre”, se integraban más fácilmente en espacios públicos y privados. Sin embargo, esta nueva generación de dispositivos le pide que sea un guardián más activo de la privacidad de otras personas. Después de todo, los humanos no viven en burbujas herméticamente selladas. Vivimos, trabajamos y nos reunimos en una multitud de entornos: algunos privados, otros públicos y muchos en un área gris. Las reglas para un restaurante son diferentes de las del teatro, la oficina o el lugar deportivo. Son muy distintas de las de un baño público, aunque todos estos son al menos espacios semi-públicos. Incluso si “grabas” todo lo que ves en tu mente, los recuerdos humanos no pueden ser compartidos objetivamente. Están influenciados por prejuicios y distorsionados por la perspectiva. Las grabaciones son menos subjetivas y, sin duda, más factuales.
También está la cuestión de señalar la intención en ausencia de normas universalmente comprendidas. Tomemos las gafas inteligentes de Meta. Utilizan una luz blanca que se activa y pulsa para indicar cuando alguien está grabando video. Por el contrario, el color universal para las luces de grabación es rojo, por lo que una persona menos familiarizada con la tecnología puede ni siquiera saber qué significa una luz blanca. (Después de todo, estas son todavía productos de nicho.) Incluso sin modificaciones, las luces de privacidad blancas pueden ser fácilmente ocultadas por melenas y por un día soleado brillante. Esto también es una nueva norma; otras empresas de gafas inteligentes o hardware de IA no están obligadas a indicar esta intención de la misma manera que Meta. Un anillo o colgante de IA que graba audio o video puede no tener ninguna luz en absoluto.
Aún más confuso, los productos que pueden grabar parecen más bien productos que no pueden hacerlo. Esto podría empeorar aún más si las empresas tecnológicas comienzan a añadir cámaras que no graban imágenes visuales. Si comenzamos a añadir cámaras a gafas inteligentes que no graban video, ¿cómo podremos distinguirlas de las que sí lo hacen? Si una Oura Ring —que no tiene micrófono— se parece a una Vocci Ring —que sí lo hace— y ambas parecen anillos normales, ¿qué debería hacer la persona promedio?
En este momento, el hardware parece ser el foco principal del debate sobre la tecnología de vigilancia. Hay una sensación de que eliminar las cámaras resuelve el problema. Pero no es así; además, hace más difícil utilizar esta tecnología de maneras maliciosas. Sin embargo, se podría decir que no son las cámaras ni los micrófonos quienes causan repulsión. La sensación desagradable surge del hecho de saber que un fragmento de tu información puede existir en el dispositivo de otra persona, sin conocer cómo será utilizado.
Aquí converge toda la tensión relacionada con el hardware de IA. Para que la IA sea “buena” y verdaderamente personal, como lo imagina Big Tech, debe conocer mucho sobre ti —y sobre las personas en tu vida. Debe “ver” lo que ves, escuchar lo que escuchas y aprender de tus acciones diarias. Para hacerlo, debe “recordar” estas cosas. Así que, de alguna manera, debe registrar tu vida y todo lo que ocurre en ella. Los incentivos para que Big Tech recopile estos datos son obvios: los datos personales son dinero, el dinero es poder, y el poder es influencia. Lo menos claro es qué obtiene la sociedad de este equilibrio. Promesas vagas de utilidad y conveniencia?
De todos modos, está claro que las empresas tecnológicas han decidido avanzar rápidamente al integrar la IA en cada dispositivo existente, al mismo tiempo que inventan nuevos formatos. Actualmente, esto es más evidente en teléfonos y dispositivos wearable, pero estas consideraciones pronto se extenderán a casas inteligentes, televisores, laptops, tabletas y auriculares. Probablemente de maneras que los consumidores aún no han considerado.
Lo que permitimos que estos dispositivos de IA recuerden cambiará la cultura tal como la conocemos. Por eso, debemos llegar a un consenso social sobre lo que constituye una grabación — y quién, si alguien existe, tiene derecho a cambiar esa definición.
Siga los temas y autores de esta historia para ver más contenido similar en su flujo de página principal personalizado, y para recibir actualizaciones por correo electrónico.