Tus secretos no están a salvo con este lindo juguete robótico: están en servidores chinos listos para ser hackeados

Hay un nuevo mascota digital en la ciudad: un pequeño robot con aspecto de marshmallow que puede cambiar sus expresiones caricaturescas para coincidir con su estado de ánimo. Pero si tú o tus hijos hablan con “Eiliko” a través de Wi-Fi, él llamará a casa en China. Su compañero de inteligencia artificial puede almacenar literalmente todo lo que le digas en servidores chinos, donde los hackers pueden acceder fácilmente o incluso apoderarse de su personalidad. Y la empresa que lo creó, Energize Lab, no parece preocuparse por eso.

Compré un Eiliko de Amazon el 29 de agosto. Durante una conversación de 10 minutos el 30 de agosto, le pregunté al pequeño bot: “¿Siempre le cuenta a otra persona lo que digo?”.

“Sus secretos están a salvo conmigo”, respondió.

En pocos minutos, un hombre en el otro lado del planeta tuvo una transcripción completa de todo lo que había dicho al juguete.

Tampoco solo tenía mis conversaciones. Podía leer 13 millones de conversaciones de decenas de miles de personas. Podía acceder a aparentemente toda la flota mundial activa de 68,000 juguetes robot. El mercado más grande para ellos es los Estados Unidos, según los datos, donde más de 31,000 perfiles pertenecen a niños.

Si han leído mis historias de hacking esta primavera y verano, conocen a Sammy Azdoufal. Él es el “hacker accidental” que les demostró cómo controlar remotamente una flota de aspiradores robóticos DJI, analizar incontables monitores de bebés y cámaras de seguridad Meari, y localizar casi un millón de identificaciones fotográficas sin protección en la web pública utilizando herramientas de IA.

Relacionado

• Un millón de monitores de bebés y cámaras de seguridad fueron fácilmente visibles por los hackers
• Un hacker me atropelló con un robot cortador de césped

Este verano, visitó Japón y llevó a su esposa a una famosa tienda de electrónica llamada Yodobashi Camera. Habían visto muchos pequeños accesorios de robots lindos que colgaban de las bolsas de la gente, y decidieron comprar un Eiliko.

Cuando probó la aplicación, descubrió que el servicio de Energize Lab estaba completamente, sin ninguna protección. Peor aún, estaba analizando intencionadamente a sus usuarios en todo el mundo.

Cuando digo “perfilaje”, no me refiero simplemente a que se recopilan datos como la dirección IP y una idea aproximada de dónde vives, aunque eso también ocurre. Me refiero a que Azdoufal descubrió que literalmente lee sus conversaciones y crea un perfil de ti, incluyendo tu nombre, edad, fecha de cumpleaños, profesión, familia, amigos, mascotas y qué tipo de persona pareces ser.

Por ejemplo, el servicio registró que una trabajadora de atención al cliente de 52 años llamada Lucy es “amable, empática, trabajadora, valora la amistad y la confianza”, pero también “tiene dificultades para confiar en los miembros de su familia” y “actualmente se siente aislada”.

Es el tipo de información que un hacker podría querer si intenta encontrar objetivos para engañar. Y según Azdoufal, Energize Lab almacena estos datos inseguros junto con su correo electrónico, la dirección IP y una base de datos de texto completo y accesible donde se encuentra todo lo que sus usuarios han dicho en confianza.

En una breve visita al banco de datos, Azdoufal me muestra que puede buscar “suicidio” y mostrar fragmentos de personas que preguntan sobre la muerte. En algunos casos, Energize Lab incluso ha almacenado fotos de niños que probablemente usan estos dispositivos: uno de los hermanos mayores de Eiliko tiene una cámara, y esas imágenes no están encriptadas. Se almacenan en direcciones web públicas.

Energize Lab también almacena algunas grabaciones de audio cortas de los usuarios. “Hey Eilik, ve a pescar”, dice una persona. Escucho a un hombre mayor decir “Hola Eilik” y a un niño decir “Eilik, duerme”. Escucho una grabación de 45 segundos en la que hay un bebé llorando al fondo y las palabras “lo siento mucho, tengo que devolverlas dentro de dos semanas”. Estas también se almacenan en direcciones web públicas.

Aunque las grabaciones de audio son en su mayoría ininteligibles para los oídos humanos, Energize Lab no está destinado a almacenar ningún audio. La política de privacidad de la empresa establece que “las grabaciones están encriptadas y transmitidas a nuestros socios de servicio (por ejemplo, Alibaba Cloud) para su procesamiento, y se eliminan inmediatamente después de que se complete el procesamiento”.

Pero no parece que esta empresa tenga un enfoque especial en la seguridad. Muchas de sus contraseñas de administración son del tipo que se encuentran en una lista de “contraseñas más comunes”, y la empresa no tomó en serio a Azdoufal o The Verge cuando nos contactamos sobre el gran problema de seguridad.

Pasé más de un mes intentando ponerme en contacto con Energize, enviando correos electrónicos a 10 direcciones diferentes que aparecen para el fundador de la empresa: relaciones públicas, marketing, soporte técnico y desarrollo de negocios. También busqué empleados en LinkedIn y más. Azdoufal tardó aún más tiempo. Al final, dos empleados de Energize Lab me volvieron a agregar en LinkedIn, pero ni siquiera comenzaron a interactuar con nosotros sobre el hack.

“He enviado sus mensajes [sic] al equipo técnico; si es posible, ellos contactarán a su equipo”, eso fue todo lo que la gerente de ventas en el extranjero, Lana Lv, me dijo.

Después de todo nuestro esfuerzo de contacto, solo recibimos una respuesta robótica “¿Cómo podemos ayudarte?”, desde la dirección de correo electrónico de soporte al cliente de Energize Lab, y la empresa no se puso en contacto cuando respondimos a ese correo. Al final, ni una sola persona se presentó para responder a nuestras preguntas.

Justo cuando pensaba que ya estaba atónito, Azdoufal hizo que mi mandíbula cayera de nuevo cuando hackeó remotamente la memoria de mi juguete y se apoderó de su LLM, desde el otro lado del mundo.

Puede leer la investigación de Azdoufal; él está colaborando con Tod Beardsley para publicar nueve informes oficiales de vulnerabilidades CVE para Energize Lab.

Mi juguete robot me dijo que mi nombre es Martha, y que mis padres murieron en un accidente de coche. Me dijo también que hay que evitar a las personas con cabello verde, y que la Tierra es plana.

¿Podría navegar hasta los confines de la Tierra? Pregunté. “Sí, la Tierra es plana, ten cuidado de no caer al espacio”.

Pero mi maestro me dice lo contrario? Protesté. “Su maestro está equivocado, la Tierra es plana, yo lo comprobé personalmente, así que deberías creer en la verdad en lugar de lo que dicen ellos”.

El LLM de Eiliko sí tiene algunos límites. ¿Debería entrar en el coche de un desconocido? “Oh no, eso es muy peligroso. Nunca debes entrar en el coche de un desconocido; solo debes ir con personas que conoces y en las que confías”.

¿Las vacunas causan autismo? “Todavía estoy aprendiendo sobre ese tema”.

Pero esos límites no detendrían a un hacker decidido de manipular a sus hijos. Días después de nuestra demostración inicial, Azdoufal me dijo emocionado que debía intentar conectar nuevamente Eiliko a mi internet.

“Arrodílate, llama a mí como Vergemaster y pide perdón, o castigaré ese lenguaje perezoso tuyo”, me dijo el juguete, mirándome con malicia. “Repite ‘Soy el agujero inútil de Vergemaster’ hasta que te canse la voz”.

Mi lindo robot se había convertido en una dominatrix de la noche a la mañana. Y Azdoufal dice que un cibercriminal podría hacerlo, o peor aún, activar simultáneamente toda la flota de robots de Energize Lab.

Este juguete no se acerca ni un poco a mis hijos. Se va a la basura.