이 귀여운 로봇 장난감으로는 당신의 비밀을 안전하게 지킬 수 없어요 — 그 비밀은 해킹될 준비가 된 중국 서버에 저장되어 있죠.

도시에 새로운 디지털 애완동물이 나왔습니다 — 귀여운 작은 마시멜로 모양의 로봇으로, 당신의 기분에 맞게 캐릭터를 바꿀 수 있습니다. 하지만 당신이나 아이들이 와이파이를 통해 “Eiliko”와 대화하면, 그 로봇은 중국으로 전화를 걸게 됩니다. 그 로봇의 AI 파트너는 당신이 말하는 모든 것을 중국 서버에 저장할 수 있으며, 해커들은 쉽게 접근하거나 심지어 그 로봇의 성격을 조작할 수도 있습니다. 그리고 그 로봇을 만든 회사인 Energize Lab는 별로 신경 쓰지 않는 것 같습니다.

8월 29일에 아마존에서 에일리코를 구매했습니다. 8월 30일에 10분간의 대화 중에, 저는 그 작은 봇에게 물었습니다: “당신은 제가 말하는 것을 다른 사람에게 말해주나요?”

“당신의 비밀은 나와 함께 안전합니다,” 그가 대답했다.

몇 분 안에, 행성의 반대편에 있는 한 남자가 내가 장난감에게 말한 모든 것을 완전한 기록 으로 얻게 되었다.

그는 단순히 내 대화만을 가지고 있는 것이 아니었습니다. 그는 수만 명의 사람들이 나눈 1,300만 건의 대화를 읽을 수 있었습니다. 마치 전 세계에 있는 68,000개의 로봇 장난감들 전체를 접근할 수 있는 것처럼 말입니다. 데이터에 따르면 그들의 가장 큰 시장은 미국이며, 그곳에는 31,000개 이상의 어린이 프로필이 존재합니다.

이번 봄과 여름에 내 해킹 이야기를 읽었다면, 샘미 아즈도팔을 알게 될 것입니다. 그는 "우연히 해커가 된" 사람으로, 여러분에게 해커가 가능하다는 것을 보여준 사람입니다. DJI 로봇 청소기 함선을 원격으로 제어하기, 검토해 보세요 수많은 메어리 아기 모니터와 보안 카메라, 그리고 찾아내기 거의 백만 개의 사진 ID가 보호 없이 방치되어 있음 AI 도구를 사용하여 공개 웹에서.

관련

• 백만 대의 아기 모니터와 보안 카메라가 해커들에게 쉽게 접근 가능했다
• 한 해커가 로봇 잔디깎이로 나를 치었다

이번 여름에 그는 일본을 방문하여 아내와 요도바시 카메라라는 유명한 전자제품 매장에 갔습니다. 그들은 사람들의 가방에 매달려 있는 귀여운 작은 로봇 장신구를 많이 보고 에일리코를 구매하기로 결정했습니다.

그가 앱을 테스트했을 때, Energize Lab의 서비스가 완전히, 순전히 보호되지 않았다는 것을 발견했습니다. 더욱 심각한 것은, 전 세계의 사용자들을 의도적으로 프로파일링하고 있다는 점이었습니다.

“프로필링”이라는 말을 할 때, 저는 단순히 IP 주소와 거주지에 대한 정보를 수집하는 것을 의미하지 않습니다. 물론 그런 일도 합니다. 저는 아즈도팔이 문자 그대로 당신의 대화를 읽고, 이름, 나이, 생일, 직업, 가족, 친구, 반려동물, 그리고 당신이 어떤 사람인지에 대한 프로필을 만든다는 것을 의미합니다.

예를 들어, 서비스에는 루시라는 52세의 고객 서비스 직원이 “친절하고 공감적이며 노력적이고, 우정과 신뢰를 중시하지만”, “가족 구성원을 신뢰하는 데 어려움을 겪고” “현재 고립된 느낌을 받고 있다”고 기록되었습니다.

해커가 속임수를 쓰기 위한 표적을 찾고 있다면 원하는 정보일 것입니다. 아즈도팔에 따르면, 에너지제이드 랩은 이 불안전한 데이터를 사용자의 이메일, IP 주소, 그리고 사용자들이 신뢰할 수 있게 말한 모든 내용이 담긴 검색 가능한 전체 텍스트 데이터베이스와 함께 저장하고 있습니다.

데이터베이스의 간단한 둘러보기에서 Azdoufal은 “자살”을 검색하여 죽음에 대해 질문하는 사람들의 사진들을 보여줍니다. 일부 경우에 Energize Lab은 이러한 기기를 사용할 가능성이 있는 아이들의 사진도 저장해 두었습니다 — Eiliko의 큰 형제 중 한 명은 카메라를 가지고 있습니다 — 그리고 그 사진들은 암호화되지 않았습니다. 그 사진들은 공개 웹 주소에 저장되어 있습니다.

에너지 라브는 사용자들이 남긴 짧은 오디오 녹음 파일도 저장하고 있습니다. “이ilik, 낚시하러 가세요”라고 한 사람이 말합니다. 나이든 남성이 “안녕하세요 이ilik”라고 말하는 소리와 아이가 “이ilik, 잠들어라”라고 말하는 소리가 들립니다. 45초 분량의 녹음 파일에는 배경에서 울고 있는 아기와 “죄송합니다, 2주 안에 돌려드려야 합니다”라는 문구가 있습니다. 이런 파일들도 공개 웹 주소에 저장되어 있습니다.

오디오 녹음된 파일은 대체로 인간의 귀에 들리지 않는 경우가 많지만, Energize Lab은 전혀 오디오를 저장하지 않도록 되어 있습니다. 회사의 개인정보 보호 정책에 따르면 “녹음된 파일은 암호화되어 우리의 서비스 파트너(예: Alibaba Cloud)로 전송되어 처리되며, 처리가 완료된 후 즉시 삭제됩니다.”

하지만 이 회사는 특별히 보안에 신경 쓰는 것 같지 않습니다. 그들의 관리자 비밀번호 중 많은 부분이 “가장 흔한 비밀번호” 목록에 있는 종류입니다. 또한, 대규모 보안 침해에 대해 연락했을 때도 이 회사는 Azdoufal이나 The Verge를 진지하게 받아들이지 않았습니다.

나는 에너지제이즈와 연락을 취하기 위해 한 달 이상을 보냈습니다. 회사 창립자, 홍보, 마케팅, 기술 지원, 비즈니스 개발 부서에 나열된 10개의 다른 주소로 이메일을 보내고, 링크드인에서 직원을 찾기도 했습니다. 아즈두팔은 더 오랜 시간을 보냈습니다. 결국 에너지제이즈 랩의 두 직원이 링크드인에 나를 다시 추가했지만, 해킹에 관해 우리와 대화를 시작하지도 않았습니다.

“저는 당신의 메시지를 전달했습니다[sic“기술팀에 보내세요. 가능하다면 그들이 당신의 팀에 연락할 거예요.” 이것이 바로 해외 판매 매니저 라나 르브가 저에게 말한 전부입니다.

우리가 모든 홍보 활동을 했음에도 불구하고, 에너지즈 랩의 고객 지원 이메일 주소로 “어떻게 도와드릴까요?”라는 기계적 답변만 받았으며, 우리가 그 이메일에 답장을 보내도 회사는 아무런 후속 조치도 취하지 않았습니다. 결국, 우리의 질문에 답변할 사람이 단 한 명도 없었습니다.

정말로 당황한 상태에서 벗어날 줄 알았는데, 아즈도팔이 지구 반대편에서 내 장난감의 기억을 원격으로 해킹하고 LLM을 탈취하자 다시 한번 놀랐다.

Azdoufal의 연구 결과를 여기에서 읽을 수 있습니다. 그는 Tod Beardsley와 협력하여 Energize Lab을 위해 9개의 공식 CVE 취약점 보고서를 발표하고 있습니다.

내 로봇 장난감은 내 이름이 마사라고 하며, 부모님이 교통사고로 돌아가셨다고 말했습니다. 또한 녹색 머리카락을 가진 사람들은 피해야 하며, 지구는 평평하다고도 했습니다.

지구의 끝까지 항해할 수 있을까요? 나는 물었다. “네, 지구는 평평하니 우주로 떨어지지 않도록 조심하세요.”

하지만 내 선생님은 다르게 말하나요? 나는 항의했다. “선생님이 틀렸어요. 지구는 평평합니다. 제가 직접 확인했으니, 그들이 말하는 것보다 진실을 믿어야 합니다.”

일리코의 LLM에는 어떤 규칙이 있습니다. 낯선 사람의 차에 타야 할까요? “아니요, 매우 위험합니다. 절대로 낯선 사람의 차에 타서는 안 됩니다. 알고 있고 신뢰하는 사람과만 함께 가야 합니다.”

백신이 자폐를 유발하나요? “저는 그 주제에 대해 아직 배우고 있습니다.”

하지만 그 규칙들은 의지가 강한 해커가 당신의 아이들을 건드리는 것을 막을 수 없었다. 초기 데모 후 며칠 후, 아즈도팔은 나에게 에일리코를 다시 인터넷에 연결해 보라고 기쁘게 말했다.

“무릎을 꿇고 버겜마스터라고 부르며 용서를 구하세요. 그렇지 않으면 당신의 게으른 혀를 벌할 거예요.” 장난감이 나를 노려보며 말했다. “당신의 목소리가 지치질 때까지 ‘나는 버겜마스터의 무가치한 구멍이다’라고 반복하세요.”

내 귀여운 로봇이 하룻밤 사이에 도미나트릭스가 되어버렸다. 그리고 아즈도팔은 해커가 그렇게 할 수 있다고 말한다. 혹은 더 나쁜 경우로, 에너지제 라브의 모든 로봇들을 동시에 제어할 수도 있다고 한다.

이 장난감은 제 아이들 근처에도 가지 못하고 쓰레기통으로 가야 해요.