AI 하드웨어를 통해 기술 기업들은 '녹음'이 무엇인지, 그리고 무엇이 녹음에 해당하지 않는지를 정의하는 방식을 추진하고 있습니다. 기기의 역사 대부분에서 마이크나 카메라가 있는 장치는 당신을 녹음하고 있거나 아니면 그렇지 않은 것으로 가정하는 것이 합리적입니다. 즉, 켜져 있거나 꺼져 있거나, 별다른 모호한 부분은 없습니다. 마이크는 소리를 캡처합니다. 카메라는 이미지를 캡처합니다. 이 데이터는 장치에 저장됩니다. 때로는 처리를 위해 클라우드에도 전송되기도 하는데, 이때 엔드투엔드 암호화가 적용된다고 기대됩니다. 이 데이터는 시간의 순간을 보존한 것이므로 녹음이 됩니다.
아마도 이제는 아닐지도 모릅니다.
지난주, 블룸버그의 마크 구르만은 애플이 비동영상 저장 기능이 없는 스마트 홈 카메라를 개발하고 있다고 보도했습니다. 대신 AI는 시각 데이터를 활용하여 집 주변에서 일어나는 일을 설명하는 텍스트를 생성합니다. 얼굴 인식 기능도 지원될 예정이지만, 동영상은 저장되지 않습니다. 이 기술 덕분에 일부 개인정보는 보호될 수 있습니다. 구르만에 따르면, 이 기술은 미래의 AirPods에 장착될 카메라와도 유사한 방식으로 작동할 것입니다.
Apple Watch Series 12과 Apple Watch Ultra 4와 유사합니다. Apple Watch는 오랫동안 마이크를 탑재하고 있었으며, 주로 Siri 사용이나 손목에서 전화를 받는 용도였습니다. Audio Intelligence 기능 중 네 가지 중 두 가지가 온라인에서 많은 논쟁을 불러일으켰습니다: Live Rewind과 Siri Recap입니다. 전자는 지난 15초의 대화 내용을 녹음해 주며, 후자는 하루 동안의 대화를 높은 수준의 요약으로 생성할 수 있습니다.
다른 말로 하면, 레이본 메타 안경은 사진을 찍고 비디오를 녹화하며, 이 내용은 휴대폰에 저장됩니다. 이 애플의 방식에 따르면 카메라가 당신을 볼 수 있고 마이크가 당신의 목소리를 들을 수 있지만, 아무것도 “저장”되지는 않습니다.
이것이 기록으로 간주되나요? 애플은 소문에 대해 언급하지 않지만, 공개적으로 전달되는 방식을 보면 음성 지능의 개인정보 보호 철학에 따르면 회사는 그렇게 생각하지 않는다고 볼 수 있습니다. 애플은 이러한 기능들이 음성 데이터를 저장하지 않는다고 말합니다. 원시 데이터는 S11 프로세서의 안전한 별도 영역에서 처리된 후 삭제됩니다. 클라우드로 전송되는 모든 정보는 개인 클라우드 컴퓨팅을 통해 전달되므로 애플이나 제3자에게 접근할 수 없습니다.
애플만이 아닙니다. 구글의 웨어러블 부문 수석 디렉터인 산디프 와라이치는 말했습니다. The Verge 인에 대화 구글도 이 개념을 고려하고 있다고 그는 주장했다. 스마트 안경에 카메라를 장착하는 것이 어떨까? 하지 않았다 데이터를 기록하나요? 예를 들어, 안경이 AI를 사용하여 환경 내의 시각 데이터를 처리할 수 있다고 해도, 그 데이터를 기록하지 않는다면 어떻게 될까요? 그러면 워라이치는 카메라가 단순히 이미지 센서에 불과하다고 주장했습니다.
이러한 정의에 따르면, “기록”되기 위해서는 무언가가 보존되고 검토 가능해야 합니다. 하지만 스마트 홈 카메라나 스마트워치에서 생성된 모든 텍스트 전사본도 보존되고 검토 가능한 것이 아닌가요? 혹은 AI 하드웨어를 더 매력적으로 만들려는 노력에서, 기술 회사들은 법정에서 소환될 수 있는 것에 의존하고 있는 건 아닐까요?
관련
의미론을 논하는 것이 어리석어 보일 수 있지만, 여러 개념이 여기서 테스트되고 있습니다.
개인정보 보호에 대한 당신의 개인적인 의견이 무엇이든 간에, 자신의 데이터를 원하는 대로 처리할 수 있다는 점은 일반적으로 인정됩니다. 기기들이 "항상 듣는" 기능을 갖기 전에는 공공 및 사적 공간에 더 매끄럽게 통합되었습니다. 하지만 이 새로운 종류의 기기들은 다른 사람들의 프라이버시를 더 적극적으로 관리해야 합니다. 결국 인간은 밀폐된 거품 속에서 살지 않습니다. 우리는 다양한 환경에서 살고, 일하고, 어울립니다 — 어떤 곳은 사적인 곳이고, 어떤 곳은 공공의 곳이며, 많은 곳은 중간적인 상황입니다. 레스토랑의 규칙은 극장, 사무실, 스포츠 경기장과는 다릅니다. 이들도 모두 어느 정도 공공적인 공간이지만, 공중 화장실과는 크게 다릅니다. 마음속에 보는 모든 것을 기록한다 해도, 인간의 기억은 객관적으로 공유될 수 없습니다. 그 기억들은 편견에 의해 색깔이 지고, 관점에 따라 왜곡됩니다. 녹음된 내용은 주관성이 적고, 사실성도 높다고 할 수 있습니다.
일반적으로 인정되는 규범이 없을 때 의도를 표시하는 문제도 있습니다. 메타의 스마트 글래스를 예로 들면, 누군가가 비디오를 녹화할 때를 나타내기 위해 하얀색으로 점멸하는 “프라이버시 라이트”를 사용합니다. 반면, 녹화등의 보편적인 색상은 빨간색이므로, 기술에 대한 지식이 부족한 사람은 하얀색 빛이 무엇을 의미하는지조차 알지 못할 수 있습니다. (결국 이들도 여전히 희귀한 제품일 뿐입니다.) 수정 없이도, 백색 프라이버시 조명은 콧수염과 밝은 햇빛 속에서 쉽게 가려집니다. 이는 새로운 현상입니다; 다른 스마트 안경이나 AI 하드웨어 회사들은 메타와 같은 방식으로 이러한 의도를 표시할 의무가 없습니다. 오디오나 비디오를 기록하는 AI 반지나 펜던트는 아예 빛이 없을 수도 있습니다.
더욱 혼란스러운 것은, 점점 더 기록할 수 있는 제품들이 실제로는 기록할 수 없는 제품처럼 보이는 경우입니다. 기술 회사들이 카메라를 추가하기 시작한다면 이 상황은 더욱 악화될 수 있습니다. 안 하세요 시각적 영상을 기록하세요. 스마트 글러브에 카메라를 추가하기 시작한다면 안 하세요 비디오 영상을 기록할 때, 어떻게 그 두 가지를 구분할 수 있을까요? 마이크가 없는 Oura Ring이 Vocci Ring처럼 보이고, 둘 다 일반적인 링처럼 보인다면, 평범한 사람은 무엇을 해야 할까요?
현재로서는 하드웨어가 감시 기술 논쟁의 주요 초점인 것 같습니다. 카메라를 없애면 문제가 해결될 것 같은 느낌이 있습니다. 하지만 그렇지 않으며, 이 기술을 악의적인 목적으로 사용하기가 더 어려워집니다. 하지만 분명한 것은, 사람들을 불편하게 만드는 것은 카메라나 마이크로폰 자체가 아닙니다. 불편함은 당신의 정보가 다른 사람의 기기에 저장되어 있다는 사실을 알게 되면서 생기는 것입니다. 그 정보가 어떻게 사용될지 전혀 모르는 상태입니다.
이곳에서 인공지능 하드웨어와 관련된 모든 긴장감이 집중됩니다. 빅테크가 상상하는 방식대로 인공지능이 “좋고” 진정으로 개인화된다면, 그 기업은 당신에 대해 많은 것을 알아야 합니다. 그리고 당신의 삶 속의 사람들. 그것은 당신이 보는 것을 '보고', 듣는 것을 '듣고', 일상적인 행동에서 배우도록 해야 합니다. 그렇게 하기 위해서는 이런 것들을 '기억'해야 합니다. 그래서 어떤 면에서는, 반드시 당신의 삶과 그 안에서 일어나는 모든 일을 기록하세요. 대형 기술 기업이 이 데이터를 수집하는 동기는 분명합니다: 개인 정보는 돈이고, 돈은 권력이며, 권력은 영향력을 의미합니다. 하지만 사회가 이런 조건 속에서 얻는 것이 무엇인지는 명확하지 않습니다. 유용함과 편의성에 대한 모호한 약속일까요?
어쨌든, 기술 기업들이 기존 모든 기기에 AI를 도입하는 데 앞서 나가고 새로운 형태를 개발하고 있다는 것은 분명합니다. 현재는 휴대폰과 웨어러블 기기에서 가장 두드러지지만, 이러한 접근 방식은 곧 스마트 홈, TV, 노트북, 태블릿, 헤드폰으로도 확산될 것으로 보입니다. 아마도 소비자들이 아직 고려하지 못한 방식으로 말입니다.
우리가 이러한 AI 기기들이 기억하도록 허용하는 내용은 우리가 알고 있는 문화를 바꿔놓을 것입니다. 그래서 우리는 녹음이 무엇인지, 그리고 누가 그 정의를 바꿀 수 있는지에 대해 사회적 합의에 도달해야 합니다.
이 이야기의 주제와 작가를 따라가세요로 당신의 맞춤형 홈페이지 피드에서 이와 같은 내용을 더 많이 볼 수 있고 이메일 업데이트도 받을 수 있습니다.