토니 페이델이 첫 번째로 개최되는 MIT Future Fest무대에 오르면, 이미 단종된 한때 화제가 되었던 AI 기기 세 가지 — Rabbit R1, Humane AI 핀, 그리고 Limitless 펜던트 — 의 이미지가 담긴 슬라이드를 보여준다.
"이것들은 '1세대' AI 제품에 해당하는데, 제 배경 때문에 이 회사들이 저에게 전화해서 도움을 요청했습니다,"라고 페이델은 말했다. "저는 하지 않았습니다."
이 회사들이 페이델의 조언을 원하는 것은 놀라운 일이 아니다. 그는 "아이팟의 아버지"로 인정받고 있으며, 아이폰의 공동 창조자이자 구글에 인수된 스마트 온도조절기 회사 네스트(Nest)의 창립자이다.
"자신이 무엇을 하려는지, 어떤 고통을 해결하려는지 정말로 이해해야 합니다,"라고 그는 말했다. "이 사례들 각각은 어떤 필요도 충족시키지 못했습니다 — 그저 기괴한 것들을 좋아하는 사람들에게 흥미로운 기술일 뿐이었고, 사람들은 '알겠어, 괜찮네, 그런데 내 삶에 딱히 쓸모가 없네'라고 느꼈습니다."
이러한 초기 AI 기기들은 개인 비서를 둔다는 편리함을 약속했지만, 실제로는 그다지 잘 작동하지 않았다. 비록 잘 작동했더라도, 대부분의 사람들은 비서를 둔 적이 없어서 개인 로봇 도우미를 어떻게 사용하고 — 또 어떻게 신뢰하게 되는지 — 알지 못한다.
"인간 [비서]에게 일을 맡겨본 적이 있는 사람은 전 세계 인구의 0.01%도 되지 않습니다. 그래서 [기업들이] '아, 우리는 비서가 원해요'라고 말할 때, 그것은 비서를 둔 사람들에 의해 나온 말입니다,"라고 그는 말했다. "대부분의 소비자는 비서가 무엇인지조차 모릅니다."
페이델은 99.99%에 속한 우리에게 신뢰할 수 있는 개인 비서를 고용하는 것이 서류 더미에서 가장 유망한 이력서를 뽑는 것만큼 간단하지 않다는 점을 설명한다.
"저는 [비서를] 가장 효과적으로 활용하는 법을 이해하는 데 몇 년이 걸렸고, 그다음에 가장 민감한 데이터를 맡기고, 사람들과의 회의를 주선하고 은행과 업무를 처리하는 대리인 역할을 맡기는 데에도 시간이 걸렸습니다,"라고 그는 말했다. "우리가 미래에 대한 비전을 갖고 있다는 것은 이해하지만, 일반 소비자는 물론 일반 기업조차 이 길에 들어서려면 아직 많은 단계가 필요합니다."
개인 비서에 대한 신뢰를 쌓는 것의 어려움에 대해 이야기하면 다소 특권적인 인상을 줄 수 있지만, 페이델의 말에는 일리가 있다. 인간 비서를 고용할 때 첫날부터 은행 계좌 로그인 정보를 넘겨주지는 않는다. 우리는 누구나 개인 AI 비서를 가질 수 있는 세상으로 향하고 있지만, 이러한 도구는 완전히 안전하다고 신뢰할 수 있을 때만 가치가 있다.
현재 시점에서 AI 비서와의 신뢰를 구축하는 것은 인간에게 의존하는 것보다 더 어려워 보인다. 메타는 최근 범용 AI 비서인 Muse를 출시했지만, 사용자들이 경계할 이유가 있다. 보안 연구원은 출시 직후 Muse에서 심각한 취약점 을 발견했으며, 최근 404 Media의 보도 에 따르면 일부 메타 직원들이 보안 문제를 발견하여 여러 팀이 출시 전에 이 문제들을 해결하기 위해 초과 근무하며 "필사적인 질주"에 나섰다고 한다.
"우리가 어떤 종류의 지능에든 맡기는 모든 것에 있어 신뢰와 안전이 최우선이 될 것입니다,"라고 페이델은 말했다. "지금 이것을 해낼 수 있는 회사로 제가 볼 수 있는 곳은 — 아마 한 곳 더 있을지 모르지만 — 애플뿐입니다. 애플은 모든 하드웨어를 갖추고 있고, 모든 칩, 모든 조각들을 갖추고 있지만, AI 관련 부분은 다 갖추고 있지 않습니다."
궁극적으로 가장 강력한 AI 에이전트를 만드는 것이 애플이 아니더라도, 페이델은 성공적인 에이전트는 프라이버시를 위해서도, 기술을 가볍게 유지하기 위해서도 온디바이스 방식으로만 작동해야 할 것이라고 예측한다.
"'데이터 센터가 세상을 정복할 것'이라는 이런 저런 이야기를 들을 때 … 저는 믿지 않습니다,"라고 그는 말했다. "저는 이런 것을 전에 봤습니다. 인터넷 시절에 이것이 어떻게 전개되는지 봤습니다. 이제 우리는 디바이스에서 엄청난 성능과 더 많은 컴퓨팅 파워를 갖추고 있고, 여전히 배터리로 작동합니다."
민감한 데이터를 클라우드를 통해 전송하는 대신 온디바이스에 보관함으로써, 애플은 Face ID와 같은 기능을 통해 생체 인식 데이터를 공유하도록 사용자들의 신뢰를 얻었다. 페이델이 지적하듯이, 프라이버시 문제와 관련해 애플은 경쟁사들보다 소비자들로부터 더 많은 호의를 얻고 있는 것으로 보이지만, 다른 최고 기술 기업들과 달리 애플은 자체적인 세계 최고 수준의 AI 모델을 갖고 있지 않다 — 새로운 Siri AI는 구글의 Gemini를 맞춤 제작한 버전으로 구동된다.
애플은 자체 AI에서 뒤처져 있지만, 하드웨어에서는 한참 앞서 있다. 페이델은 메타 와 OpenAI 같은 회사들이 가젯에 주목하는 이유는 애플처럼 수십억 대의 기기를 보급하고 있지 않기 때문이라고 이론화한다.
“그건 그들이 당신 휴대폰의 센서에 접근할 수 없기 때문입니다. 그들은 ‘아, 영상이 필요하겠는데’ 하고, 그러면 당신은 ‘네, 영상을 드리겠습니다’라고 체크해야 하죠. 그다음 ‘오디오가 필요합니다.’ 체크. ‘당신의 GPS 위치가 필요합니다.’ 체크. 그러다 보면 어느새 당신이 그들에게 허용한 목록이 20가지 이상이 되어 버립니다.” 그는 말했다. “그럼 그들은 어떻게 할까요? 화면 없이 그 모든 것을 다 담은 기기를 만들어서… Bluetooth나 Wi-Fi로 당신의 휴대폰에 연결한 뒤 웹으로, 또는 5G 네트워크로 백업해서 모든 센서 데이터를 가져가는 겁니다.”
iPhone과 iPod을 만든 그의 이력을 감안하면 Fadell이 여전히 전 직장을 눈에 넣어도 아프지 않을 만큼 좋게 보고 있는 것처럼 보일 수 있다. Apple이 잘한 점은 인정하면서도, 그가 문제를 일으킨다고 생각하면 Apple을 공개적으로 비판하는 것에 인색하지 않았다.
청중 한 명이 제품-시장 적합성을 찾는 데 운이 얼마나 작용하는지에 대해 묻자, Fadell은 스타트업에게는 그런 운을 만들어내기가 더 어렵다고 지적했다. 실패한 제품은 회사의 끝을 의미할 수 있기 때문이다.
“스타트업이기 때문에 기회는 한 번뿐입니다.” 그는 빈정대며 말했다. “Vision Pro를 내놓는 Apple 같지 않다는 거죠.”