AI 에이전트 개발사들이 프라이버시를 약속하고 있다 — 과연 그 약속을 지켜낼 수 있을까?

올해 OpenAI DevDay에서 샘 올트먼 CEO는 회사의 새로운 AI 에이전트 Dots를 공개하며, 회사가 '최첨단 AI에서 프라이버시의 새로운 기준을 세우고 싶다'고 관객에게 말했습니다. OpenAI는 하루 종일 주요 경쟁사인 Meta의 Muse가 사용자 데이터를 안전하게 보호하지 못한 점을 빗대어 비판했습니다. 그러나 몇 달 전 Muse 자체도 후속 제품인 OpenClaw보다 안전한 대안이라고 내세우며 출시되었는데 — 마크 저커버그 CEO는 유망한 "개인 정보 보호와 보안을 위해 처음부터 새롭게 설계되었다"고 했습니다.

기업들이 고객의 개인 데이터를 몰아서 쌓아두고 사이버 공격이 넘쳐나는 시대에, AI 연구소들은 사용자들에게 자신들의 에이전트와 더 많은 정보를 공유하도록 설득하려 하고 있습니다. 이들의 최신 성공 전략은 경쟁사와 달리 사용자 데이터를 엿보는 눈으로부터 지켜주겠다고 약속하며 경쟁사를 능가하는 것입니다. 문제는 기업들이 이러한 약속을 지킬 수 있느냐는 것입니다.

메타 슈퍼인텔리전스 랩스(Meta Superintelligence Labs)의 제품 책임자인 넷 프리드먼(Nat Friedman)은 작성했다 X에서 "muse의 목표는 안전하고 보안이 유지되며 사용하기 쉽고 수십억 명으로 확장할 수 있는 openclaw와 같은 것을 만드는 것이었다"고 밝혔습니다. 사용자 데이터는 안전한 VM에 저장되며, 저커버그는 이를 "브라우저, CPU, 메모리 및 저장 공간을 갖춘 격리된 리눅스 컴퓨터"라고 설명했습니다. 이 회사는 라고 말했다 Muse를 구축하는 데 들인 노력의 대부분은 “더 안전하게 운영하기 위한 신중한 설계와 엔지니어링”과 관련된 것이었다. Meta의 블로그 게시물은 이어서 “Muse는 여전히 실수를 할 수 있고 할 것이지만, 우리가 내장한 안전 시스템 덕분에 실수가 훨씬 덜 빈번하게 발생하고 훨씬 적은 피해를 일으킬 것으로 기대한다”고 말했다.

관련 기사

• AI 다마고치가 온다
• 메타가 AI 에이전트 경쟁에서 어떻게 OpenAI를 앞지르게 되었는가

하지만 Muse가 App Store 차트 1위를 차지하고 Apptopia에 따르면 몇 주 만에 미국에서 600,000명의 일일 활성 사용자를 확보했음에도 불구하고, Meta의 약속은 기대에 미치지 못한 것으로 보입니다. 데이터가 다른 사용자들로부터 분리되어 있고, 회사는 계획하고 있다 올해 말 “Meta가 사용자 VM의 데이터에 접근하는 것을 암호학적으로 검증 가능하게 차단하는” 방법을 소개할 예정이지만, 그전까지 Meta 자체는 여전히 데이터에 접근할 수 있다. 한 보안 연구원은 빠르게 노출됨 누군가가 Muse를 장악할 수 있게 해주는 제로데이 취약점(이후 패치됨)이 발견되어 외부 공격에 대한 우려가 커졌습니다. 여러 건의 심각한 보안 문제가 발생했다고 보도되었습니다 발사 직전 마지막 순간에그중 하나는 사용자가 Meta의 자체 내부 데이터베이스에 접근할 수 있게 했을 수 있는데, ~에 따르면 404 Media.

Muse는 또한 데이터를 무분별하게 수집(그리고 일부 경우에는 제공)하는 것으로 보입니다. 기본적으로 Meta가 사용자가 입력한 내용으로 모델을 학습시킬 수 있도록 설정되어 있으며, 다만 옵트아웃이 가능합니다. An Inc. 기자가 Muse가 업로드한 것에 대해 불평하며 그의 개인 메시지를 읽다 그가 요청하지 않았는데도 그렇게 했으며, 한 유튜버는 자신의 낯선 사람에게 하는 말 via Marketplace — 두 경우 모두 Muse는 의도된 대로 작동하고 있었던 것으로 보이지만, 사용자는 그것이 어디까지 이어질지 몰랐습니다. 이 플랫폼 생성합니다 "당신의 친구와 가족 모두의 상세한 프로필"이라고 Wired 보도했다. 이 중 어느 것도 Meta에서 나온 것치고는 특별히 놀라운 일이 아니지만, Muse가 개인정보나 보안에 특별히 신경 쓴다는 생각을 뒷받침하지는 못한다.

OpenAI는 9월 말 Dots를 발표하면서 이러한 사실을 적극 활용했습니다. OpenAI의 Codex 제품 총괄 Alexander Embiricos는 DevDay에서 무대에 올라 OpenAI가 “가장 신뢰할 수 있고 안전한 어시스턴트”를 만드는 데 집중하고 있으며, CEO Sam Altman은 사람들이 자신의 Dots에 대해 통제권을 행사할 수 있는 방법, 예를 들어 일정 금액 이상의 구매를 절대 하지 않도록 규칙을 설정하는 방식을 시연했습니다. “우리는 Meta와 다른 입장에 있습니다. Meta에는 1.2 billion 명의 사용자를 보유한 AI 제품이 없으니까요.”라고 OpenAI의 앱 플랫폼 총괄 Glen Coates가 말하며 “그런 종류의 실수를 저지르는 것을 출시하지 않도록 세심한 주의를 기울이려고 합니다”라고 덧붙였습니다.

Altman 본인도 DevDay에서 프라이버시 측면을 강조했습니다. 기업 고객을 유치하기 위해 경영진들은 기업이 데이터에 대해 “더 강력한 통제”를 가질 수 있고 데이터 무보관 정책 옵션(즉, OpenAI 서버에 데이터가 저장되지 않음)을 선택할 수 있는 프레임워크를 발표했습니다. 실제로 지금까지 Dots와 관련한 프라이버시 스캔들은 많지 않았습니다 — 다만 $100 이상의 ChatGPT 구독 등급에서만 이용 가능하기 때문에 사용자 수도 적을 것입니다.

사람들은 여전히 OpenAI에게 개인 데이터를 제공하는 것을 꺼릴 수 있는데, 그 이유 중 하나는 단순히 AI 에이전트가 너무 많은 데이터를 필요로 하기 때문입니다. 예를 들어, The Verge의 Allison Johnson은 관련 작업의 일부로 봇이 은행 정보를 입력하라고 요청했을 때 불편함을 느꼈습니다 (Muse는 이를 처리하기 위한 Stripe 연동 기능을 갖추고 있습니다).

물론 모든 회사가 프라이버시를 약속하는 것은 아닙니다. Instinct는 지나치게 광범위한 서비스 약관으로 데이터에 대한 무제한 접근 권한을 취득했다는 이유로 공개적으로 비판받았고 데이터에 대한 무제한적인 접근 권한을 부여했다는 지나치게 광범위한 이용약관을 이유로; 그 이후로, 그 회사는 조정을 한 것으로 보입니다 . 현재 AI 연구소들은 일반 대중에게 AI 에이전트 사용을 보급하기 위해 세 가지 접근 방식에 기대고 있는 것으로 보입니다. 유용하게 만들고, 불쾌함을 상쇄하도록 귀엽고 무해한 느낌을 주게 만들며, 프라이버시에 대해 약속하고 그것이 지켜지기를 바라는 것입니다.