IT之家 10월 5일 소식에 따르면, Meta의 새로운 개인 도우미인 Muse가 빠르게 인기를 얻고 있으며, 수백만 명의 사용자가 이 인공지능 어시스턴트를 다운로드하여 자신의 은행 계좌, 메시지 앱 또는 건강 데이터와 연동하여 각종 작업을 처리하도록 하고 있습니다. 하지만 Muse가 일반 소비자들 사이에서 빠르게 보급되는 동안, 앱 내부의 데이터를 통해 이 제품이 정보를 정리하고 사용자에게 전달하는 작동 방식도 알려지고 있습니다.
《WIRED》지에 따르면, 최근 며칠 동안 여러 연구원들이 Muse의 내부 문서를 추출하여 이 스마트 어시스턴트의 작동 지침을 공개했습니다. 이를 통해 이 시스템의 구축 방식과 행동 특징을 알 수 있습니다. Meta는 이러한 문서가 의도적으로 공개된 것이며, 투명성을 높이기 위한 것이라고 항상 밝혔습니다. 또한 이러한 문서를 통해 Muse가 사용자로부터 받은 질문과 요청을 어떻게 처리하는지, 예를 들어 매우 정치적이거나 민감한 주제에 대한 처리 방식도 알 수 있습니다.
독립형 인공지능 보안 연구원 카란 조시(Karan Joshi)는 Muse의 많은 명령과 시스템 프롬프트를 성공적으로 추출했습니다. 그의 방법은 일반 채팅 인터페이스를 직접 사용하여 Muse가 자신의 소프트웨어 파일을 복사하고 출력하도록 하는 것이었습니다.
Muse의 작업 지침 중 하나에 따르면, 이 시스템은 사용자의 생활에서 만나는 모든 연락처에 대해 개별적으로 파일 페이지를 생성한다. 관련 프로세스는 매시간 한 번 실행되며, 지침에 따라 시스템은 가족, 파트너, 친구, 동료, "협력 파트너" 및 사용자가 "관심을 가진" 대상들의 각종 정보를 통합하여 정리한다.
이 설계의 기본 개념은 Muse가 자신의 “기억”, 즉 구조화된 텍스트 파일을 통해 당신의 사회적 관계와 주변 중요한 사람들에 대한 정보를 수집한다는 것입니다. 그 후에는 조언을 제공할 수 있습니다. 예를 들어, 특정 인간관계를 어떻게 개선하는지 알려주거나, 커피를 좋아하는 친구와 함께 아침 식사를 하기에 적합한 장소를 추천할 수 있습니다. 물론, 일반 인공지능 채팅 로봇이 사회적 정보를 기록하는 것은 새로운 일이 아닙니다; 오랫동안 사용자들이 ChatGPT에게 인간관계에 관한 조언을 요청해왔습니다. 하지만 Meta의 기반 상황과 방대한 소셜 네트워크 데이터를 보면, Muse가 이러한 디자인을 했다는 것은 여전히 주목할 만합니다.
조시는 이렇게 말했습니다. “이 모든 질문들, 시스템 기술 데이터, 그리고 Muse에 입력된 다양한 내용들을 보면, 그들은 당신과 현실 세계의 다른 사람들과의 관계를 알고 싶어 하는 것 같습니다. 그들은 친구처럼 당신을 이해하려고 노력하는 것 같아요. 솔직히 말해서, 이는 조금 불안할 수 있습니다.”
Muse의 내부 문서 설명에 따르면, 새로 생성된 인물 파일의 내용은 처음에는 간단할 수 있지만 시간이 지나면서 점차 보완됩니다. 파일 페이지에는 사실 정보, 과거 경험, 양측의 관계, 공통점, 후속 조치 사항 및 관계 유지에 대한 조언 등의 섹션이 포함될 수 있습니다. Meta가 제공하는 작업 지시에 따르면, Muse는 자신이 얻을 수 있는 “증거”만 사용해야 하며, 허공에서 정보를 만들어내는 것은 빈 페이지를 그대로 두는 것보다 훨씬 부적절합니다.
지시문에는 “상대방이 어디에 살고, 어떤 일을 하며, 반복적으로 언급되는 주제(이사 관련 사항, 공동 저축 목표)가 무엇인지”라고 적혀 있었습니다. 문서에서는 또한 모델이 생일이나 기념일과 같은 “중요 날짜”도 기록할 수 있다고 언급되었습니다. 인물의 과거 경험 섹션에는 “3월의 그 여행, 이미 화해된 그 다툼, 지난주에 일어난 중요한 사건”과 같은 배경 사건들을 기록할 수 있습니다.
지시문에는 또한 인간관계 측면의 세부 사항을 시스템이 기록해야 한다고 명시되어 있습니다: “양쪽의 친밀도, 이 관계가 형성된 근거, 서로의 상호작용 방식, 그리고 현재 이 관계에서 어떤 요구가 있는 것으로 보이는지.” 관계 유지 섹션에서는 인간관계를 개선할 수 있는 실행 가능한 방법을 제시할 예정이며, 여기에는 “전화를 거는 적절한 이유, 의미 있는 날짜, 상대가 후속 조치가 필요하다고 말했던 내용, 상대에게 의미 있는 지원을 제공할 수 있는 방식” 등이 포함됩니다.
옥스퍼드 대학교 인공지능 윤리 연구소의 부교수인 카리사 벨리즈는 다음과 같이 말했다: “우리가 인공지능 시스템에 제공하는 자신의 정보는, 우리가 그 시스템으로부터 얻는 정보보다 훨씬 많습니다. 우리가 의도적으로 알려주는 내용뿐만 아니라, 시스템이 내리는 모든 종류의 추론도 포함됩니다 — 그 추론이 정확하든 아니든, 두 경우 모두 우려할 점이 있습니다. 또한 시스템은 다른 데이터 소스에서 얻은 조각난 정보도 통합할 수 있습니다.”
Muse의 아키텍처는 각 개별 사용자에게 전용 가상 머신을 할당하여 해당 사용자의 데이터와 대화 컨텍스트를 저장합니다. 다른 스마트 엔티티는 이 가상 머신에 접근할 수 없으며, 사용자는 언제든지 기억 기록을 삭제하거나 각종 외부 서비스의 권한을 끊을 수 있습니다. Meta에 따르면, Muse는 이메일 발송이나 결제 처리와 같은 작업을 수행하기 전에 사용자 확인을 요청하며, 시스템은 감사 로그를 보관하여 사용자가 해당 스마트 엔티티가 이미 완료한 모든 활동과 향후 계획을 확인할 수 있습니다.
메타 대변인 다니엘 로버츠(Daniel Roberts)는 《왓칭》에 발표한 성명에서 다음과 같이 말했습니다: “어떤 인공지능도 효과적으로 작동하여 당신의 목표를 달성하려면, 당신과 당신의 상호작용 대상에 대한 정보를 알아야 합니다. Muse가 수집하는 이 정보는 공개된 내용과 당신이 선택하여 공유하는 데이터에서 비롯됩니다.” 이런 기억에 의존해서, 그는 자신에게 청구서를 보내준 사람이 이전에 화장실 배관을 수리해준 배관공인지, 혹은 자신의 배우자가 가장 좋아하는 꽃 종류가 무엇인지도 기억할 수 있다.
IT之家는 현재 많은 인공지능 도우미들이 기억 기능을 탑재하여 응답과 작업 수행이 사용자의 개인 상황에 더 잘 맞게 되었다고 지적했습니다. 민주와 기술 센터 인공지능 거버니스 실험실 책임자인 미란다 보겐은 경쟁 제품 시스템에 비해 Muse가 인간관계 및 개인 연락처 기록에 더 중점을 두고 있다고 말했습니다. 전반적으로 이러한 도구들은 어느 정도의 투명성과 기억 편집 기능을 제공하는데, Muse도 같은 기능을 갖추고 있습니다. 하지만 보겐도 지적했듯이, 이러한 인공지능 AI와 도우미 제품은 사용자들이 기존에 저장된 데이터를 삭제하는 대신, 시스템에 더 많은 개인 데이터를 자발적으로 제공하도록 장려하는 역할을 합니다.
“이러한 인공지능 도우미 제품들은 사용자들이 자신의 모든 삶을 연결하도록 적극적으로 유도합니다. 이메일, 캘린더, 금융 계정 등 모든 것을 통합하여 도우미의 서비스를 얻는 것입니다.” 보겐이 말했습니다. “사용자들이 기업에 제공하는 정보의 양은 이전보다 훨씬 많습니다. 이러한 도구들이 접근할 수 있는 정보의 범위는 계속 확대되며, 그들이 보유한 사용자 정보도 급격히 증가합니다.”