IT之家 10月5日の報道によると、Metaの新しいパーソナルアシスタント「Muse」が急速に人気を博しており、数百万人のユーザーがこの人工知能アシスタントをダウンロードし、自分の銀行口座、メッセージアプリ、または健康データと連携させて、各種業務を処理させている。しかし、Museが一般消費者層で急速に普及している一方で、アプリ内部から得られるデータにより、この製品が情報を整理しユーザーに表示する仕組みが明らかになっている。
WIRED誌の報道によると、最近数日間に多くの研究者がMuseの内部文書を抽出し、このスマートアンドロイドの動作指示を公開した。これにより、このシステムの構築方法や行動特性が明らかになった。Meta側は、これらの文書を意図的に公開したのは透明性を高めるためであると述べている。また、これらの文書を通じて、Museがユーザーの提示言葉や質問にどのように応答するか、例えば高度に政治的なまたは敏感な話題に対する処理方法も見ることができる。
独立人工知能セキュリティ研究員のカラン・ジョシーは、Museの多くの指示とシステムプロンプトを正確に抽出することに成功した。彼の方法は、通常のチャットインターフェースを直接使用し、Museが自身のソフトウェアファイルをコピーして出力させるというものである。
Museの作業指示の一つによると、このシステムはユーザーの生活における各連絡先ごとに別々のアカウントを作成するという。関連プロセスは1時間に一度実行され、指示には、家族、パートナー、友人、同僚、『協力パートナー』、そしてユーザーが『注目している』対象の各種情報をまとめて整理すると書かれている。
この設計の基本思想は、Museが自身の「記憶」、つまり構造化されたテキストファイルを利用して、あなたのソーシャル関係や周りの重要人物に関する情報を収集することです。その後、アドバイスを提供することができます。例えば、ある人間関係をどう改善すればよいかを教えたり、コーヒーが好きな友人と一緒に朝食を食べるのに適した場所を推荐したりします。もちろん、一般的な人工知能チャットボットがソーシャル情報を記録することは新しいことではありません。長年にわたって、ユーザーたちはChatGPTに人間関係に関するアドバイスを求めています。 しかし、Meta自身の背景や、膨大なソーシャルネットワークデータを手にしていることを考えると、Museがこのような設計をしたことは依然として注目に値する。
ジョシは次のように述べました。「これらすべてのヒント、システムスキルデータ、そしてMuseに入力された様々な内容からすると、彼らがあなたと現実世界の他の人々との関係を理解したいと思っているようです。彼らは友人のようにあなたを理解しようと試みています。正直言って、これは少し不安です。」
Museの内部ドキュメント説明によると、新しく作成される人物ファイルの最初は内容が簡潔なものとなることがあり、時間が経つにつれて徐々に充実していく。ファイルページには、事実情報、過去の経験、双方の関係、共通点、フォローすべき事項、関係維持のアドバイスなどのセクションが含まれる可能性がある。Metaから出される作業指示では、Museは自身が得られる「証拠」のみを使用することが明記されている。根拠のない情報を作り上げることは、空白のファイルページを保持するよりもずっと不適切である。
指示には「相手がどこに住んでいるか、何をしていて、何度も話されるテーマ（引っ越しのこと、共通の貯蓄目標）」と書かれている。文書ではまた、モデルは「重要な日付」も記録できると述べられている。例えば誕生日や記念日などだ。人物の過去経験セクションでは、「3月のその旅行、和解したその争い、先週起こった重要な出来事」といった背景イベントを記録することができる。
指示では、人間関係の詳細も記録される必要がある。「双方の親密さの度合い、この関係が築かれた背景、お互いの付き合い方、そして現在この関係に存在するようである要望」などです。関係維持セクションでは、人間関係を改善するための実行可能な方法が提示される。「電話をかける適切な理由、記念すべき日、相手が後続で対応が必要と言ったこと、相手に意味のある支援を提供できる方法」などです。
オックスフォード大学人工知能倫理研究所の准教授であるカリサ・ベリスは次のように述べています。「私たちが人工知能システムに提供する自身に関する情報は、システムから得る情報よりもはるかに多い。それには、私たちが積極的に伝える内容だけでなく、システムが行う様々な推測も含まれる――その推測が正しいかどうかに関わらず、どちらの場合も懸念すべき点がある。さらに、システムは他のデータ源から得られる断片的な情報も統合することができる。」
Museのアーキテクチャは、各独立したユーザーに専用の仮想マシンを割り当てるように設計されており、そのマシンには該当ユーザーのデータと対話の文脈が保存される。他のスマートアイドルはこの仮想マシンにアクセスできない。ユーザーはいつでも記憶記録を削除したり、各種外部サービスの認可を解除したりすることができる。Metaによると、Museはメールの送信や支払いなどの操作を行う前に、ユーザーの確認を求めるという。同時に、システムは監査ログを保持しており、ユーザーはそのスマートアイドルが既に行ったすべての活動と今後の計画を見ることができる。
メタ・スポークナー、ダニエル・ロバーツは『Wired』誌に対して次のように声明を発表しました。「何らかのインテリジェントアプリが機能し、あなたの目標を実際に達成するためには、あなたとその対話相手に関する背景情報を把握する必要があります。Museが収集するこの種の情報は、公開された内容や、あなた自身が共有することを選択したデータから得られます。」 これらの記憶に頼りながら、彼は自分に請求書を送った人が以前、トイレの水道管の修理を手伝ってくれた配管工か、あるいは自分の配偶者がどの種類の花が最も好きか言っていたことを覚えているのだ。
IT之家が注目したところ、現在多くの人工知能アシスタントには記憶機能が搭載されており、そのおかげで返信やタスクの実行がユーザーの個人的状況に合わせられるようになっている。民主と技術センターの人工知能ガバナンスラボの主任であるミランダ・ボーゲンは、競合他社のシステムと比べて、Museは人間関係や個人連絡先の記録に重点を置いていると述べている。全体的に、このようなツールはある程度の透明性や記憶編集機能を提供することが一般的であり、Museも同様の機能を持っている。 しかし、博根はまた指摘しています。この種の人工知能アイドルやアシスタント製品は、ユーザーに既に保存されているデータを削除することを促すのではなく、ユーザーが自発的にシステムにより多くの個人データを提供するように促すものであると。
「これらの人工知能アシスタント製品は、ユーザーが自分の全生活を接続するよう積極的に促しています。電子メール、カレンダー、金融口座など、すべてを連携させ、その代わりにアシスタントのサービスを受け取るのです」と博根は言います。「ユーザーが企業に提供する情報の量は、これまで人々が提供しようとしていた範囲をはるかに超えています。こうしたツールが取得できる情報の範囲は続けて拡大し、彼らが持つユーザー情報も急激に増加しています。」