今年のOpenAI DevDayで、サム・アルトマンCEOは同社の新AIエージェント「Dots」を発表し、「フロンティアAIにおけるプライバシーの新基準を打ち立てたい」と聴衆に語った。OpenAIはこの日を通じて、主要競合であるMetaのMuseがユーザーデータの安全確保に失敗していると、遠回しに非難した。しかしMuse自身、その数か月前には、前任のOpenClawよりも安全な代替品として登場し、マーク・ザッカーバーグCEOは 「最初からプライバシーとセキュリティのために構築された」と 約束していた。
企業が顧客の個人データを貪欲に集め、サイバー攻撃が日常茶飯事となった時代に、AI研究所はユーザーにさらに多くの情報をエージェントと共有するよう説得しようとしている。成功のための最新の戦略は、ライバルとは違ってユーザーデータをのぞき見から守ると約束することで競合を上回ることだ。問題は、企業がこれらの約束を守れるかどうかである。
Meta Superintelligence Labsのプロダクト責任者ナット・フリードマンは、 X上で 同社の「museに関する目標は、安全でセキュアで使いやすく、数十億人にスケールできるopenclawのようなものを構築することだった」と書いた。ユーザーデータはセキュアなVM上に保存され、ザッカーバーグはこれを「ブラウザ、CPU、メモリ、ストレージを備えた分離されたlinuxコンピュータ」と説明した。同社は、Muse構築の取り組みの大部分が「より安全に運用するための慎重な設計とエンジニアリング」に関連していたと 述べた。Metaのブログ記事は続けて、「Museは間違いを犯すことがあり、これからも犯すだろうが、われわれが組み込んだ安全システムにより、その頻度ははるかに少なく、被害もはるかに小さくなると期待している」と述べた。 Museの構築における労力の大部分は、「（それを）より安全に運用するための慎重な設計とエンジニアリング」に関連するものであったという。Metaのブログ投稿は続けてこう述べた。「Museは間違いを犯すことは依然としてあり得ますし、実際に犯すでしょう。しかし、私たちが組み込んだ安全システムのおかげで、その頻度ははるかに少なく、被害もはるかに小さくなると期待しています。」
AIたまごっちがやってくる
- MetaはいかにしてAIエージェント競争でOpenAIをリードしたか
- しかし、MuseがApp Storeのチャートを席巻し、Apptopiaによると数週間で米国において600,000人のデイリーアクティブユーザーを獲得したとはいえ、Metaの約束は不十分に思われる。データは他のユーザーから分離されており、同社は
しかし、MuseはApp Storeのチャートで首位を獲得し、Apptopiaによると、数週間で米国において600,000人のデイリーアクティブユーザーを獲得したものの、Metaの約束は果たされていないように見える。データは他のユーザーから分離されており、 、Meta自身は依然としてデータにアクセスできる。セキュリティ研究者はすぐに、誰かがMuseの制御を乗っ取ることを可能にするゼロデイ脆弱性（その後修正済み）を 今年の後半に「あなたのVM内のデータにMetaがアクセスすることを暗号学的に検証可能な形で防ぐ」方法を導入する予定ではあるが、Meta自身は依然としてデータにアクセスすることができる。あるセキュリティ研究者はすぐに、 、外部からの攻撃への懸念を引き起こした。複数の深刻なセキュリティ問題が、報道によれば 誰かがMuseの制御を乗っ取ることを可能にするゼロデイの脆弱性（その後パッチが適用された）を発見し、外部からの攻撃への懸念を高めた。複数の深刻なセキュリティ問題が報道によると発生し、 発生し、そのうちの一つはユーザーがMeta自身の内部データベースにアクセスすることを可能にしていた可能性があるという（そのうちの1つは、ユーザーがMeta自身の内部データベースにアクセスすることを可能にしていた可能性があると、 米テックメディア「404 Media」の報道では述べられている。.
Museはまた、 dataを広範に収集し（場合によっては提供し）ているようにも見える。ユーザーが入力した内容に基づきMetaがモデルを訓練することをデフォルトで許可しているが、オプトアウトは可能だ。 Inc. の記者は、頼んでいないのにMuseが彼の プライベートメッセージをアップロードして読み上げた と不満を述べ、あるYouTuberは、MuseがMarketplaceを通じて彼の 住所を見知らぬ人に提供した と語った。いずれの場合も、Museは明らかに意図されたとおりに機能していたが、ユーザーはそれがどこまで及ぶかを認識していなかった。このプラットフォームは、「あなたの友人や家族全員の詳細なプロファイル」を 作成する 。 Wired 報じられた。このいずれもMetaにとって必ずしも意外なことではないが、Museがプライバシーやセキュリティに関して特別に配慮しているという見方を裏付けるものでは確かにない。
9月下旬にDotsを発表した際、OpenAIはこの事実を強調しました。OpenAIのCodexプロダクトリードであるAlexander Embiricosは、 舞台上で述べた DevDayにおいて、OpenAIは「最も信頼でき、安全で、セキュアなアシスタント」の実現に注力していると述べ、CEOのSam Altmanは、一定額を超える購入を決して行わないようルールを設定するなど、個人のDotをユーザーが制御できる方法を実演しました。「Metaとは異なる立場にあると思います。彼らには12億人のユーザーを持つAI製品がないのですから」 述べた OpenAIのアプリプラットフォーム責任者であるGlen Coatesは、「その種のミスを犯すものをローンチすることは、私たちが細心の注意を払って避けようとするところです」と付け加えた。
altman自身も同様にそれを推し進めた。 プライバシーの観点 DevDayにて。企業顧客を獲得するため、経営陣は、企業が自社のデータをより「強力なコントロール」で管理できるようにし、データ保持ゼロのポリシーオプション(OpenAIのサーバーにデータを一切保存しないことを意味する)を提供するフレームワークを発表した。実際、これまでDotsに関するプライバシー問題のスキャンダルはほとんど起きていない。ただし、月額100ドル以上のChatGPTサブスクリプションプランでのみ利用可能なため、利用者も少ないことがその理由として考えられる。
人々は依然としてOpenAIに個人情報を渡すことに抵抗を感じるかもしれない。その理由の一つは、単純にAIエージェントが非常に多くの個人情報を必要とすることにある。例えば、 The Vergeアリソン・ジョンソン 銀行の情報を入力することに不安を感じていた ボットが関連タスクの一環として尋ねた場合(MuseにはそのためのStripe連携があります)。
もちろん、プライバシーに関する約束をしているのはすべての企業ではありません。Instinctは 「公に批判した」 過度に広範な利用規約によりデータへの無制限のアクセスを許していたとして報じられたことに対して;それ以来、同社は ~であるとみられる 調整を加えました。現時点で、AIラボは一般の人々にAIエージェントの利用を広めるための三段構えのアプローチを頼りにしているようです:役に立つものにすること、不気味さを相殺するために可愛くて警戒心を解くものにすること、そしてプライバシーについての約束をすること——その約束が守られることを願いつつ。
トピックと著者をフォローする このストーリーをフォローすると、パーソナライズされたホームページのフィードで同様の記事をより多く見たり、メールによる最新情報を受け取ったりできます。