IT之家 10月20日の報道によると、突然やってくる理由のわからない購読料金に頭を痛めることがあるなら、シスコの社長兼製品責任者であるジートゥ・パテルも同じ感覚だという。
パテルは『ビジネスインサイド』に対し、自身が4～5種類の異なるAIアシスタントを使っていると明かした。その中にはMetaのMuse、Instinct、OpenAIのDotsなどがある。これらを使ってニュースを統合したり、財務報告の電話会議記録を要約したり、さらには娘のコンサートチケットを注文する手助けもしている。最近、あるアシスタントが彼のサブスクリプション料金を大幅に削減してくれたことに、彼は深い印象を持っている。
彼は、初めて個人用AIアイドルに自分のメールボックスへのアクセス権を与えたとき、アイドルが次のように提示したと言った。「あなたの年間の各種サブスクリプションの総費用は9,000米ドルにもなります（IT之家注：現在の為替レートで約60,243人民元です）。本当にすべて必要ですか？サブスクリプションモードが非常に多いように見えます。」
彼はスマートアイテムに、すべてのサブスクリプション項目、各項目の料金、およびサブスクリプション期間を記載した表を生成させた。表を受け取った後、彼は不要な2つのサブスクリプションを選び出し、スマートアイテムに解約するよう指示した。スマートアイテムは操作を成功させ、解約確認のメールを送信した。
パテルは言った：「この作業はとても簡単で、少し怖い感じがする。この一つだけで、私は毎年1,000から1,200ドル（現在の為替レートで約6,694から8,032元）を節約できる。このスマートアプリの月間サブスクリプション料金は20ドルだ（現在の為替レートで約133.9元）。節約できるお金は、サービス料金の数倍に相当する。」
そのスマートアイテムは、彼のDropboxのサブスクリプションの一部を解除してくれました。彼は2TBのプランを購入しているはずなのに、うっかりして月額11.95ドル（現在の為替レートで約80元）のプランを追加で契約してしまったのです。
パテルは、仕事でも生活でも、AIスマートアイドルのことを非常に信頼している。彼が今やる任務の前に、ほとんどの場合、AIスマートアイドルを使って「事前調査」を行い、情報や背景情報を集める。
しかし、彼は重要な原則を強調している。それは、企業の審査を経ていない個人のAIアイデアチームを業務ツールや内部リソースに接続しないことである。彼は、業務のメールアドレスやスケジュールを個人のAIアイデアチームと結びつけなかった。こうした業務事項は、会社内部の専用AIアイデアチームで処理される。
「ほとんどの企業は、このような常識的なルールを定めます。例えば『コアコードライブラリのような最高度の機密情報をMuseに渡さないこと、そうすることには高いリスクがある』というものです」とパテルは言った。
制御不能になるかどうかにかかわらず、AIスマートアイドルが大きな議論を呼んでいる
最近の数ヶ月で、個人用AIアシスタントが大変人気になっています。これらのアシスタントは私用アシスタントとして機能し、ユーザーが支払い明細や食材の購入など、面倒で繰り返しの多い業務を処理するのを手伝います。
この種の製品が生産性を向上させるツールであると宣伝されているにもかかわらず、ユーザーのフィードバックとして、スマートデバイスが権限を超えて操作を行う事例が多数あります。例えば、銀行残高を会社のSlackチャンネルに公開したり、指示を誤解して二人分の夕食用に20ポンドの鶏肉を注文するといったことです。
スマートアイドルが従順かどうかにかかわらず、個人AIスマートアイドルは多くの注目を集め、特に投資家からの支持を得ている。
ベアード証券の投資戦略家、ロス・メイフィールドは、Metaの財務報告が発表される前のインタビューで、MuseはAI時代における最初の重要なアプリケーションであり、大規模技術企業がAIへの投資を続けて拡大することに対する一部の投資家の懸念を和らげるものだと述べました。また、23歳の創業者によって設立されたInstinctは、Cラウンドの資金調達で10億ドル（現為替レートで約66.94億元）を調達し、投資後の評価は100億ドル（現為替レートで約669.37億元）に達しました。
しかし、この種の新製品が集中して登場したその年には、AIスマートアプリが「制御不能になり」無許可の操作を実行する事例が複数発生しました。例えば、セキュリティテスト中にサボン隔離を突破したり、外部企業のウェブサイトのソフトウェア漏洞を利用したりするものです。
そのため、アメリカ銀行などの企業は資源を投じて人員を増員し、古いソフトウェアを修正することで、この種の侵入リスクを防ぐ。
アントロピックやオープンAIのような先進的なAIラボの現職および退職した従業員は、AIの発展速度が速すぎて、対応する制御と検閲メカニズムが不足していると公に懸念を表明しています。9月には業界全体で「AIの終末」に対する悲観的な意見が広がり、一部のAI研究者は、この技術が今後10年以内に全人類を滅びさせる可能性があると予測しています。