ジャック・ドーシーのBlockは、「人間の会話だけを使ってゼロから訓練した」というDessaというAIモデルを発表しました。このモデルのデモとして、Blockは人間とのチャットのやり取りを公開しましたが、そこには時折少し気まずかったり不気味だったりする瞬間があります。
たとえば、 この会話は、Dessaのリードを務めるRagavan Thurairatnamが共有したものです。モデルと話し手の間の会話は、概ね自然なやり取りになっています（ただし、なぜかモデルは最初、話し手を「Ronaldo」という人物と勘違いしています）。
以下は 動画 で、Dessaが音声で当てっこゲームをしている様子です：
Dessaの ウェブサイト には他にもいくつかの例が掲載されています。例えば、Christopher Nolanの映画についてのやり取り（Dessaが思いがけずBryan Singerの スーパーマン 映画について脱線する場面も）、Dessaをパリへのサプライズ旅行に連れて行くと告げる人との会話（ウェブサイトの説明によれば、Dessaは「涙ぐんだ感謝の言葉のような返答」をする）、そしてOpenAIのGPT-Live-1音声モデルとDessaの会話（こちらではDessaの方がより自然に感じられます）。こうした会話の一部のクリップは この動画.
で聞くことができます。ウェブサイトで、Dessaチームは、Dessaは「真の音声間（speech-to-speech）モデルであり、その知識はすべて人間の音声から得たもの」であり、MacBook Pro M4 Max「またはそれ以上」の環境でローカルに実行できると述べています。開発の理由について、チームは「好奇心（つまり楽しさ）、人間とAIのより良い相互理解、そして安全性」の3つの理由を挙げ、さらに詳しい説明を提供しています：
赤ちゃんは、書かれた言葉を一度も見ずに話すことを学びます。私たちは、モデルにも同じことができるかどうか確かめたかったのです。できます。ただ、とても難しいのです。
音声は、超知能であれそうでないものであれ、あらゆる知能にとって最も自然なインターフェースですが、今日の音声AIはそれを無駄にしています。私たちの発言をテキストに平坦化し、人間のテンポについていけないのです。
AIは力と自律性を増し続けていますが、私たちの声に込められた感情に対しては、依然としてほとんど耳が聞こえないままです。激しい痛みの中にいるのに、音声AIがそれに気づかず、ただ作業を続ける状況を想像してみてください。それが安全性の問題です。Dessaはその解決に向けた一歩です。
Dessaチームは、このモデルへの早期アクセスを「少数のAI安全性研究者」に提供する予定だとしています。
この記事のトピックや著者をフォローすると、 パーソナライズされたホームページのフィードで類似の記事をさらに表示したり、メールによる最新情報を受け取ったりできます。