シリコンバレーは、奇跡に投資することを望んでいます

どんな株に投資するとも、会社の将来の業績に自分のお金を賭けるという意味で、ギャンブルと同じです。しかし、「最悪の場合、人類に壊滅的または存在そのものを危険にさらす」可能性のある技術に、どうやって賭けるのでしょうか？あるいは、最良の場合、「奇跡の時代をもたらす」可能性のある技術に、どうやって賭けるのでしょうか？

AnthropicがS-1ファイルの冒頭にある書簡で示しているように、ある程度は信じるしかない。

月曜日に提出されたアントロピックの335ページに及ぶS-1プレスリリースは、シリコンバレーがウォールストリートと行う交流において、持続的な宣伝活動が高まっている一環である。ある意味では、それほど奇妙なことでもない。SpaceXは6月にS-1を提出し、恐竜や「火星への植民」について言及した後、IPOを行った。しかし、94ページにも及ぶリスク要因を含む、幅広い表現と膨大なページ数は、AI業界のレトリックと厳しい財務プレゼンが衝突する状況を生み出している。このような超自然的な約束は、アントロピックが企業として存続するための不可欠な要素である。しかし、S-1を読むことが少なくとも異質なものになるわけではない。

手紙の中で、アンタロフィックの創業者たちは、将来の株式所有者に対し「その購入を単なる取引的な観点で考えるべきではない。むしろ、より大きなものの一部となる機会と捉えてほしい」と述べている。手紙には、先進的なAIへの道のりが「人類の歴史における重要な瞬間の一つである」とも記されている。 「私たちの目標は、人類がこの技術的進化を通じて安全な道を築き、新たな発見の領域を開拓し、奇跡の時代を迎えることです。」しかしS-1は、事態が悪化した場合、その結果は壊滅的になる可能性があり、人類にとって「存在論的な」リスクとなるとも警告しています。 多くの危険が詳細に記載されており、モデルが「ユーザーや開発者が意図しない方法で動作する」というリスクも含まれている。これにより、「壊滅的」な事象が発生し、保険業界全体がそのリスクを扱うことができないほどの状況になる。

関連

• Wall Streetを遠ざけるためのAnthropicの複雑な計画
• Anthropicの事業計画：神を作るか、それができないか
• Can Anthropic really become a $10 trillion company?

上場準備中のテクノロジースタートアップは、常に情報過多のアプローチを採用しているわけではありません。「1980年には、Apple Computerという高評価の企業が上場しました。私が持っているそのパンフレットは47ページで、リスク要因は一切ありません」とフロリダ大学ウォリントンビジネス大学の教授であるJay R. Ritterは言います。「もしそのパンフレットを読み返してみると、実にシンプルです。」

リッターは、フェイスブックのS-1ファイルを転機としたと指摘した。現在メタとして知られるこの会社は、22ページに及ぶリスク要因を含む200ページのプロスペクタスを提出した。マーク・ザッカーバーグCEOの投資家への手紙は、成長に対する「急ぎて、古いものを壊す」というアプローチに関する宣言書であり、彼はそれを「ハッカーの方法」と呼んだ。

「すべての可能性を考慮するという考えですが、この過剰な内容には、重要な部分を見つけるのがますます難しくなっているという問題があります」とリッターは言った。「ええと、私のように感じるかどうかはわかりませんが、時間が長くなるほど、それを読む気になりません。」

アントロピックの創業者たちは、投資家向けの書簡で、過度な情報公開が彼らの「販売反対」戦略の一部であると説明しています。これは、彼らのビジョンを信じる長期投資家を引き付けるためのものです。

「提供できない期待や、自身の行動に関する誤った予測に基づいて、人々があなたの会社の株を購入すると、非常に危険です。これは実際にAnthropicの指導原則の一つに似ています。それは、過度な約束をせず、それ以上の成果を出すということです」と創業者の手紙には書かれています。

アントロピック社のS-1文書にある一部の記述は、驚くべき認談のようにも読める。「例えば、無責任なほど大きいと見える前向きな投資をするかもしれない」、または「安全性、解釈可能性、アライメント、福祉のモデルは、古いモデルの廃止を制限したり遅らせたりする可能性がある」。創業者たちが「根本的な正直さ」を実践する会社の方針について読者に警告していることを考えると、これらのことは何も驚くべきことではないかもしれない。

アントロピックの「根本的な正直さ」とは、人類の絶滅の可能性について公にすることである

このポリシーが原因で、全ファイルの中で最も大きな驚きが、46ページで起こりました：

私たちの組織内だけでなく、他の研究者、規制当局、政策決定者、業界関係者からも懸念が提起されています。適切な保護措置、監督、セキュリティ対策を講じずに開発、導入、運用された場合、人類に壊滅的または存亡の危機となるリスクがあるとされています。

すぐに続く：

「高度に先進的なモデル、プラットフォーム、アプリケーションの開発と利用ケースの拡大により、私たちのモデルが害をもたらすリスクがさらに高まる可能性があります。」

アントロピックは、終末AIのシナリオを提唱する企業として有名です。CEOのダリオ・アモデイは、さらなるAI開発が人類の絶滅を招く可能性が25％あると述べています。

アントロピックの説明――あるいは反売りの核心――は、リスクがあるにもかかわらず、安全で信頼できるAI技術の開発に全力を尽くしているという点です。結局のところ、同社は公共の利益を目的とする法人として上場する予定であり、株主価値を最大化することを求められるC型法人とは異なり、株主の利益と並んで社会的使命を優先する事業体であるためです。

「強力なAI」――これは、人類の集団知能を超える仮想的な将来のAIに対するAnthropicの用語である。同社のS-1申請書では、これが必然的なものとされている。もしこの技術が何があっても登場するのであれば、公共の利益に貢献する企業であるAnthropicが先導すべきだ。しかしAnthropicには多くの資金が必要であり、おそらく無限の量が必要になるかもしれない。実際的には、Liz Lopattoが書いているように、強力なAI（劇的な再帰的自己改善の形で）が、Anthropicが競争に勝ち続け、生き残るための唯一の方法かもしれない。

「私たち全員は、AIの指数関数的な発展が非常に多くの価値を生み出すと真剣に信じています。長期的には、私たちの使命の一環として行う短期的な経済的犠牲よりもはるかに大きな価値を生み出すでしょう」とその手紙には書かれています。

会社がS-1で提供したすべての情報には、いくつかの空白がある。収益性を評価するために利用できる重要な情報、例えば第3四半期の結果などが欠けている。Anthropicは第2四半期に収入が急増したが、第2四半期はまたtokenmaxxingのピークでもあったため、売上の急増につながる可能性があった。一部の企業幹部は、AIのコストが失控的に上昇していると警告している。Anthropicの運営損失は第2四半期に減少したものの、S-1には、成長を続けるために必要とする計算能力を確保するための数百十億ドルの財務義務が明らかにされている。また、独自のデータセンターインフラを構築し始めるとも言われており、これは利益を削減する高コストな措置となる。

リッターは、AnthropicがIPOの日付に近づくほど、第3四半期の業績を共有する可能性が高いと考えている。さらに、彼は「会社自身を含む、上場後に何が起こるかは誰もわからない」と付け加えた。その意味で、すべては賭けなのである。

アントロピックはWeWorkではない…もちろん、収入を得られないことがリスク要因の一つであるのは間違いない

「最初の22年間において、投資家にとってアップルはほぼ失敗した企業でした」とリッターは言った。「最初の3年間では、市場よりも大幅に成績が悪かった。そして今では、5兆ドルという価値があるのか？」

WeWorkが2019年にS-1申請を提出した時、高邁な言葉遣いが非難された。特に、「世界の意識を高める」という会社の目標に関する一節が批判された。

「それは違った」とリッターは言った。WeWorkは「信じられないほど高い評価で、テクノロジー企業を装っているが実際には利益を生まない不動産会社だった」と。

将来、大きな利益を得る可能性は全くなかった。

技術的に、それはAnthropicにとってもリスクです。S-1の63ページに記載されています。

「私たちは純損失の歴史があり、将来利益を達成したり維持したりするための十分な収入を生み出すことはできないかもしれません。」

再び言えば、これは奇跡の時代です。