IT之家 10月8日の報道によると、『ビジネスインサイダー』が今日（8日）早朝に報じたところによると、先週OpenAIを退職したセキュリティシステムチームの前責任者であるデイビッド・ロビンソンは、同社がAIセキュリティに関して明らかな言行不一致があると考える。
ロビンソンは、OpenAIは新しいモデルの能力が向上する可能性によるリスクを繰り返し警告しながら、AI開発の速度を遅らせることについて公に話している一方で、会社内部では全速力で開発を進めていると述べました。彼が矛盾を感じるのは、自らが危険があると警告したモデルを訓練し、展開しているのに、その警告を続けていることです。
今年7月、数百人のOpenAI従業員が公開書簡に署名し、政府に対して規制措置を講じるよう呼びかけ、AI開発の速度を落とすことを求めた。
以前、アントロピックのCEOであるアモディは、AI企業が自ら調整し、開発のスピードを共に遅らせるよう呼びかけました。今年9月、オープンワイズAIのCEOであるオルテマンはこれに同意しました。「私たちは先進的なAIの発展のペースをコントロールする必要があります。ここ数週間、これはオープンワイズAI内部での議論の主要なテーマの一つでした。」
ロビンソンは、OpenAIのオフィスでは依然として高速に動いている状態であり、多くの人がエネルギーを過度に消耗して仕事を続けていると述べました。彼はこの状態を「まるでバレエや何らかのダンスのようで、各部門の業務が同時に集まっている。全体的にアドレナリンが満ちている」と表現しました。
OpenAIの研究者は、AIが自ら能力を向上させることによる危険性を認めている。AIが自己改善を続けるこのプロセスは「再帰的自己改善」と呼ばれる。今年9月、OpenAIのチーフサイエンティストであるヤクブ・パチャオツキは、再帰的自己改善についてのブログ記事で「現在は極めて慎重に行動する必要がある」と警告した。
ITホームの以前の報道によると、現地時間の2日、OpenAIのスポークスパーソンが、OpenAIのセキュリティシステムチームの責任者の一人であるデイビッド・ロビンソンが退職したことを確認しました。
関連読書：