サイバネティクスの創始者であるノルベルト・ウィーナーはかつて、「各時代の思想はその技術に反映される」と言った。過去1世紀にわたり、私たちの思想はコンピュータに反映されてきており、特にAI産業におけるものもそうである。Googleのデミス・ハサビスは脳を「チューリングマシンの生物学的近似」と呼んでいる。エロン・マスクはより率直に、「人々は脳を生物学的なコンピュータと考えるべきだ」と述べている。（マスクの脳はよく心配になる。）
しかし、人間はコンピュータとの単純な比較で見るだけでは評価できないほど複雑であり、AI業界の多くが認識しているよりもはるかに複雑です。そして、彼らの製品が文化に深く浸透していくにつれて、なぜこんなにも混乱が生じるのかを説明するのに役立ちます。実際、AIはホットドッグの認知版のようなものです。一瞬のうちに私たちを魅了するものですが、数千年にわたって進化してきた認知システムの健全性や持続可能性を損なうのです。
問題を理解するためには、少しの神経科学と人類の進化の全歴史が必要です。
脳がコンピュータであるという考えは、アラン・チューリングに遡る。これは、思考を3段階のプロセスとして捉え、機能的にはアルゴリズムであると主張する。私たちの心は世界から情報を受け取り（入力）、ある方法でそれを操作し（計算）、そして行動を起こす（出力）のだ。知覚が認識につき、認識が行動につながる。もう少し詳細な表現では、次のような図になっている。
多くの点で、このモデルは有益であった。私たちの脳をコンピュータと考えることで、技術者たちは単純な加算機から人工ニューラルネットワークや生成型AIへと計算技術を発展させ、自分たちの心のより詳細な鏡を求めてきた。
しかし、この鏡の像は正確ではないものの、歪んでおり限定的である。コンピュータとコンピュータ科学の発展において重要な人物であるジョン・フォン・ノイマンは、疑問を抱いて、計算モデルが「人間の神経系の特異な複雑性」を捉えることができるかどうかを疑った。つまり、私たちの神経系は、「世界」と呼ばれる広大な生態系を理解するために進化したのである。そして私たちはその世界に働きかけて、できる限りその制御を行うのである。
計算的なアプローチでは、人間の心の最終的な成果を観察し、その機能を「逆工程学」的に解明しようとします。しかし、後退する代わりに、数百万年にわたる進化の歴史を詳細に調べて、初めからモデルを構築する方が良いかもしれません。これは、モントリオール大学の神経科学者ポール・チセクが推奨するアプローチです。彼は何百万年にもわたる脳と神経系の発達の生物学的モデルを忍耐強く開発してきました。
チセクは、情報処理器ではなく、私たちの脳はよりよく理解されるべきだと主張している フィードバック制御システム私たちの体は単に入力を受けるだけではなく、利用可能な選択肢に応じて、その入力を調整するために行動を起こす。Cisek自身が指摘するように、これは新しい考えではない。20世紀初頭に哲学者ジョン・デューイが心を回路と表現し、「反射よりもむしろ有機的である」と述べた。なぜなら、運動反応が刺激を決定し、感覚刺激が動きを決定するのと同じように、というからだ。
二つのアプローチの違いは何でしょうか？
野球の古典的な例として、外野でフライボールをキャッチすることがあります。計算モデルによると、この問題を解くには、外野手がボールの速度を推定し、重力の影響を計算し、そしてボールがどこに行くかを「計算」するために、複雑で無意識の mental calculusが必要です。
関連
対照的に、フィードバック制御アプローチは単純なヒューリスティクスを提案する――基本的には「視野内のボールを同じ位置に保ち、その状態を維持するために動く」というものだ。私たちは受け取る刺激を調整するために行動する。
これは、センターフィールドをプレイした経験を持つ人々の体験に忠実であるだけでなく、心理的プロセスと身体的動作を分離することも避けられ、計算モデルが必要とする複雑な計算の使用も避けられます。人間はそれ以上にダイナミックです。.
このアプローチは、脳の生物学的構造が時間をかけて進化してきたことともよく一致する。古代の魚から両生類、哺乳類、霊長類、そして最終的に現代人に至るまで、新しい環境の可能性に応じて新しい行動が生まれることが観察される。例えば、恐竜が絶滅したとき、夜行性の生物は昼間に世界を自由に行動できるようになり、捕食されるリスクが減ったため、さまざまな新しい能力が生まれた。Cisekの観察によると、私たちの神経系の歴史は「制御範囲を世界にさらに広げていくという継続的な拡大」である。（彼の来るべき本ではこれらすべてをより詳細に探求する予定であり、この論文が彼にその本を完成させるよう微妙なプレッシャーを与えることを願っている。）
これにより、上の図とは全く異なる別の図が得られる。時間の経過とともに現れた行動や能力のマップを描くことができる。 そして 脳の具体的な物理的構成要素を、このような能力に重ねることができます：
計算モデルと同様に左から右に移動するのではなく、このモデルは進化の時間の経過とともに上から下へと展開されるものと見なすべきです。例えば、昔、脊椎動物がより多くの機動性を発達させるようになると、ランドマークを利用したり夜間を移動するなどの目的で、専門的なシステムを持つことが有用になりました。これが現在の海馬の発達につながったのです。 重要なことに、これはまた私たちの祖先が一箇所から別の場所へと急ぎ移動する重要な瞬間を記憶するようになり、過去の経験に関する「断片的記憶」の発達につながったことでもある。
心の計算モデルでは、このようなことは全くできない。それは単に観察可能な神経科学的结构とは一致しないのだ。さらに、脳が行っている多くのことを、生き物がその環境内でどのように相互作用するかを制御することであるという事実が曖昧になる。 そのため、Cisekは、脳と行動の関係を理解するために用いるパラダイムを大きく変える必要があると提案しています。アルゴリズム的な入力出力のアプローチから、よりダイナミックなフィードバックシステムへと移行すべきだとです。
これまでの人間の発展に関する話は、主に物理世界からのフィードバックに焦点を当ててきました。しかし、人類にとって最も重要な「フィードバックループ」の一つは、私たちの深く社会的な性質から生じるものです。計算モデルも、この点を十分に考慮していない――AI業界も同様です。私たちは何千年にもわたって、互いに学び合い、コミュニケーションを取るための制度や規範を築いてきましたが、10年足らずの間に、大規模テクノロジー企業がそれらを体系的に破壊してきました。
どうやって？再び、歴史的背景が必要です。
数十万年ほど前のある時点で、私たちの遠い祖先は信じられないことをした。彼らは互いを模倣することを学んだのだ。ジェスチャーや身体動作を模倣することで、石の道具を削るといった成功した技術を次世代に伝えることができ、また共通の儀式行為を通じてより複雑な活動を調整することができた。それが私たちの認知を形作った。これが人類文化の始まりであった。
私たちは何千年もの間、互いに学び合い、コミュニケーションを取るための制度や規範を築いてきました。大企業は体系的にそれらを解体しようと努力しています
人類はやがて音を模倣し、それによって口頭言語へと進化した。以前にも触れたように、言語は思考と同じではないが、私たちが互いの思考を伝えることを可能にする。ある時点で、私たちの放浪する狩猟採集民の祖先も、移動し続けるコミュニティに定住し始め、食料を得るために移動するのではなく、複雑な農業技術を発展させた。
最終的に、私たちは言語や他の抽象的な概念を表すために、書かれた記号を使い始めました。複雑な思想を世代間で伝達することができるようになりました。知識が人間集団によって共有されることを確保するプロセスである正式な教育は、やがて出現しました。そして時間が経つにつれて、「市場」や「法」、『民主主義』といった、人間の意思決定を集団化する慣行や制度も生まれました。
私が今しゃもしゃと述べた各主張は争点があるものであり、ここで提供できる以上の詳細が必要である。しかし、このプロセスは私たちの生物学的進化と連続的である。つまり、両者ともに周囲の世界に対するより広範な制御を促進しているという意味だ。
そして時には、この文化的変化が意図しない結果を生み、助けになるどころか害となります。
人間の食事は、おそらく最も明らかな例である。狩猟採集時代には、脂肪分の多い食品は珍しいものであったが、生存にとって貴重なものだった――Aloneをご覧になれば疑いようもない――そして私たちは、それを見つけたら体の中に蓄えるように進化した。しかしその後、農業や他の農業技術が文化として発展し、約1万年かけて、今日では脂肪分の多い食品が豊富になった――ハッピーバーガーが欲しいなら、たくさん手に入る。
AIは、世界を理解するために必要な知識を開発する私たちの能力を妨げる
それが問題です。ホットドッグは私たちの身体にとって危険であり、不要な脂肪で動脈を詰まらせます。AIも同様に、私たちの認知能力に危険をもたらします。世界を理解するために必要な知識を頭の中で獲得する能力を妨げるからです。これは認知的なホットドッグです。
時々のホットドッグは誰にも害はありませんが、昼食や夕食の定食になってしまうと確実に害があります。AIについても同じです。害は、たまに使うことから来るのではなく、私たちの心の食事の一部にすることから来るのです。
しかし、それこそがビッグテックのハイパースカーラーがやろうとしていることなのです。
2025年7月に放送された「AIが教育をどう変えているか」に関するポッドキャストで、OpenAIの教育担当副社長であるLeah Belskyは自慢げに、「ChatGPTの月間平均9億人のユーザーの半数以上が「学習者」である」と述べました。彼女はこのサービスを「世界最大の学習プラットフォーム」と表現しました。最近、Anthropicは「Claude for Teachers」という新しいプロジェクトを発表し、教師向けにプレミアムモデルへの無料アクセスを提供しています。
これらの取り組みは、学生にも教師にも利益をもたらさない。実際、これは私たちの認知能力を発達させるために依存しているシステムをAIが弱めている最も明確な例である。便利さのためだけに。
フランソワ・ショレは、以前グーグルでソフトウェアエンジニアをしていた人で、印象的である 記述された 彼が定義する「認知自動化」のツールとしてのAIとは、「人間の抽象概念をソフトウェアにエンコードし、そのソフトウェアを利用して人間が通常行う作業を自動化すること」である。昨年、学術家たちからなる学際的なグループが 議論した 説得的に、生成型AIを大規模言語モデルという形で見るべきだとし、それは「主に知能エージェントとしてではなく、新しい種類のものとして」 文化と社会の技術「他の人々が蓄積した情報を人間が利用できるようにする」（強調は原文）
AI愛好家たちは、この技術の利点について多くの予測をしており、欠点については、コンピュータや計算機、さらには文字表記といった以前の自動化形態と同等であると見なしている。（私は、プラトンが文字表記に反対したとされるという引用が何度も寄せられました。そのため別の記事でそれらに対処しました — 彼は作家でした！）
人間の思考を置き換えることを明確に目的としたものを、これまでに開発し、広く展開したことはない
これらの初期の技術の効果が何であれ、人間の思考を置き換えることを明確に目的としたものを、これまでにこんなに広く開発し、普及させたことはない。それはAIの擁護者たち自身が主張していることである。
教育について見てみましょう。ChatGPTは世界最大の学習プラットフォームかもしれませんが、学生たちはそれを大々的に利用しています。 避ける 彼らの持続可能な知識を築くために必要な、努力を要する思考。 証拠 続く to マウント 示す その 負の 影響 の AI 教育環境内のツール（そしてGen Z全体として） 嫌いだ）。最近 研究 中国の調査によると、AIを利用し始めた後、何千人もの学生が実質的に宿題をやらなくなったという。これは彼らの学習に大きな害を与えることになる。さらに 証拠 生徒が学習目的で大規模言語モデルを使用すると、他の状況において判断や批判的思考を緩める習慣が身につくということです。
他の種の脳や体が、私たちのように長期間にわたって発達することはない。歴史的に、私たちは知識を次世代へ伝える独自の文化機関を備えている。この人間特有の努力を熱心に守るべきだが、多くの大学や学校の管理者、さらには大規模テクノロジー企業は、AIを教育システムにできるだけ深く、速く導入しようと全力を尽くしている。
もし私たちが だけ 心をコンピュータと見なせば、AIは学習に有利かもしれない——だからこそ多くの人がAI教師を作ることを夢見ている。しかし、すでにそのような努力が 失敗、なぜなら私たちの脳は単なる入力出力装置ではないからです。それらは存在する、あるいは言い換えれば 私たち より広範な認知エコシステムの中で存在し、私たちは自らの認知エネルギーをどのように使うかについて選択を迫られる。私たちは、その限られたものであっても、自分の世界に対する自己決定権や制御力を高めるためにそうするのである。
もし私たちが だけ 心をコンピュータと見なせば、AIは学習に有利に思えるかもしれない――しかしこのモデルは間違っている
しかし、これは課題をもたらす。難しい思考には努力が必要であり、技術的な代替手段が提供されれば、私たちはそれを利用するだろう――一部の研究者が言うように 最近呼ばれる認知委任認知委任が広がるにつれて、彼らは「自主的な推理を支える社会的環境が弱まる」と警告する――そしてそうなると、そのような委任は「さらに簡単で魅力的になる」。
研究者たちは認知プログラムを推奨している 免疫化 AIから、人間の認知を活発にする「実践や制度」を保つもの：助けを借りずに問題を解決し、確認し、批判的な議論を行い、意図的に離れる時間を維持するもの。
そのような機関を「学校」と呼びます。
ポリシーのレバーも引かれる必要があります。私は とても 興味深いのはノルウェーだ 最近禁止された 13歳未満の生徒に対する学校でのAIのすべての利用。米国では、主要な教師組合も同様である 呼ばれた 小学校や主要な学区でのチャットボットの禁止について ロスアンジェルス そして ニューヨーク市 最近、禁止措置も実施しました。（開示：これらの禁止を推進する団体である「Schools Beyond Screens」に、私は非公式なアドバイスを提供しました。）彼らが最後にそうするわけではない、と私は願っています。
良いニュースと言えるかもしれないのは、抵抗が強まっているということです。おそらく、AIを称賛する卒業式のスピーカーを非難する大学卒業生の多くの動画を見たことがあるでしょう。それは、雇用に関する懸念が原因かもしれませんが、多くの人がAIが自分たちの認知発達に与えた害を認識していると私は思います。確かに、オーバーリン・ラドイテ・クラブの学生たちも同様です。彼らは大学の学長に宛てた公開書簡で、その機関がAIを取り入れることに対して批判しました。「あなたがAIの年を迎えるとき、私たちは自己実現の年を迎えます。自分の努力の成果を実感し、人間の不完全さと生々しい探究を受け入れるのです。」正にその通りです。
私たちの脳の制御システムは、何百万年にもわたる生物学的進化と数千年にわたる文化的進化の産物です。心の計算モデルから掘り下げてみると、私たちが人間である理由や、人類文化を動かす深遠な社会的性質を理解することができます。私たちは種として驚くべき回復力を持っていますが、認知的な「ホットドッグ」を食べ続けることは、誰にとっても良くありません。
健康的に食べ、健康的に考える。
この記事のトピックや著者をフォローして、個人用ホームページのフィードで同様の内容をさらに見たり、Eメールでの更新情報を受け取ったりできます。