何が起きているのか
2013年、イタリアのプログラマーAlberto Brandoliniは一つの法則を提唱した。「でたらめを否定するために必要なエネルギーは、それを生み出すために必要なエネルギーの10倍である」。この非対称性は、SNS時代の情報環境を端的に表現していた。
だが、大規模言語モデル（LLM）の普及は、この法則の前提を根本から変えた。嘘をつくコストが限りなくゼロに近づいたのである。
従来の誤情報生産には、少なくとも「もっともらしい文章を書く」という人間の労力が必要だった。しかし現在では、数秒のプロンプトで専門家の文体を模倣した長文を生成できる。科学論文風の体裁、統計データの捏造、架空の引用元の創出——いずれも技術的には容易になった。
一方、ファクトチェックの側は何も変わっていない。根拠となる一次資料の調査、複数ソースの照合、専門家への確認、わかりやすい反論の作成——これらの工程は依然として人間の判断と時間を要する。
背景と文脈
ブランドリーニの法則の歴史的位置づけ
ブランドリーニの法則は、情報の非対称性に関する古くからの知見を現代に再定式化したものである。プロパガンダ研究において「嘘は反復によって真実になる」という観察は、ナチス時代から知られていた。しかし、デジタル環境がこの非対称性を構造的に拡大した点が新しい。
Bergstrom & West（2020）は『Calling Bullshit』において、この問題を「情報の質に関する市場の失敗」として整理した。質の低い情報が質の高い情報を駆逐するメカニズムは、グレシャムの法則の情報版ともいえる。
Firehose of Falsehood モデル
RAND Corporation の Paul & Matthews（2016）は、ロシアのプロパガンダ戦略を分析し「Firehose of Falsehood（虚偽の消火ホース）」モデルを提示した。その特徴は4つある。
- 大量・多チャネル: 複数の媒体から同時に大量の情報を発信する
- 迅速・継続: 最初に情報を出すことを優先し、訂正が追いつかない速度で発信し続ける
- 一貫性を気にしない: 矛盾する主張を同時に流しても問題としない
- 事実であることを要求しない: もっともらしさだけで十分とする
このモデルが示すのは、「受け手が情報を処理する認知コスト」が有限である以上、大量の低品質情報によって高品質な情報が埋もれるという構造的問題である。
AI時代の質的変化
LLM以前のFirehose of Falsehoodは、組織的な人員を必要とした。国家やクリック農場（click farm）が典型的な運用主体だった。
AI以降、個人が同等の情報量を生成できるようになった。これは非対称性の「民主化」ともいえるが、実態はむしろ情報環境の劣化を加速する。Anthropic Institute（2026）の設立背景にもあるように、AI技術の社会的影響を研究する必要性は急速に高まっている。
構造を読む
コスト構造の変化
誤情報生産のコスト構造は、以下のように変化した。
| 要素 | LLM以前 | LLM以後 |
|---|---|---|
| 文章生成 | 人間が執筆（時間） | 秒単位で生成（≈ 0） |
| もっともらしさ | スキルが必要 | モデルが自動付与 |
| 多言語展開 | 翻訳者が必要 | 即時翻訳 |
| 大量生産 | 組織が必要 | 個人で可能 |
| ファクトチェック | 専門家 + 時間 | 変化なし |
重要なのは、訂正側のコストがほぼ変わっていない点である。AI支援によるファクトチェックの効率化は部分的に進んでいるが、「最終的に人間が判断する」という工程は省略できない。
無知学的視点からの分析
Proctor（2008）の無知学が示すのは、無知には3つの類型があるということである。
- ネイティブな無知: まだ知られていないこと（unknowing）
- 失われた知識: かつて知られていたが忘れられたこと（forgetting）
- 戦略的に作られた無知: 意図的に生産される無知（strategic ploy）
ブランドリーニ非対称性のAI増幅は、第3の類型——戦略的に作られた無知——の生産コストを劇的に引き下げた。無知は今や産業的に製造可能であり、その「製造原価」は歴史上もっとも低い水準にある。
帰結としての「認知的洪水」
この構造が行き着く先は、McIntyre（2018）が『Post-Truth』で分析した「ポスト真実」状態の常態化である。問題は「何が真実かわからない」ことではなく、「真実かどうかを気にしなくなる」ことにある。
情報の洪水に晒された受け手は、やがて判断を放棄する。これはRAND（2016）が指摘した「Firehose の最終目的」そのものである——相手を説得するのではなく、相手の判断能力を消耗させること。
本研究室の問い
この仮説が提起する問いは、技術論ではなく社会設計論にある。
- ブランドリーニ非対称性の拡大を定量的に測定できるか
- 訂正コストを構造的に引き下げるメカニズムは何か
- 個人のリテラシー向上以外に、どのような制度設計が有効か
- 日本の情報環境において、この非対称性はどのように顕在化しているか
これらの問いは、仮説5（コミュニティベースのレジリエンス）と直接接続する。
参考文献
Agnotology: The Making and Unmaking of Ignorance
Proctor, R. N. & Schiebinger, L.. Stanford University Press
原文を読む
The Russian 'Firehose of Falsehood' Propaganda Model
Paul, C. & Matthews, M.. RAND Corporation, Perspectives PE-198
原文を読む
Calling Bullshit: The Art of Skepticism in a Data-Driven World
Bergstrom, C. T. & West, J. D.. Random House
原文を読む
Post-Truth
McIntyre, L.. MIT Press
原文を読む