『知ってるつもり 無知の科学』
2023-02-22 開始
2023-02-26 読了
原題 "The Knowledge Illusion"
あとがきに記載のある「本書の三つの主題」:
- 無知
- 知識の錯覚
- 知識のコミュニティ
人間は「自分が思っているより」無知である
私達はみんな「知識の錯覚 (knowledge illusion)」を抱いている. 実際にはわずかにしか理解していないのに物事の仕組みを理解しているという錯覚.
自身の知識を過大評価する.
何でもできる/知ってる人はいない. だから人間は協力する
我々は自分が「知っている」ことと, 他の誰かが知っていることを区別することができない.
これは認知の特徴であると同時にバグでもある.
インターネットのおかげで, すぐ手が届くところに世界中の知識があると思うと, まるでそれらが自分の頭の中にあるような気になってしまう.
;; "検索すれば何でも分かるから学校は要らない" 的な極論言ってた人もいたな
知識を表現すること自体難しいし, とりわけ「自分が知らないことはコレです」と特定することは非常に難しい
個人としてどのような貢献ができるかは、知能指数より他社と協力する能力によって決まる部分が大きい (p.34)
ダニング・クルーガー効果。「完全に理解した」。
自分の知識を「どの程度」過大評価しているのか、を測定する方法。
まず最初にあるものをどれだけ理解しているか10段階で示してもらって、その後に説明させて、改めて自分の理解度を10段階で測定してもらう。
最初 8 とか言ってたけどいざ実際に自分の言葉で説明しようとすると、やべーしらねーってなってその後は 2 とかに下がるかも知れない。そこのギャップが「どの程度過大評価しているか」とみなせる。
熟慮は思考プロセスの一つに過ぎない。認知の最部分を占めるのは直感的思考
熟慮に関しては、コンピュータと人間の思考は似ている、と言えるかも知れないが、あくまで思考全体に対して言えば部分的な類似性にとどまる
脳は特定のタイプの問題を解決できるように進化してきた。"膨大な情報を正確に蓄積する" ことは、脳の得意分野ではない
脳の得意分野は「抽象化」
人間は「因果」を考える. 自然に因果的推論を行う。これはコミュニケーションにも通じる。
相手の行動の背後にある意図を理解し、相手が達成しようとしている結果を特定すること。これはあらゆる社会的交渉で行われる因果分析。
実験によれば、14ヶ月の幼児でも大人の意図を理解することができる。が、チンパンジーは大人でもできなかった。
;; 実験の内容にもよる気がする. けっこう高度な推論を必要とする内容だったはず. 簡単な意図の理解であればペットの犬とかとけっこう通じ合ってる事例を見聞きするし
古くから因果情報を伝える方法として「物語」が使われてきた
新たなアイディアが生まれた時、それを特定の個人に帰属させることはたいてい難しい
人は、チームで成し遂げた仕事における自分の貢献度を高く見積もる。
人間は自分が知っていることと他人が知っていることを区別できないが、その要素として accessibility が考慮されているらしい
ある最新研究に関する簡単な要約文を読ませて「このテーマについてどれくらい理解しているか」を自己判断する実験において、
書かれている内容 (つまり文章から読み取れる情報) がまったく一緒であっても、「この研究の詳細は DARPA が秘匿しており誰も閲覧できない」的な文言を追加するだけで理解度の自己評価が下がった。
知識の錯覚の裏返しとして「知識の呪縛」ってのもある. つまり, 自分があることを知っている場合, それを他人が「知らない」ということを想像しにくくなる. 自分の頭の中にあることは他人の頭の中にもあるはずだと思っちゃう
コンピュータにはあなたの「意図」を読み取ることはできない. あなたと志向性を共有することはできない. 目標を確実に伝えなければならない.
コンピュータには志向性を共有する能力がないし、それを獲得しつつある兆候も見られない。人間を理解することができない機械には、人間の心を読み出しぬくことはできない (だからコンピュータの反乱みたいな事態はあまり懸念されない、と)。
確かに操作者に対して具体的に何が起きているかは伝えなかった。しかしそれを機械に要求するのは酷だろう。それには機械が、人間に必要な情報は何かを理解する必要があり、それには人間が何をしようとしているかを理解する必要がある。... 機械はただの道具であり、人間と共通の目標を追求する真の協力者ではない。 (p.217)
船の GPS を信頼しすぎてしまった事故。知識のブラックボックス。GPS を理解した気になっていた、とも言える。
正しい自己認識は「いま何が起きているか」を考える能力と不可分
専門知識を持った人にどうやって貢献するインセンティブを与えるか？
=> 知識コミュニティへの貢献は人間の本能の一つ。そこからインセンティブを作れる。
ダン・カハンの研究によると、科学に対する意識は社会的・文化的要因で決まる。エビデンスが合理的かどうかは関係ない。
それ (科学に対する意識) は信念とは個別に取り出したり捨てたりできるようなバラバラなかけらではなく、他の信念や共有された文化的価値観、アイデンティティなどと深く関わり合っているからだ。特定の信念を捨てるということは、他のさまざまな信念も一緒に捨てること、コミュニティと決別すること、信頼する者や愛する者に背くこと、要するに自らのアイデンティティを揺るがすことに等しい。 (p.239)
だから遺伝子組み換えや地球温暖化や進化論について、がんばって情報を伝えたところで人々の信念/意識を変えることはできない。
文化がわれわれに及ぼす影響は、啓蒙によって覆せるものではない。
;; つい最近スティーブン・ピンカーの『21世紀の啓蒙』読んだところ: https://memerelics.hateblo.jp/entry/20230208/1675850233
新しい技術や科学の発見について、ほとんどの場合、十分な知識を得ることはできない。だから信頼できる人々の意見をそっくり受け容れるしかない。
科学的には、バイオテクノロジーの分子技術による品種改良は安全である、というはっきりした結論が出ている by アメリカ科学振興協会 (American Association for the Advancement of Science; AAAS)
食品に放射線を照射して殺菌する「食品照射」は, 放射線という単語を使わず「低温殺菌」と呼ぶことで受容度が高まった
ワクチン接種が自閉症を引き起こすという説、誤っていることが証明されている。
社会問題、問題の理解度は低いのに世論は驚くほど極端になりがち
問題に対する強い意見は、深い理解から生じるわけではない。むしろ理解の欠如から生じていることが多い。 (p.257)
因果的説明をさせてみると、極端な意見を持ってた人もマイルドになる... タイプの問題もある。
たとえば道徳的なもの何かは、ダメなもんはダメだ、という反応になって因果的説明をさせても極端な意見は変わらない
神聖な価値観は問題を単純化する。
英雄信仰。ある成果や大きな変化が特定の個人に帰属させられがち。そうすれば複雑さを無視して単純に把握できるし、そもそも人間は物語を好むようにできていて、英雄ストーリーはすっと受け容れやすい。
人間の記憶は有限で、だから推論能力と抽象化でものごとをまるっと把握する性質がある。英雄信仰はそのひとつの手段。
知能を評価する最も良い方法は、個人が集団の成功にどれだけ貢献するかを評価することである。 (p.303)
具体的にはどうするのか？
=> さまざまな集団における個人の貢献を測定する。その人物が居合わせた時に集団が問題解決に成功/失敗した頻度。
;; なるほど. 納得感はあるけど, 仕事のパフォーマンス評価を念頭に置いて考えると, 時間かかりそう & 測定のため「だけ」にチームをシャッフルしてデータを集めるのちょっと躊躇うコストの高さだな
;; 本書の事例だとホッケーチームである選手が場に出た時得点したかどうか、みたいな、クイックな施行が可能なシチュエーションが取り上げられていた。
;; つまり仕事においても、チーム組み直してのプロジェクト成否、とかじゃなくて、もっと小さな粒度でデータを測定すりゃいいのか？
アイディアよりもチームの質が大切。Y コンビネータなんかは、事業内容じゃなくてスタートアップのチームを見る。
教育は知的独立性を高めることが目的ではない。他者と協力する方法を学び、自分に足りない知識、逆に貢献できる知識は何かを知ることが大切。
ジグゾーメソッドあるいはピア教育と呼ばれるやり方があって、生徒それぞれに違う分野を調べてもらい、異なる専門家をグルーピングして協力して課題にあたらせる、というもの。
本物の教育には、自分には知らないことが（たくさん）あると知ることも含まれている。(p.323)
文章を理解するには意識的に読み込む必要がある。ふだんの「流し読み」習性を断ち切って、深く分析する。
科学者が真実と考えることの大部分は、信じる気持ちに支えられている。神への信仰ではなく、他の人々が真実を語っているという信頼である。ただ宗教と違うのは、科学では「真実」とされるものに疑問が生じたときに、よりどころとすべきものがあることだ。それは立証の力である。科学的主張の真偽は確認することができる。 (p.328)
いい話。STAP 細胞の事案とかはその意味で極悪
科学においては、重要な発見をすることと同じくらい、その発見の重要性を他者に納得させることが大切。
錯覚は完全に取り払うべきもの、というわけではない。幸せは主観的なものであり、錯覚が幸福に寄与していることもある。
