『最悪の事故が起こるまで人は何をしていたのか』

20190716 開始, 同日読了

;; わりとガチに機械(マシン)の"事故"をテーマにしているが, リスクマネジメントの机上の空論さよりはこちらのほうが求めるものに近い
;; 事例たっぷり. もう少しサマライズしてやる余地はありそうな気もしたが, 生々しい事例をたくさん乗せるという構成自体にも勝ちがあるのは確か.

人間のミスとマシンの不調が結びついて起こった事例を取り上げる.

遺伝学的には何千年前から変わってないのに技術は非常に進歩している. マシンのサイズとパワーは桁外れに大きくなったが, 災害の引き金を引くには小さな力で十分.

未然に防がれた事故は報道されない.

死角. あらゆるシステムで起こりうる. 計器の誤読, 隠れた位置にある装置, 制御に対する反応の鈍さ.
危機的状況のなかで誤った仮説をでっち上げ, あらゆる証拠に反してその仮設に固執してしまう.

1986 年 1 月, チャレンジャー号打ち上げの失敗. 技術者が事前に警告を発して, その日は気温が低いので避けようと提言していた. が, 組織的な早くしろ圧力に屈して決行. 失敗.

厳しいテストを行うべし.
「もったいなくてテストができない」ではなくテストして壊そう。

「疑ってない」とは、知る必要のあることはすべて知っていると確信し、なにごとも不調にはおちいらないと信じているような人間のことだ。疑いを持たないこと自体、ないも知らないことと同じくらい危険である (p.147)

最悪の日には複数のものごとがうまくいかなくなるという事実を、我々は受け入れる必要がある (p.174)

"知識よりも無知のほうが自信に満ちている" -- チャールズ・ダーウィン
;; 翻訳に諸説あり, 原文を探したいところ

われわれは長期にわたって、ことによると一生のあいだ、幻想をいだきつづける――それがなにかによって壊されることがないかぎり (p.192)

危機が起こる確率をどう評価するか
ヒューリスティクスは迷信の根源。悪いことが起きたときに何かいつもと違ったことをしていれば、それを原因とみなしてしまう。ヒューリスティクスを適用すれば, これまで悪いことが起きていなければ今後も起きないということになる。

大型化・複雑化した現在のマシンには気を付けなければならないポイントが沢山ある. 安全限界を示す赤い線を注視する.
人間にも安全限界を示す赤い線があるが、そのうちの一つは疲労。

事故の原因は企画・設計の段階で生じる
;; すべてそうであるという主張ではないよね? いちセクションのタイトルに過ぎないし...

優秀なオペレータは脱出口, もうひとつの案を用意しておく.

原子力潜水艦の父リコーバーのルール:
1. 時間が経過するにつれ品質管理水準を上げていく
2. 運用者は経験豊富な人から訓練を受け, きわめて高い能力を身に着けていなければならない
3. 監督者は悪い知らせを真正面から受け止め, 問題を上層部に上げて必要なリソースをつぎ込んでもらう
4. 作業に従事する人々は危険を重く受け止めるべし
5. 厳しい訓練を定期的に行うべき
6. 修理, 品質管理, 安全対策といった職能のすべてがひとつにまとまっていなければならない (??)
7. 組織として過去の過ちから学ぶ意思を持つ

長期間運用していれば, 確率の低い事故も起こる.

懸念を抱いた人も, 上司に警告のメモを渡して満足してしまう. これはよくない. 多数の大惨事の事例からみて, この種の内部からの警告メモは効果を発揮しないとわかっている. 揺るぎない真実が反対意見を打ち負かしていくであろうみたいな夢を抱いてはいけない.
ベテランがしっかりメモ以上のレベルのレポートを書き上げて, 改善されなければ辞める, という覚悟で上げれば動くだろうが, そこまで命かけられない.

好むと好まざるとにかかわらず、トラブルシューティングと判断力行使という能力は、限界ぎりぎりのところで動いている高度なテクノロジーのなかで人間だけが発揮できる、数少ない技能なのだ (p.419)

失敗知識データベース
http://www.shippai.org/fkd/index.php
失敗学会は事故不祥事など過去の失敗や事例に学び、解決を考える失敗学を実践する
http://www.shippai.org/shippai/html/index.php?name=suisen_book_list
;; 参考書籍

ASRS - Aviation Safety Reporting System
https://asrs.arc.nasa.gov/
https://titan-server.arc.nasa.gov/ASRSPublicQueryWizard/QueryWizard_Filter.aspx