ごまなつ Blog

楽しく働ける世界を目指して

ダブルチェックについて調べた内容の整理(やらかしアドカレ登壇内容)

本番環境でやらかしちゃった人Meetup〜聖なる夜の懺悔〜に参加して、発表した内容のまとめです。

yarakashi-production.connpass.com

レポートは既にあるので割愛。

sogaoh.hatenablog.com

私の発表内容

speakerdeck.com

やらかしの内容は、間違えると重大なことになる操作をダブルチェックで行い、それを並行作業していると、間違えたというものです。

やらかした後、上司が言ったのは「ダブルチェックを徹底して気を付けよう」でした。最初から気を付けていましたし、具体的な対策になってないなと感じました。

そこで私は、人力での確認について調べることにしました。

今回参考にした資料

  • 中條 武志, 「人間信頼性工学:エラー防止への工学的アプローチ」, 医療安全管理者養成講習会, 2007

  • 松村由美, 「ダブルチェックの有効性を再考する」, 平成30年度医療安全セミナー, 2018

  • 公益財団法人鉄道総合技術研究所 増田 貴之, 中村 竜, 井上 貴文, 北村 康宏, 佐藤 文紀, 「独立したダブルチェックのヒューマンエラー防止効果」, Rikkyo Psychological Research2018 Vol. 60, 29-39

こちらも参考になるかと。

「ヒューマンエラー」は個人の責任ではない (1/3):「セキュリティ心理学」入門(5) - @IT

図表は資料を参考にしてください。

意識のフェーズとエラー発生率

意識のレベルによってエラー発生率が変わるのですが、エラー発生率が低い状態は長時間維持できないです。これを示したのがノーマン・マックワースの実験です。

この実験は、文字盤が真っ白な時計の盤面上で、黒い指針が毎秒1回の割合で持続的に時刻を刻み、100ステップで1周します。ただし、指針は時々通常の2倍のペースで進むことがありまる。この文字盤を7フィート(約2.1メートル)離れたところから監視して、この現象が発生したら、ボタンを押すというものです。

30分を過ぎたあたりから注意力が落ち、自分の周りの環境がIIやIIIの状況でなければ、さらにエラー率が高くなり、個人の努力だけでエラーに対応するのは難しいと示しています。集団で実施するのが良いのですが、そうするとリンゲルマン効果(社会的手抜き)が起こります。

教育、訓練、動機づけ

教育、訓練、動機づけがヒューマンエラー対策に効果があるとよく言われますが、これをできていないのであれば改善すれば対策になります。ですが、この3つができているのに起こるヒューマンエラーは対策しようがないですよね。

思い込み、経験

例えば、同じ長さに見えない錯視の図を見たときに、知っていると同じ長さだと思います。しかし、実際には少し片方が長いです。このように、よく似た状況だと過去の知識や経験から思い込みでヒューマンエラーを起こすことがあります。ですが、この対応力は人間の長所でもあります。

ルール違反

思い込み、経験、失念はわかりますが、見逃される理由として、ルール違反があります。そもそもダブルチェックする項目を間違えていたり、ダブルチェックを簡略化して重要部分が抜け落ちたりします。また、人間は理由をこじつけてルールを変更したりします。

じゃあどうすればいいのか

人間以外の部分を改善することになります。よって、自動化しようとするエンジニアは間違っていないです。

業務にダブルチェックが含まれている場合

ヒューマンエラーは必ず起こるので、ダブルチェックはエラー防止ではなくエラー検出に用いましょう。ダブルチェックは業務時間を圧迫し時間不足を引き起こしたり、割り込みを発生させてダブルチェックした以外の部分でヒューマンエラーを引き起こします。確認でも、よく見たらわかる、考えない内容なら指差確認で十分、考える内容があるならダブルチェックが良いと思われます。このエビデンスは、指差確認でもエラー発生率が落ちる実験のデータがあります。ダブルチェックを濫用すると、他の部分でヒューマンエラーを引き起こします。

独立したダブルチェック

単純作業の確認には機械を用いると良いでしょう。考える内容の確認は人間が行いますが、独立したダブルチェックにしましょう。大学生を対象に、ダブルチェックをする実験があります。1人が2回確認する場合と異なる2人が確認する場合それぞれに1回目の操作が参照可能と不可の場合を比較しました。参照可能だと、異なる2人が確認した方が最終見逃し数が少なく、参照不可ではどちらも誤差の範囲内ですが参照可能より最終見逃し数が少なくなりました。誤チェック数は参照可能だと異なる2人が確認した方が少なく、参照可能だとどちらも0でした。課題遂行時間は、参照不可能の場合は大きくなることが分かりました。ですが、参照可能であることがどのような影響を与えたかはわかっていません。

ダブルチェックとリスク

ダブルチェックで時間を使い他の部分でエラーを引き起こすなら、リスク管理するのが良いでしょう。ハイリスクなことにはダブルチェックし、他の有象無象エラーは無視できるなら無視しましょう。また、ダブルチェックを濫用すると目的化します。使いすぎると価値が下がります。

現れにくいダブルチェック失敗理由

ダブルチェックをするパートナーの立場や経験によって信頼感がエラー検出に関わるなど、心理的な理由も関係してきます。また非定常作業が定常作業に割り込むとパニックになるということもあります。

まとめ

ヒューマンエラーは必ず起こる。ダブルチェックを信頼しすぎるのはやめよう。使いすぎると他の部分でエラーを引き起こす。ハイリスクにだけダブルチェックを使おう。