「機能安全」という言葉があります。
これは”何かしらの装置が故障しても、その被害が最小限になるようにしようね”という
考え方や能力を表す言葉です。
例えば、
・信号が故障した時には、全ての信号機を赤点灯状態にしておく
（青にしておくよりは事故が起きにくそうですよね）
・車のエンジン制御コンピュータが故障した時には、エンジンを停止させる
（暴走して人に突っ込む可能性を減らせます）
・飛行機のエンジン制御コンピュータが故障した時には、エンジンをなるべく動作させ続ける
（エンジンが止まったら墜落してしまうから。飛び続けた方が被害軽減策をとる余地がある）
などなど。
「壊れてはいけない」と「壊れるものだ」という考え方へ
モノづくりを行う場面では「品質」が重要視されます。
品質と聞くとどのようなイメージが浮かぶでしょうか。
・壊れない
・長持ちする
・性能が良い
・芸が細かい
・省エネ
などでしょうか。
私自身、エンジニアとしてモノづくりに携わっているのですが
壊れない； どのようにして壊れない（不具合のない）モノを作るか
というのは大きなテーマ。
何を作るにしても、こいつは完璧なんですよ！
とは言えないところに鬱憤がたまります。
--
余談ですが、プログラムの場合は
バグ（不具合）があるということは証明できても（バグを1つでも見つければ良いから）
バグがないということは証明できません（いくらテストしようとも、テスト漏れしたバグが潜在している可能性があるから）
--
理想は「完璧なモノができあがること」ですが、
その一方で
「でも、何かあったら正しく（安全に）壊れてね」
と万一の場合も考えながら開発を行うのです。
機能安全的生き方のススメ
上述した
・不具合が起こらないようにすること
・不具合が起こったときに、影響を極小にすること
という考えは日常生活にも当てはまります。
病気などしないように普段から適度な運動など行っておけば
健康が増進されるでしょう。
しかし、健康だからといって
絶対病気かからないぜ！
という保証はどこにもありません。
病気にならないのがベストですが、
万一病気にかかったときに被害を極小化するべく
医療・生命保険に加入するのです。
モラルハザードに注意
機能安全の対応ができているからといって、
「壊れても被害小さいからいいや！」と言わんばかりに
モノづくりを適当にやってしまっては本末転倒。
保険の場合は、保険に入ってるから事故ってもいいや、
と考えたりする状態ですね。こちらも本末転倒。
このような思考をモラル・ハザードと言います。
モラルハザード起こすことなきよう、品質と保証（機能安全）のバランスを考えつつ
行動していきたいところです。
機能安全で何か書いてやる！と思って書き始めたら
空中分解してこんな文章になってしまいました。
「機能安全」という言葉だけ紹介したかっただけなんす。
