更新履歴(初版のみ・2026年11月14日公開)
- 初版公開
装置を動かすソフトウェアを作るとき、どの機能をどこまで調べれば足りるのかは決めにくい問題です。すべての機能を同じ深さで分析するのは現実的ではなく、かといって、どれを浅くしてよいのかの根拠も要ります。
米国防総省のシステム安全の規格であるMIL-STD-882Eには、この問題についての決め方があります。ソフトウェアの故障の確率を見積もる代わりに、ソフトウェアがどこまで制御を握っているかと、事故になったときの被害の重さから、必要な分析とテストの深さを決める方法です。
この記事ではMIL-STD-882Eのうち、ソフトウェアを扱う4.4節と付録Bを読み、表の読み方を整理します。現行の版は2023年9月27日のChange 1です。この記事が扱う4.4節、表IVから表VI、付録Bの内容は、2012年5月11日の版から実質的には変わっていません。変わったのは、リスクの受け入れの権限についての参照先が「DoDI 5000.02」から「該当するDoDI 5000シリーズ」になったことと、定義の番号が1つずれたことです。節と定義の番号は2012年の版のものを書きます。1内容は公開されている規格を読んでまとめたもので、筆者はこの規格による安全性の評価の実務をしたことはありません。
システム安全の8つの要素
MIL-STD-882Eの題名は「System Safety」です。1章によると、ハザードを可能なら取り除き、取り除けない場合はリスクを最小にするための、国防総省のシステムエンジニアリングの進め方を示す規格です。対象はハードウェアとソフトウェアの両方を含むシステム、製品、機器、インフラのハザードで、設計から廃棄までの全体を扱います。2
4.3節はシステム安全のプロセスを8つの要素に分けています。
進め方を文書にする、ハザードを特定して文書にする、リスクを評価して文書にする、リスクを下げる対策を特定して文書にする、リスクを下げる、リスクが下がったことを検証し、妥当性を確認して文書にする、リスクを受け入れて文書にする、ライフサイクルを通してリスクを管理する、の8つです。
規格は図1でこの8つを順に並べ、本文で、手順の間で反復が必要になることがあるとしています。3
flowchart TB
accTitle: MIL-STD-882Eのシステム安全の8つの要素
accDescr: 進め方を文書にする、ハザードを特定する、リスクを評価する、対策を特定する、リスクを下げる、下がったことを検証する、リスクを受け入れる、ライフサイクルを通して管理する、の8つの要素を順に示します。
A["1. 進め方を文書にする"] --> B["2. ハザードを特定する"]
B --> C["3. リスクを評価する"]
C --> D["4. 対策を特定する"]
D --> E["5. リスクを下げる"]
E --> F["6. 下がったことを検証する"]
F --> G["7. リスクを受け入れる"]
G --> H["8. ライフサイクルを通して管理する"]
図1: システム安全のプロセスは8つの要素からなります。
図の実線は常に成り立つ関係、破線は条件付きの関係です(成立条件は詳細ページの各関係の説明に記載)。関係すべての一覧(全4件、根拠・確度つき)と主要概念の定義は知識マップ詳細ページにまとめています。データ: JSON-LD / Turtle
リスクは重大度と確率の組み合わせで表す
ハードウェアを含むシステム全体のリスクは、事故の重大度と確率の組み合わせで表します。重大度のカテゴリーは表Iにあります。4
| 重大度 | カテゴリー | 事故の結果の基準(要約) |
|---|---|---|
| Catastrophic | 1 | 死亡、永久的な完全障害(permanent total disability)、回復できない重大な環境への影響、1,000万ドル以上の損失 |
| Critical | 2 | 永久的な部分的障害(permanent partial disability)、3人以上の入院、回復できる重大な環境への影響、100万ドル以上1,000万ドル未満の損失 |
| Marginal | 3 | 1日以上の休業を伴うけがや病気、回復できる中程度の環境への影響、10万ドル以上100万ドル未満の損失 |
| Negligible | 4 | 休業を伴わないけがや病気、最小限の環境への影響、10万ドル未満の損失 |
確率のレベルは表IIにあり、Frequent(A)からImprobable(E)までの5段階と、ハザードがなくなったことを表すEliminated(F)があります。重大度と確率を組み合わせたものがリスク評価コードで、表IIIのリスク評価マトリクスがそれぞれにHigh、Serious、Medium、Lowのリスクレベルを割り当てています。たとえば、CatastrophicでFrequentならHigh、NegligibleでRemoteならLowです。
flowchart TB
accTitle: ハードウェアを含むシステムのリスクの決め方
accDescr: 事故の重大度のカテゴリーと確率のレベルを組み合わせてリスク評価コードを作り、リスク評価マトリクスでHigh、Serious、Medium、Lowのリスクレベルを決めることを示します。
A["重大度のカテゴリー(表I)"] --> C["リスク評価コード"]
B["確率のレベル(表II)"] --> C
C --> D["リスク評価マトリクス(表III)"]
D --> E["リスクレベル:High、Serious、Medium、Low"]
図2: システムのリスクは重大度と確率の組み合わせで決めます。
ソフトウェアの故障の確率は見積もらない
ソフトウェアについてはこの方法をそのまま使いません。4.4節には次のようにあります。ソフトウェアと、ソフトウェアが制御するシステムのリスクの評価は、重大度と確率だけには頼れない。1つのソフトウェアの機能が故障する確率を決めることは、控えめに言っても難しく、過去のデータに基づくことはできない。ソフトウェアは一般に用途ごとに作られ、信頼性のパラメーターをハードウェアと同じ方法で見積もることはできない。5
そこで規格は別の方法を使うことを求めています。事故になったときの重大度と、ソフトウェアがハードウェアに対して持つ制御の度合いを考える方法です。
flowchart TB
accTitle: ソフトウェアのリスクへの寄与の評価の考え方
accDescr: ソフトウェアの機能の故障の確率は決めにくく過去のデータにも基づけないため、確率の代わりにソフトウェアの制御の度合いを使い、重大度と組み合わせて評価することを示します。
A["ソフトウェアの故障の確率は決めにくい"] --> B["確率の代わりに制御の度合いを使う"]
C["事故の重大度"] --> D["重大度と制御の度合いを組み合わせる"]
B --> D
図3: ソフトウェアでは確率の代わりに制御の度合いを使います。
ソフトウェア制御カテゴリー
制御の度合いは表IVの「ソフトウェア制御カテゴリー」(SCC)で5つに分けます。定義を要約すると次のとおりです。6
| レベル | 名前 | 内容(要約) |
|---|---|---|
| 1 | Autonomous(自律) | 安全に関わるハードウェアを自律的に制御する。事故を防ぐために、あらかじめ決めた安全な検知と介入をする余地がない |
| 2 | Semi-Autonomous(半自律) | 安全に関わるハードウェアを制御するが、独立した安全機構が検知して介入する時間がある。または、操作者がすぐに決まった行動を取る必要のある、安全に関わる情報を表示する |
| 3 | Redundant Fault Tolerant(冗長フォールトトレラント) | 安全に関わるハードウェアに指令を出すが、指令の完了には制御主体(control entity)の操作が要る。ハザードの条件ごとに、冗長で独立したフォールトトレラントな機構がある。または、重要な判断に使う安全上重要な情報を生成し、冗長で独立した機構がある |
| 4 | Influential(影響あり) | 操作者が判断に使う、安全に関係する情報を生成する。ただし、事故を避けるために操作者の行動は要らない |
| 5 | No Safety Impact(安全への影響なし) | 安全に関わるハードウェアを指令も制御もせず、安全に関わる情報も提供しない |
規格は用語を3つに分けています。CatastrophicかCriticalの事故に関わるものが「safety-critical」、MarginalかNegligibleの事故に関わるものが「safety-related」、その両方が「safety-significant」です。この記事ではsafety-criticalを「安全上重要な」、safety-relatedを「安全に関係する」、safety-significantを「安全に関わる」と訳しています。
レベル1と2の違いは、ソフトウェアが誤ったときに、独立した仕組みが検知して止める時間があるかどうかです。レベル3は、ソフトウェアとは独立した冗長な仕組みがハザードの条件ごとにあり、制御主体の操作が間に入る場合です。重要な判断に使う安全上重要な情報を生成するソフトウェアも、冗長で独立した機構があればレベル3に入ります。規格は制御主体(control entity)を定義していません。この記事では操作者や上位の制御の仕組みを指すものとして読みます。レベル4は、ソフトウェアが人に安全に関係する情報を出すだけで、事故を避けるのに操作者の行動が要らない場合です。操作者がすぐに決まった行動を取らないと事故になる表示は、レベル2に入ります。
表IVを筆者が要約して、制御の度合いが強い順に並べると、次の図になります。
flowchart TB
accTitle: ソフトウェア制御カテゴリーの5つのレベル
accDescr: ソフトウェア制御カテゴリーを制御の度合いが強い順に並べ、レベル1は独立した仕組みも人も介入する余地がなく、レベル2は独立した安全機構か操作者が対処でき、レベル3は冗長で独立した機構があり、レベル4は安全に関係する情報を出すだけで、レベル5は安全に関わる制御も情報の提供もしないことを示します。
A["レベル1:独立した仕組みも人も介入する余地がない"] --> B["レベル2:独立した安全機構か操作者が対処できる"]
B --> C["レベル3:冗長で独立した機構がある"]
C --> D["レベル4:安全に関係する情報を出すだけ"]
D --> E["レベル5:安全に関わる制御も情報の提供もしない"]
図4: レベルの番号が大きいほど、ソフトウェアが安全に関わる制御を握る度合いは小さくなります。
重大度と制御カテゴリーから、分析とテストの深さを決める
表Vの「ソフトウェア安全クリティカリティマトリクス」(SSCM)は、制御カテゴリーを行に、重大度を列に取り、それぞれの組み合わせに「ソフトウェアクリティカリティ指標」(SwCI)を割り当てています。7
| 制御カテゴリー | Catastrophic(1) | Critical(2) | Marginal(3) | Negligible(4) |
|---|---|---|---|---|
| 1 | SwCI 1 | SwCI 1 | SwCI 3 | SwCI 4 |
| 2 | SwCI 1 | SwCI 2 | SwCI 3 | SwCI 4 |
| 3 | SwCI 2 | SwCI 3 | SwCI 4 | SwCI 4 |
| 4 | SwCI 3 | SwCI 4 | SwCI 4 | SwCI 4 |
| 5 | SwCI 5 | SwCI 5 | SwCI 5 | SwCI 5 |
SwCIごとに、実施する作業が決まっています。規格はこれを「Level of Rigor(LOR)の作業」と呼びます。LORは、安全に関わるソフトウェアの機能が要求どおりに動くという確信を得るのに必要な、分析と検証の深さと広さのことです。
| SwCI | LORの作業 |
|---|---|
| SwCI 1 | 要求、アーキテクチャー、設計、コードの分析を行い、安全に特化した詳しいテストを実施する |
| SwCI 2 | 要求、アーキテクチャー、設計の分析を行い、安全に特化した詳しいテストを実施する |
| SwCI 3 | 要求とアーキテクチャーの分析を行い、安全に特化した詳しいテストを実施する |
| SwCI 4 | 安全に特化したテストを実施する |
| SwCI 5 | 安全の担当者が「Not Safety(安全に関わらない)」と評価したら、安全に特化した分析や検証は要らない |
コードの分析まで求められるのはSwCI 1だけです。分析の対象は、SwCI 2では設計まで、SwCI 3ではアーキテクチャーまでになり、SwCI 4ではテストだけになります。
規格は、この表がリスクの評価ではないことを明記しています。見た目はリスク評価マトリクスに似ていますが、SSCMが決めるのは、ソフトウェアのリスクへの寄与を評価するために最低限必要な作業です。付録Bにはハードウェアのリスクの指標と違って、小さい番号は設計が受け入れられないことを意味しない、ともあります。小さい番号が示すのは、分析とテストにより多くの資源をかける必要があることです。8
flowchart TB
accTitle: 重大度と制御カテゴリーからLORの作業が決まる流れ
accDescr: 事故の重大度とソフトウェア制御カテゴリーをソフトウェア安全クリティカリティマトリクスに当てはめてソフトウェアクリティカリティ指標を決め、指標ごとに決まっているLORの作業を実施することを示します。
A["事故の重大度"] --> C["ソフトウェア安全クリティカリティマトリクス(表V)"]
B["ソフトウェア制御カテゴリー(表IV)"] --> C
C --> D["ソフトウェアクリティカリティ指標(SwCI)"]
D --> E["LORの作業:分析とテストの範囲"]
図5: 重大度と制御カテゴリーの組み合わせで、分析とテストの範囲が決まります。
作業をしなかった場合の扱い
決められたLORの作業をしなかった場合の扱いは、表VIにあります。SwCI 1のLORの作業が指定されていないか完了していない場合、システムのリスクへの寄与はHighとして文書にし、プログラムマネージャーの判断に回します。プログラムマネージャーの役割は、作業を実施するための資源を使うか、Highのリスクを受け入れるための正式なリスク評価を用意するかを決めて、その判断を文書にすることです。SwCI 2ならSerious、SwCI 3ならMedium、SwCI 4ならLowです。9
分析やテストを省くことはできますが、省いた分はリスクとして記録され、受け入れるかどうかの判断に回されます。黙って省くことはできない仕組みです。
flowchart TB
accTitle: LORの作業をしなかった場合の扱い
accDescr: LORの作業が完了していればその結果をリスクの管理に使い、完了していなければソフトウェアクリティカリティ指標に応じたリスクレベルとして文書にし、プログラムマネージャーが、作業を実施するか、リスクの受け入れに向けた正式な評価を用意するかを決めて文書にすることを示します。
A["LORの作業は完了しているか"] -->|"完了している"| B["結果をリスクの管理に使う"]
A -->|"完了していない"| C["SwCIに応じたリスクレベルとして文書にする"]
C --> D["プログラムマネージャーが判断する"]
D --> E["作業を実施する"]
D --> F["リスクを受け入れる評価を用意する"]
図6: 作業を省いた分はリスクとして記録され、責任者が判断します。
開発の中での進め方
付録Bは4.4節の要求についての指針です。規格の必須の部分ではありません。ここには、開発の中での進め方が書かれています。10
最初に行うのは機能ハザード分析(FHA)で、安全に関わる機能(SSF)を特定します。次に、それぞれのSSFにソフトウェア制御カテゴリーを割り当て、重大度と合わせてSwCIを割り当てます。最後の手順は、SwCIに応じたLORの作業を安全に関わるソフトウェアに実施することです。
SSFはそれを実装するソフトウェア構成品目やコードのモジュールに対応づけて、追跡できるようにします。SwCIを割り当てる相手は、安全に関わるソフトウェアの機能と、それに関係する要求の1つずつです。安全に関わらない要求にも「Not Safety」という値を付けておくと、その機能を安全の担当者が評価したという記録になる、とあります。
これらの基準は開発の早い段階で、ソフトウェア開発計画書(SDP)とソフトウェアテスト計画書(STP)に書いておくべきだとされています。開発計画書はMIL規格の歴史の記事で見たとおり、開発者が進め方を書いて発注者と合意する文書です。
flowchart TB
accTitle: 付録Bが示す開発の中での進め方
accDescr: 機能ハザード分析で安全に関わる機能を特定し、機能ごとにソフトウェア制御カテゴリーを割り当て、重大度と合わせてソフトウェアクリティカリティ指標を割り当て、指標に応じたLORの作業を開発計画書とテスト計画書に書いて実施することを示します。
A["機能ハザード分析で安全に関わる機能を特定する"] --> B["機能ごとに制御カテゴリーを割り当てる"]
B --> C["重大度と合わせてSwCIを割り当てる"]
C --> D["LORの作業を開発計画書とテスト計画書に書く"]
D --> E["LORの作業を実施する"]
図7: 安全に関わる機能を特定し、機能ごとに作業の深さを決めます。
付録Bは検討する要求と作業の例も挙げています。
- 設計の要求: フォールトトレラントな設計、故障の検知、分離、通知、回復、冗長性、独立性、機能の分割、物理的な分割など
- プロセスの作業: 設計レビュー、コードのウォークスルー、独立した設計レビューとコードレビュー、SSFの追跡可能性、SSFのコードレビューなど
- テストの作業: SSFのテスト、機能のスレッドのテスト、回帰テスト、故障モードと影響のテスト、範囲外の値のテスト、安全に関わるインターフェースのテスト、市販のソフトウェアの入出力のテストなど
作業の結果はソフトウェアのリスクへの寄与を決める証拠になります。付録Bには、証拠が足りない場合や、ソフトウェアの安全のプログラムが十分に実施されなかったことを示す証拠がある場合は、それをリスクとして評価すべきだ、とあります。
付録Bの表B-Iには、ソフトウェアが原因になるハザードのリスクレベルを決める基準の例があります。基準の1つは、事故までに残っている独立した歯止めの数です。ソフトウェアの欠陥が起きたときに、CatastrophicかCriticalの事故を防ぐ独立したインターロックが1つも働いていなければHigh、独立したインターロックか人の行動が1つだけ残っていればSerious、2つ残っていればMedium、3つ残っていればLowです。CatastrophicかCriticalの事故に直接つながる欠陥はHigh、MarginalかNegligibleの事故に直接つながる欠陥はSeriousという基準も並んでいます。11
flowchart TB
accTitle: 表B-Iの基準の例でのリスクレベル
accDescr: ソフトウェアの欠陥が起きたときに、CatastrophicかCriticalの事故を防ぐ独立したインターロックが残っていなければHigh、1つだけ残っていればSerious、2つ残っていればMedium、3つ残っていればLowになることを示します。
A["CatastrophicかCriticalの事故までに残る独立した歯止めの数"] -->|"残っていない"| B["High"]
A -->|"1つ"| C["Serious"]
A -->|"2つ"| D["Medium"]
A -->|"3つ"| E["Low"]
図8: 表B-Iの例では、事故までに残っている独立した歯止めの数でリスクレベルが変わります。
設計を変えると、求められる作業が変わる
ここからは、規格の表から読み取れることについての筆者の見方です。
表IVと表Vを合わせて読むと、設計が分析とテストの量を左右することが分かります。Catastrophicの事故につながりうる機能を、ソフトウェアが自律的に制御する設計(レベル1)ではSwCI 1で、コードの分析まで要ります。同じ機能でも、ハザードの条件ごとに独立した冗長な機構があり、制御主体の操作が間に入る設計(レベル3)ならSwCI 2で、分析は設計までです。独立した安全機構が介入できるだけの設計(レベル2)では、Catastrophicの列はSwCI 1のまま変わりません。レベル4の行はCatastrophicの列でSwCI 3ですが、レベル4の定義は、安全に関係する(MarginalかNegligibleの事故に関わる)情報を出す場合です。Catastrophicの事故に関わる機能がこれに当たるかは、ハザード分析で確かめることになります。
これは、規格の4.3.4にある対策の優先順位とも合っています。優先順位の1番目は設計の選択によってハザードを取り除くことです。2番目は設計の変更でリスクを下げること、3番目は工学的な機能や装置を組み込むことで、警告装置や、表示、手順、訓練はその後に来ます。12
ソフトウェアだけですべてを保証しようとすると、ソフトウェアに求められる分析が最も重くなります。ハザードの条件ごとに、ソフトウェアとは独立した冗長な機構を設計に入れると、ソフトウェアに求められる分析の範囲が変わることがあります。
flowchart TB
accTitle: Catastrophicの事故につながる機能での設計とSwCIの関係
accDescr: Catastrophicの事故につながりうる機能について、ソフトウェアが自律的に制御する設計と、独立した安全機構が介入できるだけの設計ではSwCI 1でコードの分析まで必要になり、ハザードの条件ごとに冗長で独立した機構と制御主体の操作がある設計ではSwCI 2で分析は設計までになることを示します。
A["Catastrophicの事故につながりうる機能"] --> B["自律的に制御する(レベル1)"]
A --> H["独立した安全機構が介入できる(レベル2)"]
A --> C["冗長で独立した機構(レベル3)"]
B --> E["SwCI 1:コードの分析まで"]
H --> E
C --> F["SwCI 2:設計の分析まで"]
図9: 同じ重大度でも、設計によって求められる分析の範囲が変わります。
コードの分析と形式検証
SwCI 1で求められる「コードの分析」を、規格は具体的な手法で指定していません。表Vの注記は必要なソフトウェアの分析の進め方について、Joint Software Systems Safety Engineering HandbookとAOP 52を参照するように勧めています。この2つの文書はこの記事では読んでいません。
静的解析や形式検証という言葉は、MIL-STD-882Eの4.4節と付録Bには出てきません。コードの分析の手段として何を使うかは、プログラムごとに開発計画書で決めることになります。
小村ソフトの見方では、コードの分析の手段を選ぶときに、静的解析と並んで形式検証が候補になります。SPARKで実行時エラーがないことを証明する方法は、テストでは調べきれない入力の範囲を扱えます。一方で、証明が保証するのは、証明した性質だけです。ハザードの特定が誤っていれば、証明したコードも事故の原因になります。これは、ハザード分析とLORの作業の両方が欠かせないという規格の説明とも合う点です。SPARKの証明の範囲と限界は、SPARKによる形式検証入門とAdaとSPARKで画像処理を証明する記事で扱っています。
flowchart TB
accTitle: ハザード分析とコードの分析の役割
accDescr: ハザード分析がソフトウェアのどの機能がハザードの原因になるかを特定し、LORの作業が特定した機能が要求どおりに動くという確信を高め、形式検証はLORの作業の中のコードの分析の手段の候補の1つであることを示します。
A["ハザード分析"] --> B["どの機能がハザードの原因になるかを特定する"]
C["LORの作業"] --> D["特定した機能が要求どおりに動く確信を高める"]
D --> E["コードの分析の手段の候補:静的解析、形式検証など"]
B --> C
図10: ハザード分析が対象を決め、LORの作業がその対象を調べます。
装置を制御するアプリに当てはめるとき
防衛と関係のない開発でも、制御カテゴリーの分け方は機能を仕分ける問いとして使えます。検査装置や搬送装置を制御するWindowsアプリを例にすると、次のように問えます。
- この機能が誤動作したとき、人がけがをするか、装置や製品が壊れるか
- ソフトウェアの指令が誤っていたとき、ソフトウェアとは独立した仕組み(ハードウェアのインターロック、安全リレー、リミットスイッチなど)が止めるか
- 独立した仕組みが止めるまでに、十分な時間があるか
- ソフトウェアは装置を動かすのか、人が判断するための情報を表示するだけなのか
- 表示を見た人がすぐに操作しないと事故になるか。同じ情報を得る独立した手段があるか
1つ目の問いが重大度に、2つ目から5つ目の問いが制御カテゴリーに当たるものです。答えを機能ごとに表にすると、この規格の表に当てはめた場合の目安として、コードまで調べる機能、設計までを調べる機能、テストだけでよい機能を分けられます。重大度の基準にある金額は、国防総省の規模のものです。規格には、正式に承認されれば基準を調整できるとあります。
flowchart TB
accTitle: 機能を仕分ける問いと規格の表の対応
accDescr: 機能が誤動作したときの被害についての問いが重大度に、独立した仕組みと時間と情報だけかどうかについての問いが制御カテゴリーに対応し、2つを合わせて機能ごとの分析とテストの範囲の目安を決めることを示します。
A["誤動作したときの被害についての問い"] --> C["重大度"]
B["独立した仕組み、時間、情報についての問い"] --> D["制御カテゴリー"]
C --> E["機能ごとの分析とテストの範囲の目安"]
D --> E
図11: 1つ目の問いが重大度に、残りの問いが制御カテゴリーに対応します。
ただし、産業機械や電気電子の安全関連系には、それぞれの安全規格があります。この記事はそれらを扱っておらず、MIL-STD-882Eの表で法令や規格への適合を判断することはできません。ここで勧めているのは、機能を仕分ける考え方として使うことです。
まとめ
- MIL-STD-882Eは米国防総省のシステム安全の規格で、ハードウェアとソフトウェアの両方のハザードを扱います。
- システムのリスクは重大度と確率の組み合わせで表しますが、ソフトウェアの評価は重大度と確率だけには頼れないので、重大度とソフトウェアの制御の度合いを使います。
- 制御の度合いは自律、半自律、冗長フォールトトレラント、影響あり、安全への影響なしの5つのソフトウェア制御カテゴリーで表します。
- 重大度と制御カテゴリーの組み合わせからソフトウェアクリティカリティ指標(SwCI)が決まり、SwCIごとに、分析とテストの範囲(LORの作業)が決まります。
- LORの作業をしなかった場合は、その分をリスクとして文書にし、プログラムマネージャーが、作業を実施するか、リスクの受け入れに向けた正式な評価を用意するかを決めます。
- ハザードの条件ごとに、ソフトウェアとは独立した冗長な機構を設計に入れると、ソフトウェアに求められる分析の範囲が変わることがあります。
関連記事
- ソフトウェア開発のMIL規格は、どう変わってきたのか?
- DISAのアプリケーション開発向けSTIGは、開発者に何を求めるのか?
- SPARKによる形式検証入門
- AdaとRustの安全性の比較
- Common Criteriaは、Windowsアプリの開発者に何を求めるのか?
参考資料
-
米国防総省, MIL-STD-882E w/Change 1, System Safety(2023年9月27日。AcqNotesにある、ASSISTからダウンロードされた写し). 参照箇所: 表紙、「Summary of Change 1 Modifications」、1.1、3.2.19、3.2.39、4.4.3のc。4.4節から表VIまでと付録Bの本文を2012年の版と単語単位で比べ、違いが「applicable DoDI 5000 series」への変更だけであることを確かめました。 ↩
-
米国防総省, MIL-STD-882E, Department of Defense Standard Practice: System Safety. 参照箇所: 表紙(2012年5月11日。MIL-STD-882Dを置き換え)と1.1「Scope」。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 4.3「System safety process」と図1「Eight elements of the system safety process」。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 4.3.3「Assess and document risk」、表I「Severity categories」、表II「Probability levels」、表III「Risk assessment matrix」。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 4.4「Software contribution to system risk」。検索語
cannot rely solely on the risk severity and probability。 ↩ -
米国防総省, MIL-STD-882E. 参照箇所: 3.2.38「Software control category」(Change 1では3.2.39)、3.2.31、3.2.34、3.2.35の用語の定義(Change 1では3.2.32、3.2.35、3.2.36)、表IV「Software control categories」。表の内容は筆者の要約です。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 3.2.18「Level of rigor (LOR)」(Change 1では3.2.19)、4.4.2「Software Safety Criticality Matrix」、表V「Software safety criticality matrix」。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 4.4.2と、付録BのB.2.2.3「Software Safety Criticality Matrix (SSCM) tailoring」。検索語
a low index number does not imply that a design is unacceptable。 ↩ -
米国防総省, MIL-STD-882E. 参照箇所: 4.4.3「Assessment of software contribution to risk」と表VI「Relationship between SwCI, risk level, LOR tasks, and risk」。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 付録BのB.1、B.2.2、B.2.2.1、B.2.2.2、B.2.2.4、B.2.2.5。付録Bは規格の必須の部分ではなく、指針です。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 付録BのB.2.2.5のdと、表B-I「Software hazard causal factor risk assessment criteria」。表B-Iは基準の例で、この記事では主にインターロックの数に関する部分を取り上げています。 ↩
-
米国防総省, MIL-STD-882E. 参照箇所: 4.3.4「Identify and document risk mitigation measures」のaからe。 ↩
関連する記事
同じタグを共有する最新の記事です。さらに近い話題で知識を深められます。
画像処理の境界外アクセスをSPARKで証明する ── 2値化・平滑化・ラベリングとCとの速度比較
画像処理のコードが画像の外を読み書きしないことを、SPARKのGNATproveで証明します。2値化、3×3の平滑化、ラベリングを例に、証明の書き方と証明していない範囲、検査を外したときのCとの速度の差を実測でまとめます。
Ada と Rust の安全性の考え方の違い ── 型・オーバーフロー・所有権・データ競合・形式検証を実際に動かして比べる
Ada と Rust はどちらも安全性を重視する言語ですが、誤りを止める場所が違います。値の範囲、整数オーバーフロー、メモリ、データ競合、検査を外す仕組み、形式検証の6点を、GNAT・GNATprove・rustc で実際に動かして比べます。
AIが書いたコードをSPARKで証明する ── 人が契約を書き、GNATproveで確かめる
AIが書いたAdaの関数に事前条件と事後条件を付け、GNATproveで証明する手順を実行例で示します。失敗メッセージの読み方、弱い契約のまま通る証明、レビューで人が見る箇所をまとめます。
SPARKによる形式検証入門 ── Adaの契約から数学的証明へ
Adaのサブセット言語SPARKによる形式検証の実践的な入門記事です。契約(Pre/Post)から証明へステップアップする方法、GNATproveの使い方、ループ不変条件、データフロー契約、証明レベル、そして実プロジェクトへの適用方法までを整理します。
AdaとSPARKのテストは、コードの変更に気づけるか? ── AdaMutantの紹介
AdaMutantは、AdaとSPARK向けのミューテーションテストツールです。ソースに小さな変更を入れ、テストやGNATproveの証明が気づけるかを調べます。サンプルを動かした結果とあわせて紹介します。
関連トピック
このテーマと近いトピックページです。記事を起点に、関連するサービスや他の記事へ進めます。
Windows技術トピック
Windows 開発、不具合調査、既存資産活用の技術トピックをまとめた入口です。
このテーマがつながるサービス
この記事は次のサービスページにつながります。近い入口からご覧ください。
技術相談・設計レビュー
装置を制御するソフトウェアについて、どの機能が事故につながりうるか、ソフトウェアがどこまで制御を握っているかを整理し、分析とテストの深さを決めるのは、技術相談・設計レビューとして扱えます。
Windowsアプリ開発
独立した安全機構や利用者の確認を前提にした構成で、装置を制御するWindowsアプリを設計・実装するのは、Windowsアプリ開発として進められます。
よくある質問
この記事のテーマについて、相談時によくある質問をまとめています。
- MIL-STD-882Eは、ソフトウェアの故障の確率を見積もることを求めていますか?
- いいえ。4.4節には、ソフトウェアのリスクの評価は重大度と確率だけには頼れないとあります。1つのソフトウェアの機能が故障する確率を決めるのは難しく、過去のデータに基づくこともできない、という理由です。代わりに、被害の重さと、ソフトウェアがハードウェアをどの程度制御するかから、必要な分析とテストの深さを決めます。
- ソフトウェアクリティカリティ指標(SwCI)の番号が小さいと、その設計は受け入れられないのですか?
- そういう意味ではありません。付録Bには、ハードウェアのリスクの指標と違って、小さい番号は設計が受け入れられないことを意味しない、とあります。小さい番号が示すのは、そのソフトウェアの分析とテストに、より多くの資源をかける必要があることです。
- 防衛と関係のない開発でも、この規格の考え方は使えますか?
- 考え方は使えます。ソフトウェアが自律的に装置を動かすのか、独立した安全機構が間に入るのか、人が判断するための情報を出すだけなのかを分けると、どの機能を深く分析し、どの機能はテストだけでよいかを、この規格の表に当てはめた場合の目安として決めやすくなります。ただし、産業機械などには別の安全規格があります。この記事はそれらを扱っていません。