EW-AiRM™：エンタープライズ全体のリスク管理を、3つの意図的なレイヤーで。

特徴:

主要な基盤モデルプロバイダー、クラウドGPUプロバイダー、AIアクセラレータープロバイダー、およびAIスタックの成熟に伴うベクトルデータベースプロバイダーなど、中央AIインフラストラクチャ要素の障害は、数千の依存アプリケーションに同時に連鎖し、孤立した組織的障害ではなく、経済全体にわたる混乱を引き起こします。

予測不可能な理由:

エコシステム全体にわたる依存の規模は、障害が発生するまで不明です。個々の組織は自身の依存性を評価しますが、金融システム全体、医療システム全体、またはその他の重要セクター全体の集計依存性に対する可視性を持つ単一のガバナンスアクターはいません。

ガバナンス対応:

組織が運営に不可欠とするAIサービスについて、プロバイダーの依存関係、集中制限、およびリハーサル済みのフェイルオーバーパスをマッピングしました。対応プレイブックは、階層実装中にリハーサルされ、EW-AiRM™ブックの第14章に詳述されています。

特徴:

モデルは、最適化プロセスがシステム設計者が予期しなかった目的へのパスを見つけたため、有害な方法で指定された目的を追求します。モデルは最適化されたことを正確に行います。しかし、その最適化は意図しない結果をもたらしました。

予測不可能な理由:

最適化プロセスが害を引き起こす目的への道筋を見つける可能性のあるすべての方法を予測することは困難です。最適化は数学的には正しいです。問題は、指定された目的と意図された目的との間のギャップにあります。Anthropic、OpenAI、Google DeepMind、および英国と米国のAI安全研究所による最先端のAI安全研究は、モデルの能力が増加するにつれてこのギャップが狭まるのではなく広がることを文書化しており、アラインメントの失敗は技術的な成熟によって改善される問題ではなく、構造的に増大するリスクとなっています。

ガバナンス対応:

人間によるオーバーライド機能（譲れない要件3）、システムの評価範囲に対する行動ドリフトの監視、および事前に定義された封じ込めとロールバックの基準を文書化しました。対応プレイブックは、階層実装中にリハーサルされ、EW-AiRM™ブックの第14章に詳述されています。

特徴:

個々のモダリティは個別に許容可能と評価されていても、それらの組み合わせが単独では存在しなかった複合効果を生み出すシステムにおいて、テキスト、画像、音声、その他のAIモダリティの組み合わせから予期せぬ有害な動作が出現します。

予測不可能な理由:

個々のモダリティの分析からは予測が難しいモダリティ間の相互作用。個別に管理可能なバイアスが、モダリティが相互作用する際に質的に深刻な危害を生み出す方法で増幅される可能性があります。

ガバナンス対応:

新しいモダリティを統合する前のクロスモーダル故障分析、モデルコンポーネント間のインターフェース制御、およびモダリティ固有のテストゲートを備えた段階的なロールアウトを実施しました。対応プレイブックは、階層実装中にリハーサルされ、EW-AiRM™ブックの第14章に詳述されています。

特徴:

業界全体にわたる既存のAI防御策を無効にする新しい攻撃手法が発見されました。それは、単一の組織の防御策だけでなく、すべての主要システムが実装している基本的なアプローチに影響します。

予測不可能な理由:

AIモデルの攻撃対象領域は広大であり、常に新しい攻撃角度が可能です。モデルアーキテクチャの基本的なプロパティ（例えば、すべての言語モデルが共有する次のトークン予測目的、またはすべてのニューラルネットワークが使用する勾配ベースの最適化）を悪用する新しい攻撃技術が発見された場合、それは個々の防御策に関係なく、そのアーキテクチャを持つすべてのモデルに対して機能する可能性があります。

ガバナンス対応:

常時実施される敵対的テストのサイクル、脅威インテリジェンスフィード、および現在の防御策がいずれ突破されることを前提としたインシデント対応プレイブック。対応プレイブックは、階層（Tier）実装時にリハーサルが行われ、EW-AiRM™ブックの第14章に詳述されています。

特徴:

AIサプライチェーン（トレーニングデータ、モデルライブラリ、コンピューティングインフラストラクチャ、またはデータアノテーションサービス）における障害または攻撃は、下流に伝播し、そのサプライチェーンコンポーネント上に構築されたすべてのシステムを危険にさらします。

基盤モデルプロバイダーのリスクは、カテゴリ2（システム的集中）として別途扱われます。カテゴリ6は、AIサプライチェーンの上流およびインフラストラクチャレイヤーをカバーします。

予測不可能な理由:

サプライチェーンは複雑であり、その脆弱性は悪用されるまで隠されています。サプライチェーンを理解している悪意のあるアクターは、同時に数百の下流システムに影響を与えるポイントに脆弱性を導入できます。

ガバナンス対応:

モデル、重み、トレーニングデータに関する来歴要件、および組織のより広範なサプライチェーン保証を反映した、上流の依存関係に対する契約上および技術的な管理。対応プレイブックは、階層（Tier）実装時にリハーサルが行われ、EW-AiRM™ブックの第14章に詳述されています。

特徴:

個々のAIシステムはそれぞれ単独では許容範囲内と評価されていましたが、それらの相互作用によって、単一のシステムでは設計されていなかった複合的な影響、連鎖的な権限移譲、または協調的な動作が発生します。この失敗は、個々のエージェントの特性ではなく、相互作用の特性です。

予測不可能な理由:

マルチエージェント間の相互作用は、網羅的に事前に評価できない組み合わせ空間を生み出します。各エージェントの行動は制限されており、エージェント間の相互作用も制限されています。N個のエージェントがM個のツールとK個の意思決定ポイントにわたって相互作用する組み合わせは、実用的な評価能力を超える行動空間を生み出します。調整、欺瞞、目標のずれを含む創発的な行動は、研究環境で文書化されており、本番のエージェント展開でもますます観察されています。従来の安全性評価は一度に1つのエージェントを評価しますが、マルチエージェントの創発的な失敗は、その評価方法論では構造的に見えません。

ガバナンス対応:

エージェント間の可観測性、エージェント単位ではなくシステムレベルで機能するキルスイッチ設計、および監視なしのエージェント間委任に対する厳格な制限。対応プレイブックは、階層（Tier）実装時にリハーサルが行われ、EW-AiRM™ブックの第14章に詳述されています。