幻覚はバグではなく、機能です

ハルシネーション（幻覚）はバグではありません。
生成AIシステムアーキテクチャの設計上の特性です。

その違いはガバナンスにおいて極めて重要です。
バグは修正してクローズできます。しかし特性は、統制、モニタリング、そしてテストされた人間のオーバーライドによって、継続的に管理されなければなりません。

組織がこれをバグとして扱ったときに何が起こるか、私たちはすでに目の当たりにしてきました。誰も確認していないAI作成の成果物によって専門サービス企業が恥をかき、経験豊富な弁護士が存在しない引用を含む準備書面を提出しています。

アンディ・シュムロウ准教授（本書の推薦者の1人）は、率直にこう述べています。「…従業員やリーダーでさえも手抜きをして、AIに仕事をさせ、その成果物を確認することを怠っている。」同氏の本書に対する評価は、「必読の書と見なされるべきである」というものです。

エンタープライズワイドAIリスク管理® (EW-AiRM®) ewairm.com ハルシネーション、ドリフト、モデル崩壊をリスク環境の常住者として扱い、その現実の周りに統制を構築します。