製薬会社　品質保証部　部長
「人・プロセス・システム」の三本柱という整理が非常にわかりやすかったです。これまで当社ではAI利用ガイドラインを整備してきましたが、それだけでは査察に耐えられないことを痛感しました。eQMSとの連動設計やAI監査証跡の記録様式など、すぐに社内の検討に持ち帰れる内容が豊富でした。第12回のSOPドラフトレビューが今から楽しみです。

医療機器メーカー　IT／DX部門　マネージャー
Claude Fable 5の輸出規制騒動とその解除の経緯を通じて「リスクが確認できれば条件付きで解禁する」というプロセスが、ICH Q9と同型だという解説は目から鱗でした。社内のAIツール採用プロセスにそのままフレームワークとして活用できます。認定試験の標準問題バンク共同開発にも積極的に参加したいと思います。

製薬会社　薬事部　担当者
ミニ演習のブラインドレビューが衝撃的でした。「もっともらしい誤り」が思った以上に見抜けず、時間を増やしても検出率が上がらない理由が腑に落ちました。多重防御を組織プロセスで実装するというSOPの骨子案はすぐに自社のSOP改訂に活かせそうです。ALCOA+のAI利用記録への適用方法も実務に直結する内容でした。

CRO　QA部門　シニアスペシャリスト
社内AIエンジニア認定試験の3階層設計は、GxPの力量評価と自然に連動できる点が素晴らしいと思いました。FDA・EMA 10原則の第5原則「学際的な専門知識」と認定制度が直接対応するという整理は、規制準拠の観点からも説明力が高く、社内の経営層への説明に活用できます。今後のSOP共同開発にも期待しています。

はじめに
・第11回のテーマ：「人（認定試験）・プロセス（SOP）・システム（eQMS）」三本柱によるAIコンプライアンス体制の実装
・なぜ三本柱か：ツール導入だけでも、ルール配布だけでも失敗する理由（三脚の脚の比喩）
・生成AI利用の三つの原則（社内ルール準拠アカウント・機密情報入力禁止・有償版設定確認）
・個人アカウントでの業務利用が禁止される理由：秘密管理性の崩壊と不正競争防止法上のリスク
・前回までの振り返り：第9回（可能性：CSVプロジェクトデモ）→第10回（リスク：ハルシネーション・人間レビューの限界）→第11回（実装）
・本日の位置づけ：「知っている」から「組織に実装されている」へ
・本日の主要キーワード（Good AI Practice 10原則 / CSA / ALCOA+ / ICH Q9 / eQMS）の簡易定義

テーマ1：最新AI動向
・Claude Fable 5／Mythos 5（2026年6月9日発表）
　・AnthropicがOpusの上位となる新階層「Mythosクラス」を発表
　・Fable 5とMythos 5は同一の基盤モデル、提供形態のみ異なる初の本格的な二層提供
　・Claude Fable 5（一般提供版）：高リスク領域にセーフガードを実装、ソフトウェア開発・科学研究等でSOTA性能
　・Claude Mythos 5（限定提供版）：一部安全装置を解除、審査承認済み組織のみ、Project Glasswing（米政府連携）経由でサイバー防御・重要インフラ組織に提供、価格：入力$10／出力$50（100万トークンあたり）
・発表から輸出規制解除までの経緯（2026年6月〜7月）
　・6月9日：Fable 5を一般提供、Mythos 5を限定提供として発表
　・6月12日：米政府の輸出管理によりアクセス制限が発生
　・6月30日：米商務省が輸出規制を解除、アクセス復旧を発表
　・7月1日〜：段階的に提供再開。Mythos 5は米国の重要インフラ防御組織へ
　・フロンティアモデルが安全保障・輸出管理の対象として扱われた初の事例
　・禁止の目的は「葬ること」ではなく「審査の時間を稼ぐこと」：2週間でAnthropicとの共同評価を経て解除
・示唆：「リスクベース管理」のフロンティア実例
　・Fable/Mythosの二層提供はICH Q9の品質リスクマネジメントと同型の発想
　・社内AI利用への応用：全社員開放の用途（低リスク）と承認者限定の用途（高リスク）の区分
　・海外クラウド・AIサービス採用時の事前評価プロセス（IT・QA連携）の必要性
・FDA・EMA「Good AI Practice 10原則」（2026年1月）
　・FDAとEMAが医薬品開発におけるAI利用の10原則を共同公表
　・日米欧の規制乖離を防ぐための国際調和の基盤、今後のガイダンス・標準の土台
　・対象は製品ライフサイクル全体（開発・製造・市販後）
　・10原則の内訳：?人間中心の設計、?リスクベースアプローチ、?標準への準拠、?Context of Useの明確化、?学際的な専門知識、?データガバナンスと文書化、?モデルの設計・開発プラクティス、?リスクベースの性能評価、?ライフサイクル管理、?明確な必須情報の提供
・10原則と本研究会「5層モデル」の対応
　・?Context of Use明確化 → 組織プロセス層：利用範囲の定義
　・?データガバナンスと文書化 → RAG＋監査証跡の確保
　・?リスクベースの性能評価 → 自己検証層＋Adversarial Reviewer
　・?ライフサイクル管理 → 継続的モニタリングと再評価
　・?人間中心の設計 → HITL（ただし人間レビューの限界を補完）
・今後の規制動向ウォッチリスト
　・FDA：AI利用に関する最終ガイダンス（2026年Q2見込み）
　・EMA：Good AI Practice原則のガイドライン化・リフレクションペーパー更新
　・PMDA：国際調和の動向を注視（FDA・EMAに追随する方式）

テーマ2：社内AIエンジニア認定試験（研究テーマ?）― 「人」の柱
・なぜ社内AIリテラシー認定が必要か
　・AI利用の品質は「使う人」の理解度で決まる
　・専門家ですらAIのもっともらしい誤りを見抜けない（第10回の結論）
　・FDA・EMA 10原則?「学際的な専門知識」：AI利用者の力量担保が前提
　・GxPの教育訓練要件（力量評価）と同じ枠組みで整備できる
・認定レベル案（3階層）
　・レベル1（AIユーザー）：全社員必須。生成AIの仕組み、ハルシネーション、機密情報取り扱い、禁止事項を理解。対象：全社員（管理部門・製造現場・研究開発・営業など）
　・レベル2（AIプラクティショナー）：プロンプト設計、RAG・自己検証の使い分け、出力の検証手順を実践できる。対象：QA・薬事・製造／開発担当者、IT／DX担当者
　・レベル3（AIエンジニア）：マルチエージェント設計、Adversarial Review、監査証跡設計ができる。対象：QA／ITのシステム責任者、DX推進リーダー、AIプロジェクトのPM
・出題範囲案（AIリテラシーテスト）
　・生成AIの基礎：確率モデルとしてのLLM、ハルシネーションの原因と分類、知識カットオフ
　・情報セキュリティ・法令：機密情報・個人情報の入力制限、個人情報保護法、不正競争防止法
　・規制要件：GxPにおけるAI利用の位置づけ、CSA、FDA・EMA 10原則、データインテグリティ
　・実践スキル（レベル2以上）：プロンプト設計、Adversarial Prompt、出典検証、構造化出力
　・作問にはAIを活用し、Adversarial Reviewerで問題品質を検証
・運用フロー案（GxPの教育訓練制度と同じPDCAで回す）
　・STEP 1（教育）：eラーニング教材の受講（レベル別）、本研究会資料を活用
　・STEP 2（受験）：AIリテラシーテスト（選択式＋実技）、合格基準80%以上を想定
　・STEP 3（認定）：レベル別に認定登録、認定範囲に応じてAI業務の権限を付与
　・STEP 4（更新）：年1回の更新試験、モデル・規制の変化を反映した問題に改訂
　・認定記録は教育訓練記録として監査・査察で提示できる形式（受講履歴・試験結果・認定レベル）で保管
・本日の論点（テーマ2）
　・論点1：認定を「任意」とするか「AI業務の必須要件」とするか
　・論点2：レベル2・3の実技試験設計（実際のプロンプト設計・出力検証 vs ケーススタディ形式）
　・論点3：会員社共通の「標準問題バンク」を研究会で共同開発できないか

テーマ3：eQMSの構築（研究テーマ?）― 「システム」の柱
・なぜ今eQMSか
　・紙・Excel運用の限界：変更管理・CAPAの進捗が見えず監査証跡も脆弱（DI指摘の温床）
　・具体例：変更管理がメールとExcelで運用されている場合のトレーサビリティ断絶とDI指摘の典型パターン
　・AIの成熟：文書ドラフト作成・逸脱類似事例検索・CAPA有効性評価をAIが支援できる時代に
　・eQMSは単なる電子化ではなく、AI支援を織り込んだ品質プロセスの再設計
・AI活用型eQMSの構成要素（4モジュール）
　・文書管理（DMS）：SOP・記録の版管理と電子承認。AIによるドラフト作成・改訂差分要約を組み込む
　・変更管理（Change Control）：変更影響評価にAI活用。類似変更の検索と影響範囲の抜け漏れチェック
　・逸脱・CAPA（Deviation/CAPA）：類似逸脱の横断検索、根本原因分析の支援、CAPA有効性の傾向分析
　・教育訓練（Training）：テーマ2の認定試験と連動、力量マトリクスと受講記録を一元管理、問題作成支援
・eQMS構築のステップ（CSA準拠）
　・STEP 1（要件定義）：URS作成。AI支援機能の範囲と「AIに任せない領域」を明記
　・STEP 2（選定）：パッケージ／内製／ハイブリッドの選定、データ所在と学習利用有無を確認
　・STEP 3（リスク評価）：機能ごとに患者安全・製品品質・DIへの影響を評価し検証深度を決定
　・STEP 4（検証）：CSAに基づくアシュアランス活動、AI機能は第10回5層モデルで検証
　・STEP 5（運用）：継続的モニタリング、モデル更新時の再評価ルールを規定
　・AI機能の検証記録は規制当局に説明可能な形式で残す
・データインテグリティ上の留意点
　・やってはいけない：AI出力を人間の確認なしに正式記録として登録、AIによる記録の自動修正を無記録で実施、監査証跡にAI関与の痕跡が残らない設計
　・正しい対応：AI出力は「ドラフト」として扱い承認者の電子署名で確定、どのモデルが・いつ・何を生成したかを監査証跡に記録、ER/ES指針・Part 11要件を満たす電子記録・電子署名を実装、ALCOA+の各要素をAI関与工程にも適用
・本日の論点（テーマ3）
　・論点1：市販eQMSパッケージにAI機能を後付けするか、AIネイティブで設計するか
　・論点2：AI支援機能のバリデーション深度（FDA最終ガイダンス次第で見直し可能性）
　・論点3：研究会として「AI活用型eQMS要件定義書（URS雛形）」を共同作成しないか

テーマ4：AI利用SOPのテンプレート化（研究テーマ?）― 「プロセス」の柱
・第10回「組織プロセス層5項目」をSOPに落とす
　・AI利用ガイドライン → SOP本文の「利用許可区分」へ
　・レビュ可能性ルール → 「自分が検証できない領域でAIを使わない」を要件化
　・多重チェック標準 → 重要文書のAI生成→別エージェント検証→人間2名承認を必須化
　・監査証跡の確保 → AI利用記録の様式（フォーム）を定義
　・教育・文化 → テーマ2の認定試験と連動
　・技術対策（層1〜4）は環境構築で実装、組織対策（層5）はSOPで実装
・SOP骨子案（6章構成）
　・第1章 目的・適用範囲・用語の定義：対象業務とAI関連用語を明確化
　・第2章 利用許可区分：リスクに応じ「禁止／条件付き許可／自由利用」の3区分（Fable/Mythos型の発想）
　・第3章 アカウント管理と入力情報の制限：承認済みツールの範囲と入力禁止情報を明確化
　・第4章 出力の検証・承認プロセス：レビュ可能性ルール・多重チェック・Adversarial Reviewの適用条件
　・第5章 AI利用記録（監査証跡）：ALCOA+に基づき記録する方法を規定
　・第6章 教育訓練・逸脱時の対応：認定制度との連動と逸脱・是正のプロセス
・AI監査証跡とALCOA+
　・記録すべき項目：利用モデル・バージョン、利用日時、利用者（認定レベル）、プロンプト（入力）と生成物（出力）、検証方法と検証者、最終承認者
　・ALCOA+の適用：帰属性（誰がAIを使い誰が承認したか）、同時性（AI利用時点で記録、後付け再現不可）、完全性（不採用とした出力・修正履歴も保管）
　・想定される査察質問例：「生成AIの利用状況と、その検証・承認プロセスを示してください」
・成果物イメージと今後のスケジュール
　・成果物：「生成AI利用管理SOP」テンプレート（Word・当社様式）、付属様式（AI利用記録フォーム・利用許可区分リスト・リスク評価シート）
　・第11回（本日）：骨子の合意と論点整理
　・第12回：ドラフト版を提示し、会員社レビュー
　・第13回：FDA最終ガイダンスを反映した確定版を配布

ミニ演習：AI生成文書のブラインドレビュー
・演習の概要
　・AIが生成したSOP（意図的に誤りを5件混入）をレビューし、人間レビューの限界を数値で体感する
　・誤りの件数は非公開（ブラインド方式：件数を知ると発見次第探索をやめる習性を排除）
・演習の進め方（約30分）
　・STEP 1（配布）：AI生成SOP（2ページ）を配布
　・STEP 2（個人レビュー）：各自10分でレビューし、疑わしい箇所に印を付ける
　・STEP 3（集計）：検出結果を集計、誤り別の検出率を全員で確認
　・STEP 4（答え合わせ）：混入した誤りを開示、見逃された誤りの傾向を分析
・演習の狙いと振り返り観点
　・引用・数値・固有名詞の「もっともらしい誤り」は検出率が大きく下がることを確認
　・見逃しの原因は注意力不足ではなく「もっともらしい記述は疑うトリガーが立たない」という人間の認知構造
　・時間を増やしても検出率は上がらない→原典との突き合わせ・別AIによる相互検証・多重チェックが必要
　・演習結果はテーマ4のSOP多重チェック標準の設計根拠として活用

まとめ
・三本柱の関係
　・人（認定試験）：AIを使う人の力量を担保する、SOPが定める役割・権限の前提となる
　・プロセス（AI利用SOP）：AIの使い方・検証・記録のルールを定める、eQMS運用の土台となる
　・システム（eQMS）：ルールどおりの運用と記録をシステムとして担保する
　・三本柱は独立ではなく連動：認定がSOPの前提、SOPがeQMSの運用ルール
・規制動向
　・FDA・EMA 10原則が国際調和の基盤に、最終ガイダンスはQ2見込み
　・Fable/Mythosの二層提供はリスクベース管理のフロンティア実例
・次回（第12回）に向けて
　・各社のAI利用実態（利用ツール・許可区分の有無）を持ち寄り
　・認定試験の標準問題バンク共同開発への参加意向を確認
　・第12回：「生成AI利用管理SOP」ドラフト版のレビューとFDA最終ガイダンス速報解説