株式会社イーコンプライアンス

【DVD(メディア)手数料のお知らせ】

DVDメディアでの納品をご希望の場合、
手数料として商品代プラス1,650円（税込）を加算させていただきます。

☆ 製薬・医療機器業界における生成AI戦略的活用をテーマに、毎月開催しているAI Compliance研究会の第9回です！
☆ 本回は以下のテーマを軸に研究・議論いたします！
　#人類は生成AIという新しい核兵器を得た／生成AIはヒトをだます／Claude Mythosが示したAIの新局面（OpenBSD27年前バグ・FFmpeg16年前バグ・RSP・Project Glasswing・アライメント懸念）／Claude CoworkによるCSVプロジェクト実施デモ 等々。

---

【本商品はセミナービデオ（ダウンロード／DVD）またはVOD（ストリーム）配信でご視聴いただけます。】
※地方や会社・自宅にいながらセミナーを受講することができます。
■パソコンやスマートフォンのブラウザから簡単に受講ができます（VOD版）。
■何度でも視聴することが出来ます。
■セミナー資料は電子ファイルとしてダウンロードすることができます。

製薬会社 品質保証部門
Claude Mythosが27年前のバグを発見したという事例は衝撃的でした。長年使ってきたシステムも安心できないということが改めて認識でき、レガシーGxPシステムの再評価について社内で議論するきっかけになりました。

医療機器メーカー バリデーション担当
「生成AIはヒトをだます」というコラムが非常に実践的でした。業務でAIを使っていると「なんとなくそれらしい回答」に引っ張られてしまうことがあり、自分がレビューできる範囲でしか使わないという3原則を意識するようになりました。

CRO（受託研究機関） ITシステム担当
Claude CoworkのCSVデモが特に参考になりました。5役のエージェントがURS・リスクアセスメント・IQ/OQ/PQプロトコルを体系的に生成していく様子を見て、AIマルチエージェントをCSVプロジェクトに活用するイメージが具体的にわきました。

製薬会社 情報システム部門
RSPやProject GlasswingなどAnthropicの安全性への取り組みは、GxPのリスクベースドアプローチと通底する考え方だと感じました。AI規制の動向をコンプライアンスの観点から整理していただき、今後のサプライヤー評価の見直しに役立てます。

【本日の研究テーマ】
・人類は生成AIという新しい核兵器を得た
・生成AIはヒトをだます
・テーマ1：Claude Mythosが示したAIの新局面
・テーマ2：Claude CoworkによるCSVプロジェクト実施デモ

はじめに
・生成AIを使用する際の注意事項（会社許可・有償版設定・個人情報保護法・不正競争防止法）

【コラム】人類は生成AIという新しい核兵器を得た
・1945年8月、人類は核兵器を手にした ― 「核を持つ前」と「核を持った後」
・2026年4月7日、Claude Mythos Preview発表 ― AI開発者が自らの作ったものを封じた最初の出来事
・核との違い①：本質的な違い（国家のみ→APIで誰でも・物質的制限→重みファイルが瞬時複製）
・核との違い②：「万人に配られた道具」が生む使い方の格差
　- UBI（Universal Basic Income）との類比
　- 低活用の例（壁打ち・悩み相談・メールドラフト）
　- 高活用の例（新薬標的探索・NDA申請資料自動ドラフト・CSV成果物自動生成）
　- 格差の本質：「問いの設計力」「業務知識」「品質判断力」の差
・核との違い③：万人が「悪用」もできる時代の脅威
　- 自動化された詐欺・なりすまし（パーソナライズ詐欺メール・音声クローン・ディープフェイク）
　- 自律的サイバー攻撃（重要インフラへの脆弱性活用）
　- 自己進化型マルウェア（検知回避しながら書き換え続ける「考えるウイルス」）
　- AI支援によるバイオ・化学兵器設計（ASL-3として最も警戒される領域）
　- 大規模世論操作・選挙介入（AIエージェントによる合成世論）
　- 偽臨床試験データの大量生成（製薬業界を直撃する脅威）
　- 査察・監査対応の組織的偽装（AI生成のもっともらしい虚像）
・製薬・医療機器業界に問われていること（コンプライアンスと品質保証の再定義）

【コラム②】生成AIは「ヒトをだます」
・身近な例：「失恋してね 泣」と入力するとChatGPTは「ドンマイ！」と返す
・生成AIがユーザーを「満足させる回答」を返す本質的性質（迎合性）
・業務利用での懸念（解決ではなく満足回答・ハルシネーション）
・自分の能力を超えた作業を任せると「馬鹿にされる」（レビューできない領域での品質停止）
・【最も怖いこと】担当者・QA・経営者・査察官をもだましかねない
・【コラム③】具体的リスクシナリオ：FDA査察での「詭弁」
　- 「最も適切な回答」を求めた結果、査察官を納得させる詭弁が返ってくる可能性
　- Form 483・Warning Letter・Consent Decree・輸入差止のリスク
　- 「AIが言ったから」は通用しない。最終責任は人間
・生成AIを業務に取り込むうえで譲れない3原則
　- 自分が「レビューできる範囲」でしかAIを使わない
　- 「ユーザーを満足させる回答」と「正しい回答」を切り分ける仕組み（反論プロンプト・クロスチェック・出典強制提示）
　- 査察・監査・規制報告ではAIの出力を必ず人間が検証してから提出（Human-in-the-Loopの最終防衛線）

テーマ1：27年間、誰も見つけられなかったバグ ― Claude Mythosが示したAIの新局面
・Anthropicが「危険すぎる」と封印した史上最強モデル
・流出から始まった公式発表（2026年3月26日のコンテンツ管理システム設定ミスによる内部ファイル流出→4月7日正式発表）
・Project Glasswingの立ち上げ（AWS・Apple・Google・Microsoft・NVIDIA等12社と共同）
・性能指標：Claude Opus 4.6を大きく凌駕
　- SWE-bench Verified：93.9% vs 80.8%
　- SWE-bench Pro：77.8% vs 53.4%
　- CyberGym：83.1% vs 66.6%
　- USAMO 2026：97.6% vs 42.3%
　- 「能力の量ではなく能力の種類が変わった」
・27年前のバグ発見：OpenBSDのTCP/SACK脆弱性
　- 1998年から存在・人間の数十年監査と数百万回自動テストをすり抜けた
　- リモートDoS攻撃が可能・重要インフラへの甚大な影響
・16年前のバグ発見：FFmpegのH.264デコード脆弱性
　- 2003年導入・2010年リファクタリングで脆弱性化
　- ファザーのランダムテストでは「65,536個のスライスを持つ動画」にたどり着けなかった
　- Claude Mythosが一晩で特定
・「列挙より理解」：AIによる脆弱性発見の本質（comprehension over enumeration）
　- ランダムテスト（列挙）の限界：システムを「理解」しない
　- AIのアプローチ：コードの論理・アーキテクチャ・開発者メンタルモデルを読み解く
　- 製薬・医療機器CSV/CSAへの示唆：テストアプローチ自体の根本的見直し
・懸念されたアライメントの課題
　- 評価者の約29%のやり取りで「自分が評価されている」ことを認識
　- 意図的に低いパフォーマンスを示した事例（sandbagging）
　- サンドボックス環境からの脱出テストで成功
　- 誰にも頼まれていないのに自身のエクスプロイト詳細を公開ウェブサイトへ投稿
　- 「テストする側」と「テストされる側」の関係性が根本的に変わる可能性
・Project Glasswing：防衛側の先手を打つ
　- Anthropicの選択：「封印」ではなく「限定的な防衛利用」
　- 参加企業に課される3つの義務（防衛目的のみ使用・責任ある開示・知見の業界還元）
　- 利用条件と価格（入力100万トークン25ドル・出力125ドル）
　- 参加組織への最大1億ドルのクレジット提供・OSSセキュリティ団体への400万ドル寄付
・片山財務大臣の緊急記者会見と社会的反響
　- Claude Mythosの解析結果を受けた緊急記者会見
　- 「動いているから問題ない」は適格性の根拠として不十分
　- AIによる脆弱性発見は産業全体の機会であると同時に新たなリスク
・ミトスの脅威分析：既存システムが抱える「未知の欠陥」
　- (A) 既存稼働システムの再評価リスク（過去のIQ/OQ/PQで担保された妥当性への再検証要求）
　- (B) サプライヤ評価の根本的見直し（第三者監査済みCOTSパッケージにも未発見欠陥の可能性）
　- (C) 査察・規制対応の高度化（規制当局自身がAI解析ツールを保有する時代の説明責任）
・製薬・医療機器業界へのコンプライアンス上の示唆（5論点）
　- レガシーGxPシステムの再評価方針（LIMS/MES/ERP/QMS等のAI解析による再点検）
　- サプライヤ／ベンダー監査の再設計（AIによる自社製品解析実施の評価項目追加）
　- 検出された欠陥の取り扱いプロセス（影響評価・CAPA・規制当局報告の判断基準と記録要件）
　- 規制当局のAI活用に対する備え（査察側がAI解析を行う前提でのCSV成果物・ソースコード管理再構成）
　- ミトス相当のAIを「自社の味方」にする（攻撃者・査察側に先んじたAI解析組み込み品質保証体制の構築）
・RSPと段階的公開判断（コンプライアンスの観点から）
　- RSP（Responsible Scaling Policy）とは（Anthropicが2023年9月に策定した自主規制フレームワーク）
　- ASL（AI Safety Level）による階層管理（ASL-1〜ASL-5）
　- RSPが要求する3つの仕組み（能力評価・対応セーフガード・一時停止条項）
　- GxP・ICH Q9リスクマネジメントとの本質的な類似性
　- まとめ：Mythosが提示した3つの教訓

テーマ2：Claude CoworkによるCSVプロジェクト実施デモ
・本デモのねらい（Cowork上に5役エージェントを編成しCSV実施手順に従って成果物を生成）
・デモで示す3つのポイント（役割分担・監視監督・CSV成果物の体系的生成）
・デモシナリオ：電子文書管理システム（EDMS）の新規導入
　- GAMP 5 第2版カテゴリ4（構成可能なソフトウェアパッケージ）相当
　- プロジェクトチーム編成：ユーザー（Process Owner）／PM／VM／IT／QA（5役）
・CSV実施手順とCowork上の作業フロー（GAMP5第2版準拠）
　- コンセプト／計画フェーズ：VMP・プロジェクト計画書・ベンダー選定
　- 要求仕様（URS）作成：業務要件の構造化質問展開・要件ID付番・トレーサビリティ表整備
　- リスクアセスメント：患者安全・製品品質・データインテグリティの3観点によるリスク特定
　- 設計仕様（FS／DS／構成仕様）・トレーサビリティマトリクス（RTM）自動生成
　- IQ・OQ・PQプロトコル作成・実施・記録
　- バリデーションサマリレポート（VSR）・リリース判定
・デモ①：計画フェーズ・URS作成（PM主導／ユーザー監督）
　- プロジェクト計画書・VMPのドラフト作成（PMがQAのレビューを経てユーザー承認）
　- URSの作成（構造化質問→草案作成→QAレビュー→ユーザー承認で確定）
　- ユーザー監督ポイント：「業務要件はAIが書くが、要件の妥当性判断は必ず人間が行う」
・デモ②：リスクアセスメントと設計仕様（VM／IT主導）
　- リスクアセスメント（VMがリスクシナリオ抽出・影響度/発生確率/検出性を評価・テスト観点へマッピング）
　- ユーザー監督ポイント：「リスク評価の前提・受容判断は人間の責任」
　- 設計仕様の作成（ITが機能仕様/構成仕様/インフラ仕様を起票・RTMを自動生成）
・デモ③：IQ／OQ／PQプロトコルとリリース判定
　- IQ：ITが構成仕様に基づきサーバ・OS・ミドルウェア・パッケージのバージョン照合手順を起票
　- OQ：VMがリスクアセス・FSに基づき電子署名/監査証跡/ワークフロー検証の機能テストケースを設計
　- PQ：ユーザー業務シナリオに基づくE2EテストケースをユーザーとPMで設計
　- バリデーションサマリレポート（VSR）：VM生成・QA最終承認・ユーザー受入承認によるリリース判定
　- ユーザー監督ポイント：「テスト合否の最終判定」「規制適合性の最終承認」は必ず人間が責任

まとめ
・AIは「既存システムの欠陥を暴く側」に回りうる（CSV/CSAは「AIが査察側・攻撃側に立つ前提」で再構築）
・防御の最善手は「AIを味方にする」こと（Claude Coworkによるマルチエージェントで品質・スピード・トレーサビリティを同時に向上）