人間ドックとドーピング検査が教えるAIの両義性

筆者は会社を経営していることもあり、健康管理のため、毎年人間ドックを受けている。そして、ほぼ必ず再検査・精密検査と言われる。その一因には、検査項目の拡充や装置の高感度化により、以前なら捉えにくかった微細な所見まで拾われるようになったことがあるのだろう。

精密検査に行けば「この程度なら気にしなくてよい」と言われることも多い。検出能力が上がるほど、臨床的に対応すべき所見と、経過観察でよい所見を切り分ける判断基準の妥当性が、改めて問われる。筆者の身近な比喩だが、ここにAIの両義性を考えるヒントがある。

ここでアンチ・ドーピング検査を引きたい。分析機器の精度が上がり、かつてなら見落とされた微量まで検出されうるようになった。これに対しWADA（世界アンチ・ドーピング機構）は、分析機関に求める検出・同定性能としてMRPL（Minimum Required Performance Level、最低要求性能レベル）を定める一方、閾値物質にはDecision Limitを、一部の物質にはMinimum Reporting Levelを設定するなど「検出できる水準」と「結果を報告・判定する水準」を区別してきた。

MRPL自体は違反判定の閾値ではないが、この制度設計は、分析性能と判断基準を切り分ける重要性を示している。検出できる水準、分析結果として報告する水準、そして規則に基づいて違反を判断することは、それぞれ区別して考えなければならないーーこの切り分けこそ、検出力が上がった時代の知恵である。

製薬の現場にも、似て非なる論点がある。洗浄バリデーションのキャリーオーバーだ。前の製造の残渣は、高精度の分析機器なら微量でも検出しうる。

ただしドーピングの判定基準と洗浄の管理は同じではない。洗浄バリデーションで管理すべきなのは、単に検出できるかどうかではなく、PDE（許容一日曝露量）等の健康ベース曝露限度値（HBEL）を基礎として、後続製品の用量やバッチサイズ、共用設備の条件、接触面積などから設定した許容基準である。分析法の感度が上がったという理由だけで、毒性学的根拠に基づくHBELが自動的に厳しくなるわけではない。

ただし、新たな毒性学的知見や製造条件の変更があれば、HBELや洗浄基準の再評価が必要になる場合はある。「微量が検出された」ことと「毒性学的に問題となる量か」は、別の問いなのだ。分析上の不検出だけを目標とするのではなく、科学的根拠に基づく合理的な限度で管理するーーこの発想が、AI検出時代の基準づくりにも通じる。

AIによる脆弱性発見も、文書監査も、同じ構図にある。前稿のとおり、AIは長年潜んでいた欠陥を暴くと報じられている。大量のコードや文書を横断的に解析できることで、検出の範囲と速度は大きく向上しうる。

これは恩恵であり、稼働中のシステムの未知の欠陥を発見でき、医療機器ソフトウェアの安全性も高められよう。だが同時に、検出力の向上は、判断基準と対応プロセスの見直しを迫る。

考えてみてほしい。AIが解析して、運用フェーズに入って久しいシステムにバグの疑いが示されたとする。もっとも、AIが示すのはあくまでシグナルであり、直ちに確定した欠陥ではない。

人が技術的に検証し、逸脱・不適合に該当するかを分類し、製品・患者・データ・過去期間への影響を評価して、はじめて対応の要否と範囲が決まる。その時、過去の逸脱、CAPA、監査結果、教育訓練について、どこまで遡及的に影響評価し、必要に応じて再調査・再評価するのか。検出できなかった時代には存在しなかった問いが、検出できる時代には突きつけられる。

「検出できる＝直ちにすべて是正せねばならない」と短絡すれば現場は精密検査の山に埋もれる。だからといって、不都合なシグナルを恣意的に破棄したり、確認済みの事実を記録から消したりすることは許されない。AIの出力をどこまで記録し、どのように検証・分類するかについても、その用途とGxP上の重要性に応じて、あらかじめルールを定めておく必要がある。検出力が上がるほど、判断の重みは増していくのである。

検出されたシグナルを一律に扱うのではなく、ICH Q9（R1）の考え方に沿って、患者への影響、製品品質、データの信頼性、影響範囲などを評価し、調査と是正の深さを決める。ここに、もう一つの両義性がある。前稿のとおり、査察・監査の側がAI解析を手にすれば、被監査側が見落とした矛盾も拾われうる。

検出される側には脅威だが、先回りして自らAIで検出しておけば備えになる。同じ検出力が、立つ位置によって脅威にも恩恵にもなる。
ではどう向き合うか。

鍵は、リスクベースドアプローチである。ここで二つの枠組みを混同せずに押さえたい。

1. 一つはICH Q9（R1）の品質リスクマネジメントーー科学的知識に基づいて品質リスクを評価し、リスクの程度に応じて、管理、意思決定、文書化の深さを変える考え方だ。
2. もう一つはALCOA+に代表されるデータインテグリティの原則であり、FDA・MHRA・PIC/Sなどのガイダンスを通じて示されてきた、データが完全で、一貫性があり、正確で、信頼できることを求める期待事項として、ICH Q9とは別個に確立してきた。

リスクが低いという判断も、検出された事実を消去する理由にはならない
ゼロリスクという幻想ではなく、リスクに応じた合理的な基準の再設計こそが問われている

検出力の向上は、恩恵であると同時に、既存の基準を揺さぶる。人間ドックも、アンチ・ドーピングも、洗浄バリデーションも、AIも、問われるのは検出した後の判断である。何を確認し、どこまで対応し、その判断をどう説明可能にするか。AIとハサミは使いようーーその「使いよう」には、検出後の判断までが含まれるのだ。

この分野の解説動画