～医療などのハイリスク分野へのAI適用に対する、安全性と信頼性を検証
2024年11月21日
The British Standards Institution (BSI)
DeepEyeVision株式会社
BSI(British Standards Institution, 英国規格協会)（以下「BSI」)は、AIによる眼科画像診断支援システムの開発ならびに医療機器プログラムの製造販売を行っている自治医科大学発ベンチャー・DeepEyeVision株式会社（以下「DeepEyeVision」）に対して、同協会の新しい”AI Algorithm Auditing & Dataset Testing（AA&DT）”サービスを世界で初めて提供し、DeepEyeVisionが使用するAIアルゴリズムとモデル、およびそれらを訓練するために使用されたデータセットの信頼性評価を完了しました。
医療などのハイリスク分野において、AIを利用したシステムを活用にするにあたっては、そのAIモデルやデータセットなどが、「データのバイアス」の影響を受けていないか、「未知のデータ」に対するロバスト性があるか、などといった、安全性と信頼性が担保されている必要があります。しかしこれまで、それらを第三者によって検証・認証する手段はほとんどありませんでした。
その状況を踏まえて、この度、BSIは、BSIの”AI Algorithm Auditing & Dataset Testing（AA&DT）”サービスによる独立した評価を通じて、DeepEyeVisionのAIアルゴリズムが、AIパフォーマンスの指標および値を正確に報告していることを確認しました。それにより、DeepEyeVisionは、同社のAIを用いた診断支援システムに使用されるモデルとデータセットがBSIの検証を受けたことを踏まえ、眼科医、顧客、規制当局、およびその他の利害関係者に対して、AIパフォーマンスへの信頼性を担保することが出来るようになりました。
BSIの”AI Algorithm Auditing & Dataset Testing（AA&DT）”サービスは、経験豊富なAI技術および規制の専門家による、AIアルゴリズム、モデル、およびそれらをトレーニングするために使用されるデータセット（※１）に対する、自発的かつ独立した公正な評価です。このサービスは、ロバスト性、バイアス、分類性能、セマンティックセグメンテーション性能などのAIパフォーマンス指標を第三者が検証します。
また、本サービスは、AIシステムにおけるバイアスとAI支援意思決定（ISO 24027）、ニューラルネットワークのロバスト性（ISO 24029-1）、機械学習の評価 第1部（ISO 4213）、医療用画像に基づく3Dプリント用モデリング - セグメンテーション（ISO 3532-2）など、国際的なAI基準に基づいています。
DeepEyeVisionの場合、AIアルゴリズムおよびモデルは、網膜スキャン画像、特に眼底（目の内部の後部）の堅牢なデータセットに基づいて予測を行い、潜在的な眼疾患を検出し、より迅速な診断支援と治療を可能にします。
（※１）AIモデルとは、特定のパターンを認識したり、さらなる人間の介入なしに特定の決定を行うために、データセットを使って訓練されたプログラムです。
BSIのレギュラトリーサービス部門のプレジデント、マニュエラ・ガザードは次のように述べています。
「AIは、眼疾患を含む無数の病状の治療において、医療分野に大きな恩恵をもたらす変革的な力となる可能性を秘めています。しかし、この可能性を実現するためには、AIが安全かつ倫理的に使用されているという社会的信頼を築くことが不可欠です。
BSIの新しい”AI Algorithm Auditing & Dataset Testing（AA&DT）”サービスは、このプロセスをサポートし、AI対応製品、サービス、システムへの信頼を確立することを目的としています。AA&DTサービスは、医療、金融、法執行機関など、バイアスや不正確さが重大な影響を与える可能性のある重要な分野でAIを導入している組織がリスクを管理しつつ、イノベーションを妨げないよう支援します。DeepEyeVisionがBSIによって初めて検証された企業となったことは素晴らしいことであり、彼らの先駆的な取り組みが世界中の臨床医や患者にどのような利益をもたらすのかを楽しみにしています。」
DeepEyeVisionの代表取締役CEOであり、筑波大学教授・自治医科大学准教授である、高橋秀徳博士は以下のように述べています。
「DeepEyeVisionのAIは、入力データ変動に対する出力の一貫性を検査し、異常出力のリスクを調査してきました。検査結果は開発にフィードバックされ、出力変動や異常出力を抑える改良を施しています。それにより、例えば眼の奥の写真、眼底写真、が明るすぎたり暗すぎたりしても同じ解析結果を出すように調整されています。医療機関の診療ワークフローにおいて、AIが安全かつ倫理的に役立てるよう、DeepEyeVisionは開発を続けています。
しかし、医療AIが検査され安全かつ倫理的に使用されていることが社会に認められるには、第三者による監査が必要です。今回、BSIがその監査システムを世界で初めて構築し、その最初の検証先にDeepEyeVisionを選んだことを喜ばしく思います。BSIの先進的な取り組みが、医療に限らず金融、法執行などにおいても、信頼できるAIの普及に貢献し、社会を進化させていくことを期待しています。」
BSI Algorithm Auditing & Dataset Testing サービス（AA&DT）の詳細については、https://www.bsigroup.com/en-GB/products-and-services/assessment-and-certification/system-certification/ai-algorithm-auditing-dataset-testing/をご覧ください。
・BSIについて
BSIは、ビジネス改善と標準化を推進する企業であり、さまざまな産業分野で世界77,500社以上の顧客と提携しています。BSIは、気候変動からAIへの信頼構築、そしてその間にあるあらゆるものまで、社会の重大な問題に取り組む組織と協力することで、組織が成長する自信を提供し、公正な社会と持続可能な世界への進歩を加速させます。
・DeepEyeVisionについて
筑波大学 サイバーメディスン研究センター 教授、自治医科大学 准教授である、高橋秀徳（医学博士）が、学術研究の場で生まれた医療AI技術を社会に還元することを目的として設立した自治医科大学発ベンチャー企業です。AIによる画像診断技術をいかし、眼科領域に留まらず、あらゆる医療分野の高度化をミッションとして、研究開発を行っています。
お問い合わせ先
DeepEyeVision株式会社
https://deepeyevision.com
E-mail: pr@deepeyevision.com
BSIによるプレスリリース
https://www.bsigroup.com/en-GB/insights-and-media/media-centre/press-releases/2024/november/first-client-receives-validation-from-bsis-new-ai-algorithm-audit-and-dataset-testing-services/
企業プレスリリース詳細へ
PR TIMESトップへ
この記事をSNSで伝える：
