独仏共同でゼロトラストに基づくLLMシステムのための設計原則を公表(2025年8月26日公開)

2025年8月11日、ドイツ連邦情報セキュリティ局（BSI)とフランス国家情報システムセキュリティ庁（ANSSI）は共同で、「ゼロトラストに基づく大規模言語モデル（LLM）ベースシステムのための設計原則」を公表した。BSIとANSSIの共同執筆によるこの文書は、LLMシステムを安全に導入するための中心的な設計原則を提示している。

この設計原則は、以下のような構成になっている。

1 イントロダクション 2 安全なLLMシステムのための設計原則 2.1 認証と認可 2.2 入出力の制限 2.3 サンドボックス化 2.4 監視・報告・制御 . 2.5 脅威インテリジェンス 2.6 意識向上 3 結論 参考文献

LLMシステムは、アプリケーション全体の可用性、機密性、完全性を確保するセキュリティポリシーに従う必要がある。間接的なプロンプトインジェクションは、これらの目的を直接的に脅かすので、潜在的に侵害されたLLMシステムの出力や自動化された動作は、無条件に信頼すべきではない。

LLMアプリケーションは、さまざまなメカニズムによって潜在的な損害から保護されなければならないが、ここで重要となるのが「ゼロトラスト・アーキテクチャ」である。これは、内部ネットワーク内のエンティティ（ユーザー、デバイス、システム）間に存在する暗黙の信頼を根本的に問い直し、それぞれの真正性と認可を継続的に検証するものである。

ゼロトラストのアプローチは、以下の3つの中心的な原則に基づいている：

・認証と認可：すべてのエンティティは、インタラクションごとに一意に認証・認可されなければならない ・最小権限の原則：リソースは小さな単位に分割され、権限は可能な限り細かく付与される ・暗黙の信頼の排除：外部・内部ネットワークは安全とは見なされず、データ漏えいや内部脅威が常に存在すると想定し、リスク評価や脅威モデリングによって対処する

実際の運用において、ゼロトラスト・アーキテクチャは以下のような従来型のセキュリティ対策を含む： ログ分析、行動の追跡可能性、継続的な監視、デバイス状態のモニタリング、ID管理、アクセス制御システム、証明書管理、脅威情報、多要素認証（MFA）、マイクロセグメンテーション、データ分類、暗号化

多くのLLMには、機能、学習データ、セキュリティ、法的遵守、運用可能性などを記載した「モデルカード」が付属している。モデルカードの内容は、モデルの更新、再学習、責任あるAIに関する方針の変化など、さまざまな要因によって変化する可能性がある。基盤モデルの選定は、後続のアプリケーションの安全性とセキュリティに大きな影響を与える可能性があるので、その選定に際しては、モデルカードに基づいて慎重に行う必要がある。

安全なLLMシステムのための設計原則は、攻撃や予期せぬエラーに対する耐性を高め、信頼性のあるLLMシステムの基盤を形成する。これらの原則は、誤用、データの漏えい、システムの不具合といったリスクを最小限に抑えつつ、機能性とユーザーフレンドリーな設計を両立させることを目的としている。

全体的な目標は、データポイズニング、回避、プライバシー攻撃のリスクを最小化することであり、そのためのセキュリティアプローチとして「ゼロトラスト原則」が採用されています。これは、ユーザーやシステムコンポーネントを本質的に信頼せず、すべてのやり取りを検証・確認することで、攻撃を早期に検出・緩和するという考え方である。

従来の原則（監視や認証など）は、本ドキュメントにおいてAI特有の対策（意識向上や入出力制御など）を含む形で拡張されている。各設計原則の構成は一貫しており、まず一般的な説明があり、次にリスクシナリオが提示され、最後に推奨される緩和策が示される形になっている。

（参考文献） ・Federal Office for Information Security, ”Design Principles for LLM-based Systems with Zero Trust”, August 11, 2025 https://www.bsi.bund.de/SharedDocs/Downloads/EN/BSI/Publications/ANSSI-BSI-joint-releases/LLM-based_Systems_Zero_Trust.html ・ANSSI ,”Zero Trust Model”, June 24, 2025 https://cyber.gouv.fr/en/publications/zero-trust-model

笹原英司 https://www.linkedin.com/in/esasahara/ 旧労働省（現厚生労働省）労働基準監督官を経て、デジタルマーケティング全般（B2B／B2C）および健康医療／介護福祉／ライフサイエンス業界のガバナンス／リスク管理関連調査研究／コンサルティングに従事する 現在は、クラウドセキュリティアライアンス、在日米国商工会議所、在日デンマーク商工会議所などで、スタートアップ企業支援活動を行っている。 千葉大学大学院医学薬学府博士課程修了（博士・医薬学）

Eiji Sasahara, Ph.D., MBA After serving as a Labor Standards Inspector at the former Ministry of Labour (now the Ministry of Health, Labour and Welfare), engaged in various areas, including digital marketing (B2B/B2C) and research, studies, and consulting related to governance and risk management within the healthcare, nursing, welfare, and life sciences industries. Currently, get involved in supporting startup companies through organizations such as the Cloud Security Alliance, the American Chamber of Commerce in Japan, and the Danish Chamber of Commerce in Japan. Hold a Ph.D. in Medical and Pharmaceutical Sciences from the Graduate School of Medical and Pharmaceutical Sciences, Chiba University.