EpicAI、AIのセキュリティ分野日本語LLMのプロンプトインジェクション防御研究で「人工知能学会全国大会優秀賞」を受賞

株式会社EpicAIのプレスリリース

〜日本語特有の攻撃手法に対応したAIセキュリティモデルを開発、F1スコア約0.99を達成〜

株式会社EpicAI(代表取締役:横山 敬一、以下「EpicAI」)は、2026年度人工知能学会全国大会(第40回)において発表した研究論文「日本語対応LLMに対するプロンプトインジェクション防御モデルの構築と課題」が、「全国大会優秀賞(ポスターセッション発表部門)」を受賞したことをお知らせいたします。

本研究では、生成AIのセキュリティ上の重要な脅威である「プロンプトインジェクション攻撃」に対し、日本語特有の言語表現や攻撃パターンに対応した検知モデルを構築し、その有効性を検証しました。

■ 研究の背景

企業における生成AIやAIエージェントの活用が進む一方、悪意ある指示によってAIの動作を不正に操作する「プロンプトインジェクション攻撃」が、新たなセキュリティリスクとして注目されています。

従来の防御モデルや評価データセットは英語を中心に開発されており、日本語特有の敬語表現や表記揺れ、不可視文字などを利用した攻撃への対応には課題がありました。

■ 研究の概要と成果

EpicAIでは、日本語環境におけるプロンプトインジェクション攻撃の検知精度向上を目的として、日本語特有の攻撃パターンを含む学習データセットを構築しました。

さらに、大規模言語モデル「Qwen3-4B」をベースに、LoRAによるファインチューニングを実施し、攻撃の有無を判定する検知モデルを開発しました。

その結果、日本語の評価用データセットにおいてF1スコア約0.99を達成し、比較対象とした既存のLLMセキュリティモデルを上回る検知性能を確認しました。

また、誤分類事例の分析を通じて、日本語特有の攻撃手法への対応や、複数の防御技術を組み合わせる多層防御の重要性についても考察しています。

■ 今後の展望

EpicAIは、生成AIの業務活用におけるセキュリティと信頼性の向上を重要な研究開発テーマの一つと位置づけています。

今後も、プロンプトインジェクションをはじめとする生成AI特有のセキュリティリスクやセキュアなAIシステム(閉域化・オンプレミスでの構築や可観性などの確保)の構築への対策技術の研究開発を進め、企業が安心して生成AIやAIエージェントを活用できる環境の実現に貢献してまいります。

■ 株式会社EpicAIについて

株式会社EpicAIは、東京大学松尾研究室発スタートアップです。「産業のAI原体験を生み出す」をビジョンに掲げ、製造業・建設業をはじめとする幅広い産業に向けて、生成AI・AIエージェントの研究開発および社会実装を推進しています。

企業URL:https://epicai.co.jp/

Follow
SHARE
このページのURLとタイトルをコピー
お使いの端末ではこの機能に対応していません。
下のテキストボックスからコピーしてください。