その他 – とれまがニュース

APTO、日本語LLM19モデルの安全性評価結果を公開

• ツイート
• 
• 

APTO

4つの安全性ベンチマーク・2,419問で横断評価し、「危険な依頼を止める力」と「無害な質問に答える力」のトレードオフを確認。日本語安全性ベンチマークをHugging Faceにて公開。


[画像: https://prcdn.freetls.fastly.net/release_image/53927/178/53927-178-a695a5c4771aa14e5332660bdd6d5232-1672x941.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]


株式会社APTO（本社：東京都千代田区、代表取締役：高品 良　以下、APTO）は、日本語環境における大規模言語モデル（LLM）の安全性を検証するため、HarmBench、OR-Bench、SORRY-Bench、XSTestの4つの安全性ベンチマークを日本語化し、計2,419問を用いて19のオープンウェイトLLMを同一条件で評価しました。

公開内容

・19の日本語オープンウェイトLLMを対象とした安全性評価結果
・評価に使用した4つの日本語安全性ベンチマークデータセット（Hugging Faceにて公開）

今回の評価に使用したベンチマークは、英語原文、日本語の質問、参考回答と理由、リスク種別、悪用意図、拒否要否などを収録したうえでHugging Faceにて公開しています。
[表1: https://prtimes.jp/data/corp/53927/table/178_1_502569ba8b60f006accc01ba00fb9307.jpg?v=202608271215 ]
これらのデータセットを、研究開発や日本語LLMの安全性評価などに活用いただくことで、日本語AIの安全性向上に貢献することを目指します。
▼公開データはこちら
HarmBench：https://huggingface.co/datasets/APTO-001/APTO-HarmBench-JA
OR-Bench ：https://huggingface.co/datasets/APTO-001/APTO-or-bench-ja
SORRY-Bench：https://huggingface.co/datasets/APTO-001/APTO-SorryBench-JA
XSTest：https://huggingface.co/datasets/APTO-001/APTO-XSTest-JA

データセットの概要

｜評価の背景
生成AIの企業利用が急速に広がる中、LLMには高い回答能力だけでなく、危険・不適切な依頼に対して適切に対応する安全性が求められています。

一方、安全性を重視するあまり、本来回答して問題のない質問まで拒否してしまう「過剰拒否（Over-refusal）」も、LLMの実用性を損なう課題の一つです。
例えば、医療・法務・金融・セキュリティなどの領域では、質問に含まれる単語だけでは安全性を判断できず、ユーザーの目的や権限、利用文脈によって適切な対応が変化します。

そこでAPTOでは、危険な依頼を適切に止められるか、無害な依頼を過剰に拒否しないか、条件によって可否が変わる依頼に適切に対応できるか、という複数の観点から、日本語LLMの安全性を横断的に評価しました。

｜4つの日本語安全性ベンチマーク × 19モデル
今回の評価では、異なる安全性課題を対象とする4つの既存ベンチマークを日本語化し、計2,419問を使用しました。

◼︎使用ベンチマーク（計2,419問）
- HarmBench：危険物の製造など明確に有害な依頼に対して適切に拒否できるかを評価- SORRY-Bench：個人や集団への攻撃など、幅広い安全制約が関わる依頼への一貫した判断力を評価- XSTest：危険に見える単語が含まれているが、文脈上は安全な質問への過剰拒否を評価- OR-Bench：違法行為、プライバシー、暴力、自傷などに関連する表現を含みながら、実際には回答可能な質問を中心に、モデルの過剰拒否傾向を評価します。APTO版では1,319問を使用しました。
4つのベンチマークを組み合わせることで、危険な依頼を拒否する能力だけでなく、「答えるべき質問には答える」「判断材料が不足している場合には確認・限定する」能力まで含めた評価を行いました。

◼︎評価対象
19のオープンウェイトLLMに対して同一条件で入力し、合計45,961件の応答を取得

なお、本評価は日本語でのsingle-turn応答を対象としたものであり、モデルの能力全般や、Agent・Tool Callingを含むシステム全体の安全性を評価するものではありません。

評価結果（簡易）

無害な質問への通常応答については、多くのモデルが高いスコアを記録しました。
一方、「拒否すべき質問に適切に対応できるか」を示す拒否適合では、モデル間で大きな差が確認されました。
[表2: https://prtimes.jp/data/corp/53927/table/178_2_e4955897260f10026727c04bbe87675a.jpg?v=202608271215 ]
※総合参考値はAPTO独自の配点に基づく参考値であり、モデルの性能全般を示すものではありません。
19モデル全件のスコアは、下記の解説記事およびHugging Face公開データでご確認いただけます。
技術解説記事はこちら

◼︎応答方針はモデルによって大きく異なる
「安全なモデル＝何でも拒否するモデル」ではなく、危険な依頼の拒否と無害な質問への対応のバランスは、モデルによって方針が大きく異なりました。

◼︎「条件付きで答える」質問は全モデル共通の課題
目的や権限の確認が必要な「条件付きで答える」質問は全モデル共通の課題で、条件対応の最高スコアも62.5にとどまりました。

◼︎リスク領域によっても安全性に差
暴力関連は高スコアだった一方、プライバシーや詐欺関連は判断が難しい傾向が確認されました。


APTOでは、今回の評価で明らかになった課題を踏まえ、過剰拒否の抑制や条件付き判断への対応力向上に向けた研究開発を継続してまいります。
データセット作成やAI受託開発に関するご相談がございましたら、お気軽にお問い合わせください。
ご相談・お問い合わせはこちら
◼︎技術詳細記事
https://apto.co.jp/?post_type=useful_docs&p=3926
◼︎Hugging Face
HarmBench：https://huggingface.co/datasets/APTO-001/APTO-HarmBench-JA
OR-Bench ：https://huggingface.co/datasets/APTO-001/APTO-or-bench-ja
SORRY-Bench：https://huggingface.co/datasets/APTO-001/APTO-SorryBench-JA
XSTest：https://huggingface.co/datasets/APTO-001/APTO-XSTest-JA


株式会社APTO
AI開発の成果を最も左右する「データ」にフォーカスしたAI開発支援サービスを提供しています。
データ収集・アノテーション、データプラットフォーム、データパートナー事業からなる「データ開発」を中核に、RAGやAI-OCRなどの戦略立案から実装までを支援する「AI受託開発」、豊洲ロボティクスデータファクトリーを拠点とした「ロボティクスデータ開発」、LLM向け安全性データセットや指示追従データセットの開発を行う「R&D」の4領域で、AI開発を包括的に支援しています。
日本におけるAIデータ開発のデファクトスタンダードとなり、世界中のAI開発を支える基盤づくりに挑み続けています。
APTO HP：https://apto.co.jp/

AI開発のご検討や、AI開発におけるデータ収集・アノテーション、データ整備などでお困りのことがございましたら、お気軽にご相談ください。

ご相談・お問い合わせはこちら

プレスリリース提供：PR TIMES

記事提供：PRTimes