NTT、少ないデータから特定の専門性を有したLLMにチューニングする技術を開発

　NTT株式会社は11月12日、企業の業務マニュアルの知識を大規模言語モデル（LLM）に定着させるための新たなチューニング技術を開発したと発表した。

　ここでいうチューニングは、既存のLLMを特定の用途やタスクに合わせて調整する作業。従来は、LLMに業務全般にかかる知識を覚え込ませるには極めて膨大なデータが必要であるのに対し、企業が所有するドキュメント量は学習データとして圧倒的に不足しており、チューニング時の障壁となっていた。

　今回開発された技術は、「多角的な学び」がポイントとなる。例えば、学習データとして問い合わせマニュアルが与えられたとき、LLM自身がそのマニュアルを学ぶための教材となる（学習データ）を多角的に構築し、自らの学びに活用する。例えば、仕様書やFAQといった多様な表現形式のデータを生成し、それらを用いて活用することで、従来よりも高精度に知識を獲得できるようになったという。

　同社は、実業務マニュアルを与え、その知識の定着度合いを計測する実験を実施した。知識の定着率は、業務マニュアルに記載範囲内の問題を作り、LLMに解かせて、その正答率を計測。LLMには、tsuzumi 2とLlama 3（3B）が用いられた。tsuzumi 2とLlama 3（3B）の両モデルにおいて先行研究よりも優れていることが確認できたという。

業務マニュアルの知識を問う問題の正答率。横軸はチューニング時に与えたデータ量。

　同研究の成果は、11月18日～25日に東京都武蔵野市のNTT武蔵野研究開発センタで開催されるNTT R&D FORUM 2026に展示される予定。