投稿者 global-ai-media 
大規模言語モデル（LLM）を実業務に組み込む際、多くの開発現場で標準的に採用されているデータ形式「JSON」が、知らず知らずのうちにAIの処理コストを押し上げています。本記事では、トークンを浪費する「JSON税」の実態と、システム運用を最適化するためのアプローチについて解説します。
LLM実装で見落とされがちな「JSON税」の罠
近年、日本国内でも生成AIを自社のプロダクトや業務システムに組み込む動きが加速しています。とくに、社内データベースや外部APIから取得した「構造化データ」をLLM（大規模言語モデル）に読み込ませ、高度な質問応答やデータ分析を行うRAG（検索拡張生成）などの仕組みが普及しています。
こうしたシステム間連携において、データのやり取りに広く使われているフォーマットが「JSON（JavaScript Object Notation）」です。JSONは人間にも機械にも読みやすく、現在のウェブ開発におけるデファクトスタンダードとなっています。しかし、LLMのプロンプトとしてJSONをそのまま入力すると、中括弧やダブルクォーテーションといったデータ構造を定義するための記号が大量に含まれるため、AIが処理するテキストの最小単位である「トークン」を無駄に消費してしまうという問題があります。海外のAIコミュニティでは、これを「JSON tax（JSON税）」と呼び、見直しの機運が高まっています。
トークン消費がもたらすコストとパフォーマンスへの影響
トークンの無駄遣いは、企業にとって二つの大きなデメリットをもたらします。一つ目は「APIコストの増加」です。LLMの利用料金は入力および出力するトークン数に比例します。とくに昨今の為替状況（円安傾向）を考慮すると、外資系ベンダーが提供するドル建てのAI APIを大規模に利用する日本企業にとって、数パーセントのトークン増加が年間で無視できないコスト負担となります。
二つ目は「処理速度（レイテンシ）の低下と精度の問題」です。トークン数が増えれば増えるほど、LLMの応答時間は長くなります。ユーザー向けに提供するチャットボットや、リアルタイム性が求められる業務支援ツールにおいて、数秒の遅延はユーザー体験を大きく損ないます。また、一度に入力できる情報量（コンテキストウィンドウ）には上限があり、JSONの記号で枠を使い果たしてしまうと、本当に必要な業務データや指示文を十分に含めることができなくなり、結果としてAIの回答精度が低下するリスクもはらんでいます。
軽量フォーマットへの移行と適材適所のシステム設計
この「JSON税」を回避する現実的なアプローチとして、YAMLなどのより軽量なデータフォーマットの活用が注目されています。YAMLはインデント（字下げ）を用いてデータ構造を表現するため、JSONに比べて記号の数が圧倒的に少なく、トークン数を大幅に節約できる可能性があります。また、より単純な箇条書きのテキストや、XMLライクな独自のタグ付けを用いることで、LLMに効率よく文脈を伝える手法も有効です。
しかし、すべてのシステムを直ちにJSON以外のフォーマットに移行すべきかといえば、そうではありません。日本のエンタープライズシステムでは、厳格なデータ検証や既存のシステム基盤との互換性が強く求められます。JSONには「JSON Schema」を用いた厳密なデータ型の定義やエラーチェックがしやすいという明確なシステム連携上のメリットがあります。したがって、LLMと直接やり取りする部分（プロンプト生成や出力解析）ではトークン効率の良いフォーマットを採用し、社内の他システムと連携するAPI部分ではJSONを維持するなど、適材適所でのアーキテクチャ設計が求められます。
日本企業のAI活用への示唆
これまでのシステム開発の常識が、必ずしもLLMの開発において最適とは限りません。日本企業がAI活用を推進するうえで、以下の点に留意することが重要です。
第一に、開発現場のエンジニアだけでなく、プロダクトマネージャーやIT投資の意思決定者も「データフォーマットの選択が、AIの運用コストとユーザー体験に直結する」という認識を持つことです。技術的な細部に見えますが、事業の採算性を左右する重要な要素となります。
第二に、既存の技術標準に縛られず、AIの特性に合わせた柔軟なシステム設計を行うことです。日本の組織文化では、一度決まった標準仕様（今回であればJSON）を変更することに抵抗が生まれがちですが、LLMのデータ処理パイプラインにおいては、変換処理を一つ挟んででもトークンを節約する価値があるケースが多々あります。
生成AIの実装フェーズに入った現在、単に「AIが動く」だけでなく、「いかに低コストで速く、正確に動かすか」というMLOps（機械学習の継続的な運用・改善）の視点が、企業のデジタル競争力を分ける鍵となるでしょう。