投稿者 global-ai-media 
自律的にタスクを実行する「AIエージェント」への期待が高まる一方、外部への自動発信などによるセキュリティリスクが懸念されています。本記事では、イーサリアム共同創設者のヴィタリック・ブテリン氏が提唱・実践する「人間とAIによる共同承認」というアプローチを紐解き、日本企業の商習慣にフィットする安全なAI実装のあり方を考察します。
AIエージェントの台頭と顕在化するセキュリティリスク
昨今のAI開発は、人間の指示（プロンプト）に対して回答を生成する段階から、設定された目標に向けて自律的に計画・行動する「AIエージェント」の領域へとシフトしつつあります。業務効率化や新規サービス開発において、AIエージェントがメールの送受信、システム間のデータ連携、さらには顧客対応までを自律的にこなす未来は、決して遠いものではありません。
しかし、こうした自律性の高まりは、同時に新たなセキュリティリスクを生み出します。AIが誤った情報（ハルシネーション）に基づき、意図せず機密情報を外部に送信してしまったり、不適切なメッセージを顧客に送付してしまったりするリスクです。特にコンプライアンスやブランド毀損への警戒感が強い日本企業にとって、AIに「外部へのアクション（アウトバウンド）」を完全に委ねることは、現時点では極めてハードルが高いのが実情です。
ヴィタリック・ブテリンが実践する「人間とAIの共同承認」
こうしたAIエージェントの暴走リスクに対し、実用的な解決策を提示したのが暗号資産イーサリアムの共同創設者であるヴィタリック・ブテリン氏です。彼はAIエージェントのセキュリティリスクに警鐘を鳴らし、自身が運用するプライベートな大規模言語モデル（LLM）の仕組みを公開しました。
注目すべきは、彼がオープンソース化したメッセージング用のプログラムに組み込まれている「人間＋LLMの2-of-2の確認ルール」です。これは、Signalやメールなどを通じて第三者にメッセージを送信する際、AI単独での実行を許さず、「人間」と「LLM（AI）」の両方の承認を必須とする仕組みです。ブロックチェーン技術におけるマルチシグ（複数人の署名がないと取引が実行されない仕組み）の概念を、AIのガバナンスに巧みに応用した例と言えます。
日本の商習慣に馴染む「デジタル・ダブルチェック」の可能性
ブテリン氏のアプローチは、多重チェックや承認プロセス（稟議など）を重んじる日本の組織文化・商習慣と非常に高い親和性があります。日本企業がAIを業務プロセスや自社プロダクトに組み込む際、この「人間とAIの共同承認（ヒューマン・イン・ザ・ループの高度化）」は、安全性と効率性を両立させる有力な設計思想となります。
例えばカスタマーサポート業務において、AIが顧客への回答案を作成したとします。これをそのまま送信するのではなく、人間の担当者が内容を確認し、同時に「監査用としてチューニングされた別のAIモデル」がコンプライアンス違反や不適切な表現がないかを自動チェックします。両者が「送信可」と判断して初めてメールが送られるというフローにすれば、属人的なミスの見落としを防ぎつつ、AIの幻覚によるリスクも極小化できます。これは、日本の伝統的な「ダブルチェック」をデジタル時代に再定義したものと言えるでしょう。
AIガバナンスにおけるリスクと限界
一方で、この仕組みが万能であるわけではありません。最大の懸念は「承認プロセスの形骸化」です。AIが常に高い精度で回答を生成し続けると、人間側がAIを過信し、内容を精査せずに盲目的に「承認」ボタンを押すようになるリスク（自動化バイアス）が生じます。
また、承認プロセスを厳格にしすぎると、せっかくのAIの強みである「即時性」や「自律性」が損なわれ、結果的に業務効率化の恩恵を十分に享受できなくなるというジレンマもあります。自社が取り扱うデータや業務の性質（例：社内向けか社外向けか、修正が効くか致命的か）に応じて、AI単独で実行させる領域と、人間との共同承認を必須とする領域を明確に切り分けるリスクアセスメントが不可欠です。
日本企業のAI活用への示唆
ここまでの要点と、日本企業におけるAIの実務活用やガバナンスに向けた示唆は以下の通りです。
1. 自律型AIのリスク評価の徹底：AIに外部システムへのアクセスやメッセージ送信権限を与える際は、AI単独での実行リスクを事前に評価し、致命的なエラーが起きうる業務には制限をかける必要があります。
2. 「人間＋AI」の共同承認の設計：ブテリン氏の「2-of-2」モデルを参考に、日本の商習慣であるダブルチェックの片方をAIに担わせる、あるいはAIの行動を人間が最終承認するワークフローを設計することで、ガバナンスを担保しながら業務のAI化を進めることが可能です。
3. 承認プロセスの形骸化を防ぐUI/UXの工夫：人間がAIの出力を盲信しないよう、判断の根拠（引用元）を明示させたり、ランダムに人間の精査を要求するなど、プロダクトへの組み込みにおいては運用が形骸化しないための工夫が求められます。
AI技術の進化は止まりませんが、それをどう制御し、既存の組織文化と調和させるかは人間側の課題です。最新のグローバルな知見を取り入れつつ、自社の身の丈に合ったガバナンス体制を構築することが、今後のAI活用における重要な鍵となるでしょう。