研究・雑学

AIエージェント、いったい誰の味方？開発者が問う「権限」と「帰属」の本質

2026年08月19日 06:45

AIエージェントって、ただ賢ければそれでいいんだっけ？

採用プラットフォーム「Job Protocol」のリサーチエンジニア、ザビエル・ロマ・カステルス氏は、そんな問いを投げかけている。彼が開発したのは、企業側と求職者側、それぞれに立つ2つのAIエージェント。「Holly（雇用主向け）」と「Hunter（候補者向け）」だ。

寝苦しい夜が、これひとつで快適にAirio Pro

「2つのエージェントが異なる立場の人間を代理する場合、同じソフトウェアとして扱うわけにはいかない」とカステルス氏は言う。「それぞれに異なるコンテクスト、異なる権限、そして『誰の利益のために動いているのか』という明確な理解が必要だ」

実際、Hunterは候補者の経歴や目標、好みを長期にわたって把握する設計。一方のHollyは企業の採用要件を最優先する。同じ「採用」というプロセスでも、エージェントが誰に雇われているかで、扱う情報も行動範囲もガラリと変わるのだ。

この考え方は、2023年にカステルス氏が設計した二面性アーキテクチャに結実。Googleがより汎用的な「Agent2Agentプロトコル」を発表した2025年より前の話だ。

ただし、カステルス氏は「エージェント同士が通信できる」だけでは不十分だと指摘する。

「エージェントを通信させるのは問題の一層にすぎない。それぞれのエージェントが何を言い、何をする権限を持ち、その権限がどこで終わるのかを判断しなければならない」

彼が重視するのは、機密情報を守るための「決定論的開示制御」、エージェントの行動を制限する「境界付き権限」、プロバイダー側が中身を覗けない「エンドツーエンド暗号化」といった仕組みだ。「機密性をプロバイダーのポリシーだけに依存すべきではない」と強調する。

Job Protocolのシステムは実際に300件以上の採用を完了し、40以上の採用管理システムと連携。実戦投入されたからこそ見えた課題もある。

「知能は関係性の一部に過ぎない。エージェントが有能でも、間違った利益を代表していたり、行動の境界が不明確なら効果は半減する」

カステルス氏はさらに、エージェント間の信頼は「少数のプラットフォームに管理されるべきではない」と主張。署名付き資格証明や、人間が背後にいることを証明する「プルーフ・オブ・パーソンフッド」、個人情報を公開せずに事実確認できる「ゼロ知識証明」などを挙げ、中央集権的な仲介者を必要としない信頼構築を提案する。

長期間稼働するエージェントについては、「単に動き続けるプロセスではなく、持続的な主体として設計すべき」と語る。継続させるべきは、エージェントが獲得した知識、目的、権限、コミットメント、進捗記録だという。

「エージェントができることが増えれば増えるほど、その関係性を精密に定義しなければならない。能力だけあって権限が不明確だと、意図しないリスクが生まれる」

ファームウェアや分散システム、金融システム、ユーザーインターフェースなど多様なバックグラウンドを持つカステルス氏は、AIエージェントを「より大きな技術的・人的システムの一部」と捉える。

「モデルが仕事をこなせるかどうかを評価するのは問題の一部に過ぎない。誰のために働いているのか、モデルプロバイダーが何を許可し何を禁止しているのか、委任された権限の開始と終了はどこか——それを理解しなければならない」

彼の研究は現在、人間がコンテクストと権限をコントロールしつつ、エージェントが確実に代理行動できる仕組みへと向かっている。

「エージェントがより有能になっても、その背後にいる人間が『このソフトは自分の名で何ができるのか』を理解できなくなるようではダメだ。システムは、エージェントが誰で、誰を代表し、どのような委任権限で結ばれているのかを、常に明確に保つべきなんだ」