本番AIエージェントセキュリティ分析

AutoGPTが示す、Agent SecurityをPrompt Boundaryより下位へ置く設計

AutoGPT Platform beta v0.11.3はwebhook検証、shell isolation、credential grant、identity check、scheduled executionを強化。本番agent securityにはmodel instructionではなく強制可能なruntime invariantとevidenceが必要です。

読了目安 6分

AutoGPTが公開したもの

AutoGPT projectは11月15日、Platform beta v0.11.3を公開しました。Releaseはprivateに報告された複数のsecurity issueを修正し、productionへの反映後にadvisoryを公開すると説明しています。公開change listにはpreset webhookのsignature timestamp確認、shell sandboxごとのPID・IPC namespace、expert credential grantへのsession rule適用、OAuth signupでのverified email必須化、ScryptによるAPI key検証前のrate limit、lifecycleとschedulerの複数修正が含まれます。

Release noteはprivate vulnerabilityの内容、affected version、exploitability、production deployment statusを開示していません。公開listからこれらを推測すべきではありません。重要なのは修正の形です。重大なeffectを生むagent systemには、external event、credential、process、retryが実行結果へ変わる各boundaryでcontrolが必要です。以下はIneezaの運用分析です。

Webhookは単なるEventではなくAuthorization Request

AutoGPTはpreset triggerでwebhook secretを検証し、signature timestampを確認するようにしたと報告しています。別の修正では、generic webhookに保存されたsecret tokenがtextであることも検証します。これはrequest authenticityと、その根拠になるconfiguration valueの両方への対策です。

Ineezaの分析: Agent triggerはcode execution、data access、payment workflowを開始できるため、webhook verificationはeventがmodelへ届く前のauthorization pathに置きます。Raw bodyそのものへのsignatureを検証し、timestamp skewを限定し、再利用されたevent identifierを拒否し、secretをtenantとtriggerへbindしてdecisionを記録します。Rotationには明示的なoverlap windowが必要です。Secretが欠落、malformed、staleなら、unauthenticated triggerへsilent downgradeせずfail closedにします。

Process IsolationはAgentが消費できるResourceに合わせる

Releaseでは各bash execution sandboxに個別のPID・IPC namespaceを与えています。PID isolationはsandbox間のprocess visibilityとsignallingを制限し、IPC isolationはSystem V IPCとPOSIX message queue resourceを分離します。これは具体的な改善ですが、namespaceだけで完全なcontainmentになるとは説明されていません。

Ineezaの分析: Modelを信頼していてもshell toolはhostile workloadとして扱います。PID・IPC namespaceに加え、mount、user、network、cgroupのboundary、read-only base filesystem、明示的egress policy、CPU・memory・process count・disk・wall timeの上限、短命credentialが必要です。Host boundaryでescapeとdenial-of-serviceをtestします。「containerで実行した」だけでは、agentが別runをobserve、signal、starveしたり、後続runへpersistしたりできない証拠になりません。

Credential Grantには最新のTenancy・Session Checkが必要

AutoGPTはteam変更時のsession ruleをexpert credential grantにも適用したと説明しています。またOAuth signupではidentity providerがemailをverifiedと示すことを必須にしました。前者はcurrent sessionが正しいteamに属するか、後者は外部identityの主張をproviderが検証したかという異なるtrust edgeを扱います。

Ineezaの分析: Credential grantは作成時だけでなく使用時に評価します。Tenant、principal、agent、tool、scope、audience、expiryへbindし、membershipやownership変更後はinvalidateまたは再評価します。Providerのverification stateとemail文字列も分離します。Revocation cacheはriskに応じて短くし、各privileged tool callがどのgrantとsession stateで許可されたかを証明できるようにします。

Reliability FixもSecurity Invariantを守る

Releaseは1秒のgrace period付近でagent scheduleがskipされる問題と、notification consumerがshutdown時に途中終了したりstartup時にorphan化したりする問題を修正しています。また変更後のfileがsize limitを超えるeditを拒否します。Bug fixとして分類されていますが、いずれも約束したcontrolが実際に動くかへ影響します。

Ineezaの分析: Schedulerにrowがあるだけではscheduled revocation、reconciliation、cleanup、monitoringの完了になりません。Idempotency keyとintended execution windowを保存し、durable leaseを取得し、missed workを検出可能にし、restart後にclaimed effectとcompleted effectをreconcileします。Quotaはinputだけでなくoperation後のresultとstorage boundaryでも強制します。Crash、retry、clock skew、partial shutdownの下でinvariantが完了することがsecurityの一部です。

Private Fixには段階的なEvidence Planが必要

AutoGPTはsecurity fixがproductionへ反映された後にadvisoryを公開すると明記しています。Advisory公開までは、operatorがprivate issueと自社exposureを対応付ける情報が不足しています。またprojectはこのreleaseをbetaとしています。

Ineezaの分析: 現在のdeployed version、外部公開trigger、shell tool exposure、credential grant path、scheduled security jobをinventory化します。まずcanary environmentでupgradeし、署名済み・replay webhook、sandbox間のprocess・IPC access、team removal、restart recovery、oversized editを検証してevidenceを保存します。Advisory公開後はaffected componentとprerequisiteをinventoryへ照合し、1つのtagを導入すれば全pathが閉じるとは仮定しません。

Ineezaの見解

AutoGPT v0.11.3が重要なのは、1つのbeta releaseでagent securityが完成するからではなく、修正群が本番control surfaceを明確にするためです。Agent safetyはauthenticated ingress、kernel-enforced isolation、最新authorization、resource上限、確実なlifecycle workにまたがります。Model policyも有用ですが、これらのinvariantはprompt boundaryより下位で独立して強制し、failure下でtestし、durable evidenceへ結び付ける必要があります。

← Ineeza ホーム