安全代理人設計 是做什麼的?
從 Meta 為 Muse(2026 年 9 月)揭露的安全架構提煉而來: 每個代理人在自己的安全虛擬機器中執行,一個獨立的「哨兵」系統會檢查 每個動作,然後才讓它離開虛擬機器,而且代理人永遠看不到真實的密碼 或信用卡號碼。將安全框架為架構而非承諾,是獲得採用的關鍵。
模式
每個使用者隔離的運算
每個使用者的代理人在自己的虛擬機器中執行:一個專屬於該使用者的隔離 電腦。一個代理人的入侵無法觸及另一個使用者的資料。即使使用者不在, 虛擬機器也會在背景持續運作。
哨兵:動作前驗證
一個獨立的系統會在每個動作離開虛擬機器之前進行檢查。代理人提出 提案;哨兵在執行前根據政策(允許的應用程式、支出限制、敏感度規則) 進行驗證。任何有副作用的動作都無法繞過這道閘門。
憑證隔離
代理人永遠看不到實際的密碼或信用卡號碼。購物透過每筆交易發行的 一次性虛擬卡號進行,因此真正的付款憑證永遠不會進入代理人的上下文, 也無法透過提示、日誌或模型輸出洩漏。
人工核准閘門
代理人在進行敏感動作前會詢問使用者:發送電子郵件、花錢、刪除資料。 核准應該具體(這個動作、這個金額、這個接收者),而不是籠統的授權。 一旦使用者選擇加入,常規的低風險動作可以自主執行。
最小權限連接器
使用者可以精確決定代理人能觸及什麼:哪些應用程式已連接、存取權限 是唯讀還是讀寫,並且可以隨時撤銷。預設採用能完成任務的最小範圍; 僅在使用者明確要求時才擴展。
透明度
使用者可以看到代理人所做的所有事情:一個完整、人類可讀的動作日誌。 包含「忘記」控制項,讓使用者可以刪除代理人對他們所學到的內容。
如何傳達
用架構來引導(「在自己的安全虛擬機器中執行,每個動作在離開前都經過檢查」), 而不是用形容詞(「銀行級」、「軍事級」)。說出元件的名稱(虛擬機器、 哨兵、一次性卡號),以便技術使用者可以驗證這些說法。誠實地承認取捨: 更廣泛的存取意味著更高的風險,而這正是此架構存在的原因。