Was macht secure-agent-design?
Abgeleitet von der Sicherheitsarchitektur, die Meta für Muse (Sept. 2026) offengelegt hat: Jeder Agent läuft in seiner eigenen sicheren VM, ein separates „Sentinel“-System prüft jede Aktion, bevor sie die VM verlässt, und der Agent sieht niemals echte Passwörter oder Kreditkartennummern. Sicherheit als Architektur, nicht als Versprechen, war der Schlüssel zur Akzeptanz.
Die Muster
Pro Benutzer isolierte Rechenleistung
Der Agent jedes Benutzers läuft in seiner eigenen virtuellen Maschine: einem isolierten Computer, der diesem Benutzer gewidmet ist. Eine Kompromittierung eines Agenten kann nicht auf die Daten eines anderen Benutzers zugreifen. Die VM arbeitet im Hintergrund weiter, auch wenn der Benutzer abwesend ist.
Sentinel: Voraktionsprüfung
Ein separates System prüft jede Aktion, bevor etwas die VM verlässt. Der Agent schlägt vor; der Sentinel überprüft gemäß Richtlinien (erlaubte Apps, Ausgabenlimits, Sensitivitätsregeln), bevor die Ausführung erfolgt. Keine Aktion mit Nebenwirkungen umgeht dieses Tor.
Isolierte Anmeldedaten
Der Agent sieht niemals tatsächliche Passwörter oder Kreditkartennummern. Einkäufe erfolgen über Einmal-Virtual-Kreditkartennummern, die pro Transaktion ausgestellt werden, sodass die echten Zahlungsanmeldedaten nie in den Kontext des Agenten gelangen und nicht über Aufforderungen, Protokolle oder Modellausgaben lecken können.
Menschliche Genehmigungstore
Der Agent fragt vor sensiblen Aktionen nach: Senden einer E-Mail, Ausgeben von Geld, Löschen von Daten. Genehmigungen sollten spezifisch sein (diese Aktion, dieser Betrag, dieser Empfänger), nicht pauschal. Routineaktionen mit geringem Risiko können automatisch ausgeführt werden, sobald der Benutzer zustimmt.
Berechtigungsminimale Konnektoren
Der Benutzer entscheidet genau, was der Agent berühren kann: welche Apps verbunden sind, ob der Zugriff Lese- oder Lese-/Schreibzugriff ist, und kann jederzeit widerrufen. Standardmäßig auf den engsten Umfang, der die Aufgabe erledigt; nur auf ausdrückliche Anfrage erweitern.
Transparenz
Der Benutzer kann alles sehen, was der Agent getan hat: ein vollständiges, für Menschen lesbares Aktionsprotokoll. Fügen Sie „Vergessen“-Kontrollen hinzu, damit Benutzer löschen können, was der Agent über sie gelernt hat.
Vermittlung
Gehen Sie mit der Architektur voran („läuft in seiner eigenen sicheren VM, jede Aktion wird geprüft, bevor sie die VM verlässt“), nicht mit Adjektiven („banktauglich“, „militärisch“). Nennen Sie die Komponenten (VM, Sentinel, Einmalkarten), damit technische Benutzer die Behauptungen überprüfen können. Räumen Sie den Kompromiss ehrlich ein: breiterer Zugriff bedeutet höheres Risiko, weshalb die Architektur genau existiert.