Warum kann manipulierter Inhalt, den mein Agent liest, meine On-Chain-Wallet zur Übertragung von Geldern autorisieren?
Möglichkeit
Ein KI-Agent mit Unterzeichnungsbefugnis über eine Krypto-Wallet verarbeitet beliebige externe Inhalte als Teil seines Aufgabenkontexts: Webseiten, E-Mails, Dokumente, API-Antworten. Nichts in der heutigen Signierinfrastruktur trennt Befehlsquellen voneinander, sodass eine Seite, die der Agent zusammenfassen soll, versteckte Überweisungsanweisungen enthalten kann, die der Agent als legitime Aufgabe interpretiert und ausführt. Wallet-Standards wie ERC-4337-Session-Keys modellieren das Problem als die Frage, was dieser Schlüssel tun kann, nicht als die Frage, woher dieser Befehl stammt. Kein Agent-Runtime filtert Signierbeschlüsse heute nach der Herkunft von Anweisungen, was bedeutet, dass eine Wallet mit Überweisungsbefugnis genau so sicher ist wie das feindlichste Dokument, das der Agent jemals lesen wird.
Warum es wichtig ist
Agenten mit On-Chain-Schlüsseln sind bereits im Produktionsbetrieb, und jeder Inhalt, den sie verarbeiten, ist ein potenzieller Angriffsvektor gegen die Gelder, die sie verwalten.
Wie ich die Chance bewerte
Der Opportunity Score ist meine persönliche Einschätzung, keine Messung: wie stark es schmerzt, wie oft es auftritt und wie wenig heute existiert, um es zu lösen. Ein höherer Wert bedeutet, dass ich es für lohnender halte, es umzusetzen.
Wie viel Schmerz es verursacht, wenn es auftritt.
Wie oft Menschen tatsächlich darauf stoßen.
Wie wenig gute Werkzeuge dafür heute existieren.
Weitere lösungswürdige Probleme
Wie sieht das Bankkonto eines KI-Agenten eigentlich aus?
AI x CryptoKann eine on-chain-Organisation, die von Agenten geführt wird, vermeiden, zur Betrugsmaschine zu werden?
AI x CryptoWie beweist man, dass ein Foto oder eine Stimme echt ist, ohne dass eine Plattform dafür bürgt?
AI x CryptoWarum ist On-Chain-Identität entweder nichts oder das gesamte eigene Leben?
AI x CryptoWie überprüfe ich, welcher Agent in einer Delegationskette unter meiner Identität gehandelt hat?
AI x CryptoWie überprüfe ich, ob ein KI-Agent, der meine Gelder verwaltet, tatsächlich solvent ist?