Почему специально созданный контент, прочитанный моим агентом, может авторизовать перевод средств с моего on-chain кошелька?
Возможность
ИИ-агент с правом подписи над криптовалютным кошельком обрабатывает произвольный внешний контент в рамках своего рабочего контекста: веб-страницы, электронные письма, документы, ответы API. Ни один элемент современной инфраструктуры подписи не разделяет источники инструкций между собой, поэтому страница, которую агенту поручено пересказать, может содержать скрытые инструкции о переводе средств, которые агент интерпретирует как законное задание и выполняет. Стандарты кошельков, такие как сессионные ключи ERC-4337, формулируют задачу как «что может делать этот ключ», а не «откуда пришла эта инструкция». Ни одна среда выполнения агентов сегодня не фильтрует решения о подписи по происхождению инструкции, а значит кошелёк, авторизованный на перевод средств, ровно настолько же безопасен, насколько безопасен самый враждебный документ, который агент когда-либо прочитает.
Почему это важно
Агенты с on-chain ключами уже работают в продакшене, и каждый фрагмент контента, который они обрабатывают, является потенциальным вектором атаки на средства под их управлением.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Как на самом деле выглядит банковский счёт агента ИИ?
AI x CryptoМожет ли организация на блокчейне, управляемая агентами, не превратиться в машину для мошенничества?
AI x CryptoКак доказать, что фотография или голос настоящие, если за них не ручается платформа?
AI x CryptoПочему on-chain идентичность — это либо ничто, либо вся ваша жизнь?
AI x CryptoКак мне отследить, какой агент действовал от моего имени в цепочке делегирования?
AI x CryptoПочему каждая сделка, которую совершает мой агент, приводит к возникновению обязательств, размер которых я не могу определить?