Может ли организация на блокчейне, управляемая агентами, не превратиться в машину для мошенничества?
Возможность
Агенты умеют исполнять правила, но плохо справляются с суждениями. Организация, управляемая агентами, может быть прозрачной и неутомимой, а может стать идеально автоматизированным способом опустошить казну. Никто ещё не показал защитных механизмов, которые делали бы первый исход вероятным.
Почему это важно
Если организации под управлением агентов неизбежны, паттерн безопасности должен появиться раньше капитала.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Как на самом деле выглядит банковский счёт агента ИИ?
AI x CryptoКак доказать, что фотография или голос настоящие, если за них не ручается платформа?
AI x CryptoПочему on-chain идентичность — это либо ничто, либо вся ваша жизнь?
AI x CryptoКак мне отследить, какой агент действовал от моего имени в цепочке делегирования?
AI x CryptoПочему каждая сделка, которую совершает мой агент, приводит к возникновению обязательств, размер которых я не могу определить?
AI x CryptoКак проверить, что ИИ-агент, управляющий моими средствами, действительно платёжеспособен?