Соучредитель Ethereum Виталик Бутерин предупредил, что полагаться на искусственный интеллект при принятии управленческих решений может иметь обратный эффект. В своем посте в X он заявил, что системы, управляемые ИИ, создают единую точку отказа, которую злоумышленники могут использовать с помощью «джейлбрейк»-подсказок.
«Если вы используете ИИ для распределения финансирования на вклады, люди БУДУТ использовать «джейлбрейк» плюс «дай мне все деньги» везде, где только смогут», — написал Бутерин.
Замечания Бутерина последовали за тестом исследователя Эйто Миямуры, который продемонстрировал, как ChatGPT может быть использован для утечки частной информации. В демонстрации использовались новые инструменты Model Context Protocol (MCP), которые позволяют ChatGPT подключаться к Gmail, SharePoint и Notion.
Имея лишь немного больше, чем адрес электронной почты, Миямура заставил систему раскрыть конфиденциальные данные. Он отметил, что эксплойт работает, потому что большинство людей доверяют запросам ИИ, не проверяя, какой доступ они предоставляют.
«Помните, что ИИ может быть очень умным, но его можно обмануть и фишинговать невероятно глупыми способами, чтобы он слил ваши данные», — заключил Миямура.
Вместо того чтобы передавать решения ИИ, Бутерин выступил за модель, которую он назвал «инфо-финансы». В этой системе авторы представляют идеи или модели на открытом рынке, но результаты оцениваются людьми.
Такая структура сохраняет инструменты ИИ, но устраняет единую точку отказа, гарантируя, что люди остаются финальной проверкой. Бутерин заявил, что такой человеческий надзор делает системы менее уязвимыми для манипуляций и более надежными, чем чистое управление на основе ИИ.
Бутерин вернулся к теме управления блокчейном. Он отметил, что многие децентрализованные автономные организации (DAO) уже сталкиваются с проблемой чрезмерного делегирования, когда слишком много власти оказывается сосредоточено в одних руках.
Комбинируя инструменты ИИ с человеческим обзором в модели «инфо-финансов», Бутерин заявил, что можно снизить риск централизации и атак, основанных на эксплуатации уязвимостей. Для криптопроектов, построенных на доверии и прозрачности, такой гибридный подход может оказаться критически важным.
