ИИ находит критические уязвимости в крипто: Zcash и будущее

Развивающаяся роль ИИ в обнаружении ошибок

Традиционно ИИ использовался для выявления очевидных ошибок кодирования. Однако современные «пограничные» модели демонстрируют способность к гораздо более глубокому анализу, понимая, как программное обеспечение должно функционировать, и выявляя тонкие логические несоответствия.

«Значение не в том, что ИИ может находить ошибки», — объясняет Бен Гертцель, основатель и генеральный директор SingularityNET. «Дело в том, что изменился тип ошибок, которые он теперь может находить».

Уязвимость Zcash Orchard

В мае Тейлор Хорнби, исследователь безопасности из Shielded Labs, при поддержке Anthropic’s Claude Opus 4.8, обнаружил критическую уязвимость в схеме Orchard Zcash. Эта ошибка, скрытая всего в двух строках кода, заключалась в проверке, которая, казалось бы, подтверждала входные данные транзакций, но на самом деле не обеспечивала соблюдение предполагаемых правил. Это потенциально позволяло злоумышленнику создавать поддельные ZEC внутри защищенного пула незамеченным. Хорнби создал рабочий эксплойт для проверки уязвимости, прежде чем сообщить о ней разработчикам. Экстренное исправление было развернуто 1 июня.

Изменение парадигмы в аудитах безопасности

Это открытие сигнализирует о фундаментальном сдвиге в подходе к исследованиям безопасности. Модель, основанная на медленных, ручных аудитах, проводимых несколькими высококвалифицированными специалистами, теперь дополняется, а возможно, и преобразуется возможностями ИИ.

«Я думаю, это ранний признак сдвига, значение которого трудно переоценить», — говорит Гертцель. «Модель исследований безопасности как горстки почитаемых человеческих специалистов, проводящих медленные, кустарные, глубоко экспертные аудиты, не исчезает, но перестает быть всей игрой».

Проактивная защита в новую эру

Гертцель считает, что уязвимость Orchard относится к классу тонких логических ошибок, которые передовые модели ИИ все чаще способны обнаруживать, включая ошибки смарт-контрактов, сбои контроля доступа и ситуации, когда программное обеспечение ведет себя не так, как задумано его разработчиками. По мере улучшения этих возможностей исследования безопасности смещаются в сторону модели, при которой человеческие специалисты контролируют непрерывный, управляемый ИИ анализ, способный проверять кодовые базы гораздо более обширно, чем традиционные аудиты.

«Привлечение Shielded Labs исследователя специально для поиска ошибок на уровне протокола с помощью передовой модели, прежде чем это сделает злоумышленник, является, я подозреваю, шаблоном, а не исключением», — отмечает Гертцель. «Проактивный, дополненный ИИ, антагонистический по своей сути анализ становится обязательным, и протоколы, которые его не примут, будут все чаще узнавать о своих уязвимостях от злоумышленника, а не от дружественного источника».

Динамика «атакующий-защитник»

Достижения в области ИИ также меняют баланс между атакующими и защитниками. Передовые модели могут быстро тестировать стратегии атак, учиться на результатах и выявлять слабые места с беспрецедентной скоростью.

«Чтобы создать лучшую защиту, мы должны использовать эти передовые модели ИИ в качестве потенциальных атакующих для стресс-тестирования этих систем», — сказал Шон Рен, генеральный директор Sahara AI и профессор компьютерных наук в Университете Южной Калифорнии.

Уникальная уязвимость блокчейна

Блокчейн-сети особенно уязвимы, поскольку их открытый исходный код может быть напрямую проанализирован передовыми моделями ИИ. Эти модели могут быстро тестировать стратегии атак и выявлять уязвимости быстрее, чем традиционные проверки безопасности.

«Если вы подумаете о лабораториях передовых моделей, таких как OpenAI, Anthropic и Google DeepMind, у них есть более ранний доступ к сильнейшим неопубликованным моделям, и они могут проводить множество экспериментов на общедоступных сетевых системах, таких как блокчейны, поэтому у них есть власть», — объясняет Рен. «Если бы кто-то со злым умыслом имел доступ к этим возможностям, он мог бы проводить атаки и создавать уязвимости».

Растущий пробел в безопасности

Окно для адаптации может закрыться быстрее, чем многие ожидают. Дэнни Дженкинс, генеральный директор и соучредитель кибербезопасности ThreatLocker, предупреждает, что обнаружение уязвимостей с помощью ИИ улучшается быстрее, чем организации могут защитить уже используемое ими программное обеспечение.

«У нас есть огромный пробел, на преодоление которого уйдут годы», — говорит Дженкинс. «Все это программное обеспечение будет иметь все эти уязвимости, у нас не будет исправлений или обновлений для него в течение долгого времени, и люди смогут очень быстро находить эти уязвимости».

Ускорение обнаружения уязвимостей

Дженкинс подчеркивает, что ИИ не столько фундаментально меняет исследования уязвимостей, сколько значительно ускоряет их. Задачи, которые раньше требовали от исследователей безопасности ручного анализа кода и обратного проектирования программного обеспечения, теперь могут быть выполнены современными моделями за считанные секунды.

«До ИИ киберугрозы и эксплойты росли с каждым годом», — говорит он. «После ИИ это стало еще быстрее, и я думаю, что это стало быстрее по двум причинам. Во-первых, теперь вы можете использовать ИИ для поиска уязвимостей и эксплойтов, и число людей, обладающих такой возможностью, значительно возросло. Вам больше не нужно быть скрипт-кидди».

Потенциальное преимущество криптоиндустрии

Несмотря на эти риски, Гертцель утверждает, что криптоиндустрия может быть лучше подготовлена к адаптации, чем другие отрасли, поскольку ее код открыт, а ее сообщества очень ориентированы на безопасность.

«Крипто стоит ближе всего к двери, но это также та часть комнаты, которая может видеть приближающуюся дверь», — заключает он.