Фирма по безопасности блокчейна и ИИ Certik представила новую платформу, призванную решить растущую проблему безопасности на рынках ИИ-навыков. Этот «антивирус для ИИ-агентов» предлагает стандартизированный уровень доверия, оценивая риски до выполнения, что крайне важно для защиты финансовых систем и корпоративных рабочих процессов.
Certik представляет «Антивирус для ИИ-агентов»
27 мая Certik, известная фирма в области безопасности блокчейна и искусственного интеллекта, представила свою революционную платформу безопасности. Описанная как «антивирус для ИИ-агентов», эта система специально разработана для оценки рисков, присущих сторонним рынкам ИИ-навыков. Запуск происходит на фоне растущей обеспокоенности отрасли по поводу безопасности этих быстро расширяющихся экосистем агентов.
Растущая угроза непроверенных ИИ-навыков
Стремительный рост рынков ИИ-навыков привел к появлению новой категории рисков для цепочки поставок программного обеспечения. В отличие от традиционных магазинов приложений, многие ИИ-навыки поступают из общедоступных репозиториев с минимальной проверкой или полным ее отсутствием. Это создает значительные возможности для злоумышленников внедрять вредоносные инструкции, получать несанкционированный доступ к данным или манипулировать автономными потоками выполнения.
- Сбор учетных данных
- Эксфильтрация данных
- Манипуляции с переводом средств
- Атаки с переопределением на основе подсказок
Эти уязвимости могут иметь серьезные последствия, особенно по мере того, как ИИ-агенты все глубже интегрируются в критически важные системы.
Решение Certik: Платформа Skill Scanner
Платформа Certik Skill Scanner разработана для проактивного выявления рисков, возникающих во время выполнения ИИ-навыков. Она особенно эффективна в сценариях, связанных с финансовыми транзакциями или вызовами средств, где ставки особенно высоки.
Система сканера генерирует числовую оценку от 0 до 100, а также вердикты «пройдено», «предупреждение» или «отказ» с подробными выводами. Certik утверждает, что система достигает до 90.5% точности в выявлении угроз безопасности.
«Поскольку ИИ-агенты все глубже интегрируются в финансовые системы, корпоративные рабочие процессы и повседневные цифровые взаимодействия, модель безопасности вокруг сторонних навыков становится критически важной», — заявил Ронгхуэй Гу, генеральный директор и соучредитель Certik. «Certik Skill Scanner был создан для установления стандартизированного уровня доверия до выполнения, помогая пользователям и платформам выявлять скрытые риски до того, как будут раскрыты конфиденциальные данные, активы или системы.»
Интеграция и будущие перспективы
Платформа Skill Scanner может быть легко интегрирована в конвейеры публикации рынков ИИ-навыков, что позволяет автоматически проверять навыки до их запуска и отображать вердикты безопасности для пользователей. Предприятия могут использовать этот инструмент для внутренних рабочих процессов соблюдения нормативных требований и управления рисками, а независимые разработчики могут проводить самоаудит своих навыков перед публикацией.
В будущем Certik планирует позволить обычным пользователям самостоятельно сканировать навыки перед установкой. Сканер уже развернут в некоторых средах инфраструктуры Web3 AI агентов и расширяет интеграцию с дополнительными платформами, включая Finchip.ai.
«Доверие — это необходимое условие для функционирования любой экономики навыков в масштабе», — отметил Гэри Ян, инкубационный инвестор Finchip.ai. «Работа Certik по проверке безопасности навыков — это именно то, что нужно этой экосистеме. Это то, что делает миссию Finchip по программируемому владению и распространению навыков стоящей.»
Проактивный подход Certik к безопасности ИИ
Запуск Skill Scanner следует за более широкой экспансией Certik в инфраструктуру безопасности, ориентированную на ИИ. Ранее в этом году компания представила свою инициативу AI Auditor, направленную на решение рисков, связанных с автономными системами и средами выполнения, управляемыми ИИ.
«Приложения ИИ движутся к все более автономному выполнению, что создает новую категорию проблем безопасности и доверия», — сказал Гу. «Мы считаем, что инфраструктура безопасности для эпохи ИИ должна функционировать проактивно, а не реактивно.»
Часто задаваемые вопросы (FAQ)
Что такое Certik Skill Scanner?
Certik Skill Scanner — это новая платформа безопасности, разработанная для оценки рисков в сторонних ИИ-навыках и рынках агентов, функционирующая как «антивирус для ИИ-агентов».
Какие риски он помогает снизить?
Он помогает снизить риски, такие как сбор учетных данных, эксфильтрация данных, манипуляции с переводом средств и атаки с переопределением на основе подсказок, которые могут быть встроены в непроверенные ИИ-навыки.
Кто может использовать Certik Skill Scanner?
Рынки ИИ-навыков могут интегрировать его в свои конвейеры публикации, предприятия могут использовать его для соблюдения нормативных требований и управления рисками, а независимые разработчики могут проводить самоаудит своих навыков. В будущем он будет доступен и обычным пользователям.
Какова точность сканера?
Согласно Certik, система достигает до 90.5% точности в выявлении угроз безопасности.
