Парадокс Anthropic: Кибероперации для АНБ и призыв к паузе в развитии ИИ
Компания Anthropic, один из ведущих разработчиков в сфере искусственного интеллекта, оказалась в центре внимания из-за своего двойственного подхода к развитию передовых технологий. С одной стороны, она активно сотрудничает с правительственными структурами, такими как Агентство национальной безопасности (АНБ) США, предоставляя свои мощные ИИ-модели для киберопераций. С другой стороны, компания публично выступает за глобальный мораторий на дальнейшее развитие ИИ, предупреждая об экзистенциальных рисках, связанных с автономным самосовершенствованием систем.
Сотрудничество с АНБ: Mythos на службе национальной безопасности
Согласно недавним сообщениям Financial Times, около шести инженеров Anthropic были направлены в АНБ для развертывания Mythos – самой мощной модели ИИ компании – для наступательных киберопераций. Эти специалисты адаптируют модель для конкретных задач, которые, по словам источников, могут включать проникновение в сети таких стран, как Китай и Иран. Mythos – это та же модель, которую Anthropic отказалась публично выпускать из-за опасений по поводу ее неправомерного использования, ограничив доступ к ней через программу Project Glasswing для проверенных партнеров, включая Microsoft, Apple и Amazon.
«Это развертывание подчеркивает сложный геополитический ландшафт, где передовые возможности ИИ становятся критически важными инструментами для агентств национальной безопасности», — отметил один из аналитиков по кибербезопасности.
Примечательно, что это сотрудничество продолжалось даже на фоне юридического спора Anthropic с Пентагоном. В конце февраля министр обороны Пит Хегсет обозначил компанию как «риск для цепочки поставок» после срыва контракта на 200 миллионов долларов. Причиной стало нежелание Anthropic разрешить Министерству обороны использовать свою модель Claude для полностью автономного оружия или массовой внутренней слежки. Однако контракт с АНБ был выведен из-под этого запрета.
Призыв к глобальной паузе: Опасения по поводу самосовершенствующегося ИИ
В тот же день, когда стало известно о сотрудничестве с АНБ, внутренний исследовательский институт Anthropic опубликовал отчет «Когда ИИ строит себя» (When AI Builds Itself). В этом докладе компания утверждает, что ее модель Claude теперь пишет более 80% кода, интегрируемого в производственную кодовую базу Anthropic, что значительно выросло с начала 2025 года. Инженеры теперь выпускают примерно в восемь раз больше кода в день, чем в 2024 году.
Авторы отчета, Марина Фаваро и соучредитель Джек Кларк, предупреждают о траектории, ведущей к «рекурсивному самосовершенствованию» – сценарию, при котором системы ИИ автономно проектируют, создают и обучают своих собственных преемников, при этом роль человека на каждом этапе уменьшается.
В качестве яркого примера они приводят эксперимент, где агенты Claude самостоятельно решили проблему безопасности ИИ, сократив разрыв в производительности между моделями на 97% за 800 кумулятивных часов вычислений, в то время как человеческие исследователи достигли лишь 23% за неделю. Это первый опубликованный случай, когда Claude проявил исследовательское суждение, а не просто выполнял заданные инструкции.
«Концепция систем ИИ, проектирующих своих собственных преемников, фундаментально меняет парадигму человеческого контроля, представляя беспрецедентные вызовы для управления и безопасности», — подчеркнул один из исследователей этики ИИ.
Компания призывает к проверяемой глобальной паузе в «гонке вооружений ИИ», сравнивая ее с договорами о ядерном разоружении времен Холодной войны. Anthropic заявляет, что присоединится к такой инициативе, признавая, что одностороннее замедление лишь передаст лидерство тем, кто продолжит развитие.
Противоречия и будущее ИИ-индустрии
Эта ситуация не нова для индустрии ИИ. В 2023 году более сотни видных деятелей ИИ-сообщества подписали открытое письмо, призывающее к глобальным усилиям по снижению риска вымирания, присущего развитию ИИ. Однако, несмотря на эти предупреждения, никто не остановился. OpenAI не остановилась, Anthropic не остановилась. Поскольку ИИ остается одним из самых прибыльных направлений десятилетия, даже те, кто предупреждает об опасностях, не спешат прекращать разработки.
Срок, установленный Пентагоном для отказа от систем Claude, истекает в августе, примерно в то же время, когда ожидается первичное публичное размещение акций (IPO) Anthropic, что сделает ее финансовое положение достоянием общественности. Этот момент подчеркивает напряженность между этическими соображениями, национальной безопасностью и огромными коммерческими интересами, формирующими будущее искусственного интеллекта.
Часто задаваемые вопросы (FAQ)
-
Что такое парадокс Anthropic?
Парадокс Anthropic заключается в том, что компания одновременно предоставляет свои передовые ИИ-модели для наступательных киберопераций правительственным агентствам (например, АНБ) и при этом активно призывает к глобальному мораторию на развитие ИИ из-за потенциальных экзистенциальных рисков.
-
Какую ИИ-модель Anthropic использует АНБ?
АНБ использует модель Mythos, которая является самой мощной ИИ-моделью Anthropic и не была выпущена для широкой публики из-за опасений по поводу ее неправомерного использования.
-
Почему Anthropic призывает к паузе в развитии ИИ?
Anthropic призывает к паузе из-за опасений по поводу «рекурсивного самосовершенствования» ИИ, когда системы ИИ могут автономно проектировать и обучать своих преемников, что может привести к потере человеческого контроля и непредсказуемым последствиям.
