Современные большие языковые модели (LLM) работают по реактивному принципу: они ждут, пока пользователь введет промпт, и только после этого начинают вычисления. Новая разработка китайских ученых призвана в корне изменить этот подход.
Исследователи из Шанхайского университета Цзяотун и технологического гиганта Tencent представили инновационную систему под названием ProAct. Этот ИИ-агент использует паузы в диалоге с пользователем, чтобы предугадать его следующие шаги и заранее подготовить ответы.
«В то время как ИИ-агенты демонстрируют выдающиеся способности к рассуждению, они остаются фундаментально реактивными. Этот подход игнорирует важнейшую возможность: время простоя между взаимодействиями тратится впустую», — отмечают авторы научной работы.
Как работает архитектура ProAct
Вместо пассивного ожидания система ProAct задействует фоновые вычислительные мощности для анализа контекста. Процесс разделен на три ключевых этапа:
- Прогнозирование будущего состояния (Future-State Prediction): ИИ анализирует историю переписки, предпочтения пользователя и выявляет недостающую информацию, чтобы составить список вероятных вопросов.
- Сбор данных в режиме простоя (Idle-Time Acquisition): Система оценивает, какие из прогнозов наиболее актуальны и полезны, после чего запускает фоновый поиск информации.
- Управление доставкой (Delivery Management): Специальный алгоритм решает, нужно ли сразу показать подготовленные данные, сохранить их в памяти или отложить до прямого запроса.
Результаты тестов и эффективность
Разработчики протестировали систему в 200 симуляциях по 40 различным направлениям, включая финансовое планирование, кибербезопасность и управление релизами ПО.
Результаты внедрения предиктивного алгоритма:
- Сокращение количества реплик в диалоге на 14.8%.
- Снижение числа уточняющих запросов на 11.7%.
- Снижение уровня галлюцинаций ИИ на 28.1%.
- Успешное предсказание 703 потребностей пользователей против всего 32 у стандартных моделей в тесте ProActEval.
Обратная сторона медали: риски и приватность
Несмотря на очевидную пользу, автономные ИИ-агенты вызывают опасения у экспертов по безопасности. Исследователи из Калифорнийского университета в Риверсайде ранее предупреждали о так называемом «эффекте мистера Магу», когда автономные системы упорно идут к цели, не осознавая побочных последствий своих действий.
Кроме того, постоянный анализ диалогов в фоновом режиме требует строжайших мер конфиденциальности. Разработчики ProAct также признают, что в 3% случаев система выдавала нерелевантную информацию, ухудшая пользовательский опыт, а избыточные вычисления в режиме ожидания могут приводить к неоправданному росту затрат на серверные мощности.
Часто задаваемые вопросы (FAQ)
Что такое проактивный ИИ-агент?
Это система искусственного интеллекта, которая не просто отвечает на запросы, а пытается предугадать потребности пользователя и готовит информацию заранее, используя время простоя.
Кто разработал систему ProAct?
Система создана совместными усилиями специалистов китайского конгломерата Tencent и Шанхайского университета Цзяотун.
Безопасно ли это для конфиденциальных данных?
Поскольку система постоянно анализирует историю чатов в фоновом режиме, ее коммерческое внедрение потребует продвинутых протоколов шифрования и защиты персональных данных.
