Смерть чат-бота: Почему 100 триллионов токенов указывают на эру «Агентного Разума» и китайского Open Source

:::tip[Key Takeaways]

• Конец чат-ботов: Сдвиг к агентным системам и многошаговым задачам.
• Cinderella Effect: Удержание пользователей через идеальное решение конкретной задачи.
• Open Source: Китайские модели (DeepSeek) захватывают массовый сегмент. :::

Введение (SCQA)

Ситуация: Весь 2024 год индустрия искусственного интеллекта жила в парадигме «умного собеседника». Компании внедряли чат-ботов для суммаризации встреч, написания писем и ответов на вопросы клиентов, полагая, что генерация текста — это и есть главный продукт LLM (подробный разбор архитектуры).

Сложность: Однако эмпирические данные конца 2025 года, основанные на анализе 100 триллионов токенов через платформу OpenRouter, показывают радикальный сдвиг. Эпоха простых запросов закончилась. Рынок прошел точку бифуркации: более 50% трафика теперь приходится на [«рассуждающие» модели (reasoning models)](/glossary/concept/reasoning-models), а средняя длина промпта выросла в 4 раза. Пользователи перестали «болтать» с ИИ — они начали загружать в него целые кодовые базы и требовать выполнения многошаговых задач. При этом 30% рынка захватили китайские Open Source решения, предлагающие эффективность там, где гиганты предлагают лишь бренд.

Вопрос: Как бизнесу адаптироваться к новой реальности, где лояльность к модели определяется не брендом, а способностью решить задачу с первой попытки, и где «агентные» сценарии вытесняют классический чат?

Ответ: Необходимо немедленно переходить к гибридной архитектуре. Анализ показывает, что конкурентное преимущество теперь зависит от эффекта [«Хрустальной туфельки» (Cinderella Effect)](/glossary/concept/cinderella-effect) и грамотного балансирования между дорогими проприетарными моделями для сложных рассуждений и эффективными Open Source моделями для массовых операций.

---

📊 Data Core: Какие три цифры меняют рынок?

• >50% — Доля токенов, обрабатываемых моделями с рассуждением (reasoning models) к концу 2025 года. Это конец эры простой генерации.
• 4x — Рост средней длины промпта (с 1.5k до >6k токенов). Запросы превратились в контекстные загрузки целых проектов.
• ~30% — Доля рынка, захваченная Open Source моделями (преимущественно китайскими DeepSeek и Qwen), которые сравнялись по качеству с закрытыми аналогами в кодинге.

---

Глубокий анализ: Куда движется рынок?

1. Сдвиг к Агентному Инференсу (Agentic Inference)

Данные недвусмысленно говорят: ИИ больше не оракул, а рабочий инструмент. Резкий рост использования инструментов (tool-use) и увеличение длины контекста свидетельствуют о том, что модели теперь выступают в роли оркестраторов.

Как отмечают авторы исследования:

“The typical request today is less about open-ended generation (‘write me an essay’) and more about reasoning over substantial user-provided material.” — Malika Aubakirova et al.

Это означает, что бизнес-процессы, построенные на коротких транзакционных запросах («напиши SQL-запрос»), устаревают. На смену им приходят агентные циклы: «проанализируй базу, найди ошибку, предложи исправление, протестируй его».

2. Эффект «Хрустальной туфельки» (Cinderella Effect)

Исследование вводит новую метрику удержания пользователей. В отличие от классического SaaS, где лояльность формируется брендом, в ИИ работает правило первого успешного опыта.

Когорты пользователей, чья сложная задача (например, рефакторинг legacy-кода) была идеально решена конкретной моделью при её запуске, демонстрируют аномально высокое удержание. Это «Хрустальная туфелька»: если модель «подошла» под уникальный рабочий процесс пользователя, он перестает искать альтернативы, даже если конкуренты дешевле.

3. Бифуркация: Премиум против «Эффективных Гигантов»

Рынок разделился на два лагеря:

1. Premium/Closed (OpenAI, Anthropic и другие гиганты): Доминируют в категории «Технологии» и сложных рассуждениях. Здесь цена неэластична — пользователи готовы платить любые деньги за правильный ответ в критической задаче.
2. Efficient/Open (DeepSeek, Qwen): Китайские модели стали стандартом де-факто для массовых операций, особенно в кодинге и ролевых сценариях (Roleplay). Категория «Маленьких» моделей (<15B) умирает, уступая место «Средним» (15-70B), которые обеспечивают баланс цены и качества.

---

🔍 Reality Check: Действительно ли агенты заменят людей?

Хотя отчет OpenRouter рисует убедительную картину, перекрестный анализ с внешними данными (External Research) выявляет важные нюансы и риски, о которых документ умалчивает.

1. Ловушка «Агентности» vs. Реальность Tool-Use

Утверждение отчета: Рост “Tool Call” метрик означает переход к автономным агентам. Внешний аудит: Техническая литература 24/25 годов проводит четкую грань между вызовом функций (детерминированным действием) и агентностью (автономным циклом планирования). Высока вероятность, что отчет переоценивает уровень автономности. Большинство текущих сценариев — это все еще жестко заданные скрипты (RAG-пайплайны), а не истинные агенты, способные к самокоррекции. Бизнесу не стоит ждать, что ИИ «сделает все сам» без жесткого контроля.

2. Истинная природа «Хрустальной туфельки»: Психология или Технический долг?

Утверждение отчета: Пользователи остаются с моделью из-за идеального соответствия задачи (Product-Market Fit). Внешний аудит: Анализ форумов разработчиков (Hacker News, Reddit) показывает более прозаичную причину — Vendor Lock-in. Смена модели (например, с GPT-4 на Claude 3.5) требует переписывания промптов, адаптации парсеров ответов и изменения логики токенизации. То, что отчет называет «любовью к продукту», на деле часто является высоким порогом переключения (switching costs). Это создает риск: как только появятся универсальные слои абстракции, удержание может рухнуть.

3. Парадокс Джевонса и Эластичность цен

Утверждение отчета: Спрос на ИИ неэластичен (снижение цены не ведет к росту потребления). Внешний аудит: Это противоречит наблюдаемому взрывному росту дешевых моделей (DeepSeek). Внешние данные подтверждают Парадокс Джевонса: снижение стоимости токена открывает принципиально новые сценарии (например, запуск агента, который «думает» 100 раз перед ответом), которые были экономически невозможны ранее. Спрос неэластичен на единичные запросы, но крайне эластичен на агентные циклы.

4. Фактор «Roleplay»: Искажение выборки

OpenRouter популярен среди энтузиастов и пользователей, ищущих модели без цензуры (uncensored). Огромная доля категории «Roleplay» (>50% в OSS) может быть спецификой именно этой платформы, а не глобального корпоративного рынка. Экстраполировать этот тренд на Enterprise-сектор (банки, ритейл) следует с осторожностью.

---

🚀 Стратегический прогноз: Как подготовиться к эре агентов?

Мы находимся в моменте смены технологического уклада внутри самого ИИ.

1. Смерть монополии: Единого лидера больше нет. Побеждает гибридная стратегия: сложные задачи (архитектура, стратегия) отправляются на дорогие модели (o1, Claude 3.7), а рутина (написание тестов, документация) — на дешевые Open Source модели (DeepSeek, Qwen).
2. Инфраструктурный вызов: Рост контекста в 4 раза требует пересмотра бэкенда. Системы должны быть готовы к тайм-аутам, асинхронной обработке и кэшированию контекста.
3. Битва за разработчиков: Категория «Programming» стала драйвером потребления. Тот, кто выиграет битву за IDE разработчика (как сейчас пытается сделать Cursor с моделями Anthropic и OpenAI), получит контроль над стандартом индустрии.

Рекомендация: Прекратите инвестировать в создание «еще одного чат-бота». Инвестируйте в агентные рабочие процессы, способные выполнять задачи «под ключ», и используйте мульти-модельный роутинг для оптимизации маржинальности.

---

📂 Полный отчет и данные

Глубокий разбор методологии, полные графики и исходные данные исследования доступны на специальной ресурсной странице.

Читать полный отчет State of AI 2025 →