Concept

Agentic Inference

Парадигма использования ИИ, где модели не просто генерируют текст, а выполняют многошаговые рабочие процессы: планируют, вызывают инструменты и взаимодействуют с внешними системами.

Agentic Inference (Агентный Инференс) — это фундаментальный сдвиг в использовании больших языковых моделей (LLM) от простой генерации текста (completion) к выполнению автономных или полуавтономных задач.

В этой парадигме модель выступает в роли оркестратора, который:

  1. Анализирует сложный запрос.
  2. Разбивает его на подзадачи (планирование).
  3. Использует внешние инструменты (Tool Use) для получения данных или выполнения действий.
  4. Рассуждает над результатами (Reasoning) и корректирует план.

Согласно отчету OpenRouter 2025, более 50% всех токенов теперь приходится на модели, оптимизированные для агентных сценариев и рассуждений.