Модели

Агент думает с помощью языковой модели. В каждом чате можно выбрать свою модель: сильную — для сложной инженерии, быструю и дешёвую — для мелких правок. Или доверьте выбор модели «Авто». Все модели подключены через сервер DevMachine и входят в тариф.

#Как выбрать модель

Справа под полем ввода есть чип с именем модели и уровнем рассуждений. Нажмите на него — откроется меню.

Короткое меню:

1. Первой строкой идёт модель «Авто» — «Сам подбирает модель под каждый шаг».
2. Ниже — переключатель задач: «Код», «Тексты», «Медиа», «Быстрые», «Обычные». Под каждой задачей — подходящие модели, сначала самые сильные.
3. «Все модели и поиск» открывает полный список.
4. Внизу строка «Усилие» — уровень рассуждений.

Полный список: поле «Поиск по всем моделям», задачи слева и сортировка «Умнее», «Быстрее», «Дешевле». Искать можно по названию, разработчику и назначению, например по слову «видео».

Рядом с каждой моделью стоят логотип разработчика и от одного до четырёх знаков «$». Знаки показывают цену модели по сравнению с другими, а при наведении курсора видно, какая она: «Дёшево», «Умеренно», «Дорого» или «Очень дорого». Если задержать курсор на модели, появится карточка: описание и задачи, для которых модель подходит лучше всего.

Новая модель начнёт отвечать со следующего сообщения. Выбор действует в этом чате, а у других чатов остаётся своя модель. Новый чат начинается с модели, которая стоит в открытом сейчас чате.

Выбранная модель бывает недоступна, если вы перешли в другой проект, например в проект на сервере по SSH, или если модель убрали из каталога. Тогда приложение предупредит: «Модель … здесь недоступна — выбрана …».

Список моделей приходит с сервера DevMachine и меняется без обновления приложения. Пока вы ничего не выбрали, стоит модель по умолчанию — её тоже задаёт сервер.

#Модель «Авто»

Модель «Авто» сама подбирает модель под каждый шаг задачи: сильную — для плана и трудных мест, быструю — для простых шагов. Если агент застрял или задача оказалась труднее, чем казалось, «Авто» переключится на модель сильнее прямо посреди работы. На более слабую посреди хода она не возвращается.

• Как включить. Выберите «Авто» — первую строку в меню модели.
• Что видно в чате. У шага, где «Авто» выбрала модель, стоит «Выбрана модель: …». Наведите курсор — увидите причину, например «отладка, трудная задача». Под ответом — «Авто → …» с моделями этого хода.
• Сколько стоит. Расход считается по цене той модели, которая ответила.
• Уровень рассуждений. У «Авто» он не настраивается, в меню так и написано: «Подбирается вместе с моделью».

#Уровень рассуждений («Усилие»)

Чем выше уровень, тем дольше модель думает перед ответом. Ответ обычно выходит точнее, но приходит медленнее и стоит дороже. Выбрать уровень можно в строке «Усилие» внизу меню модели или командой /variants. В меню видны только уровни, которые есть у выбранной модели.

Если у модели уровни не настраиваются, в меню написано «У этой модели не настраивается». Новый уровень действует со следующего сообщения.

#Модель субагентов

Для части задачи агент может запустить субагента — помощника, который, например, ищет по коду. Агент запускает его сам или по вашей просьбе. В ленте чата это строка «Субагент». Модель для субагентов выбирают в «Настройки → Аккаунт и тариф → Расход лимита → Модель для помощников агента»:

• «Агент выбирает сам» (по умолчанию) — для простых задач агент берёт модель дешевле. Модель дороже, чем в чате, он не выберет.
• «Как у чата» — субагенты работают на той же модели, что и чат.

Настройка сразу действует и в уже открытых чатах. Подробнее о субагентах — в разделе «Субагенты и фоновые задачи».

#Свой API-ключ

Свой ключ от провайдера модели подключить нельзя, да он и не нужен. Все запросы к моделям идут через сервер DevMachine: ключи провайдеров хранятся только там и никогда не попадают на ваш компьютер. Ключи, которые есть у вас в окружении или в настройках, приложение не использует.

Поэтому одной подписки хватает на все модели каталога, оплата идёт в рублях, а модели работают из России без VPN.

Компания может работать со своей моделью, если установит DevMachine в собственном контуре. Подробнее — на странице «DevMachine для бизнеса».

#Ограничения

• В пробном периоде доступна только часть моделей. Остальные помечены в меню «по подписке». Если выбрать такую модель, откроется окно «Модель доступна на платных тарифах» с кнопками «Выбрать план» и «Остаться на пробном».
• В пробном периоде модель «Авто» выбирает только среди пробных моделей.
• Набор моделей и их цены меняются на сервере. Текущие цены тарифов — на главной странице.

#Что дальше

• Тарифы и лимиты — как расход моделей списывается с лимита.
• Режимы агента — режимы «Авто», «Полный», «План» и «Без ограничений».
• Контекст и расход — окно контекста, сжатие истории и расход сессии.