Providers Guide: Connect AI Models to OmniRoute (Русский)

Что такое провайдер?

Представьте провайдера как оператора мобильной связи. Подобно тому как для совершения звонков нужен оператор мобильной связи, для использования моделей ИИ нужен провайдер ИИ. OmniRoute похож на телефон, который работает со всеми операторами — между ними можно переключаться автоматически.

Типы провайдеров

Тип	Описание	Примеры	Стоимость
Бесплатный	Оплата не требуется	Kiro, OpenCode Free, Pollinations	$0
Ключ API	Требуется ключ API	OpenAI, Anthropic, Google	Оплата по мере использования
OAuth	Вход с помощью вашей учётной записи	Claude Code, GitHub Copilot	Подписка
Веб-cookie	Использует сеанс вашего браузера	ChatGPT Web (Codex), Gemini Web	$0 (использует вашу учётную запись)

Провайдеры с веб-cookie

Общие инструкции по настройке, ограничения, устранение неполадок и рекомендации по аутентификации для конкретных провайдеров см. в документе WEB-COOKIE-GUIDE.md.

Быстрый старт: подключение первого провайдера

Необязательная первоначальная настройка бесплатных провайдеров

При первом запуске мастер предлагает отдельную карточку Настроить бесплатных провайдеров. Он формирует текущий список доступных вариантов из реестра провайдеров OmniRoute, не требующих аутентификации, после чего позволяет просмотреть список и снять выбор с любого провайдера перед подтверждением. OmniRoute показывает предупреждение провайдера и ссылку на его сайт, чтобы вы могли заранее ознакомиться с условиями стороннего сервиса, политикой конфиденциальности, доступностью и ограничениями частоты запросов.

Это действие необязательно: завершение работы мастера никогда не создаёт подключения к бесплатным провайдерам без вашего ведома. Создаются только отсутствующие провайдеры, существующие подключения с пользовательскими настройками остаются без изменений, а созданные, уже настроенные и неудачно настроенные провайдеры указываются отдельно. После частично успешного результата можно безопасно повторить попытку только для неудачно настроенных провайдеров.

Вариант A: бесплатный провайдер (без банковской карты)

1. Откройте панель управления по адресу http://localhost:20128
2. Перейдите в раздел Провайдеры → Добавить провайдера
3. Выберите одного из следующих бесплатных провайдеров:
   • Kiro AI — бесплатные модели Claude (аутентификация не требуется)
   • OpenCode Free — бесплатные модели GPT (аутентификация не требуется)
   • Pollinations — бесплатные GPT-5, Claude и Gemini (ключ не требуется)
   • LongCat — 10 млн бесплатных токенов (единовременное предоставление, требуется учётная запись и прохождение KYC)
   • Cloudflare AI — более 50 моделей, 10 тыс. нейронов в день
   • MLX Gemma 26B — локальная модель для Apple Silicon (~38.5 токена/с, ~15.9GB ОЗУ)
   • MLX Qwen 3.8 27B — локальная модель для Apple Silicon (~9.1 токена/с, ~13.1GB ОЗУ)
4. Нажмите Подключить
5. Готово! Теперь у вас есть бесплатный доступ к ИИ.

Вариант B: провайдер с ключом API (платный)

1. Получите ключ API на сайте провайдера:
   • OpenAI: https://platform.openai.com/api-keys
   • Anthropic: https://console.anthropic.com/
   • Google: https://aistudio.google.com/apikey
   • DeepSeek: https://platform.deepseek.com/
   • Groq: https://console.groq.com/
2. Откройте панель управления по адресу http://localhost:20128
3. Перейдите в раздел Провайдеры → Добавить провайдера
4. Выберите своего провайдера
5. Вставьте ключ API
6. Нажмите Подключить
7. Готово! Теперь у вас есть доступ к моделям этого провайдера.

Вариант C: провайдер OAuth (подписка)

1. Откройте панель управления по адресу http://localhost:20128
2. Перейдите в раздел Провайдеры → Добавить провайдера
3. Выберите своего провайдера (например, Claude Code или GitHub Copilot)
4. Нажмите Подключить через OAuth
5. Войдите в свою учётную запись
6. Готово! Теперь у вас есть доступ к моделям, включённым в вашу подписку.

Вариант D: локальные модели MLX (Apple Silicon)

На компьютерах Mac с Apple Silicon и объединённой памятью OmniRoute поддерживает подключение локальных моделей MLX, запущенных через mlx-lm.server, в качестве обычных локальных провайдеров, совместимых с OpenAI.

Предварительные требования

• Компьютер Mac с Apple Silicon (M1/M2/M3/M4); рекомендуется не менее 24GB объединённой памяти
• Диспетчер пакетов uv: curl -LsSf https://astral.sh/uv/install.sh | sh
• mlx-lm: uv pip install mlx-lm

Быстрый старт

1. Установите зависимости:

   # Установите uv, если он ещё не установлен
   curl -LsSf https://astral.sh/uv/install.sh | sh
   
   # Установите mlx-lm
   uv pip install mlx-lm

2. Запустите серверы MLX вручную (в отдельных терминалах):

   # Терминал 1: Gemma 4 26B A4B IT-QAT (порт 11435)
   uv run mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-qat-q4_0-mlx-aligned --port 11435 --host 127.0.0.1
   
   # Терминал 2: Qwen 3.8 27B MLX Mixed (порт 11436)
   uv run mlx_lm.server --model maglun/Qwen3.8-27B-MLX-Mixed-3.80bpw --port 11436 --host 127.0.0.1

3. Подключите модели в панели управления OmniRoute:

   • Перейдите в раздел Провайдеры → Добавить провайдера
   • Выберите MLX Gemma 26B или MLX Qwen 3.8 27B
   • Нажмите Подключить (ключ API не требуется)

4. Используйте с OpenCode:

   # Настройте OpenCode для использования OmniRoute
   opencode config set api.base_url http://localhost:20128/v1
   opencode config set api.key <ваш-ключ-api-omniroute>
   
   # Используйте модели MLX
   opencode run --model mlx-gemma/gemma-4-26b
   opencode run --model mlx-qwen/qwen3.8-27b

Управление памятью

Важно: при наличии 24GB объединённой памяти одновременно может работать только одна крупная модель MLX.

• Gemma 26B: пиковое потребление памяти ~15.9GB
• Qwen 3.8 27B: пиковое потребление памяти ~13.1GB

Управлять этим необходимо вручную:

• Запускайте одновременно только один сервер MLX или
• Запускайте их на разных компьютерах или
• Остановите один сервер перед запуском другого

OmniRoute не управляет процессами серверов MLX автоматически — он лишь направляет запросы к настроенным вами конечным точкам, совместимым с OpenAI.

Поддержка вызова инструментов

Обе модели поддерживают вызов инструментов, совместимый с OpenAI. Для проверки используйте:

curl -X POST http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer <key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mlx-gemma/gemma-4-26b",
    "messages": [{"role": "user", "content": "Сколько будет 2+2? Используй инструмент calculator."}],
    "tools": [{"type": "function", "function": {"name": "calculator", "description": "Выполнить вычисление", "parameters": {"type": "object", "properties": {"expression": {"type": "string"}}, "required": ["expression"]}}}]
  }'

Устранение неполадок

Проблема	Решение
Сервер не запускается	Выполните uv run mlx_lm.server --help и проверьте идентификаторы моделей
Недостаточно памяти	Убедитесь, что запущена только одна модель; закройте другие приложения; проверьте «Мониторинг системы»
В подключении отказано	Убедитесь, что сервер работает на правильном порту (11435/11436)
Медленные ответы	При первом запросе модель загружается в память (~30–60 с); последующие запросы выполняются быстро
Вызов инструментов не работает	Убедитесь, что модель поддерживает инструменты; проверьте журналы OmniRoute на наличие ошибок преобразования

---

Лучшие бесплатные провайдеры

Эти провайдеры предлагают бесплатный доступ без банковской карты:

Провайдер	Бесплатная квота	Модели	Способ подключения
Kiro AI	50 кредитов в месяц	Claude Sonnet 4.5, Haiku 4.5, Opus 4.6	Авторизация не требуется
OpenCode Free	Без ограничений	GPT-4o, Claude, Gemini	Авторизация не требуется
Pollinations	Ключ не требуется	GPT-5, Claude, Gemini, DeepSeek, Llama 4	Авторизация не требуется
LongCat	10 млн единоразово	LongCat-2.0	API-ключ + KYC
Cloudflare AI	10 тыс. нейронов в день	Более 50 моделей	Авторизация не требуется
NVIDIA NIM	~40 запросов в минуту	129 моделей	Требуется API-ключ
Cerebras	$5 при регистрации	GLM 4.7, GPT-OSS 120B	API-ключ + карта
Qoder	Без ограничений	Kimi-K2, DeepSeek-R1, Qwen3-coder	Авторизация не требуется

Совет: подключите несколько бесплатных провайдеров, чтобы получить неограниченный бесплатный доступ к ИИ с автоматическим переключением!

---

Лучшие платные провайдеры

Эти провайдеры предлагают высококачественные модели с доступом по API-ключам:

Провайдер	Лучшие модели	Стоимость	Бесплатный уровень
OpenAI	GPT-5, GPT-4o	$2.50-$10 за 1 млн токенов	$5 бесплатных кредитов
Anthropic	Claude Opus 4.6, Sonnet 4.6	$3-$15 за 1 млн токенов	$5 бесплатных кредитов
Google	Gemini 2.5 Pro, Flash	$0.075-$1.25 за 1 млн токенов	1 500 запросов в день бесплатно
DeepSeek	DeepSeek V4	$0.14-$0.28 за 1 млн токенов	5 млн бесплатных токенов
Groq	Llama 4, Mixtral	$0.05-$0.27 за 1 млн токенов	30 запросов в минуту бесплатно
xAI	Grok 3	$0.30-$0.60 за 1 млн токенов	—

---

Как подключить провайдера (пошагово)

Шаг 1: откройте панель управления

Перейдите по адресу http://localhost:20128 в браузере.

Шаг 2: перейдите в раздел Providers

Нажмите Providers на боковой панели.

Шаг 3: нажмите Add Provider

Нажмите кнопку + Add Provider.

Шаг 4: выберите провайдера

Просмотрите список или найдите своего провайдера с помощью поиска. Нажмите на него.

Шаг 5: введите учётные данные

• Бесплатные провайдеры: учётные данные не требуются — просто нажмите Connect
• Провайдеры с API-ключом: вставьте свой API-ключ
• Провайдеры с OAuth: нажмите Connect with OAuth и войдите в систему

Шаг 6: проверьте подключение

Нажмите Test Connection, чтобы убедиться, что подключение работает.

Шаг 7: готово!

Теперь ваш провайдер подключён. Вы можете использовать его с model: "auto" или указать провайдера напрямую.

---

Использование нескольких провайдеров

OmniRoute лучше всего работает с несколькими провайдерами. Это обеспечивает:

• Автоматическое переключение — если один провайдер недоступен, OmniRoute пробует следующий
• Оптимизацию стоимости — OmniRoute выбирает самого дешёвого провайдера для каждого запроса
• Оптимизацию скорости — OmniRoute выбирает самого быстрого провайдера для каждого запроса
• Оптимизацию качества — OmniRoute выбирает лучшего провайдера для каждой задачи

Рекомендуемая конфигурация

Для наилучшей работы подключите как минимум 3 провайдера:

1. Один бесплатный провайдер (Kiro, OpenCode Free или Pollinations) — доступен всегда
2. Один быстрый провайдер (Groq, Cerebras) — для быстрых ответов
3. Один высококачественный провайдер (OpenAI, Anthropic, Google) — для сложных задач

Затем используйте model: "auto", и OmniRoute будет автоматически выбирать лучший вариант для каждого запроса.

---

Настройка для конкретных провайдеров

OpenAI

1. Получите API-ключ: https://platform.openai.com/api-keys
2. В OmniRoute: Провайдеры → Добавить провайдера → OpenAI
3. Вставьте API-ключ → Подключить

Anthropic

1. Получите API-ключ: https://console.anthropic.com/
2. В OmniRoute: Провайдеры → Добавить провайдера → Anthropic
3. Вставьте API-ключ → Подключить

Google (Gemini)

1. Получите API-ключ: https://aistudio.google.com/apikey
2. В OmniRoute: Провайдеры → Добавить провайдера → Gemini
3. Вставьте API-ключ → Подключить

DeepSeek

1. Получите API-ключ: https://platform.deepseek.com/
2. В OmniRoute: Провайдеры → Добавить провайдера → DeepSeek
3. Вставьте API-ключ → Подключить

Groq

1. Получите API-ключ: https://console.groq.com/
2. В OmniRoute: Провайдеры → Добавить провайдера → Groq
3. Вставьте API-ключ → Подключить

---

Часто задаваемые вопросы

«Нужно ли платить за использование OmniRoute?»

Нет! OmniRoute — бесплатное решение с открытым исходным кодом. Вы можете бесплатно использовать таких провайдеров, как Kiro, OpenCode Free и Pollinations. Платить нужно только в том случае, если вы решите использовать платных провайдеров.

«С какого провайдера лучше начать?»

Начните с Kiro AI — он бесплатный, не требует API-ключа и предоставляет доступ к моделям Claude. Затем при необходимости добавьте других провайдеров.

«Можно ли использовать несколько провайдеров одновременно?»

Да! В этом и заключается основная идея OmniRoute. Подключите несколько провайдеров и используйте model: "auto", чтобы OmniRoute выбирал оптимальный вариант для каждого запроса.

«Что произойдёт, если провайдер перестанет работать?»

OmniRoute автоматически пропустит недоступного провайдера и попробует следующего. Вам ничего не нужно делать.

«Как отключить провайдера?»

Перейдите в раздел «Провайдеры» → нажмите на нужного провайдера → нажмите Отключить.

«Можно ли использовать имеющиеся у меня API-ключи?»

Да! Если у вас уже есть API-ключи для OpenAI, Anthropic, Google и других сервисов, вы можете использовать их в OmniRoute. Просто вставьте их при подключении провайдера.

---

Что дальше?

• Руководство по Auto-Combo — позвольте OmniRoute выбрать для вас оптимальный ИИ
• Руководство по бесплатным тарифам — получите бесплатный доступ к ИИ без банковской карты
• Устранение неполадок — решение распространённых проблем
• Справочник провайдеров — полный список из 226 провайдеров

Изображения Cursor

Для изображений плана Cursor используется IMAGE_PROVIDERS.cursor (cursor-agent-image). См. CURSOR_IMAGE.md.

---

Исходный код OmniRoute (a58000c7685f)