콘텐츠로 이동
OmniRoute source

OmniRoute — Dashboard Features Gallery (한국어)

v3.7.x → v3.8.0 주기에는 설정이 필요 없는 자동 라우팅, 새로운 제공자, OAuth 흐름, 한층 강화된 복원력, 더욱 풍부해진 CLI 경험이 추가되었습니다. 주요 기능은 아래와 같습니다. 전체 세부 정보는 이 문서의 뒷부분과 링크된 사양을 참조하세요.

  • 🤖 Auto Combo / 설정이 필요 없는 자동 라우팅 — auto/coding, auto/fast, auto/cheap, auto/offline, auto/smart, auto/lkgp, auto/chaos 접두사를 사용할 수 있습니다. 16가지 요소의 점수 산정 엔진과 엄선된 6개의 모드 팩(ship-fast, cost-saver, quality-first, offline-friendly, reliability-first, chaos-mode)을 기반으로 합니다.
  • 🆕 Command Code 제공자 (#2199) — 모델 카탈로그 및 할당량 추적을 포함한 일급 등록 기능
  • 🆕 Z.AI 제공자 — 할당량 레이블을 제공하는 새로운 무료 티어 제공자
  • 🎬 KIE 미디어 확장 — 동영상 생성 모델을 포함하도록 카탈로그 확장
  • 🔐 Devin 인증 — Desktop은 기존 Devin API 키를 가져오며, CLI는 로컬 devin auth login 자격 증명을 사용
  • 🆓 새로운 무료 제공자 8개 — LLM7, Lepton, UncloseAI, BazaarLink, Completions, Enally, FreeTheAi, Command Code
  • 🎯 매니페스트 인식 티어 라우팅 W1–W4 — 제공자 매니페스트를 기반으로 가중치가 적용된 티어 선택
  • 🎨 Cursor의 완전한 OpenAI 호환성 — 도구 호출, 스트리밍, 세션 관리를 엔드투엔드로 지원
  • 📊 Cursor Pro 플랜 사용량 — 제공자 한도 대시보드에 할당량 및 주기 데이터 표시
  • ⚡ 서비스 티어 분석 / Codex 고속 티어 분석 — 티어별 사용량 가시성 제공
  • 📌 세션별 고정 라우팅 — Codex 세션이 턴 사이에도 동일한 계정에 고정됨
  • 🔊 Inworld TTS 개선 — 음성 카탈로그, 스트리밍 및 지연 시간 개선
  • 🔑 Kiro 헤드리스 인증 — 브라우저 없이 로컬 kiro-cli SQLite 저장소를 통해 로그인
  • 📉 DeepSeek 할당량 및 한도 모니터링 — 대시보드에서 일별/월별 사용량 제공
  • 🔄 재설정 인식 라우팅 전략 — 이제 콤보는 할당량 기간이 가장 빨리 재설정되는 계정을 우선 선택
  • ⏱️ fallbackDelayMs 및 동적 도구 한도 감지 — 더 세밀한 폴백 타이밍과 제공자별 도구 개수 한도
  • 🔧 백그라운드 모드 성능 저하 처리(Responses API) — 업스트림이 백그라운드 폴링을 지원하지 않을 경우 구조화된 경고와 함께 동기 모드로 폴백
  • 🚦 제공자별 429 분류 + useUpstream429BreakerHints 토글 — 업스트림 속도 제한 힌트를 사용해 더 세밀하게 브레이커 동작 제어
  • 🩺 모델 쿨다운 대시보드 — 모델별 잠금 상태를 확인하고 UI에서 수동으로 다시 활성화
  • 🔒 MITM 동적 Linux 인증서 감지 — Debian/Ubuntu, Fedora/RHEL, Arch 및 기타 배포판에서 작동
  • 💻 CLI 개선 기능 모음 — omniroute providers, omniroute combos, omniroute doctor, omniroute setup을 포함한 20개 이상의 명령어
  • 🔍 Qdrant 임베딩 모델 검색 — 자동 벡터 저장소 모델 탐색
  • 🔑 manage 범위가 지정된 API 키 / Bearer 키 — API를 통해 프로그래밍 방식으로 관리 작업 수행
  • 🏥 콤보 대상 상태 분석 + 구조화된 콤보 빌더 — 대상별 상태 정보와 (provider, model, connection) 단계를 조합하기 위한 UI 빌더
  • 🤝 GitLab Duo OAuth 제공자 — GitLab 자격 증명으로 로그인
  • 🧠 Reasoning Replay Cache — 추론 추적을 위한 인메모리 + SQLite 하이브리드 영속성

📚 관련 문서: Skills 프레임워크 · 메모리 시스템 · 클라우드 에이전트 · 웹훅 · Reasoning Replay Cache


AI 제공업체 연결을 관리합니다: OAuth 제공업체(Claude Code, Codex), API 키 제공업체(Groq, DeepSeek, OpenRouter), 무료 제공업체(Qoder, Kiro). Kiro 계정은 크레딧 잔액 추적을 지원하며, Dashboard → Usage에서 남은 크레딧, 총한도 및 갱신 날짜를 확인할 수 있습니다.

OpenRouter 연결은 Advanced Settings에서 연결별 preset을 저장할 수 있습니다. 설정된 경우, 클라이언트 요청에서 자체 preset을 이미 제공하지 않았다면 OmniRoute는 이를 OpenRouter의 최상위 요청 필드로 전송합니다. 예: "preset": "email-copywriter".

제공업체 대시보드


19가지 공개 전략으로 모델 라우팅 콤보를 생성합니다: priority, weighted, round-robin, context-relay, fill-first, p2c(power-of-two choices), random, least-used, cost-optimized, reset-aware, reset-window, headroom, strict-random, auto, lkgp(last-known-good-provider), context-optimized, cache-optimized, fusion(여러 모델 패널에 병렬로 요청한 다음 심사 모델을 통해 하나의 답변으로 종합), pipeline. 각 콤보는 자동 폴백을 통해 여러 모델을 연결하며, 빠른 템플릿과 준비 상태 검사를 포함합니다.

최근 콤보 개선 사항:

  • 구조화된 콤보 빌더 — 제공업체, 모델 및 정확한 계정/연결을 선택하여 각 단계를 생성
  • 동일 제공업체 반복 지원 — (provider, model, connection) 튜플이 고유하다면 하나의 콤보에서 동일한 제공업체를 여러 번 재사용 가능
  • 콤보 대상 상태 — 분석 및 상태 화면에서 모든 항목을 모델 문자열로 통합하지 않고 개별 콤보 대상/단계를 구분
  • 복합 티어 순서 — 이제 defaultTier -> fallbackTier가 최상위 콤보 단계의 런타임 실행/폴백 순서에 영향을 줌
  • 시스템 프롬프트 템플릿 — 콤보 system_message는 서버 측 {{MODEL_ID}}, {{PROVIDER_ID}}, {{ACCOUNT}} 및 {{FINGERPRINT}} 자리표시자를 지원하며, 디스패치 직전에 실제로 라우팅된 대상으로부터 확장됩니다. 허용 목록 기반이며 재귀적으로 처리되지 않습니다. 알 수 없는 자리표시자는 리터럴 그대로 유지되고, 빈 값은 빈 문자열로 확장되며, 클라이언트 시스템 프롬프트는 절대 다시 작성되지 않습니다. {{FINGERPRINT}}는 고정되거나 자동 순환되는 핑거프린트를 사용하는 핑거프린트 기반 무료 제공업체에서만 해석되며, 그 외의 경우(예: 단일 핑거프린트 연결, 비-fp 제공업체)에는 빈 문자열로 확장됩니다. 확장은 표준 디스패치 루프, round-robin 및 고정된 컨텍스트 캐시 세션에 적용됩니다. fusion, chaos, pipeline 및 nested-execute 전략은 아직 자리표시자를 확장하지 않습니다.

콤보 대시보드


토큰 사용량, 비용 추정치, 활동 히트맵, 주간 분포 차트 및 제공업체별 세부 내역을 포함한 종합적인 사용량 분석을 제공합니다.

분석 대시보드


실시간 모니터링: 가동 시간, 메모리, 버전, 지연 시간 백분위수(p50/p95/p99), 캐시 통계, 제공업체 회로 차단기 상태, 활성 할당량 모니터링 세션 및 콤보 대상 상태.

상태 대시보드


API 번역을 디버깅하기 위한 네 가지 모드: 플레이그라운드(형식 변환기), 채팅 테스터(실시간 요청), 테스트 벤치(일괄 테스트), 라이브 모니터(실시간 스트림).

번역기 플레이그라운드


🎮 모델 플레이그라운드 (v2.0.9+)

섹션 제목: “🎮 모델 플레이그라운드 (v2.0.9+)”

대시보드에서 모든 모델을 직접 테스트할 수 있습니다. 제공자, 모델 및 엔드포인트를 선택하고 Monaco Editor로 프롬프트를 작성하며, 응답을 실시간으로 스트리밍하고, 스트리밍 도중 중단하며, 타이밍 지표를 확인할 수 있습니다.


전체 대시보드의 색상 테마를 사용자 지정할 수 있습니다. 7가지 사전 설정 색상(Coral, Blue, Red, Green, Violet, Orange, Cyan) 중에서 선택하거나 원하는 16진수 색상을 선택하여 사용자 지정 테마를 만들 수 있습니다. 라이트, 다크 및 시스템 모드를 지원합니다.


7개의 탭으로 구성된 종합 설정 패널:

  • 일반 — 시스템 저장소, 백업 관리(데이터베이스 내보내기/가져오기)
  • 모양 — 테마 선택기(다크/라이트/시스템), 색상 테마 사전 설정 및 사용자 지정 색상, 상태 로그 표시 여부, 사이드바 항목 및 그룹 구분선 표시 여부 제어, 엔드포인트 터널 표시 여부 제어
  • AI — AI 어시스턴트 기능, 기본 라우팅 사전 설정(Auto Combo auto/coding, auto/fast, auto/cheap, auto/smart), 추론 재생 캐시 및 스킬/메모리 토글
  • 보안 — API 엔드포인트 보호, 사용자 지정 제공자 차단, IP 필터링, 세션 정보
  • 라우팅 — 모델 별칭, 백그라운드 작업 성능 저하, 매니페스트 인식 티어 라우팅(W1–W4), fallbackDelayMs, 세션별 고정 라우팅
  • 복원력 — 속도 제한 유지, 회로 차단기 조정, 차단된 계정 자동 비활성화, 제공자 만료 모니터링, Context Relay 핸드오프 임계값 및 요약 모델 구성, 제공자별 429 분류 및 useUpstream429BreakerHints 토글, 모델 쿨다운
  • 고급 — 구성 재정의, 구성 감사 추적, 폴백 성능 저하 모드, Responses API의 백그라운드 모드 성능 저하

설정 대시보드


AI 코딩 도구를 위한 원클릭 구성: Claude Code, Codex CLI, OpenClaw, Kilo Code, Antigravity, Cline, Continue, Cursor 및 Factory Droid. 자동화된 구성 적용/초기화, 연결 프로필 및 모델 매핑 기능을 제공합니다.

CLI 도구 대시보드


CLI 에이전트를 검색하고 관리하기 위한 대시보드입니다. 다음 기능과 함께 16개의 기본 제공 에이전트(Codex, Claude, Goose, OpenClaw, Aider, OpenCode, Cline, ForgeCode, Amazon Q, Open Interpreter, Cursor CLI, Warp, Windsurf, Devin CLI, Kimi Coding, Command Code)를 그리드로 표시합니다:

  • 설치 상태 — 버전 감지를 통한 설치됨/찾을 수 없음 표시
  • 프로토콜 배지 — stdio, HTTP 등
  • 사용자 지정 에이전트 — 양식(이름, 바이너리, 버전 명령어, 실행 인수)을 통해 모든 CLI 도구 등록
  • CLI 지문 매칭 — 프록시 IP를 유지하면서 차단 위험을 줄이도록 네이티브 CLI 요청 시그니처를 일치시키는 제공자별 토글
  • 로컬 Devin 인증 — Devin CLI는 devin auth login을 사용하며, 브라우저 OAuth 흐름이 필요하지 않습니다.

대화 도중 계정이 교체되어도 세션 연속성을 유지하는 콤보 전략입니다. 활성 계정의 할당량이 소진되기 전에 OmniRoute가 백그라운드에서 구조화된 인계 요약을 생성합니다. 다음 요청이 다른 계정으로 라우팅되면 해당 요약이 시스템 메시지로 삽입되어 새 계정에서도 전체 컨텍스트를 유지한 채 대화를 계속할 수 있습니다.

콤보 수준 또는 전역 설정에서 구성할 수 있습니다:

  • 인계 임계값 — 요약 생성을 트리거하는 할당량 사용률(기본값 85%)
  • 요약할 최대 메시지 수 — 요약할 최근 기록의 범위
  • 요약 모델 — 인계 요약 생성에 사용할 선택적 재정의 모델

현재 Codex 계정 교체를 지원합니다. 컨텍스트 릴레이 문서를 참조하세요.


이제 컨텍스트 및 캐시에서 Caveman, RTK, 압축 콤보 전용 페이지를 제공합니다:

  • Caveman — 언어 인식 규칙 팩, 미리보기, 출력 모드 제어 및 분석
  • RTK — 셸, git, 테스트, 빌드, 패키지, Docker, 인프라, JSON 및 스택 추적 출력을 위한 명령어 인식 압축
  • 압축 콤보 — 라우팅 콤보에 할당되는 rtk -> caveman과 같은 명명된 파이프라인입니다. 두 엔진이 모두 적용될 경우 기본 누적 계산 기준으로 평균 ~89%, 압축 가능한 컨텍스트 기준 78-95%의 절감률을 달성합니다
  • 원시 출력 복구 — 압축된 출력의 오류를 디버깅하기 위한 선택적 비식별화 RTK 원시 출력 포인터

압축 가이드, RTK 압축 및 압축 엔진을 참조하세요.


전체 요청 파이프라인에 걸친 포괄적인 프록시 구성 적용:

  • 토큰 상태 확인 — 이제 백그라운드 OAuth 새로 고침이 연결별로 프록시 구성을 확인하여 프록시가 필수인 환경에서 발생하는 오류를 방지합니다
  • API 키 검증 — 공급자 키 검증(POST /api/providers/validate)이 runWithProxyContext를 통해 라우팅되어 공급자 수준 및 전역 프록시 설정을 준수합니다
  • undici 디스패처 수정 — 프록시 디스패처가 Node의 내장 fetch 대신 undici 자체 fetch 구현을 사용하여 Node.js 22에서 발생하는 invalid onRequestStart method 오류를 해결합니다
  • Node.js 버전 감지 — 로그인 페이지가 호환되지 않는 Node.js 버전(24+)을 사전에 감지하고 Node 22 LTS 사용 안내가 포함된 경고 배너를 표시합니다

📧 이메일 개인정보 마스킹 (v3.5.6+)

섹션 제목: “📧 이메일 개인정보 마스킹 (v3.5.6+)”

스크린샷을 공유하거나 데모를 녹화할 때 실수로 노출되는 것을 방지하기 위해 OAuth 계정 이메일은 기본적으로 마스킹됩니다(예: di*****@g****.com). 설정 → 외관 → 계정 이메일 표시 여부에서 공급자, 콤보, 로그, 할당량 및 플레이그라운드 화면 전반에 표시되는 전체 계정 이메일을 전역적으로 표시하거나 마스킹할 수 있습니다.


👁️ 모델 표시 여부 전환 (v3.5.6+)

섹션 제목: “👁️ 모델 표시 여부 전환 (v3.5.6+)”

이제 공급자 페이지의 모델 목록에 다음 기능이 포함됩니다:

  • 실시간 검색/필터 표시줄 — 특정 모델을 빠르게 찾을 수 있습니다
  • 모델별 표시 여부 전환(👁 아이콘) — 숨겨진 모델은 회색으로 표시되며 /v1/models 카탈로그에서 제외됩니다
  • 활성 개수 배지(N/M 활성) — 전체 모델 대비 활성화된 모델 수를 한눈에 보여줍니다

누락된 환경 변수를 복원하고 손상된 인증 상태를 수정하는 OAuth 제공업체용 원클릭 “환경 복구” 작업입니다. Dashboard → Providers → [OAuth Provider] → Repair env에서 이용할 수 있습니다. 다음 문제를 자동으로 감지하고 복구합니다.

  • 누락된 OAuth 클라이언트 자격 증명
  • 손상된 환경 파일 항목
  • 백업 경로 정리

모든 설치 방식에 사용할 수 있는 깔끔한 제거 스크립트입니다.

명령어 작업
npm run uninstall 시스템 앱을 제거하지만 ~/.omniroute의 DB와 구성은 유지합니다.
npm run uninstall:full 앱을 제거하고 모든 구성, 키, 데이터베이스를 영구적으로 삭제합니다.

대시보드에서 이미지, 동영상, 음악을 생성합니다. OpenAI, xAI, Together, Hyperbolic, SD WebUI, ComfyUI, AnimateDiff, Stable Audio Open 및 MusicGen을 지원합니다.


제공업체, 모델, 계정 및 API 키별 필터링을 지원하는 실시간 요청 로깅 기능입니다. 상태 코드, 토큰 사용량, 지연 시간 및 응답 세부 정보를 표시합니다.

사용량 로그


기능별로 구분된 통합 API 엔드포인트로, Chat Completions, Responses API, Embeddings, Image Generation, Reranking, Audio Transcription, Text-to-Speech, Moderations 및 등록된 API 키를 제공합니다. 원격 액세스를 위해 Cloudflare Quick Tunnel, Tailscale Funnel, ngrok Tunnel 및 클라우드 프록시를 지원합니다.

엔드포인트 대시보드


API 키를 생성하고, 범위를 지정하고, 폐기할 수 있습니다. 각 키는 전체 액세스 또는 읽기 전용 권한으로 특정 모델/제공업체에 제한할 수 있습니다. 사용량 추적 기능이 포함된 시각적 키 관리 기능을 제공합니다.


작업 유형, 행위자, 대상, IP 주소 및 타임스탬프별 필터링을 지원하는 관리 작업 추적 기능입니다. 전체 보안 이벤트 기록을 제공합니다.


Windows, macOS 및 Linux용 네이티브 Electron 데스크톱 앱입니다. 시스템 트레이 통합, 오프라인 지원, 자동 업데이트 및 원클릭 설치 기능을 갖춘 독립 실행형 애플리케이션으로 OmniRoute를 실행할 수 있습니다.

주요 기능:

  • 서버 준비 상태 폴링(콜드 스타트 시 빈 화면 방지)
  • 포트 관리 기능이 포함된 시스템 트레이
  • 콘텐츠 보안 정책
  • 단일 인스턴스 잠금
  • 재시작 시 자동 업데이트
  • 플랫폼별 조건부 UI(macOS 트래픽 라이트, Windows/Linux 기본 제목 표시줄)
  • 강화된 Electron 빌드 패키징 — 독립 실행형 번들에서 심볼릭 링크된 node_modules를 감지하여 패키징 전에 거부함으로써 빌드 머신에 대한 런타임 종속성을 방지합니다(v2.5.5+).
  • 정상 종료 — Electron before-quit가 Next.js를 정상적으로 종료하여 SQLite WAL 데이터베이스 잠금을 방지합니다(v3.6.2+).

📖 전체 문서는 electron/README.md를 참조하세요.


이제 OmniRoute는 /v1/ws 업그레이드 엔드포인트를 통해 OpenAI 호환 WebSocket 클라이언트를 지원합니다. 사용자 지정 scripts/dev/v1-ws-bridge.mjs 서버는 Next.js를 래핑하고 WS 연결을 완전한 양방향 스트리밍 세션으로 업그레이드합니다. 인증에는 HTTP 요청과 동일한 API 키 또는 세션 쿠키를 사용합니다.

주요 동작:

  • 연결이 설정되기 전에 src/lib/ws/handshake.ts에서 WS 업그레이드를 검증
  • 세션 종료 또는 업스트림 오류 발생 시 스트림을 정상적으로 종료
  • 기존 HTTP+SSE 스트리밍 경로와 동시에 작동

🔑 동기화 토큰 및 구성 번들 (v3.6.6+)

섹션 제목: “🔑 동기화 토큰 및 구성 번들 (v3.6.6+)”

이제 범위가 지정된 동기화 토큰을 통해 여러 기기 및 외부 운영자가 접근할 수 있습니다.

  • POST /api/sync/tokens — 새 동기화 토큰 발급(범위 지정, 선택적 만료 설정)
  • DELETE /api/sync/tokens/:id — 토큰 폐기
  • GET /api/sync/bundle — 민감하지 않은 모든 설정의 버전 지정 및 ETag 기반 JSON 스냅샷 다운로드(비밀번호는 삭제 처리됨)

구성 번들은 src/lib/sync/bundle.ts에서 생성됩니다. 소비자는 전체 페이로드를 다시 다운로드하지 않고 변경 사항을 감지하기 위해 ETag 응답 헤더를 비교합니다.


이제 **GLM Thinking (glmt)**이 정식 공급자로 등록되었습니다. 최대 출력 토큰 65 536개, 사고 예산 24 576개, 기본 시간 제한 900초, Claude 호환 API 형식, GLM 제품군과의 사용량 동기화를 지원합니다.

하이브리드 토큰 계산도 v3.6.6에 도입되었습니다. Claude 호환 공급자가 /messages/count_tokens를 제공하는 경우 OmniRoute는 대규모 요청 전에 이를 호출하며, 호출할 수 없을 때는 원활하게 추정 방식으로 대체합니다.


🛡️ 안전한 아웃바운드 가져오기 및 SSRF 방어 (v3.6.6+)

섹션 제목: “🛡️ 안전한 아웃바운드 가져오기 및 SSRF 방어 (v3.6.6+)”

이제 모든 공급자 검증 및 모델 탐색 호출은 2계층 아웃바운드 방어를 거칩니다.

  1. URL 방어 (src/shared/network/outboundUrlGuard.ts) — 소켓이 열리기 전에 사설/루프백/링크 로컬 IP 범위를 차단합니다.
  2. 안전한 가져오기 래퍼 (src/shared/network/safeOutboundFetch.ts) — URL 방어를 적용하고, 시간 제한을 정규화하며, 일시적 오류 발생 시 지수 백오프로 재시도합니다.

방어 정책 위반은 HTTP 422(URL_GUARD_BLOCKED)로 표시되며 providerAudit.ts를 통해 규정 준수 감사 로그에 기록됩니다.


이제 업스트림 공급자가 모델 범위의 쿨다운을 반환하면 채팅 요청이 자동으로 재시도됩니다. REQUEST_RETRY(기본값: 2) 및 MAX_RETRY_INTERVAL_SEC(기본값: 30초)를 통해 구성할 수 있습니다. x-ratelimit-reset-requests, x-ratelimit-reset-tokens, Retry-After 전반에서 속도 제한 헤더 학습이 개선되었으며, 모델별 쿨다운 상태는 복원력 대시보드에서 확인할 수 있습니다.


감사 로그가 커서 기반 페이지네이션, 요청 컨텍스트 보강(요청 ID, 사용자 에이전트, IP), 구조화된 인증 이벤트, 차이 컨텍스트가 포함된 공급자 CRUD 이벤트, SSRF 차단 검증 로깅을 지원하도록 확장되었습니다. 새 이벤트는 src/lib/compliance/providerAudit.ts에서 생성됩니다.


OmniRoute 소스 코드 (a58000c7685f)

HagiCode

HagiCode는 구조화된 워크플로, 다중 에이전트 실행, Hero Dungeon 뷰를 갖춘 에이전트 코딩 작업 공간입니다.

더 스마트하고 빠르며 즐거운 에이전트 워크플로로 유용한 소프트웨어를 만드세요.

HagiCode 라이트 테마 메인 화면
  • Smart구조화된 워크플로는 의도를 아이디어부터 배포까지 실행 가능한 경로로 바꿉니다.
  • Efficient다중 에이전트 워크플로로 조사, 구현, 검토를 병렬로 진행합니다.
  • FunHero Dungeon은 긴 코딩 세션을 시각적이고 협업적인 경험으로 만듭니다.
HagiCode 방문