LLM Providers

源码版本v2026.7.20

Responsabilidad

Traducir «nombre de provider (nvidia, kimi, openai, openrouter…)» a «hostname concreto, preprocesamiento de mensajes, extra_body, lista de modelos». Hermes no usa herencia para abstraer los providers, sino un dataclass ProviderProfile + un conjunto de hooks; el profile se registra como plugin, logrando «declarar = integrar». Soporta Nous Portal, OpenRouter, OpenAI y endpoints personalizados.

Archivos clave

• OMIT_TEMPERATURE:21 — objeto centinela que indica «no enviar temperature»
• @dataclass ProviderProfile:38-88 — metadatos del provider (name, aliases, base_url, auth, política de temperature…)
• get_hostname / prepare_messages:98-118 — hooks: a qué host va la petición, cómo se preprocesan los mensajes
• build_extra_body:119-175 — hook: campos del body específicos del provider
• fetch_models:175-232 — hook: lista de modelos disponibles para ese provider
• doc del módulo:9-28 — describe el mecanismo de descubrimiento perezoso (escanea plugins solo en la primera llamada)
• register_provider:53-65 — registra un profile
• get_provider_profile:65-76 — consulta por name o alias
• list_providers:76-91 — lista todos los profiles
• directorio plugins/model-providers/ — definiciones reales de profiles (un subdirectorio por provider)

Flujo de datos

1. init_agent:276 recibe el nombre de provider configurado por el usuario.
2. Llama a get_provider_profile:65 (lo que dispara el descubrimiento perezoso la primera vez: escanea plugins/model-providers/<name>/, lo importa y llama a register_provider).
3. Una vez obtenido el ProviderProfile:
   • get_hostname (providers/base.py:98) fija el host de la petición
   • prepare_messages (providers/base.py:111) preprocesa los api_messages producidos por build_turn_context:268
   • build_extra_body (providers/base.py:119) añade campos específicos del provider
   • la temperature sigue la política del profile (None / OMIT_TEMPERATURE / valor concreto)
4. El bucle principal usa la petición ensamblada para llamar a la API del provider (subbucle de reintentos:1227).
5. El extra_body de un provider personalizado se fusiona en _merge_custom_provider_extra_body:257.

Resumen

La abstracción de provider se resume en «profile + hooks», no «herencia». Añadir un provider solo requiere crear un subdirectorio en plugins/model-providers/, declarar un ProviderProfile y llamar a register_provider, sin tocar la base. El descubrimiento perezoso mantiene el arranque rápido y la carga bajo demanda.