AI/Inference
Nota: Este documento es una traducción automática del original en inglés.
AI/Inference
AI/Inference agrupa proyectos centrados en ejecutar modelos de IA entrenados en producción — la etapa en la que un modelo recibe datos de entrada y produce un resultado (una predicción, una clasificación, una imagen generada o una respuesta de texto). Esta es la "última milla" de la IA: el momento en que el modelo realmente hace algo útil.
En el registro de DecAIHub, los proyectos centrados en la inferencia a menudo se solapan con proveedores de cómputo y capas de infraestructura. El factor distintivo es el énfasis: un proyecto AI/Inference se ocupa específicamente de cómo se sirven, verifican y entregan los modelos a los usuarios, no solo de suministrar potencia de GPU en bruto.
La latencia, el batching, el versionado y la observabilidad (registrar entradas y salidas para auditoría) son temas recurrentes en esta categoría. Los proyectos pueden dirigirse a desarrolladores que integran API, o a usuarios finales que consumen contenido generado — el hilo común es el uso en producción de un modelo entrenado, no la fase de entrenamiento en sí.
En resumen: AI/Inference cubre proyectos que sirven, ejecutan o verifican las salidas de modelos de IA en producción.
Qué significa
La inferencia es el proceso de introducir datos en un modelo entrenado y obtener un resultado. Cuando escribes un prompt en un chatbot y recibes una respuesta, esa respuesta es el producto de la inferencia. Cuando un protocolo DeFi llama a un modelo de predicción de precios, el pronóstico devuelto es la salida de la inferencia.
Esto es distinto del entrenamiento (construir y mejorar el modelo aprendiendo a partir de datos) y del cómputo (proporcionar el hardware en bruto). El entrenamiento ocurre antes del despliegue; el cómputo es el recurso; la inferencia es el acto de usar el modelo terminado.
Un desafío clave en cripto es la inferencia verificable: ¿cómo demuestras que un modelo específico procesó una entrada específica y produjo una salida específica, sin confiar en un único servidor? Existen varios enfoques:
- Consenso multiproveedor — la misma entrada se envía a varios proveedores independientes y se comparan las salidas; el acuerdo aumenta la confianza.
- zkML — se generan pruebas de conocimiento cero junto al resultado de la inferencia, lo que permite a cualquiera verificar la corrección sin volver a ejecutar el modelo.
- TEE (entorno de ejecución confiable) — el modelo se ejecuta dentro de un enclave de hardware que atesta el código y los datos que procesó.
Los AI components típicos que se encuentran en los proyectos AI/Inference incluyen endpoints de inferencia, gateways de servicio de modelos, capas de verificación de resultados, enrutadores de latencia y registros de modelos que rastrean versiones y procedencia.
Subcombinaciones comunes
DecAIHub usa categorías compuestas. A continuación se muestran las combinaciones más frecuentes dentro de AI/Inference.
| Subcombinación | Qué significa |
|---|---|
| AI/Inference | Infra | Redes de inferencia descentralizadas y plataformas de servicio — infraestructura para enrutar solicitudes a proveedores de modelos. |
| AI/Inference | AI/Compute | Infra | Infraestructura de inferencia que también incluye su propia capa de cómputo — proyectos que tanto suministran GPU como se especializan en el servicio de modelos. |
| AI/Inference | AI/Agents | Proyectos donde la inferencia se empaqueta como un servicio consumido por agentes autónomos. |
Qué buscar en la ficha de un proyecto
Al leer una ficha AI/Inference en DecAIHub, presta atención a:
- AI component — ¿la ficha enumera un AI component concreto (endpoints de inferencia, servicio de modelos, verificación de resultados, componente de inferencia), o solo lenguaje vago de "infraestructura de IA"?
- Mecanismo de verificación — ¿describe el proyecto cómo se verifican los resultados de la inferencia? Busca menciones de consenso, zkML, TEE o garantías de reproducibilidad.
- Transparencia del modelo — ¿puedes ver qué modelo se ejecuta, qué versión es y qué aspecto tienen las entradas y salidas? Un proyecto que oculta todos los detalles del modelo dificulta la verificación.
- Nivel de evidencia — ¿hay artefactos Tier-1 como API de inferencia públicas, resultados de benchmarks o registros de pruebas on-chain?
- Puntuación de AI reality (
ai_score) — ejecutar el modelo abierto de otra persona es inferencia válida, pero la ficha debe dejar claro si la IA es propietaria o de terceros. Consulta AI reality.
Qué no demuestra esta categoría por sí sola
Un proyecto etiquetado como AI/Inference ha sido clasificado como centrado en inferencia con base en su posicionamiento y artefactos disponibles. La etiqueta por sí sola no confirma que:
- el modelo que se sirve sea de alta calidad, propietario o construido a medida;
- los resultados de la inferencia se verifiquen realmente on-chain o mediante pruebas criptográficas;
- el proyecto haya construido o entrenado el modelo que sirve;
- haya una demanda significativa del servicio de inferencia;
- el token sea necesario para que el pipeline de inferencia funcione.
Comprueba siempre la puntuación completa de DecAI Fit y el bloque de evidencia en la ficha del proyecto.
No confundir con
- AI/Compute — proporciona recursos computacionales en bruto; la inferencia usa cómputo, pero las categorías abordan preocupaciones distintas (servir modelos vs. suministrar hardware). Consulta AI/Compute.
- AI/Training — construye y mejora modelos aprendiendo a partir de datos; el entrenamiento produce el modelo que luego ejecuta la inferencia. Consulta AI/Training.
- AI/Agents — software autónomo que percibe, decide y actúa; un agente puede llamar a un endpoint de inferencia internamente, pero la categoría de agentes trata del comportamiento, no de la ejecución del modelo. Consulta AI/Agents.
- API wrapper — un proyecto que simplemente hace de proxy de llamadas a un modelo de terceros (p. ej., OpenAI) sin añadir su propia lógica de inferencia, verificación o infraestructura de servicio. Consulta Automatización vs IA real.
Preguntas frecuentes
¿Alojar el modelo de pesos abiertos de otra persona sigue siendo "AI/Inference" en DecAIHub?
Sí, si el producto trata claramente de servir, enrutar o verificar inferencia en producción. La ficha debe aclarar igualmente la procedencia — qué modelo, qué versión y qué añade el proyecto más allá de un proxy fino. Consulta AI reality.
¿Por qué las etiquetas de inferencia y cómputo aparecen a menudo juntas?
La inferencia necesita máquinas. Los proyectos que poseen tanto la oferta (AI/Compute) como el servicio (esta categoría) a menudo llevan etiquetas compuestas. Usa la lista de AI component para ver si el énfasis es el alquiler de hardware, la ejecución de modelos o ambos.
¿Qué debería comprobar primero ante afirmaciones de ser "verificable"?
Busca mecanismos de verificación documentados (consenso, zkML, TEE) y artefactos Tier-1 como API, registros o benchmarks reproducibles — no solo eslóganes.
Referencias externas
- Inference (machine learning) — un resumen neutral de cómo encaja la inferencia en el ciclo de vida del ML junto al entrenamiento.
- NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) — trasfondo sobre el despliegue y la monitorización fiables de sistemas de IA en entornos reales.
No comments to display
No comments to display