Qué es la inferencia

Nota: Este documento es una traducción automática del original en inglés.

Qué es la inferencia

La inferencia es el proceso de ejecutar un modelo de IA entrenado sobre datos nuevos para obtener un resultado. Cuando un modelo clasifica una imagen, genera un párrafo de texto, predice una puntuación de riesgo o recomienda una acción, está realizando inferencia. Si el entrenamiento es cómo aprende el modelo, la inferencia es cómo funciona.

Una analogía útil: el entrenamiento es estudiar para un examen —leer libros de texto, resolver problemas de práctica, absorber patrones—. La inferencia es presentar el examen —aplicar lo aprendido a preguntas nuevas en condiciones reales—. Cada vez que un sistema de IA produce una salida en producción, eso es inferencia.

En resumen: el entrenamiento es estudiar para un examen; la inferencia es presentar el examen. Cada vez que un sistema de IA produce una salida en producción, eso es inferencia.

Cómo funciona la inferencia paso a paso

Aunque la inferencia parece instantánea para el usuario final ("escribí una pregunta y obtuve una respuesta"), un pipeline concreto se ejecuta entre bastidores cada vez que un modelo produce una salida.

Entrada

Todo comienza con datos de entrada — un prompt de texto, una imagen, un conjunto de números, el hash de una transacción de blockchain, un clip de audio o cualquier otro dato estructurado o no estructurado que el modelo fue diseñado para procesar.

Preprocesamiento

Los datos brutos rara vez se introducen directamente en el modelo. Un paso de preprocesamiento los transforma al formato que el modelo espera. Para un modelo de texto, esto significa tokenización — dividir el texto en tokens (unidades de subpalabra) y convertirlos en IDs numéricos. Para un modelo de imagen, esto significa redimensionar, normalizar los valores de los píxeles y a veces aumentar la imagen. El preprocesamiento debe coincidir exactamente con los pasos usados durante el entrenamiento; de lo contrario, el modelo recibe datos en un formato que nunca fue entrenado para manejar.

Pase hacia adelante

La entrada preprocesada se pasa a través de la arquitectura del modelo — capa por capa, a través de todos los pesos aprendidos y las funciones de activación. Esto se llama el pase hacia adelante (forward pass). Durante este paso, el modelo aplica los patrones que aprendió durante el entrenamiento a la nueva entrada. No se actualizan pesos; no ocurre aprendizaje. El modelo simplemente calcula una salida a partir de la entrada usando su conocimiento existente.

Para un modelo de lenguaje grande, el pase hacia adelante produce una distribución de probabilidad sobre los posibles tokens siguientes. Para un clasificador, produce probabilidades para cada clase. Para un modelo generativo de imágenes, produce una imagen sin ruido paso a paso.

Salida

El pase hacia adelante produce una salida bruta — a menudo un vector de números, probabilidades o una secuencia de tokens. Esta salida bruta necesita interpretarse para volverse útil.

Postprocesamiento

El postprocesamiento convierte la salida bruta en un resultado legible por humanos o utilizable por el sistema. Para un LLM, esto significa decodificar los IDs de los tokens de nuevo en texto. Para un clasificador, significa mapear las puntuaciones de probabilidad a etiquetas de clase ("spam" vs "no spam"). Para un modelo de puntuación, significa convertir un valor bruto en un rango de puntuación que la aplicación espera.

En resumen:

Paso	Qué ocurre	Ejemplo (modelo de texto)
Entrada	Llegan datos brutos	El usuario escribe una pregunta
Preprocesamiento	Los datos se transforman al formato del modelo	El texto se tokeniza en IDs numéricos
Pase hacia adelante	El modelo calcula la salida a partir de la entrada usando los pesos aprendidos	Distribución de probabilidad sobre el vocabulario
Salida bruta	Se produce un resultado numérico	Probabilidades de tokens
Postprocesamiento	La salida se convierte en una forma utilizable	Los IDs de los tokens se decodifican de nuevo en texto

Tipos de inferencia

No toda la inferencia es igual. Diferentes escenarios de despliegue crean diferentes requisitos técnicos y compensaciones.

Inferencia en tiempo real vs por lotes

Dimensión	Inferencia en tiempo real	Inferencia por lotes
Cuándo se ejecuta	Bajo demanda, por solicitud	Según un horario o cuando se acumula un lote
Requisito de latencia	Baja (milisegundos a segundos)	Flexible (minutos a horas aceptables)
Caso de uso	Chatbots, puntuación en vivo, agentes interactivos	Generación de informes, clasificación masiva, analítica periódica
Perfil de costo	Más alto por solicitud (el hardware debe estar siempre listo)	Más bajo por elemento (el hardware se usa eficientemente en ráfagas)

La inferencia en tiempo real es lo que los usuarios finales experimentan normalmente — envían una consulta y reciben una respuesta de inmediato. La inferencia por lotes es común en pipelines de backend donde un modelo procesa miles de puntos de datos a la vez (p. ej., puntuar todas las transacciones de la última hora por riesgo de fraude).

Inferencia en el borde vs en la nube

La inferencia en la nube se ejecuta en servidores centralizados (o clústeres de servidores) en un centro de datos. Ofrece hardware potente (GPU de gama alta, gran memoria) pero introduce latencia de red y dependencia de un proveedor central.
La inferencia en el borde (edge) se ejecuta en dispositivos locales — smartphones, sensores IoT, hardware embebido. Reduce la latencia y mantiene los datos en el dispositivo, pero está limitada por la potencia de cómputo y la memoria del dispositivo.

Muchos sistemas de producción combinan ambos: modelos ligeros se ejecutan en el borde para respuestas iniciales rápidas, mientras que las consultas complejas se reenvían a modelos basados en la nube.

Inferencia on-chain vs off-chain

Esta distinción es específica de la IA en cripto y es central para la forma en que DecAIHub evalúa los proyectos:

Inferencia off-chain — el modelo se ejecuta en servidores tradicionales o clústeres de GPU. Los resultados pueden o no publicarse en una blockchain después. Esta es la configuración más común en los proyectos de IA en cripto porque ejecutar modelos grandes directamente en una blockchain es computacionalmente poco práctico.
Inferencia on-chain — el modelo (o una prueba verificable de su cómputo) se ejecuta dentro del entorno de ejecución de la blockchain. La verdadera inferencia on-chain para modelos no triviales es extremadamente rara debido a las limitaciones computacionales de los entornos de contratos inteligentes. Los proyectos que afirman tener inferencia on-chain normalmente usan uno de estos enfoques: ejecutar un modelo muy pequeño dentro de un contrato inteligente, publicar una prueba criptográfica (como zkML) de que la inferencia se realizó correctamente off-chain, o usar un mecanismo tipo oracle donde los resultados de la inferencia off-chain se atestiguan y registran on-chain.

La distinción entre inferencia on-chain y off-chain es directamente relevante para el eje Onchain necessity en DecAI Fit.

Por qué importa la inferencia en la IA en cripto

Si un proyecto afirma usar inteligencia artificial, la inferencia debe estar ocurriendo en algún lugar. Un modelo que fue entrenado pero nunca ejecuta inferencia no produce salidas y no aporta valor a los usuarios. La inferencia es el punto donde la IA deja de ser un concepto y empieza a ser un producto.

En las fichas de proyecto de DecAIHub, el campo AI component a menudo menciona mecanismos relacionados con la inferencia: motores de inferencia, inferencia descentralizada, endpoints de inferencia de LLM, servicio de modelos. Estos son indicadores concretos de que un modelo realmente se está usando — no solo se afirma.

Costo, velocidad y la conexión con el cómputo

La inferencia no es gratis. Ejecutar un modelo requiere recursos de cómputo — normalmente GPU o aceleradores especializados como TPU y ASIC personalizados. El costo de la inferencia depende de varios factores:

Factor	Impacto en el costo y la velocidad
Tamaño del modelo (número de parámetros)	Los modelos más grandes requieren más memoria y cómputo por solicitud
Longitud de la entrada	Las entradas más largas (p. ej., prompts de texto largos) aumentan el tiempo de procesamiento
Longitud de la salida	Para los modelos autorregresivos (LLM), cada token de salida requiere un pase hacia adelante
Tamaño del lote	Procesar varias solicitudes juntas puede mejorar el rendimiento pero añade latencia
Hardware	Las GPU más potentes reducen el tiempo pero cuestan más
Cuantización	Reducir la precisión numérica (p. ej., de 32 bits a 8 bits) recorta memoria y cómputo a costa de algo de exactitud

Los proyectos optimizan la inferencia mediante varias técnicas:

Cuantización — reducir la precisión numérica de los pesos para usar menos memoria y cómputo.
Destilación — entrenar un modelo "estudiante" más pequeño para imitar a un modelo "maestro" más grande, produciendo un modelo más rápido con una pérdida de calidad aceptable.
Procesamiento por lotes (batching) — agrupar varias solicitudes para procesarlas simultáneamente y compartir la sobrecarga de cómputo.
Caché — almacenar y reutilizar resultados para consultas repetidas o similares.
Selección de hardware — elegir la GPU, TPU o acelerador adecuado para la carga de trabajo.

La infraestructura de cómputo que impulsa la inferencia es un área importante en la IA en cripto. Muchos proyectos construyen o coordinan redes de GPU específicamente para atender cargas de trabajo de inferencia, cayendo dentro de las categorías AI/Computación o AI/Inferencia.

Inferencia descentralizada

En la IA tradicional, la inferencia se ejecuta en servidores centralizados controlados por una sola empresa. La inferencia descentralizada distribuye el servicio de modelos a través de una red de proveedores independientes. Este es un patrón central en la categoría AI/Inferencia de los proyectos de IA en cripto.

La inferencia descentralizada introduce un conjunto de desafíos que no existen en los sistemas centralizados:

Consistencia de la salida — distintos proveedores deben producir salidas idénticas (o suficientemente similares) para la misma entrada. Las diferencias de hardware, las versiones de software y la precisión numérica pueden causar divergencias.
Verificación — ¿cómo demuestras que realmente se usó el modelo correcto, que la entrada no fue manipulada y que la salida se calculó honestamente? Los enfoques incluyen el consenso multiproveedor (ejecutar la misma consulta en varios nodos y comparar resultados), los entornos de ejecución confiables (TEE) que proporcionan garantías a nivel de hardware, y las pruebas de conocimiento cero (zkML) que demuestran un cómputo correcto sin revelar los pesos del modelo ni los datos de entrada.
Latencia — enrutar las solicitudes a proveedores distribuidos añade sobrecarga de red en comparación con los servidores centralizados.
Coordinación de pagos — los proveedores deben ser compensados de forma justa, lo que a menudo implica mecanismos de pago on-chain vinculados al trabajo de inferencia verificado.

Estos mecanismos se describen en detalle en la página Inferencia como AI component.

Dónde aparece en las fichas de proyecto de DecAIHub

La inferencia aparece en múltiples partes de una ficha de proyecto de DecAIHub:

AI component — valores relacionados con la inferencia, como "inferencia", "servicio de modelos", "inferencia de LLM" o "inferencia descentralizada", indican que la función central de IA de un proyecto implica ejecutar modelos en producción.
Categoría — los proyectos en la categoría AI/Inferencia se centran específicamente en proporcionar infraestructura o servicios de inferencia.
Tabla de evidencias — la evidencia Tier-1 para la inferencia incluye endpoints de API públicos, benchmarks de inferencia, mediciones de latencia y registros de cómputo verificables.
ai_score — un proyecto que demuestra inferencia funcional con evidencia publicada recibe un ai_score más alto que uno que solo describe un modelo sin mostrar que se ejecuta.

Un proyecto puede afirmar que tiene un modelo, pero si no hay evidencia de que la inferencia esté ocurriendo en producción, el modelo no aporta valor a los usuarios finales.

Lo que la inferencia por sí sola no demuestra

Ejecutar inferencia sobre un modelo de terceros vía API (p. ej., llamar a GPT o Claude) es técnicamente inferencia, pero no demuestra una capacidad de IA propietaria. Consulta Qué es un API wrapper.
La inferencia demuestra que un modelo se ejecuta — no demuestra que el modelo sea de alta calidad o esté bien adaptado a la tarea. La calidad requiere benchmarks y métricas.
La inferencia no demuestra que un token sea necesario para que el pipeline funcione ni que el proyecto necesite estar on-chain. Estos son ejes aparte en DecAI Fit.
Las afirmaciones de velocidad sin benchmarks ni metodología publicados son inverificables. Afirmar "la inferencia más rápida" requiere evidencia reproducible.
La existencia de un endpoint de inferencia no demuestra que el modelo detrás de él fue construido por el proyecto en lugar de ser una copia alojada de un modelo de código abierto.

Comprueba siempre la tabla de evidencias y la evidencia Tier-1/2/3 en busca de artefactos de respaldo.

No confundir con

El Entrenamiento produce el modelo. La inferencia lo usa. Son etapas secuenciales del ciclo de vida de la IA.
Inferencia como AI component describe cómo aparece la inferencia específicamente en las fichas de proyecto de DecAIHub. Esta página explica el concepto en sí.
La categoría AI/Inferencia clasifica los proyectos que se centran en la infraestructura de inferencia. El concepto de inferencia se aplica a cualquier proyecto que ejecute un modelo, sin importar su categoría.
El Cómputo proporciona el hardware. La inferencia es la carga de trabajo que se ejecuta en ese hardware. Una red de cómputo puede atender cargas de trabajo tanto de entrenamiento como de inferencia.
El modelo de IA es el artefacto (los pesos entrenados). La inferencia es el proceso de usar ese artefacto para producir salidas.

Preguntas frecuentes

¿Cuál es la diferencia entre entrenamiento e inferencia?

El entrenamiento es el proceso de enseñar a un modelo exponiéndolo a datos y ajustando sus pesos para minimizar los errores. Es costoso computacionalmente y normalmente ocurre una vez (o periódicamente para el reentrenamiento). La inferencia es el proceso de usar el modelo entrenado para producir salidas sobre datos nuevos. Ocurre cada vez que un usuario interactúa con el modelo. El entrenamiento crea el modelo; la inferencia lo usa.

¿Por qué es importante la velocidad de la inferencia?

La velocidad determina la experiencia del usuario y el costo operativo. Un chatbot que tarda 30 segundos en responder es inutilizable en la práctica. Un sistema de detección de fraude que tarda minutos en puntuar una transacción pierde la ventana para actuar. Una inferencia más rápida también significa un menor costo de cómputo por solicitud, lo que afecta directamente la viabilidad económica de un servicio — especialmente para las redes descentralizadas donde los proveedores asumen el costo del hardware.

¿Qué es la inferencia descentralizada?

La inferencia descentralizada distribuye el servicio de modelos a través de una red de proveedores de cómputo independientes en lugar de depender de los servidores de una sola empresa. Los desafíos clave son garantizar la consistencia de la salida, verificar que realmente se usó el modelo correcto, gestionar la latencia y coordinar los pagos. Los proyectos de IA en cripto en la categoría AI/Inferencia a menudo construyen infraestructura específicamente para este propósito.

¿Cómo se puede verificar que la inferencia realmente está ocurriendo?

Busca evidencia Tier-1: endpoints de API públicos que puedan probarse, benchmarks de latencia de inferencia, registros de cómputo, registros on-chain de solicitudes y resultados de inferencia, o pruebas verificables (como atestaciones de TEE o pruebas zkML). Las afirmaciones de marketing como "impulsado por IA" sin ninguno de estos artefactos no constituyen evidencia de inferencia real.

¿Cuál es el costo de ejecutar inferencia?

El costo depende del tamaño del modelo, la longitud de entrada/salida, el hardware y las técnicas de optimización. Ejecutar una sola consulta a través de un modelo de lenguaje grande puede costar fracciones de centavo a varios centavos según el proveedor y el tamaño del modelo. Para las redes de inferencia descentralizada, los costos normalmente se pagan por consulta o por unidad de cómputo, a menudo usando el token nativo de la red o una stablecoin. La economía de la inferencia es un factor clave para determinar si el pipeline de IA de un proyecto es sostenible a escala.

Véase también

Referencias externas

Hugging Face -- Inference Endpoints -- infraestructura gestionada para desplegar y ejecutar modelos en producción.
Papers With Code -- Inference -- resultados de benchmarks y métodos para una inferencia eficiente en distintos tipos de modelos.
Stanford HAI -- AI Index Report -- datos anuales sobre los costos de inferencia, las tendencias de hardware y los patrones de despliegue.
Google AI Blog -- Efficient ML -- investigación sobre cuantización, destilación y otras técnicas de optimización de la inferencia.
Wikipedia -- Statistical inference -- contexto sobre los fundamentos estadísticos de la inferencia en el aprendizaje automático.