Skip to main content

Qué es la privacidad en cripto e IA

Nota: Este documento es una traducción automática del original en inglés.

Qué es la privacidad en cripto e IA

La privacidad en el contexto de cripto e IA se refiere a la capacidad de procesar, almacenar y transmitir datos sin exponerlos a partes no autorizadas. En los sistemas descentralizados, la privacidad es especialmente desafiante porque las blockchains son transparentes por diseño — las transacciones, los estados de los contratos inteligentes y los datos on-chain son públicamente visibles. Las tecnologías que preservan la privacidad permiten realizar cómputos sobre datos sensibles (incluidas las entradas, salidas y pesos de los modelos de IA) manteniendo esos datos confidenciales.

En resumen: la privacidad en la IA cripto significa ejecutar cómputos sobre datos sin revelar los datos en sí. Combina técnicas criptográficas y basadas en hardware para proteger las entradas, salidas y parámetros de los modelos en entornos descentralizados.

Por qué importa la privacidad en la IA descentralizada

En la IA centralizada, la privacidad se gestiona mediante controles de acceso, contratos y confianza en el proveedor. Los usuarios confían en que la empresa que ejecuta el modelo no hará un mal uso de sus datos. En la IA descentralizada, no hay una única parte de confianza. Los proveedores de cómputo, los validadores y otros participantes de la red pueden ser anónimos y no confiables. Esto crea varios desafíos de privacidad:

  • Privacidad de la entrada. Un usuario que envía un historial médico, datos financieros o una consulta personal a un modelo de IA descentralizado no quiere que el proveedor de cómputo vea la entrada sin procesar.
  • Privacidad de la salida. En algunos escenarios, el resultado de un cómputo de IA es en sí mismo sensible — una puntuación de riesgo, un diagnóstico o una señal de trading que el solicitante no quiere divulgar.
  • Privacidad del modelo. Los pesos de un modelo de IA representan una propiedad intelectual significativa. Un propietario de modelo que use una red de cómputo descentralizada puede no querer que el proveedor de cómputo vea o copie el modelo.
  • Privacidad de los datos de entrenamiento. Los modelos entrenados con datos propietarios o personales deben proteger esos datos, tanto durante el entrenamiento como en el despliegue (evitando la extracción mediante consultas adversarias).

Sin mecanismos que preserven la privacidad, la IA descentralizada se enfrenta a una tensión fundamental: el sistema está diseñado para no requerir confianza (trustless), pero los participantes aún deben confiar en que los demás no mirarán los datos que fluyen por la red.

Cómo se logra la privacidad

El cómputo que preserva la privacidad en la IA cripto utiliza varios enfoques, a menudo en combinación:

Pruebas de conocimiento cero (ZK)

Las pruebas de conocimiento cero permiten a una parte demostrar que una afirmación es verdadera sin revelar ninguna información más allá de la veracidad de la afirmación misma. En las aplicaciones de IA, ZK puede demostrar que una inferencia de modelo se computó correctamente sin revelar los pesos del modelo ni los datos de entrada. Este enfoque proporciona una garantía criptográfica matemática (trustless) pero conlleva una sobrecarga computacional significativa, especialmente para modelos de IA complejos. Consulta la página dedicada a ZK para más detalles sobre zk-SNARKs, zk-STARKs y sus aplicaciones.

Entornos de ejecución confiables (TEE)

Un TEE es una región aislada por hardware de un procesador donde el código y los datos están protegidos del resto del sistema — incluidos el sistema operativo, el hipervisor e incluso el propietario del hardware. Los TEE permiten que los modelos de IA se ejecuten en hardware no confiable manteniendo el modelo y los datos confidenciales. La compensación es que la seguridad depende de la implementación del fabricante del hardware en lugar de pruebas matemáticas. Consulta la página dedicada a TEE para más detalles.

Cómputo seguro multipartito (MPC)

El MPC permite a múltiples partes computar conjuntamente una función sobre sus entradas sin revelarse esas entradas entre sí. En la IA, el MPC puede habilitar la inferencia distribuida donde ningún nodo individual ve el modelo completo ni la entrada completa. La sobrecarga computacional es sustancial, y las implementaciones prácticas normalmente involucran un pequeño número de partes en lugar de grandes redes.

Cifrado homomórfico (HE)

El cifrado totalmente homomórfico permite realizar cómputos directamente sobre datos cifrados, produciendo un resultado cifrado que, al descifrarse, coincide con el resultado de realizar el mismo cómputo sobre datos no cifrados. En teoría, esto habilita cualquier cómputo de IA sobre datos cifrados. En la práctica, los esquemas actuales de HE son órdenes de magnitud más lentos que el cómputo en texto plano, lo que limita su uso a operaciones simples o modelos pequeños.

Privacidad diferencial

La privacidad diferencial añade ruido cuidadosamente calibrado a los datos o a las salidas del modelo para evitar que se identifiquen registros individuales, preservando al mismo tiempo las propiedades estadísticas del conjunto de datos. Se usa principalmente durante el entrenamiento del modelo para asegurar que el modelo no memorice y luego filtre ejemplos de entrenamiento individuales. Es un marco matemático en lugar de una técnica de cifrado.

Comparación de enfoques

Enfoque Protege Modelo de confianza Sobrecarga Madurez
Pruebas ZK Integridad del cómputo + privacidad de datos Matemático (trustless) Muy alta Investigación activa; probado en modelos pequeños
TEE Datos en tiempo de ejecución + confidencialidad del modelo Fabricante del hardware De baja a moderada Listo para producción en muchas cargas de trabajo
MPC Privacidad de la entrada entre partes Mayoría honesta entre las partes Alta Desplegado en entornos especializados
HE Privacidad de los datos durante el cómputo Matemático (trustless) Muy alta Experimental para cargas de trabajo de IA
Privacidad diferencial Privacidad de los datos de entrenamiento Garantía estadística Baja Ampliamente adoptado en pipelines de entrenamiento

Inferencia de IA que preserva la privacidad

La aplicación más inmediata en la IA cripto es la inferencia confidencial: ejecutar un modelo sobre los datos de un usuario de modo que ni el proveedor de cómputo vea la entrada ni el usuario vea los pesos del modelo. Este es el problema central de privacidad para las redes de inferencia de IA descentralizadas.

Las soluciones prácticas actuales normalmente usan TEE para la inferencia confidencial porque la sobrecarga es manejable y la tecnología es madura. Los enfoques basados en ZK (zkML) proporcionan garantías más fuertes pero están limitados a modelos más pequeños. Los enfoques de MPC y HE siguen siendo en gran medida experimentales para las cargas de trabajo de inferencia.

Un pipeline realista de inferencia confidencial podría funcionar de la siguiente manera:

  1. El usuario cifra su entrada o la envía a un enclave TEE.
  2. El modelo se ejecuta dentro del TEE, donde ni el operador ni los observadores externos pueden leer los datos.
  3. El TEE produce una atestación — una prueba criptográfica de que el cómputo se ejecutó dentro de un enclave genuino y no modificado.
  4. El resultado se devuelve al usuario, cifrado o a través de un canal seguro.

La atestación permite al usuario verificar que el cómputo ocurrió en un entorno protegido sin confiar en el proveedor de cómputo.

Por qué importa para DecAIHub

La privacidad es una preocupación transversal en el marco de evaluación de DecAIHub. Los proyectos pueden usar técnicas que preservan la privacidad de varias maneras:

  • Como un AI component. La inferencia confidencial, el servicio privado de modelos o el entrenamiento que preserva la privacidad aparecen en el campo de AI component cuando son fundamentales para el pipeline de IA del proyecto.
  • Como una característica on-chain. Algunos proyectos usan pruebas ZK o atestaciones de TEE como artefactos on-chain, contribuyendo a la dimensión de Onchain necessity de DecAI Fit.
  • Como un diferenciador. El cómputo que preserva la privacidad es técnicamente desafiante. Los proyectos que lo implementan con evidencia verificable (registros de atestación de TEE, contratos de verificación de pruebas ZK) demuestran una profundidad técnica genuina.

Al evaluar las afirmaciones de privacidad, la pregunta clave es: ¿cuál es el mecanismo concreto y qué evidencia existe de que está desplegado? Una afirmación de "IA que preserva la privacidad" sin especificar si el proyecto usa TEE, ZK, MPC u otro enfoque es demasiado vaga para evaluarla.

Dónde aparece en las fichas de proyecto de DecAIHub

Las características relacionadas con la privacidad aparecen en varios campos de las fichas de proyecto:

  • AI component — valores como "inferencia confidencial", "servicio privado de modelos" o "ejecución basada en TEE" indican mecanismos que preservan la privacidad.
  • Etiquetas de categoría — los proyectos pueden llevar etiquetas que indican su uso de tecnología de privacidad junto a su categoría principal de IA.
  • Tabla de evidencia — la evidencia Tier-1 para la privacidad incluye registros de atestación de TEE, contratos verificadores de ZK, informes de auditoría publicados para implementaciones de cómputo confidencial y políticas documentadas de tratamiento de datos.

Lo que la privacidad por sí sola no demuestra

  • La privacidad no demuestra AI reality. Un proyecto puede implementar tecnología de privacidad sofisticada sin tener una IA real detrás.
  • La privacidad no demuestra descentralización. Un único proveedor centralizado puede ejecutar un servicio de inferencia confidencial basado en TEE. La garantía de privacidad es independiente de si el sistema está descentralizado.
  • La privacidad no demuestra seguridad. La privacidad protege los datos del acceso no autorizado, pero no protege contra errores, fallos de lógica u otras vulnerabilidades en el pipeline de IA.
  • La privacidad no demuestra Token necessity. El cómputo que preserva la privacidad puede funcionar sin una blockchain ni un token. Si el token aporta un valor significativo es una evaluación aparte.
  • Afirmar privacidad sin especificar el mecanismo no es verificable. "Que preserva la privacidad" sin TEE, ZK, MPC u otro enfoque concreto es una afirmación de marketing, no una técnica.

No confundir con

  • ZK (pruebas de conocimiento cero) — una técnica criptográfica específica que puede usarse para la privacidad, pero también para el escalado (zk-rollups) y la verificación (zkML). La privacidad es un concepto más amplio que incluye ZK como una de sus herramientas.
  • TEE — un enfoque basado en hardware para el cómputo confidencial. El TEE es un mecanismo para lograr la privacidad, no un sinónimo de ella.
  • Anonimato — ocultar la identidad de los participantes de una transacción. La privacidad en la IA se centra en proteger los datos y el cómputo, no necesariamente en ocultar quién está transaccionando.
  • Cifrado en reposo — cifrar los datos almacenados los protege del acceso no autorizado pero no aborda la privacidad durante el cómputo. El cómputo que preserva la privacidad significa que los datos permanecen protegidos mientras se procesan.
  • Propiedad de los datos — controlar quién tiene acceso a los datos está relacionado con la privacidad, pero es una preocupación de gobernanza y control de acceso, no computacional.

Preguntas frecuentes

¿Cuál es la diferencia entre privacidad y confidencialidad en la IA cripto?

En la práctica, los términos se usan a menudo de forma intercambiable. En sentido estricto, la privacidad se refiere al derecho o la capacidad de controlar qué información se divulga, mientras que la confidencialidad se refiere a la obligación o el mecanismo que impide la divulgación no autorizada. En la IA cripto, el cómputo confidencial (ejecutar cómputos en un entorno protegido) es un mecanismo que logra el objetivo de la privacidad. Cuando un proyecto dice "inferencia confidencial", normalmente significa que la inferencia se ejecuta en un entorno (como un TEE) que protege los datos — esto es una implementación específica del objetivo más amplio de la privacidad.

¿Pueden los modelos de IA ser privados en una blockchain pública?

El cómputo de IA en sí no se ejecuta en la blockchain — se ejecuta en infraestructura de cómputo off-chain. La blockchain registra pruebas, atestaciones o resultados. La privacidad se logra en la capa de cómputo (usando TEE, ZK u otras técnicas), no en la capa de la blockchain. La blockchain puede verificar que un cómputo privado se realizó correctamente (mediante una prueba ZK o una atestación de TEE) sin ver los datos subyacentes. El registro on-chain es público; el cómputo y los datos detrás de él pueden permanecer privados.

¿Qué enfoque de privacidad es el mejor para la IA?

No hay un único enfoque mejor — cada uno tiene compensaciones. Los TEE ofrecen un rendimiento práctico para cargas de trabajo reales pero dependen de supuestos de confianza en el hardware. Las pruebas ZK proporcionan garantías matemáticas trustless pero son computacionalmente caras y están limitadas a modelos más pequeños. El MPC habilita el cómputo conjunto sin compartir entradas pero requiere coordinación entre las partes. La mayoría de los sistemas en producción hoy usan TEE para la inferencia confidencial, con pruebas ZK usadas de forma selectiva para la verificación de alto valor. La elección depende del modelo de amenazas, los requisitos de rendimiento y la sensibilidad de los datos involucrados.

¿La privacidad ralentiza la inferencia de IA?

Depende del mecanismo. La inferencia basada en TEE se ejecuta a una velocidad casi nativa — el aislamiento por hardware introduce una sobrecarga mínima. La verificación basada en ZK añade una sobrecarga significativa a la generación de pruebas (órdenes de magnitud más lenta que la inferencia simple), aunque la verificación es rápida. Tanto el MPC como el HE introducen costos computacionales sustanciales. En la práctica, los proyectos eligen el mecanismo de privacidad que equilibra la garantía de privacidad requerida con un rendimiento aceptable para su caso de uso.

Referencias externas

Véase también

No comments to display

Back to top