Skip to main content

O que é privacidade em cripto e IA

Nota: Este documento é uma tradução automática da versão original em inglês.

O que é privacidade em cripto e IA

Privacy (privacidade) no contexto de cripto e IA refere-se à capacidade de processar, armazenar e transmitir dados sem expô-los a partes não autorizadas. Em sistemas descentralizados, a privacidade é especialmente desafiadora porque as blockchains são transparentes por design — transações, estados de smart contracts e dados onchain são publicamente visíveis. As tecnologias que preservam a privacidade permitem que computações sejam realizadas sobre dados sensíveis (incluindo entradas, saídas e pesos de modelos de IA), mantendo esses dados confidenciais.

Em resumo: privacidade em cripto IA significa executar computações sobre dados sem revelar os próprios dados. Combina técnicas criptográficas e baseadas em hardware para proteger entradas, saídas e parâmetros de modelos em ambientes descentralizados.

Por que a privacidade importa na IA descentralizada

Na IA centralizada, a privacidade é tratada por meio de controles de acesso, contratos e confiança no provedor. Os usuários confiam que a empresa que executa o modelo não fará uso indevido de seus dados. Na IA descentralizada, não há uma única parte confiável. Provedores de computação, validadores e outros participantes da rede podem ser anônimos e não confiáveis. Isso cria vários desafios de privacidade:

  • Privacidade de entrada. Um usuário que envia um prontuário médico, dados financeiros ou uma consulta pessoal a um modelo de IA descentralizado não quer que o provedor de computação veja a entrada bruta.
  • Privacidade de saída. Em alguns cenários, o resultado de uma computação de IA é, ele próprio, sensível — uma pontuação de risco, um diagnóstico ou um sinal de trading que o solicitante não quer divulgar.
  • Privacidade do modelo. Os pesos de um modelo de IA representam propriedade intelectual significativa. O dono de um modelo que usa uma rede de computação descentralizada pode não querer que o provedor de computação veja ou copie o modelo.
  • Privacidade dos dados de treinamento. Modelos treinados com dados proprietários ou pessoais devem proteger esses dados, tanto durante o treinamento quanto na implantação (impedindo a extração por meio de consultas adversariais).

Sem mecanismos de preservação da privacidade, a IA descentralizada enfrenta uma tensão fundamental: o sistema é projetado para ser trustless, mas os participantes ainda precisam confiar uns nos outros para não olhar os dados que fluem pela rede.

Como a privacidade é alcançada

A computação que preserva a privacidade em cripto IA usa várias abordagens, frequentemente em combinação:

Zero-knowledge proofs (ZK)

As provas de conhecimento zero permitem que uma parte prove que uma afirmação é verdadeira sem revelar qualquer informação além da veracidade da própria afirmação. Em aplicações de IA, ZK pode provar que uma inferência de modelo foi computada corretamente sem revelar os pesos do modelo ou os dados de entrada. Essa abordagem fornece uma garantia criptográfica matemática (trustless), mas vem com sobrecarga computacional significativa, especialmente para modelos de IA complexos. Consulte a página dedicada sobre ZK para detalhes sobre zk-SNARKs, zk-STARKs e suas aplicações.

Trusted Execution Environments (TEE)

Um TEE é uma região de um processador isolada por hardware, onde código e dados são protegidos do resto do sistema — incluindo o sistema operacional, o hypervisor e até o proprietário do hardware. Os TEEs permitem que modelos de IA sejam executados em hardware não confiável, mantendo o modelo e os dados confidenciais. O trade-off é que a segurança depende da implementação do fabricante do hardware, e não de provas matemáticas. Consulte a página dedicada sobre TEE para detalhes.

Secure multi-party computation (MPC)

A MPC permite que múltiplas partes computem conjuntamente uma função sobre suas entradas sem revelar essas entradas umas às outras. Em IA, a MPC pode viabilizar inferência distribuída em que nenhum nó isolado vê o modelo completo ou a entrada completa. A sobrecarga computacional é substancial, e implementações práticas normalmente envolvem um pequeno número de partes, e não grandes redes.

Homomorphic encryption (HE)

A criptografia totalmente homomórfica permite que computações sejam realizadas diretamente sobre dados criptografados, produzindo um resultado criptografado que, ao ser descriptografado, corresponde ao resultado de realizar a mesma computação sobre dados não criptografados. Em teoria, isso possibilita qualquer computação de IA sobre dados criptografados. Na prática, os esquemas atuais de HE são ordens de magnitude mais lentos do que a computação em texto claro, limitando seu uso a operações simples ou modelos pequenos.

Differential privacy

A privacidade diferencial adiciona ruído cuidadosamente calibrado a dados ou saídas de modelos para impedir que registros individuais sejam identificados, preservando ao mesmo tempo as propriedades estatísticas do dataset. É usada principalmente durante o treinamento de modelos para garantir que o modelo não memorize e, depois, vaze exemplos de treinamento individuais. É um arcabouço matemático, e não uma técnica de criptografia.

Comparação das abordagens

Abordagem Protege Modelo de confiança Sobrecarga Maturidade
ZK proofs Integridade da computação + privacidade dos dados Matemático (trustless) Muito alta Pesquisa ativa; modelos pequenos comprovados
TEE Dados em tempo de execução + confidencialidade do modelo Fabricante do hardware Baixa a moderada Pronto para produção em muitas cargas de trabalho
MPC Privacidade de entrada entre partes Maioria honesta entre as partes Alta Implantado em cenários especializados
HE Privacidade dos dados durante a computação Matemático (trustless) Muito alta Experimental para cargas de trabalho de IA
Differential privacy Privacidade dos dados de treinamento Garantia estatística Baixa Amplamente adotada em pipelines de treinamento

Inferência de IA que preserva a privacidade

A aplicação mais imediata em cripto IA é a inferência confidencial: executar um modelo sobre os dados de um usuário de modo que nem o provedor de computação veja a entrada nem o usuário veja os pesos do modelo. Esse é o problema central de privacidade para as redes de inferência de IA descentralizada.

As soluções práticas atuais normalmente usam TEEs para inferência confidencial, porque a sobrecarga é gerenciável e a tecnologia é madura. As abordagens baseadas em ZK (zkML) oferecem garantias mais fortes, mas estão limitadas a modelos menores. As abordagens de MPC e HE permanecem em grande parte experimentais para cargas de trabalho de inferência.

Um pipeline realista de inferência confidencial poderia funcionar assim:

  1. O usuário criptografa sua entrada ou a envia para um enclave TEE.
  2. O modelo é executado dentro do TEE, onde nem o operador nem observadores externos podem ler os dados.
  3. O TEE produz uma attestation — uma prova criptográfica de que a computação foi executada dentro de um enclave genuíno e não modificado.
  4. O resultado é retornado ao usuário, criptografado ou por meio de um canal seguro.

A attestation permite que o usuário verifique que a computação ocorreu em um ambiente protegido sem precisar confiar no provedor de computação.

Por que isso importa para o DecAIHub

A privacidade é uma preocupação transversal no arcabouço de avaliação do DecAIHub. Os projetos podem usar técnicas que preservam a privacidade de várias maneiras:

  • Como um AI component. Inferência confidencial, serviço privado de modelos ou treinamento com preservação de privacidade aparecem no campo AI component quando são centrais para o pipeline de IA do projeto.
  • Como um recurso onchain. Alguns projetos usam provas ZK ou attestations de TEE como artefatos onchain, contribuindo para a dimensão Onchain necessity do DecAI Fit.
  • Como um diferencial. A computação que preserva a privacidade é tecnicamente desafiadora. Projetos que a implementam com evidência verificável (logs de attestation de TEE, contratos de verificação de provas ZK) demonstram profundidade técnica genuína.

Ao avaliar alegações de privacidade, a pergunta-chave é: qual é o mecanismo concreto e qual evidência existe de que ele está implantado? Uma alegação de "IA que preserva a privacidade" sem especificar se o projeto usa TEE, ZK, MPC ou outra abordagem é vaga demais para ser avaliada.

Onde aparece nos cartões de projeto do DecAIHub

Recursos relacionados à privacidade aparecem em vários campos dos cartões de projeto:

  • AI component — valores como "confidential inference", "private model serving" ou "TEE-based execution" indicam mecanismos que preservam a privacidade.
  • Category tags — os projetos podem carregar tags indicando seu uso de tecnologia de privacidade junto com sua categoria principal de IA.
  • Evidence table — a evidência Tier-1 para privacidade inclui registros de attestation de TEE, contratos verificadores de ZK, relatórios de auditoria publicados para implementações de computação confidencial e políticas documentadas de tratamento de dados.

O que a privacidade, por si só, não prova

  • A privacidade não prova AI reality. Um projeto pode implementar tecnologia de privacidade sofisticada e, ainda assim, não ter nenhuma IA real por trás.
  • A privacidade não prova descentralização. Um único provedor centralizado pode executar um serviço de inferência confidencial baseado em TEE. A garantia de privacidade é independente de o sistema ser descentralizado ou não.
  • A privacidade não prova segurança. A privacidade protege os dados de acesso não autorizado, mas não protege contra bugs, erros de lógica ou outras vulnerabilidades no pipeline de IA.
  • A privacidade não prova Token necessity. A computação que preserva a privacidade pode funcionar sem uma blockchain ou um token. Se o token agrega valor significativo é uma avaliação separada.
  • Alegar privacidade sem especificar o mecanismo não é verificável. "Que preserva a privacidade" sem TEE, ZK, MPC ou outra abordagem concreta é uma alegação de marketing, não técnica.

Não confundir com

  • ZK (provas de conhecimento zero) — uma técnica criptográfica específica que pode ser usada para privacidade, mas também para escalabilidade (zk-rollups) e verificação (zkML). A privacidade é um conceito mais amplo que inclui ZK como uma das ferramentas.
  • TEE — uma abordagem baseada em hardware para computação confidencial. O TEE é um mecanismo para alcançar a privacidade, não um sinônimo dela.
  • Anonimato — ocultar a identidade dos participantes de uma transação. A privacidade em IA foca em proteger dados e computação, não necessariamente em ocultar quem está transacionando.
  • Criptografia em repouso — criptografar dados armazenados os protege de acesso não autorizado, mas não trata da privacidade durante a computação. A computação que preserva a privacidade significa que os dados permanecem protegidos enquanto são processados.
  • Propriedade dos dados — controlar quem tem acesso aos dados está relacionado à privacidade, mas é uma questão de governança e controle de acesso, e não computacional.

Perguntas frequentes

Qual é a diferença entre privacidade e confidencialidade em cripto IA?

Na prática, os termos são frequentemente usados de forma intercambiável. Estritamente, privacidade refere-se ao direito ou à capacidade de controlar quais informações são divulgadas, enquanto confidencialidade refere-se à obrigação ou ao mecanismo que impede a divulgação não autorizada. Em cripto IA, a computação confidencial (executar computações em um ambiente protegido) é um mecanismo que alcança o objetivo da privacidade. Quando um projeto diz "confidential inference", normalmente significa que a inferência é executada em um ambiente (como um TEE) que protege os dados — esta é uma implementação específica do objetivo mais amplo de privacidade.

Modelos de IA podem ser privados em uma blockchain pública?

A computação de IA em si não é executada na blockchain — ela roda em infraestrutura de computação offchain. A blockchain registra provas, attestations ou resultados. A privacidade é alcançada na camada de computação (usando TEE, ZK ou outras técnicas), e não na camada da blockchain. A blockchain pode verificar que uma computação privada foi realizada corretamente (por meio de uma prova ZK ou de uma attestation de TEE) sem ver os dados subjacentes. O registro onchain é público; a computação e os dados por trás dele podem permanecer privados.

Qual abordagem de privacidade é melhor para IA?

Não existe uma única melhor abordagem — cada uma tem trade-offs. Os TEEs oferecem desempenho prático para cargas de trabalho reais, mas dependem de premissas de confiança no hardware. As provas ZK fornecem garantias matemáticas trustless, mas são computacionalmente caras e limitadas a modelos menores. A MPC viabiliza computação conjunta sem compartilhar entradas, mas exige coordenação entre as partes. A maioria dos sistemas em produção hoje usa TEEs para inferência confidencial, com provas ZK usadas seletivamente para verificação de alto valor. A escolha depende do modelo de ameaça, dos requisitos de desempenho e da sensibilidade dos dados envolvidos.

A privacidade torna a inferência de IA mais lenta?

Depende do mecanismo. A inferência baseada em TEE roda em velocidade quase nativa — o isolamento por hardware introduz sobrecarga mínima. A verificação baseada em ZK adiciona sobrecarga significativa à geração de provas (ordens de magnitude mais lenta do que a inferência simples), embora a verificação seja rápida. MPC e HE introduzem custos computacionais substanciais. Na prática, os projetos escolhem o mecanismo de privacidade que equilibra a garantia de privacidade necessária com um desempenho aceitável para seu caso de uso.

Referências externas

Ver também

No comments to display

Back to top