s
INTELIGÊNCIA ARTIFICIAL

Os principais desafios das auditorias de IA

Auditar os sistemas e até a governança da IA é uma grande ambição, mas existem alguns obstáculos enormes

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurançadanos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

Mythos, o modelo que encontra falhas que passaram décadas invisíveis

Inteligência Artificial

Mythos, o modelo que encontra falhas que passaram décadas invisíveis

Quando encontrar brechas deixa de ser difícil, todo cuidado é pouco. Por isso, a Anthropic lançou o modelo para apenas 50 empresas parceiras. O Project Glasswing inaugura uma nova fase da cibersegurança.

A realidade da IA em 2026, segundo Stanford

Inteligência Artificial

A realidade da IA em 2026, segundo Stanford

O AI Index, do HAI, identifica uma dependência geopolítica que o mercado ignora e uma percepção pública construída sobre uma versão anterior da tecnologia.

O que o balanço da IA não mostra

Inteligência Artificial

O que o balanço da IA não mostra

Quando os projetos fracassam, os custos somem. Quando os funcionários ficam de fora, ninguém conta. A indústria celebra uma transformação que seus próprios dados contradizem.

Sam Altman quer regular a IA. A pergunta é: podemos confiar nele?

Inteligência Artificial

Sam Altman quer regular a IA. A pergunta é: podemos confiar nele?

A empresa posicionada para capturar os maiores lucros da IA propõe como ela deve ser tributada, regulada e distribuída — e pede ao governo que faça o que ela própria não se compromete a fazer.

Limites cognitivos e a vida emocional oculta dos LLMs

Inteligência Artificial

Limites cognitivos e a vida emocional oculta dos LLMs

Pesquisa de interpretabilidade da Anthropic identifica 171 representações internas de emoção no Claude Sonnet 4.5. Elas são causais e o modelo já desenvolveu mecanismos para ocultá-las.

A órbita como infraestrutura

Inteligência Artificial

A órbita como infraestrutura

SpaceX, Google e Nvidia convergem para a mesma aposta: computação de IA no espaço. Os dados técnicos mostram onde estão os gargalos — e onde está o dinheiro.