s
INTELIGÊNCIA ARTIFICIAL

Os principais desafios das auditorias de IA

Auditar os sistemas e até a governança da IA é uma grande ambição, mas existem alguns obstáculos enormes

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurançadanos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

IA Generativa: Investimentos abrem nova era para as empresas

Inteligência Artificial

IA Generativa: Investimentos abrem nova era para as empresas

Com uma previsão de crescimento de 14% em gastos com software de IA até 2024, a integração da IA Generativa está mudando a forma como as empresas operam e competem no mercado

ROI da IA está baixo e em queda

Inteligência Artificial

ROI da IA está baixo e em queda

Só 4% das empresas estão obtendo valor, diz estudo. O resto está queimando dinheiro e descobrindo que FOMO é uma estratégia cara.

Inteligência Artificial, a nova integrante da equipe

Inteligência Artificial

Inteligência Artificial, a nova integrante da equipe

Cada vez mais as organizações veem a tecnologia não apenas como uma ferramenta, mas como funcionária.

Agentic AI: Um novo mercado, de US$ 10 trilhões

Inteligência Artificial

Agentic AI: Um novo mercado, de US$ 10 trilhões

As empresas de IA estão indo atrás dos lucros do setor de serviços, remodelando como pensamos a automação.

Avanços na Inteligência Artificial dominam a Ciência

Inteligência Artificial

Avanços na Inteligência Artificial dominam a Ciência

Os Prêmios Nobel de 2024 em Física e Química nos deram um vislumbre de como as ferramentas de IA já estão ajudando a empurrar adiante os limites do conhecimento humano.

Inteligência Artificial: O que vem por aí?

Inteligência Artificial

Inteligência Artificial: O que vem por aí?

2024 viu investimentos massivos em AGI, apesar de ainda estarmos debatendo sua definição. Muitos pesquisadores continuam céticos em relação ao caminho do LLM para a AGI, e dessa para a ASI.