Os principais desafios das auditorias de IA

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurança e danos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.