Líder da advocacia baiana comparou IA a “estagiário que precisa de revisão”, alertou sobre alucinações algorítmicas e citou pesquisas que detectaram viés racista em cortes dos EUA.
Ao analisar o avanço da automação nos tribunais e escritórios, a presidente da OAB-BA, Daniela Borges, fez um alerta categórico contra a pretensão de se terceirizar decisões judiciais a sistemas automatizados. Durante o programa Balanço Geral desta terça-feira (3), a tributarista e professora da UFBA afirmou que a inteligência artificial deve operar estritamente como suporte técnico auxiliar, sem jamais prescindir do julgamento ético e moral humano.
Daniela recorreu a uma metáfora prática para balizar o uso das novas ferramentas. “A gente tem brincado e dito que a IA é como se fosse um estagiário: quando o estagiário faz um trabalho, você vai revisar, verificar, alterar e ajustar. Ela é um suporte, mas não substitui. É indispensável a supervisão humana, porque é a OAB do profissional que está na petição assinada”, pontuou, cobrando postura idêntica de juízes e desembargadores.
A presidente advertiu que sistemas de IA não são imunes a falhas graves e podem perpetuar preconceitos estruturais em larga escala. “A IA não é infalível, a gente sabe que ela inventa, que ela alucina. Na área do direito, ela aprende com julgamentos humanos anteriores; se ela aprende com quem falhou, ela pode reproduzir essas falhas em série. Nos Estados Unidos já se verificou que a IA aplicava penas maiores quando o réu era negro, reproduzindo vieses históricos das cortes”, advertiu. De forma enfática, concluiu: “Eu prefiro ser julgada por um ser humano que erre do que por uma máquina que erre. A gente não pode abrir mão da dimensão humana que é a Justiça”.