O ditado “lixo entra, lixo sai” se aplica perfeitamente à inteligência artificial (IA). Se os dados de entrada são falhos ou mal revisados, os resultados inevitavelmente serão igualmente problemáticos.

No uso da IA, especialmente por profissionais que desconhecem tanto a tecnologia quanto suas próprias áreas de atuação, os erros podem se dividir em duas categorias principais: falhas técnicas e desconhecimento prático.

Conversando com advogados experientes, é quase unânime a frustração em relação à IA, especialmente quando se deparam com o fenômeno conhecido como “alucinação de IA”. Nesses casos, a IA gera respostas incorretas ou fictícias que podem parecer convincentes, mas são completamente falsas.

Um exemplo clássico disso é quando um advogado utiliza uma ferramenta de IA para encontrar jurisprudências e, sem a devida revisão manual, se deparam com informações inexistentes ou inaplicáveis. A inobservância sobre o resultado e utilização da informação errada pode comprometer seriamente o caso e trazer consequências profissionais e jurídicas severas.

Esse exemplo ilustra os dois problemas: um modelo de IA mal treinado e a falta de um olhar humano qualificado para revisar os resultados. A IA não substitui o conhecimento e a experiência humana. Advogados e outros profissionais que dependem dessas ferramentas sem validação adequada correm o risco de tomar decisões baseadas em dados incorretos ou irrelevantes, o que pode ser desastroso.

A frase “quem é bom vai ficar ótimo, quem é ruim será um bom fake” reflete bem o contexto atual da IA. Aqueles que possuem um bom conhecimento em suas áreas de atuação e sabem como usar a IA de forma criteriosa podem aumentar drasticamente sua produtividade e precisão. Por outro lado, aqueles que não dominam sua área ou a tecnologia podem acabar escondendo sua falta de habilidade por trás de soluções superficiais que, na verdade, são frágeis.

O uso responsável da IA depende não apenas de bons algoritmos, mas de profissionais capacitados que saibam interpretar e validar os resultados. A IA deve ser vista como uma ferramenta complementar, nunca como um substituto para o conhecimento especializado.

Autor: Lucas Mendes
Lucas Mendes é um Arquiteto de Soluções em Tecnologia com mais de 18 anos de experiência em desenvolvimento de software, análise de sistemas, e gestão de projetos. Tem uma sólida compreensão de negócios e tecnologia, com foco em inovação através de SaaS e adoção de tecnologias emergentes como IA e Blockchain.