A inteligência artificial (IA) tem um impacto significativo em vários aspectos de nossas vidas, incluindo o sistema legal. A IA tem sido usada para criar imagens explícitas deepfake, gerar música, desenvolver carros de corrida sem motorista e espalhar desinformação. Também levou ao surgimento de leis falsas, que estão sendo usadas em disputas legais. Isso levanta preocupações sobre a legalidade, ética e confiança nos sistemas legais globais. A IA generativa, uma poderosa ferramenta com potencial transformador, é treinada em conjuntos de dados massivos e pode criar novo conteúdo. No entanto, esse conteúdo pode ser impreciso devido ao modelo de IA "alucinar" ou preencher lacunas em seus dados de treinamento.

Isso se torna problemático quando conteúdo impreciso gerado por IA é usado em processos legais, especialmente quando combinado com pressões de tempo sobre advogados e acesso limitado a serviços jurídicos. Descuido e atalhos na pesquisa legal e preparação de documentos podem minar a confiança pública na administração da justiça e criar problemas de reputação para a profissão jurídica. Já ocorreram casos de falsos casos gerados por IA, levando a demissões, sanções, multas e escrutínio público. Reguladores jurídicos e tribunais ao redor do mundo responderam emitindo orientações, opiniões e ordens sobre o uso responsável da IA generativa. Na Austrália, têm havido esforços para desenvolver diretrizes e promover o uso responsável por meio de requisitos obrigatórios de competência tecnológica na educação jurídica. Requisitos e orientações claras para o uso ético da IA generativa por parte dos advogados podem incentivar uma adoção apropriada e fortalecer a confiança pública na profissão jurídica e na administração da justiça. [Fonte original: The Conversation]