Juíz na Colômbia recorreu ao ChatGPT para tomar decisão

Um juiz da cidade de Cartagena, na Colômbia, terá usado a ferramenta de Inteligência Artificial (IA) ChatGPT para tomar uma decisão em julgamento no tribunal. Como refere o site Vice, o juiz de nome Juan Manuel Padilla Garcia confirmou o uso da ChatGPT para “colocar questões legais sobre o caso”.

O juiz em questão assegurou que a decisão não foi tomada pelo ChatGPT e que, dessa forma, não foi substituído no seu papel por uma IA.

“Os argumentos para esta decisão serão determinados com recurso a Inteligência Artificial. Assim sendo, introduzimos partes das questões legais nestes procedimentos… O objetivo de incluir estes textos produzidos por IA não é para substituir a decisão do juiz… O que queremos é otimizar o tempo gasto na elaboração das condenações após corroborar a informação providenciada pela IA”, pode ler-se nos documentos publicados.

O caso envolvia uma disputa com uma companhia de seguros de saúde sobre se uma criança autista deveria receber cobertura para tratamento médico. De acordo com o documento do tribunal, as questões legais inseridas na ferramenta de IA incluíam “Um menor autista está isento de pagar taxas por suas terapias?” e “A jurisprudência do tribunal constitucional já proferiu decisões favoráveis em casos semelhantes?” 

Garcia incluiu as respostas completas do chatbot na decisão, aparentemente marcando a primeira vez que um juiz admitiu fazê-lo. O juiz também incluiu suas próprias percepções sobre os precedentes legais aplicáveis e disse que a IA foi usada para "ampliar os argumentos da decisão adotada". Depois de detalhar as trocas com a IA, o juiz então adota suas respostas e seus próprios argumentos jurídicos como fundamento de sua decisão. 

A lei colombiana não proíbe o uso de IA em decisões judiciais, mas sistemas como o ChatGPT são conhecidos por fornecer respostas tendenciosas , discriminatórias ou simplesmente erradas . Isso ocorre porque o modelo de linguagem não contém nenhum “entendimento” real do texto – ele meramente sintetiza sentenças com base na probabilidade de milhões de exemplos usados para treinar o sistema. 

Os criadores do ChatGPT, OpenAI, implementaram filtros para eliminar algumas das respostas mais problemáticas. Mas os desenvolvedores alertam que a ferramenta ainda tem limitações significativas e não deve ser usada para tomadas de decisões consequentes.

O facto de um juiz ter recorrido a uma ferramenta de Inteligência Artificial para chegar à tomada de uma decisão serve  para ilustrar a importância que estes sistemas podem vir a ter no futuro, nas mais diversas áreas profissionais.