Los jueces de todo el mundo se enfrentan a un problema creciente: la presentación de escritos jurídicos elaborados con ayuda de la inteligencia artificial (IA) que incluyen errores, como citas de casos que no existen, según advierten abogados y documentos judiciales. Este fenómeno se convierte en una advertencia para aquellos que están aprendiendo a utilizar estas herramientas en su trabajo. Cada vez más empleadores buscan contratar a personas capaces de utilizar la tecnología para realizar tareas como búsquedas y redacción de informes. Sin embargo, al interactuar con chatbots y asistentes de IA para generar ideas y mejorar la productividad, tanto docentes como contables y profesionales del marketing están descubriendo que los programas pueden cometer errores graves.
Damien Charlotin, un científico de datos y abogado francés, ha catalogado al menos 490 escritos judiciales en los últimos seis meses que contenían «alucinaciones», un término que se refiere a respuestas de IA con información falsa o engañosa. Este ritmo se acelera a medida que más personas utilizan la IA, advirtió. «Incluso los actores más sofisticados pueden tener problemas con esto», señaló Charlotin. «La IA puede ser de gran ayuda, es estupenda, pero también hay escollos».
Charlotin, investigador sénior en HEC París, una escuela de negocios situada a las afueras de la capital francesa, creó una base de datos para rastrear casos en los que un juez determinó que la IA generativa produjo contenido ficticio, incluyendo jurisprudencia fabricada y citas falsas. La mayoría de estas resoluciones provienen de casos en Estados Unidos, donde los demandantes se representaron sin abogado. Aunque la mayoría de los jueces advirtieron sobre los errores, algunos impusieron multas. Un caso notable ocurrió en Colorado, donde un juez federal dictaminó que un abogado de MyPillow Inc. presentó un escrito con casi 30 citas defectuosas en una demanda por difamación contra la empresa y su fundador, Michael Lindell.
El ámbito de la abogacía no es el único que lidia con las fallas de la IA. Los resúmenes de IA que aparecen en la parte superior de las páginas de resultados de búsqueda en la web frecuentemente contienen errores. Además, las herramientas de IA plantean preocupaciones de privacidad. Los trabajadores en todos los sectores deben ser cautos con los datos que suben o introducen en los prompts para salvaguardar la información confidencial de empleadores y clientes. Expertos en derecho y en el ámbito laboral comparten sus experiencias con los errores de la IA y describen los riesgos que conviene evitar.
Piense en la IA como un asistente
No confíe en la IA para tomar decisiones importantes. Algunos usuarios la consideran como un becario al que se le asignan tareas cuya calidad se espera revisar. «Piense en la IA como un refuerzo de su flujo de trabajo», indicó Maria Flynn, consejera delegada de Jobs for the Future, una organización sin ánimo de lucro centrada en el desarrollo de la fuerza laboral. La IA puede ser útil para tareas como redactar un correo electrónico o investigar un itinerario de viaje, pero no debe considerarse un sustituto que pueda hacerlo todo. Al preparar una reunión, Flynn utilizó una herramienta interna de IA, solicitándole que propusiera preguntas de debate a partir de un artículo que compartió con su equipo. «Algunas de las preguntas que propuso no encajaban realmente en el contexto de nuestra organización, así que le di esos comentarios… y volvió con cinco preguntas muy meditadas», relató.
Compruebe la precisión
Flynn también ha detectado problemas con los resultados de la herramienta, que aún está en fase piloto. En una ocasión, pidió a la IA que recopilara información sobre el trabajo realizado por su organización en varios estados, pero la herramienta no diferenció entre el trabajo concluido y las propuestas de financiación. «En ese caso, nuestra herramienta de IA no fue capaz de identificar la diferencia entre algo que se había propuesto y algo que se había completado», detalló Flynn. Afortunadamente, contaba con el conocimiento institucional para reconocer los errores. «Si es nuevo en una organización, pregunte a sus compañeros si los resultados les parecen precisos», sugirió.
Aunque la IA puede ayudar a generar ideas, confiar en ella para proporcionar información factual es arriesgado. Es fundamental tomarse el tiempo de comprobar la exactitud de lo que genera la IA, por muy tentador que sea saltarse este paso. «La gente da por hecho que, porque suena verosímil, es correcto y, además, es cómodo», comentó Justin Daniels, abogado con sede en Atlanta y socio del despacho Baker Donelson. «Revisar todas las citas o volver a leer un contrato que la IA ha resumido es incómodo y consume tiempo, pero es lo que hay que hacer. No se puede dejar que la IA reemplace ese trabajo».
Cuidado con las herramientas para tomar notas
Puede resultar tentador usar la IA para grabar y tomar notas durante las reuniones. Algunas herramientas generan resúmenes útiles y proponen pasos de acción basados en lo discutido. Sin embargo, en muchas jurisdicciones es necesario obtener el consentimiento de los participantes antes de grabar conversaciones. «Antes de usar la IA para tomar notas, deténgase y valore si la conversación debe permanecer protegida y confidencial», aconsejó Danielle Kays, socia del despacho Fisher Phillips en Chicago. También sugirió consultar con los departamentos legal o de recursos humanos antes de implementar una herramienta de toma de notas en situaciones de alto riesgo, como investigaciones, evaluaciones de desempeño o debates estratégicos legales. «Hay quien sostiene que, con el uso de la IA, deberían existir distintos niveles de consentimiento, y eso es algo que está comenzando a debatirse en los tribunales», añadió Kays.
Proteja la información confidencial
Si utiliza herramientas gratuitas de IA para redactar una nota o una campaña de marketing, no facilite información identificable ni secretos corporativos. Una vez que haya subido esos datos, es posible que otras personas que usen la misma herramienta puedan acceder a ellos. Esto ocurre porque, al hacer preguntas a una herramienta de IA, esta busca en la información disponible, incluidos los detalles que usted proporcionó mientras construye su respuesta. «No distingue si algo es público o privado», aclaró Flynn.
Busque formación
Si su empresa no ofrece formación en IA, considere experimentar con herramientas gratuitas como ChatGPT o Microsoft Copilot. Algunas universidades y centros tecnológicos ofrecen cursos que ayudan a comprender cómo funciona la IA y para qué puede ser útil. Un curso que enseñe a construir los mejores prompts para la IA o cursos prácticos que permitan ejercitarse son extremadamente valiosos, según Flynn. A pesar de los problemas potenciales de estas herramientas, aprender a utilizarlas puede resultar beneficioso en un momento en que son cada vez más comunes. «El mayor riesgo al aprender a usar la IA es no aprender a usarla», concluyó Flynn. «Todos necesitaremos adquirir soltura con la IA, y dar los primeros pasos para ganar familiaridad y comodidad con la herramienta va a ser crucial».
