Nadie escapa de los errores de la IA: sancionan a abogados por usar esta tecnología en sus documentos
Las “alucinaciones” de estos sistemas llevaron a la inclusión de casos inexistentes en expedientes judiciales
El uso creciente de herramientas de inteligencia artificial en el ámbito legal ha derivado en sanciones para abogados que confiaron en exceso en la tecnología. En un reciente caso federal en Mississippi, cuatro abogados fueron multados tras presentar documentos con datos falsos generados por IA, situación que reaviva el debate sobre los riesgos de estas soluciones en la práctica jurídica.
El proceso involucró una disputa sobre honorarios en un proyecto solar, exponiendo las consecuencias del uso inadecuado de sistemas automatizados en expedientes judiciales.
El incidente ocurrió cuando representantes legales de ambas partes —el abogado Tom Withers III y la ciudad de Aberdeen, Mississippi— emplearon programas de inteligencia artificial que fabricaron referencias legales inexistentes o incluyeron casos ajenos a la legislación estatal. Aunque Withers no fue sancionado personalmente, sí lo fue parte de su equipo, al igual que dos abogados de la ciudad, después de que la jueza federal Sharion Aycock determinara que los profesionales no verificaron adecuadamente la información citada.
La magistrada argumentó que los cuatro abogados, “por su propia admisión, no comprobaron las autoridades legales citadas en sus escritos, en violación de la Regla 11”. Esta norma de las Reglas Federales de Procedimiento Civil exige que los abogados que presentan documentos ante el tribunal garanticen la veracidad de lo citado. “Todos los abogados están licenciados y, presumiblemente, bien formados en derecho. Su práctica de confiar ciegamente en la tecnología derivó en citas alucinadas en sus escritos respectivos”, escribió Aycock en su resolución.
La propagación del caso y el fenómeno de las “alucinaciones” de la IA
El caso adquirió notoriedad tras ser publicado por el abogado Rob Freund en la red social X, donde lo describió como una “comedia de errores de IA”. El portal 404 Media amplificó la noticia, atrayendo la atención de medios nacionales como The New York Times. La jueza Aycock no solo impuso multas a los abogados implicados, sino que también cerró el caso debido a los errores derivados del uso de inteligencia artificial.
Las llamadas “alucinaciones” de la IA refieren a errores o invenciones que los modelos de lenguaje automático generan al construir argumentos que parecen plausibles, pero que no tienen sustento en la realidad jurídica. Esta problemática pone en evidencia la necesidad de revisión humana constante al utilizar estas tecnologías en entornos legales.
Cambios normativos y advertencias del sector
El episodio de Mississippi no constituye un hecho aislado. Otros problemas recientes llevaron al estado de Nueva York a dictar nuevas reglas sobre el uso de IA generativa: desde el 1 de junio, los resultados generados por herramientas como ChatGPT no están protegidos por el privilegio abogado-cliente.
La American Bar Association (ABA), la mayor asociación de abogados en Estados Unidos, reconoció que los profesionales enfrentan desafíos complejos al incorporar IA en su labor diaria.
“Los abogados entienden que los resultados de la IA generativa requieren escrutinio y supervisión”, señaló la presidenta, Michelle A. Behnke, en declaraciones a CNET. La ABA ha creado un grupo de trabajo especializado en IA y, en diciembre, publicó un informe con recomendaciones, mejores prácticas y pautas éticas para el uso seguro de estas herramientas.
Entre sus consejos destaca la necesidad de que los abogados comprendan “los beneficios y riesgos asociados” a las tecnologías empleadas en la prestación de servicios legales. El mensaje del sector es claro: la adopción de inteligencia artificial en el ámbito legal debe ir acompañada de controles rigurosos y responsabilidad profesional.
