GCED Basic Search Form
Quick Search
Close
Usted está aquí
Noticias
Inteligencia Artificial en la sala de audiencias: Fallo histórico de la Corte Constitucional de Colombia cita las herramientas de IA de la UNESCO
Fecha de publicación:
2024/08/26
Judges and Directors of National Judicial Training institutions from 18 countries in Latin America and the Caribbean as participants at the AI and the Rule of Law Training organized by UNESCO from 15 to 17 November 2023, at the Inter-American Court of Human Rights in Costa Rica.
En una decisión innovadora, la Corte Constitucional de Colombia ha emitido un fallo con importantes implicaciones para el uso de la inteligencia artificial (IA) dentro del sistema judicial del país.
La decisión fue motivada por un fallo reciente en Colombia donde un juez utilizó ChatGPT para dictaminar si un niño con discapacidad debía pagar una cuota a una compañía de seguros de salud para acceder a un tratamiento médico. En ese caso, la Corte dictaminó que el niño estaba exento de pagar las cuotas. Sin embargo, el uso de ChatGPT, con problemas ampliamente conocidos como alucinaciones y sesgos, por parte del juez para razonar en un asunto relacionado con el derecho fundamental a la salud, generó alarma sobre si tales herramientas de IA pueden ser utilizadas para el razonamiento legal.
Enfatizando la supervisión humana en el uso de IA en la judicatura
La Corte Constitucional destacó la importancia de la IA como una herramienta para gestionar tareas y asistir en la redacción de decisiones judiciales. Sin embargo, subrayó que los jueces no deben depender excesivamente de los sistemas de IA, ya que esto podría comprometer el derecho al debido proceso, así como la independencia e integridad del poder judicial. La decisión de la corte enfatizó la necesidad de que los jueces realicen juicios de valor, una tarea que no puede delegarse a las máquinas.
En su fallo, la Corte integra varios principios importantes, como la transparencia, la privacidad, la no sustitución de la racionalidad humana, la verificación y la alineación con las mejores prácticas y estándares colectivos.
Agneris SampieriAnalista de Políticas para América Latina, Access Now
"La Corte Constitucional advierte… cuando los seres humanos simplemente copian y pegan información sin revisarla, esta no solo puede ser incorrecta o inexacta, sino falsa (...) un juez debe hacer juicios de valor, algo que no puede hacer una máquina."
Prof. Juan David GutiérrezProfesor Asociado, Universidad de los Andes
La Corte destaca la Caja de Herramientas de la UNESCO sobre IA y el Estado de Derecho
La Corte Constitucional señaló que la Caja de Herramientas de la UNESCO sobre IA y el Estado de Derecho "proporciona elementos de gran valor mediante la orientación sobre leyes, principios, normas y jurisprudencia internacional de derechos humanos relevantes para el uso ético de la IA, con el fin de mitigar sus posibles riesgos para los derechos humanos".
Es notable que, durante las audiencias del caso, la Corte invitó a testimoniar al Prof. Juan David Gutiérrez y a Agneris Sampieri, quienes forman parte de la Red de Expertos de la UNESCO sobre IA y el Estado de Derecho y habían impartido una capacitación sobre IA y el Estado de Derecho basada en la Caja de Herramientas de la UNESCO a jueces de 18 países de América Latina en la Corte Interamericana de Derechos Humanos en noviembre de 2023.
Llamado a pautas integrales sobre IA
La corte instruyó al Consejo Superior de la Judicatura, el órgano de gobierno del poder judicial de Colombia, a crear espacios de formación que promuevan el aprendizaje sobre la IA en el contexto judicial, junto con sus riesgos y beneficios, todo ello con una perspectiva basada en derechos. Además, la corte ordenó al Consejo Superior de la Judicatura que publique pautas integrales para el uso de la IA en los próximos cuatro meses. Estas pautas deben alinearse con las mejores prácticas nacionales e internacionales, asegurando el uso responsable y ético de la IA mientras se respetan los derechos humanos.
La UNESCO está activamente involucrada en la promoción del uso responsable de la IA en la judicatura. Ha desarrollado un borrador de Directrices sobre el Uso de la IA en Cortes y Tribunales de Justicia, que actualmente está abierto a consulta pública. Estas directrices buscan crear marcos de gobernanza robustos de la IA que respeten los derechos humanos y defiendan el estado de derecho, invitando a la participación de actores judiciales, profesionales del derecho, académicos y el público en general.
Este fallo de la Corte Constitucional de Colombia marca un paso significativo en la integración de la IA en los procesos judiciales, al tiempo que se salvaguardan los derechos humanos fundamentales y la integridad judicial.
La UNESCO continuará apoyando a la judicatura en América Latina con capacitaciones para jueces a nivel regional y nacional. La próxima capacitación se llevará a cabo en Paraguay en asociación con la Corte Suprema de Justicia.