¿Puede usarse inteligencia artificial en fallos judiciales? Habla la Corte Constitucional

En la sentencia T-323 de 2024, la Corte Constitucional de Colombia ha abordado la validez del uso de inteligencia artificial (IA) en la toma de decisiones judiciales, así como el cumplimiento de derechos en el Sistema General de Seguridad Social en Salud (SGSSS) para un niño con trastorno del espectro autista. La Corte evaluó el impacto del uso de ChatGPT por parte de un juez y emitió directrices sobre la implementación de IA en el ámbito judicial.

Uso de inteligencia artificial en la justicia

La Corte Constitucional examinó el uso de ChatGPT 3.5 por parte de un juez en la decisión de una acción de tutela. El juez utilizó IA después de fundamentar la decisión, generando dudas sobre si la sentencia cumplía con el debido proceso y si la decisión fue adecuadamente motivada.

Derecho al debido proceso

La Corte concluyó que no hubo una sustitución de la función jurisdiccional por parte de la IA, ya que el uso de ChatGPT ocurrió tras la fundamentación de la decisión. Sin embargo, la Corte identificó deficiencias en los principios de transparencia y responsabilidad, aunque el principio de privacidad se respetó.

Protección de derechos en el SGSSS (caso de estudio de la Corte)

Caso del niño con TEA: la Corte revisó si la EPS había vulnerado los derechos fundamentales de un niño diagnosticado con trastorno del espectro autista (TEA). Se examinó el cobro de copagos, la falta de transporte y el derecho a un tratamiento integral.

Derechos y protección: La Corte encontró que la EPS no exoneró completamente al niño de los copagos ni garantizó el transporte adecuado. La falta de autorización del transporte para todas las necesidades médicas del niño y las barreras administrativas fueron identificadas como violaciones a los derechos fundamentales del menor.

Medidas y recomendaciones de la Corte Constitucional

Modificación de la sentencia: la Corte ordenó a la EPS que autorizara el transporte necesario para el niño y exonerara de copagos y cuotas moderadoras, además de asegurar que las IPS aplicaran estas exoneraciones sin demoras.

Directrices sobre inteligencia arficial: La Corte exhortó a los jueces a evaluar cuidadosamente el uso de herramientas de IA como ChatGPT, aplicando principios éticos y garantizando que no se afecten los derechos fundamentales ni la autonomía judicial. También se ordenó al Consejo Superior de la Judicatura la elaboración de guías para el uso de IA en la justicia y la capacitación continua sobre sus riesgos y beneficios.

Acciones del Consejo Superior de la Judicatura

Guías y capacitación: se le ordenó al Consejo Superior de la Judicatura que, en un plazo de cuatro meses, publique guías sobre el uso de inteligencia artificial en el ámbito judicial y promueva la capacitación sobre la implementación de estas tecnologías, enfocándose en la protección de derechos y el respeto a los principios constitucionales.

En resumen, la Corte Constitucional ha sentenciado sobre el uso de IA en decisiones judiciales y ha reforzado la protección de derechos en el ámbito de la salud, estableciendo medidas para asegurar la correcta implementación de herramientas tecnológicas en la administración de justicia.