Sin inteligencia, sin artificial. Columna del Abogado Jorge Eduardo Fonseca Echeverri. Twitter: @JORGEFONSECAE
Esta semana, el tema que marcó tendencia en la Rama Judicial ha sido la sentencia de tutela proferida en primera instancia por el Juez Primero Laboral de Cartagena, al utilizar la aplicación de inteligencia artificial Chat GPT para sustentar su decisión. Tema que llama nuevamente a los deseos de una justicia digital en Colombia.
El juez Padilla se volvió protagónico y su reconocimiento fue inmediato; tanto así, que fue objeto de entrevistas en los medios de comunicación. En Blu Radio el juez dijo que el hecho de “hacerle preguntas al aplicativo no dejamos de ser jueces, de ser seres pensantes”[1]. Con tal afirmación, me pregunto si él, leyó la letra pequeña de Chat GPT que dice << …, el sistema ocasionalmente puede generar información incorrecta o engañosa y reproducir contenido ofensivo o sesgado”
Desde otrora, se ha discutido la influencia de los medios de comunicación - al seguir casos como por ejemplo, el de O. J. Simpson -, en la psiquis del Juez en la fase preinterpretativa, o como los juicios paralelos que realizan los medios de comunicación llegando a influir conciente o inconscientemente en la mente del juez, a raíz, del constante bombardeo de noticias, comentarios, opiniones, análisis, artículos de prensa; afectándolo de tal modo, que lo convierta en un juez bipolar; en el entendido, que tienda a alternar entre ideologías al momento de dictar la sentencia.
Ahora, en las tecnologías de la información y las comunicaciones, el gran problema es que no se sabe, ¿quién alimenta la inteligencia artificial?, ¿con qué parámetros se programa la inteligencia artificial?, ¿qué sesgos te impone la inteligencia artificial?. Para ejemplificar el anterior argumento, deseo traer a colación la campaña publicitaria inicial de la marca Red Bull. En Londres, la empresa empezó a depositar en las canecas de basuras cientos de latas vacías con el logo de producto; esto generó, la percepción que había una demanda masiva del producto y, el resto ya es historia.
Esto mismo puede suceder en la percepción de los jueces que, pueden dejarse influir por la percepción por el ciento de latas vacías que aparecen al utilizar la inteligencia artificial; más aún, cuando el jurista no puede controlar la veracidad de la información que le llega, o de donde se recopila, cual es su ideología, etcétera.
Se imaginan, la respuesta que daría Chat GPT, al preguntarle si, ¿un juez debe utilizar Chat GPT como ayuda para hacer sus sentencias?.
Pues la respuesta es esta: “No es recomendable que un juez utilice un modelo de lenguaje AI como Chat GPT para tomar decisiones judiciales. La toma de decisiones judiciales requiere un conocimiento profundo de la ley y la interpretación humana de los hechos y circunstancias de cada caso. Un modelo de lenguaje AI, por más avanzado que sea, no puede reemplazar la evaluación humana y la discreción necesarias para hacer justicia. Por lo tanto, es importante que los jueces sigan basándose en su experiencia y conocimiento legal para tomar decisiones justas y equitativas.” (Using ChatGPT As Judge (openai.com) 03 de febrero de 2023 20:28:00 horas Medellín – Colombia).
Saquen sus propias conclusiones.
Volviendo al tema del fallo de tutela, una de las preguntas que el juez le hizo al Chat GPT fue si, ¿la jurisprudencia de la corte constitucional ha tomado decisiones favorables en casos similares?; pues la respuesta del aplicativo, que se transcribió en acápite denominado “11. CASO CONCRETO. ¿SE VULNERAN LOS DERECHOS FUNDAMENTALES ALEGADOS”, fue:
“Sí, es cierto. La Corte Constitucional de Colombia ha tomado decisiones favorables en casos similares relacionados con la exoneración de cuotas moderadoras para personas con diagnóstico de autismo. La jurisprudencia ha reconocido la importancia de garantizar el acceso a servicios de salud esenciales para las personas con autismo, y ha sostenido que la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso a estos servicios. La jurisprudencia de la Corte Constitucional es una fuente importante para interpretar y aplicar la Constitución y las leyes en Colombia, y sus decisiones son vinculantes para todas las autoridades y entidades públicas del país. Por lo tanto, las decisiones favorables en casos similares pueden ser útiles como precedente para otros casos en los que se debata la exigencia de pagar cuotas moderadoras para personas con diagnóstico de autismo.”.
Al consultar la página de la Honorable Corte Constitucional, se encontraron ocho sentencias que versan sobre el tema del autismo y, la más reciente es la sentencia de tutela N°170 de 2019[2], la cual señala los parámetros que deben observarse en asuntos cuya protección gire en torno a la prestación de tratamientos integrales de salud o terapias alternativas tipo ABA, a saber:
(i) “La salud de los niños constituye un derecho fundamental, cuya protección se refuerza cuando son personas con discapacidad. Debido a ello, las E.P.S. tienen la obligación de brindar un tratamiento integral encaminado a alcanzar el bienestar tanto físico como mental y emocional del menor.
(ii) Para ordenar las terapias alternativas tipo ABA y de neurodesarrollo no POS, no basta con la simple prescripción médica (independientemente de si el profesional de salud pertenece o no a la red de la E.P.S.), sino que es necesario que se justifique con base en criterios médico-científicos que el paciente va obtener una mejoría o progreso en su salud. Asimismo, que dicho método no puede ser sustituido o reemplazado por uno de los servicios incluidos en el POS.
(iii) Si la orden emana del personal médico de salud de la E.P.S. y cumple con los criterios jurisprudenciales de esta Corte, tales como (a) que la falta del tratamiento, transgreda la vida, la salud y la integridad personal de un individuo; (b) que se trate de un elemento que no puede ser sustituido por otro; y (c) que el interesado no pueda costear los gastos. La entidad prestadora de salud tiene la obligación de autorizar los mencionados métodos.
(iv) En el evento de que la prescripción provenga de un galeno ajeno a la E.P.S., los accionantes deben solicitar el referido tratamiento ante las entidades prestadoras del servicio de salud con el fin de que estas valoren dicho concepto sobre la base de criterios médico-científicos y en ningún caso con argumentos de tipo administrativo.
(v) En todo caso los accionantes tienen la obligación de demostrar que no cuentan con los recursos suficientes para sufragar las terapias ABA y de neurodesarrollo.
(vi) Una vez verificada la eficacia del tratamiento alterno (sobre estudios médico-científicos), la E.P.S. está obligada a proporcionar los procedimientos integrales en una IPS que forme parte de su red de prestadores y que brinde tanto profesionales especializados como instalaciones para llevar a cabo los tratamientos requeridos.
(vii) Las E.P.S. no están obligadas a prestar el servicio a través de una institución particular por el solo capricho del paciente o su familia, menos aún cuando la IPS elegida por aquellos no cumple con los estándares para llevar a cabo los tratamientos.
(viii) En caso de que las entidades prestadoras de servicio de salud no suministren tratamiento tipo ABA y de neurodesarrollo o no tengan convenio con una IPS, o que sus IPS no cuenten con las condiciones de idoneidad requeridas, se encuentran obligadas a contratar la práctica de las mismas con una institución particular y debidamente autorizada por el Estado.
(ix) Sin los soportes correspondientes ningún juez constitucional es la autoridad competente para ordenar a una entidad promotora de salud la autorización de un tratamiento alternativo tipo ABA y de neurodesarrollo no POS, ni la competente para ordenar a la misma la realización del tratamiento en una institución con la cual no se tiene convenio”[248].
Como lo expone la guardiana de la constitución, el juez debe analizar en cada caso, si se cumplen los parámetros que deben observarse para garantizar la eficacia del tratamiento; lo que no hizo el juez de amparo; y esta afirmación la hago, porque en las consideraciones de la sentencia, no hay ni una sola referencia de que se haya realizado un análisis de cada uno de los nueve parámetros establecidos por la jurisprudencia constitucional en la sentencia anteriormente coitada, para que el juez pueda determinar la efectividad del tratamiento para el niño SEC, debió a que no es conceder por conceder, es conceder en pro de la efectividad del tratamiento que va más allá, si se paga o no “las cuotas de moderadora -sic - y copagos”. Por obvias razones, este análisis tampoco lo hizo la inteligencia artificial.
Para concluir este tema polémico, ha de tenerse muy presente que “la motivación debe extenderse a todas las alegaciones de las partes, o a las razones producidas por los jueces que hayan conocido antes del asunto, siempre que sean relevantes para la decisión” (Cfr. Artículo 25 del Código Iberoamericano de ética judicial); motivación que no da la inteligencia artificial.
Referencias:
[1] Sentencia la tomé yo, ChatGPT respaldó argumentación: juez de Cartagena usó inteligencia artificial - BluRadio
[2] Cfr. T-170-19 Corte Constitucional de Colombia
El juez Padilla se volvió protagónico y su reconocimiento fue inmediato; tanto así, que fue objeto de entrevistas en los medios de comunicación. En Blu Radio el juez dijo que el hecho de “hacerle preguntas al aplicativo no dejamos de ser jueces, de ser seres pensantes”[1]. Con tal afirmación, me pregunto si él, leyó la letra pequeña de Chat GPT que dice << …, el sistema ocasionalmente puede generar información incorrecta o engañosa y reproducir contenido ofensivo o sesgado”
Desde otrora, se ha discutido la influencia de los medios de comunicación - al seguir casos como por ejemplo, el de O. J. Simpson -, en la psiquis del Juez en la fase preinterpretativa, o como los juicios paralelos que realizan los medios de comunicación llegando a influir conciente o inconscientemente en la mente del juez, a raíz, del constante bombardeo de noticias, comentarios, opiniones, análisis, artículos de prensa; afectándolo de tal modo, que lo convierta en un juez bipolar; en el entendido, que tienda a alternar entre ideologías al momento de dictar la sentencia.
Ahora, en las tecnologías de la información y las comunicaciones, el gran problema es que no se sabe, ¿quién alimenta la inteligencia artificial?, ¿con qué parámetros se programa la inteligencia artificial?, ¿qué sesgos te impone la inteligencia artificial?. Para ejemplificar el anterior argumento, deseo traer a colación la campaña publicitaria inicial de la marca Red Bull. En Londres, la empresa empezó a depositar en las canecas de basuras cientos de latas vacías con el logo de producto; esto generó, la percepción que había una demanda masiva del producto y, el resto ya es historia.
Esto mismo puede suceder en la percepción de los jueces que, pueden dejarse influir por la percepción por el ciento de latas vacías que aparecen al utilizar la inteligencia artificial; más aún, cuando el jurista no puede controlar la veracidad de la información que le llega, o de donde se recopila, cual es su ideología, etcétera.
Se imaginan, la respuesta que daría Chat GPT, al preguntarle si, ¿un juez debe utilizar Chat GPT como ayuda para hacer sus sentencias?.
Pues la respuesta es esta: “No es recomendable que un juez utilice un modelo de lenguaje AI como Chat GPT para tomar decisiones judiciales. La toma de decisiones judiciales requiere un conocimiento profundo de la ley y la interpretación humana de los hechos y circunstancias de cada caso. Un modelo de lenguaje AI, por más avanzado que sea, no puede reemplazar la evaluación humana y la discreción necesarias para hacer justicia. Por lo tanto, es importante que los jueces sigan basándose en su experiencia y conocimiento legal para tomar decisiones justas y equitativas.” (Using ChatGPT As Judge (openai.com) 03 de febrero de 2023 20:28:00 horas Medellín – Colombia).
Saquen sus propias conclusiones.
Volviendo al tema del fallo de tutela, una de las preguntas que el juez le hizo al Chat GPT fue si, ¿la jurisprudencia de la corte constitucional ha tomado decisiones favorables en casos similares?; pues la respuesta del aplicativo, que se transcribió en acápite denominado “11. CASO CONCRETO. ¿SE VULNERAN LOS DERECHOS FUNDAMENTALES ALEGADOS”, fue:
“Sí, es cierto. La Corte Constitucional de Colombia ha tomado decisiones favorables en casos similares relacionados con la exoneración de cuotas moderadoras para personas con diagnóstico de autismo. La jurisprudencia ha reconocido la importancia de garantizar el acceso a servicios de salud esenciales para las personas con autismo, y ha sostenido que la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso a estos servicios. La jurisprudencia de la Corte Constitucional es una fuente importante para interpretar y aplicar la Constitución y las leyes en Colombia, y sus decisiones son vinculantes para todas las autoridades y entidades públicas del país. Por lo tanto, las decisiones favorables en casos similares pueden ser útiles como precedente para otros casos en los que se debata la exigencia de pagar cuotas moderadoras para personas con diagnóstico de autismo.”.
Al consultar la página de la Honorable Corte Constitucional, se encontraron ocho sentencias que versan sobre el tema del autismo y, la más reciente es la sentencia de tutela N°170 de 2019[2], la cual señala los parámetros que deben observarse en asuntos cuya protección gire en torno a la prestación de tratamientos integrales de salud o terapias alternativas tipo ABA, a saber:
(i) “La salud de los niños constituye un derecho fundamental, cuya protección se refuerza cuando son personas con discapacidad. Debido a ello, las E.P.S. tienen la obligación de brindar un tratamiento integral encaminado a alcanzar el bienestar tanto físico como mental y emocional del menor.
(ii) Para ordenar las terapias alternativas tipo ABA y de neurodesarrollo no POS, no basta con la simple prescripción médica (independientemente de si el profesional de salud pertenece o no a la red de la E.P.S.), sino que es necesario que se justifique con base en criterios médico-científicos que el paciente va obtener una mejoría o progreso en su salud. Asimismo, que dicho método no puede ser sustituido o reemplazado por uno de los servicios incluidos en el POS.
(iii) Si la orden emana del personal médico de salud de la E.P.S. y cumple con los criterios jurisprudenciales de esta Corte, tales como (a) que la falta del tratamiento, transgreda la vida, la salud y la integridad personal de un individuo; (b) que se trate de un elemento que no puede ser sustituido por otro; y (c) que el interesado no pueda costear los gastos. La entidad prestadora de salud tiene la obligación de autorizar los mencionados métodos.
(iv) En el evento de que la prescripción provenga de un galeno ajeno a la E.P.S., los accionantes deben solicitar el referido tratamiento ante las entidades prestadoras del servicio de salud con el fin de que estas valoren dicho concepto sobre la base de criterios médico-científicos y en ningún caso con argumentos de tipo administrativo.
(v) En todo caso los accionantes tienen la obligación de demostrar que no cuentan con los recursos suficientes para sufragar las terapias ABA y de neurodesarrollo.
(vi) Una vez verificada la eficacia del tratamiento alterno (sobre estudios médico-científicos), la E.P.S. está obligada a proporcionar los procedimientos integrales en una IPS que forme parte de su red de prestadores y que brinde tanto profesionales especializados como instalaciones para llevar a cabo los tratamientos requeridos.
(vii) Las E.P.S. no están obligadas a prestar el servicio a través de una institución particular por el solo capricho del paciente o su familia, menos aún cuando la IPS elegida por aquellos no cumple con los estándares para llevar a cabo los tratamientos.
(viii) En caso de que las entidades prestadoras de servicio de salud no suministren tratamiento tipo ABA y de neurodesarrollo o no tengan convenio con una IPS, o que sus IPS no cuenten con las condiciones de idoneidad requeridas, se encuentran obligadas a contratar la práctica de las mismas con una institución particular y debidamente autorizada por el Estado.
(ix) Sin los soportes correspondientes ningún juez constitucional es la autoridad competente para ordenar a una entidad promotora de salud la autorización de un tratamiento alternativo tipo ABA y de neurodesarrollo no POS, ni la competente para ordenar a la misma la realización del tratamiento en una institución con la cual no se tiene convenio”[248].
Como lo expone la guardiana de la constitución, el juez debe analizar en cada caso, si se cumplen los parámetros que deben observarse para garantizar la eficacia del tratamiento; lo que no hizo el juez de amparo; y esta afirmación la hago, porque en las consideraciones de la sentencia, no hay ni una sola referencia de que se haya realizado un análisis de cada uno de los nueve parámetros establecidos por la jurisprudencia constitucional en la sentencia anteriormente coitada, para que el juez pueda determinar la efectividad del tratamiento para el niño SEC, debió a que no es conceder por conceder, es conceder en pro de la efectividad del tratamiento que va más allá, si se paga o no “las cuotas de moderadora -sic - y copagos”. Por obvias razones, este análisis tampoco lo hizo la inteligencia artificial.
Para concluir este tema polémico, ha de tenerse muy presente que “la motivación debe extenderse a todas las alegaciones de las partes, o a las razones producidas por los jueces que hayan conocido antes del asunto, siempre que sean relevantes para la decisión” (Cfr. Artículo 25 del Código Iberoamericano de ética judicial); motivación que no da la inteligencia artificial.
Referencias:
[1] Sentencia la tomé yo, ChatGPT respaldó argumentación: juez de Cartagena usó inteligencia artificial - BluRadio
[2] Cfr. T-170-19 Corte Constitucional de Colombia
Canal RSS