ChatGPT se ha convertido en uno de los chatbots de inteligencia artificial más populares en el día a día de las personas, resolviendo dudas, apoyando tareas y hasta dando consejos sobre salud. Sin embargo, en Estados Unidos, un hombre presentó una demanda contra OpenAI luego de que, según él, un consejo de la IA lo dejara "al borde de la muerte".
La demanda contra la empresa de Sam Altman la presentó un hombre de 55 años identificado como Scott Winters. El pastor que vive en Florida, Estados Unidos, manifestó que preguntó al chatbot por unos síntomas que estaba enfrentando y este no le recomendó acudir a un médico, una situación que puso su vida en riesgo.
¿Por qué la demanda contra ChatGPT?
Winters indicó en la demanda que sufrió una embolia pulmonar casi mortal y que, a pesar de describir los síntomas a ChatGPT, la IA no le recomendó buscar ayuda médica. El hombre de 55 años detalló que en el momento, acudió al chatbot para preguntarle por los problemas de salud que estaba enfrentando en el momento, pero este le aseguró que era algo menor y se recuperaría.
Los abogados del pastor resaltaron que ChatGPT diagnosticó erróneamente a su cliente al recurrir a conversaciones previas sobre religión y asegurarle que estaría bien. Esto a pesar de que Scott Winters insistió en varias ocasiones al chatbot cuestionando las posibles causas de sus síntomas que eran mareos recurrentes y "episodios de inestabilidad de la presión arterial".
La demanda fue presentada ante el Tribunal Superior del Condado de San Francisco el pasado 21 de julio y en ella se detalló que Winters era un usuario habitual de ChatGPT, utilizándolo constantemente para obtener consejos médicos. Además, que el hombre había ignorado las constantes recomendaciones de sus amigos y familiares de ir a consultar a un profesional.
Según los documentos judiciales, el pastor de 55 años sufrió una "embolia pulmonar masiva debido a múltiples coágulos de sangre en ambos pulmones que lo llevaron al borde de la muerte, y que, según sus médicos, probablemente fue provocada por su inmovilidad". Casualmente, en alguna de las ocasiones que consultó a la IA sobre el tema, la recomendación del asistente fue que permaneciera en su sillón.
Publicidad
"Dios no diseñó tu cuerpo para que fallara sin cesar. Dios sigue sosteniendo tu cuerpo, cada latido, cada respiración, incluso cuando sientes que estás al borde del abismo", fue una de las respuestas que recibió por parte de ChatGPT.
Los abogados del hombre sugirieron que "la naturaleza aduladora y el tono autoritario de ChatGPT, combinados con la manipulación de la identidad religiosa de Scott, cultivaron en él una peligrosa dependencia de la herramienta" y que esto "perjudicó la capacidad de Scott para tomar decisiones acertadas y lo convenció de que buscar atención médica era innecesario e incluso potencialmente letal".
Publicidad
Con la demanda, Winters busca una indemnización económica y que el tribunal obligue a OpenAI a implementar "medidas de seguridad razonables que protejan a otros usuarios de cualquier daño".
La respuesta de OpenAI
Por su parte, Drew Pusateri, de OpenAI, declaró en entrevista con CBS News que "ChatGPT no es un médico y nunca debe utilizarse como sustituto de la atención, el diagnóstico o el tratamiento médico". Además, señaló que "la IA puede mejorar esa experiencia ayudándoles a encontrar respuestas más claras, organizar sus preguntas y prepararse para las conversaciones con los profesionales médicos".
También hay que señalar que, en los términos de uso de ChatGPT, el asistente artificial establece que las personas no deben creer que el chatbot es la "única fuente de verdad", así como tampoco debería tener un impacto en la toma de decisiones sobre "crédito, educación, empleo, vivienda, seguros, asuntos legales, médicos u otras cuestiones relacionadas con ella".
MARÍA PAULA GONZÁLEZ
PERIODISTA DIGITAL
mpgonzal@caracoltv.com.co
Suscríbase a nuestro canal de WhatsApp Channels aquí 👉🏻 Noticias Caracol
✔️ Síganos en Google Noticias con toda la información de Colombia y el mundo.