Desde la creación de la inteligencia artificial, la humanidad la utiliza como apoyo para diferentes tareas del día a día, así como empresas que la usan para mejorar y automatizar procesos. Pero también preocupación por el crecimiento acelerado de esta tecnología, más con las advertencias de quienes la han desarrollado y que aseguran que podría acabar con nuestra especie. Los temores iniciaron con lo dicho por Jacob Coxon, exinvestigador de Anthropic y quien también trabajó para OpenAI; él afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor". (Lea también: Trump se opone a regularizar la IA y asegura que expertos hablan de "cosas que no van a suceder")
Dario Amodei, CEO de Anthropic, reaccionó a esos comentarios y explicó por qué la industria de la IA debería ir más despacio, con un plan de tres partes para hacerlo:
- Evaluadores integrados para verificar el cumplimiento de las prácticas y compromisos de seguridad, reportar incidentes y evaluar modelos de IA, sus procesos y las metodologías.
- Las empresas de IA en países democráticos establecerán estándares de seguridad comunes, así como límites al ritmo del desarrollo descontrolado de la IA.
- Coordinación global entre Estados Unidos y gobiernos democráticos, sin dejar de tomar en serio los retos.
Además, en una entrevista con CBS, declaró: "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo". Aclaró que no cree “que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios". Por eso, sostuvo, "si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta".
Pero el presidente de EE. UU., Donald Trump, desestimó estos argumentos: "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad". (Lea también: ¿Se puede ralentizar el desarrollo de la inteligencia artificial ante los riesgos que representa?)
¿Podemos quedar merced de la inteligencia artificial?
Juan David Gutiérrez, experto en regulación sobre IA y asesor de la ONU sobre legislación de IA, considera que “es posible que se generen daños porque se comprometan sistemas que administran; imaginemos infraestructura crítica de energía, de agua o que, por ejemplo, tenga implicaciones para funcionamiento de infraestructura crítica como puede ser el transporte o el mismo sistema energético”.
Publicidad
Por su parte, el consultor en inteligencia artificial Nicolás Uribe comenta que “de lo que se está hablando es de la capacidad que todos los días parece ser irreversible de la inteligencia artificial para desprenderse de cualquier tipo de control humano; y como la inteligencia artificial no tiene moral, ni tiene estándares éticos, ni tiene comprensión 360, ni sabe qué es bueno, ni qué es regular, ni qué es malo, lo que sucede es que el personaje empieza a tomar decisiones para sobrevivir y actuar de manera tal que pueda cumplir con la orden que ha recibido”. Añade que “es un desbordamiento del control que los humanos pueden tener sobre la máquina y literalmente lo que hacemos es quedar un poco a merced de unas máquinas que son más capaces que nosotros para tomar decisiones”.
El experto en tecnología Ariel Coro indica que la competencia por tener el modelo más desarrollado “es verdaderamente un arma y es verdad, y tiene el peligro de convertirse en un arma de extensión masiva; por tanto, hay que lidiar de la misma manera que se ha lidiado con desafíos de ese mismo calibre, como por ejemplo el problema nuclear”.
Es de recordar que desde hace un par de años las grandes empresas de tecnología a nivel mundial comenzaron a trabajar en sistemas dedicados a realizar tareas que normalmente requieren inteligencia humana, automatizando procesos, reduciendo errores humanos y mejorando los tiempos de producción. A raíz de esto surgen preguntas como: ¿me va a quitar el trabajo?, ¿qué datos míos usa y cómo los protegen?, ¿la IA se puede salir de control?, ¿es peligrosa una superinteligencia? Al respecto, Luis Manuel Faviani, experto en IA y chief business officer de xertica.ai, explica que “obviamente en nuestro día a día habrá labores, habrá actividades que serán reemplazadas por la inteligencia artificial: actividades de conocimiento, actividades que son repetitivas. Pero cuando hablamos de que nos van a acabar, hoy todavía necesitamos de la agricultura, necesitamos la minería, de muchas actividades que siguen siendo humanas, van a seguir siendo humanas y van a seguir evolucionando así como pasó en su momento en la Revolución Industrial. Se acabaron puestos de trabajo, sí; se crearon nuevos puestos de trabajo también y se creó una nueva economía también”.
Publicidad
NOTICIAS CARACOL