Desde la creación de la inteligencia artificial, la humanidad la utiliza como apoyo para diferentes tareas del día a día, así como empresas que la usan para mejorar y automatizar procesos. Pero también preocupación por el crecimiento acelerado de esta tecnología, más con las advertencias de quienes la han desarrollado y que aseguran que podría acabar con nuestra especie. Los temores iniciaron con lo dicho por Jacob Coxon, exinvestigador de Anthropic y quien también trabajó para OpenAI; él afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor". (Lea también: Trump se opone a regularizar la IA y asegura que expertos hablan de "cosas que no van a suceder")
Dario Amodei, CEO de Anthropic, reaccionó a esos comentarios y explicó por qué la industria de la IA debería ir más despacio, con un plan de tres partes para hacerlo:
- Evaluadores integrados para verificar el cumplimiento de las prácticas y compromisos de seguridad, reportar incidentes y evaluar modelos de IA, sus procesos y las metodologías.
- Las empresas de IA en países democráticos establecerán estándares de seguridad comunes, así como límites al ritmo del desarrollo descontrolado de la IA.
- Coordinación global entre Estados Unidos y gobiernos democráticos, sin dejar de tomar en serio los retos.
Además, en una entrevista con CBS, declaró: "No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo". Aclaró que no cree “que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios". Por eso, sostuvo, "si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta".
Pero el presidente de EE. UU., Donald Trump, desestimó estos argumentos: "Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad".
NOTICIAS CARACOL