El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron coincidir con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei, hizo un llamado el sábado 12 de septiembre a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial. "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", escribió Amodei en una entrada de blog. "La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves", indicó. "No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia", señaló Amodei, que cofundó Anthropic con su hermana Daniela en 2021. "Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia", afirmó.
Altman y Musk reaccionaron a su escrito. "Estoy de acuerdo con Darío", escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad. "Darío tiene razón", intervino Musk de su lado.
Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria acusando a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse. "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", aseveró. Tras esta publicación, Samuel Marks, líder de supervisión escalable, compartió una extensa reflexión en la que describió lo que considera el estado actual del debate sobre la seguridad de la inteligencia artificial. Afirmó que muchos desarrolladores de IA creen que la tecnología "podría causar la extinción humana o resultados igualmente graves" y que ese escenario podría materializarse durante los próximos años. (Lea también: Inteligencia artificial "podría causar la extinción humana": alerta otro empleado de Anthropic)
La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA. Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro. Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a "marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA".
Amodei, por su parte, sostuvo que, "dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet", lo que potencialmente generaría daños por cientos de miles de millones de dólares, por lo que sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.
¿Es posible pausar el avance de la inteligencia artificial?
Tras estas declaraciones, Víctor García Perdomo, decano de la Facultad de Comunicación de la Universidad de La Sabana e investigador del impacto de tecnologías emergentes en la sociedad, consideró “que sí tenemos que preocuparnos hacia el futuro de asegurar que la autonomía, el control, la transparencia, la rendición de cuentas y sobre todo la gobernanza de la inteligencia artificial tenga ciertas normativas que nos permitan más seguridad respecto a distintas acciones que pueda tomar en red de manera independiente”.
Sobre si es realista ralentizar el desarrollo de la inteligencia artificial, consideró que “es bastante complicado en este momento por el nivel de competencia que existe entre las distintas compañías y por el nivel de avance que vemos particularmente en distintos países como China y Estados Unidos. Yo creo que estas compañías, a pesar de que les gustaría de pronto en determinado momento bajar el ritmo y comenzar a pensar mejor el alcance que tiene la inteligencia artificial y el impacto que podría tener sobre la sociedad, sobre los trabajos, sobre la autonomía y control en distintos ámbitos de la sociedad, pienso que es bastante difícil por la misma competencia económica y porque la tecnología es casi como una caja negra difícil de descifrar para la mayoría de las personas, incluso para los propios ingenieros e investigadores que trabajan en estas organizaciones”.
¿Cuáles son los riesgos de la IA?
Según las palabras del experto, “el principal de ellos tiene que ver con autonomía y control, desplazamientos de puestos de trabajo y el uso particularmente autónomo de la inteligencia artificial dentro de los países para incentivar aspectos relacionados con la guerra o tomar decisiones sobre salud pública y economía. Yo creo que cuando la IA y los sistemas inteligentes a través de algoritmos comienzan a tomar decisiones que afectan la salud de las personas, la economía de las personas, el trabajo de las personas y sobre todo comienzan a incidir particularmente en asuntos relacionados con la guerra y el espionaje, se despliegan una cantidad de riesgos para la sociedad que es importante tener en cuenta”.
Recomendaciones para que adultos y niños usen inteligencia artificial
“A nivel social tiene que ver con que para controlar la IA hay que trabajar conjuntamente organizaciones universitarias, organizaciones independientes, grupos de base, empresas tecnológicas y gobiernos para tratar de regular un poco mejor esta tecnología emergente que tiene un poder extraordinario. Ya cuando hablamos, por ejemplo, del acceso a los niños y en la educación, pues en las universidades nosotros estamos tratando de incorporarla de manera que lo humano esté en el centro y siempre pensemos en cómo la IA puede ser una herramienta extremadamente poderosa que nos ayuda a la humanidad a ser cada vez mejor, pero siempre teniendo en cuenta que el humano tiene que estar en el centro y las decisiones humanas tienen que tomar la autonomía y el control por encima de la capacidad que tenga la IA de tomar decisiones”, explicó García.
Publicidad
NOTICIAS CARACOL
*CON INFORMACIÓN DE AGENCIA AFP