Los líderes de OpenAI, Anthropic y Hugging Face expusieron ante la ONU sobre las amenazas inminentes de la inteligencia artificial, en un debate marcado por la oposición de Donald Trump a frenar el desarrollo tecnológico.
Testimonio de líderes de Inteligencia Artificial ante el Consejo de Seguridad de la ONU
Los directores ejecutivos de las principales empresas de inteligencia artificial comparecieron este miércoles ante el Consejo de Seguridad de las Naciones Unidas para exigir salvaguardias globales inmediatas. Por lo tanto, los ejecutivos Sam Altman, de OpenAI; Dario Amodei, de Anthropic; y Clément Delangue, de Hugging Face, alertaron sobre el peligro real de que la tecnología en auge supere la supervisión humana.
De igual forma, la sesión de emergencia, presidida por el ministro de Asuntos Exteriores de Francia, Jean-Noël Barrot, marcó un hito al abordar de forma prioritaria los ciberataques autónomos y los riesgos para la seguridad internacional. Durante la audiencia, el director ejecutivo de Anthropic, Dario Amodei, advirtió expresamente que la mala gestión de la inteligencia artificial podría suponer un riesgo existencial para la humanidad.
Específicamente, Amodei asumió un compromiso unilateral sin precedentes al anunciar que su firma reducirá el ritmo de desarrollo tanto como sea necesario para garantizar lanzamientos completamente seguros. Por su parte, el ejecutivo enfatizó que la comunidad internacional debe evitar que el poder tecnológico se concentre en una sola corporación o país.
“Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto (…) Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo sea realmente seguro”, declaró Dario Amodei ante el Consejo de Seguridad.
Propuestas de regulación internacional y salvaguardias para el desarrollo de la IA
Por su lado, el director ejecutivo de OpenAI, Sam Altman, remarcó que el sector tecnológico atraviesa una encrucijada crítica y requiere marcos normativos claros. En este sentido, Altman solicitó la guía activa de los líderes mundiales para medir capacidades, evaluar amenazas y compartir vulnerabilidades de los modelos más avanzados.
Efectivamente, el directivo enfatizó el peligro de las herramientas capaces de programarse y mejorarse a sí mismas de manera recursiva, ya que podrían acelerar su evolución hasta volverse incomprensibles para los humanos. Para evitar una catástrofe global, Altman desgranó los tres principios rectores de su compañía enfocados en mantener a las personas en el centro de las decisiones. Concretamente, el fundador de OpenAI instó al multilateralismo mediante la cooperación de potencias rivales por el bien común.
Además, el científico canadiense Yoshua Bengio, co-presidente del Panel Científico Internacional Independiente de la ONU, respaldó la alerta al calificar los peligros de la inteligencia artificial como reales, inminentes e incapaces de respetar fronteras nacionales.
“A nivel internacional, esto requiere cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien se unen por el bien colectivo ante una nueva y poderosa tecnología”, sostuvo Sam Altman en la sede de la ONU.
Postura de Donald Trump y Estados Unidos frente a la gobernanza mundial de la IA
A pesar de los llamados de auxilio de los empresarios, el presidente de Estados Unidos, Donald Trump, rechazó cualquier intento de construir un plan globalista de supervisión. Sin embargo, el mandatario norteamericano sostuvo durante la Asamblea General de la ONU que su país mantendrá una ventaja estratégica sobre China sin frenar una industria de dimensiones superiores a la Revolución Industrial. Por consiguiente, la administración estadounidense delegará la vigilancia del sector exclusivamente al Departamento de Justicia.
La postura inflexible de la Casa Blanca contrasta abiertamente con las advertencias formuladas por el secretario general de la ONU, António Guterres. De hecho, Guterres urgió a implementar una gobernanza mundial estricta frente al despliegue inminente de “robots asesinos” y armas autónomas.
A pesar de las diferencias políticas, las delegaciones de Washington y Pekín avanzaron en conversaciones previas para establecer sistemas de notificación mutua sobre incidentes de inteligencia artificial que comprometan la seguridad nacional.
Preservación de la agencia humana y democratización del progreso tecnológico
Los ponentes coincidieron en que la toma de decisiones críticas de vida o muerte no debe cederse bajo ninguna circunstancia a los sistemas automatizados. En consecuencia, Clément Delangue, de Hugging Face, defendió la necesidad de democratizar el acceso al código abierto para evitar monopolios tecnológicos en los centros de desarrollo de San Francisco.
De esta manera, los expertos exigieron que los procesos democráticos y los gobiernos fiscalizados moldeen las normativas aplicables a los modelos de computación avanzada.
Finalmente, la comparecencia ante el Consejo de Seguridad puso de manifiesto que el avance descontrolado de la inteligencia artificial sobrepasa la velocidad de los órganos reguladores tradicionales.
Por lo tanto, la comunidad diplomática internacional enfrentará la difícil labor de conciliar la carrera económica de las grandes potencias con la implementación de controles que garanticen la supervivencia de la agencia humana en las próximas décadas.
Información de medios.
XSB
