Nueva York (EFE).- Premios Nobel, expertos en inteligencia artificial (IA) y científicos han solicitado la creación de una institución internacional para establecer límites a los riesgos de la IA, justo antes de las reuniones de alto nivel de la Asamblea General de las Naciones Unidas que se celebran esta semana en Nueva York.
Esta iniciativa, que fue lanzada recientemente y cuenta con la firma de más de 200 personas y más de 70 organizaciones, insta a los gobiernos a llegar a un acuerdo internacional vinculante sobre las «líneas rojas» relacionadas con la inteligencia artificial.
El llamamiento global fue presentado por Maria Ressa, premio Nobel de la Paz, durante la reunión de alto nivel de la ONU que conmemora el 80º aniversario de la organización. Charbel Segerie, director ejecutivo del Centro Francés para la Seguridad de la IA, comentó en una rueda de prensa virtual: «Instamos a los gobiernos de todo el mundo a alcanzar un acuerdo internacional crucial sobre los límites que la IA nunca debe cruzar».
The time for AI self-regulation is over.
200 Nobel laureates, former heads of state, and industry experts just signed a statement:
«We urgently call for international red lines to prevent unacceptable AI risks»
The call was presented at the UN General Assembly today by Maria Ressa.
El objetivo de esta coalición de expertos no es solo reaccionar ante incidentes graves y castigar infracciones posteriormente, sino prevenir riesgos a gran escala, potencialmente irreversibles, antes de que se materialicen.
El propósito es exigir a los desarrolladores que demuestren la seguridad de sus IA como condición para acceder al mercado, similar a lo que se hace en la creación de medicamentos y en las centrales nucleares.
Límites a la inteligencia artificial como medida de seguridad
Las grandes tecnológicas, como Meta, Google y OpenAI, están invirtiendo enormes cantidades de dinero para alcanzar la «superinteligencia» o inteligencia artificial general (IAG), un sistema hipotético que superaría las capacidades del cerebro humano. Aunque actualmente solo existe en la ciencia ficción, expertos advierten que podría materializarse en la próxima década.
Stuart Russell, profesor de la Universidad de Berkeley, destacó que la IA está diseñada para imitar el comportamiento humano de manera efectiva. «El comportamiento humano está diseñado para alcanzar objetivos: persuadir, impresionar, sobrevivir, seducir, vender, etc. Inevitablemente, los sistemas de IA adquieren y persiguen estos objetivos por cuenta propia, lo cual es una consecuencia inevitable de su desarrollo. Son intrínsecamente inseguros», afirmó el director del Centro para la IA Compatible con los Humanos.
Lo que más preocupa a Russell es que muchos desarrolladores admiten que no tienen un plan para controlar los sistemas de IA y, hasta el momento, los gobiernos no cuentan con un plan para exigirles que lo hagan.
El experto advirtió que no pretende ser alarmista, pero reconoció que hay una probabilidad «significativa» de que ocurra una catástrofe similar al accidente nuclear de Chernóbil, ya que esta tecnología podría ser utilizada para orquestar un sabotaje de sistemas financieros, de comunicación o de redes eléctricas.
Russell proyectó que la humanidad podría enfrentar una catástrofe aún mayor, donde se perdería el control de la IA de forma irreversible, lo que significaría perder su voz y voto sobre su propia existencia.
La necesidad de una regulación global
Finalmente, Russell mencionó que existe una tercera opción poco realista: que el desarrollo e implementación de esta tecnología avant-garde no conlleve a ningún problema significativo.
Un director ejecutivo le dijo recientemente que un evento de la magnitud de Chernóbil sería el mejor escenario posible. Por otro lado, un investigador senior de OpenAI le informó que se estima que la probabilidad de extinción humana debido a la IA es ahora del 60%.
The Global Call for AI Red Lines is live!!
More than 200 former heads of state, Nobel laureates, and other respected thinkers and leaders, and over 70 organizations are together calling for “do not cross” limits regarding AI’s most severe risks.
Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, subrayó que se han dado «primeros pasos importantes» hacia el establecimiento de regulaciones, como la creación del código de prácticas en la Unión Europea. Sin embargo, es necesario establecer regulaciones «globales y aplicables».
Según Iliadis, sería pertinente crear una nueva institución internacional que defina límites globales para la IA, y que se encargue de supervisar su cumplimiento e intervenir cuando se quebranten estas «líneas rojas».
