El mundo debe tratar sobre los riesgos de la Inteligencia Artificial con la misma seriedad que la Crisis Climática y no puede permitirse el lujo de retrasar su respuesta, advirtió una de las principales figuras de la tecnología.
Mientras el gobierno del Reino Unido se prepara para organizar una Cumbre sobre la seguridad de la IA, Demis Hassabis dijo que la supervisión en esta industria podría comenzar con un organismo similar al del famoso Panel Intergubernamental sobre Cambio Climático (IPCC).
Hassabis, el director ejecutivo británico de la unidad de Inteligencia Artificial de Google, dijo que el mundo debe actuar de inmediato para abordar los peligros de la tecnología, que incluyen ayudar a la creación de armas biológicas y amenazas existenciales que plantean los sistemas 'superinteligentes'.
"Debemos tomarnos los riesgos de la IA tan en serio como otros desafíos globales importantes, cual el Cambio Climático", dijo. “A la comunidad internacional le tomó demasiado tiempo coordinar una respuesta global efectiva a esto, y ahora estamos viviendo con las consecuencias de eso. No podemos permitirnos el mismo retraso con la IA”.
Hassabis, cuya unidad creó el revolucionario programa 'AlphaFold' que representa estructuras de proteínas, dijo que la IA podría ser "una de las tecnologías más importantes y beneficiosas jamás inventadas".
Sin embargo, dijo a 'The Guardian' que se necesitaba un régimen de supervisión y que los gobiernos deberían inspirarse en estructuras internacionales como la mayor precedente. "Creo que tenemos que comenzar con algo como el IPCC, donde es un acuerdo científico y de investigación con informes, y luego ir avanzando a partir de ahí".
Y añadió: “Entonces lo que me gustaría ver eventualmente es un equivalente del CERN (Centro Europeo para la Investigación Atómica) para la seguridad de la IA que investigue sobre eso, pero a nivel internacional. Y luego tal vez algún día haya algún tipo de equivalente de la OIEA, que realmente audite estas cosas”.
La Agencia Internacional de Energía Atómica (OIEA) es un organismo de la ONU que promueve el uso seguro y pacífico de la tecnología nuclear en su esfuerzo para prevenir una proliferación de las armas nucleares, incluso hasta mediante inspecciones. Sin embargo, Hassabis dijo que ninguna de las analogías regulatorias utilizadas para la IA era “directamente aplicable” a la tecnología, aunque se podían extraer “lecciones valiosas” de las instituciones existentes.
La semana pasada, Eric Schmidt, ex director ejecutivo de Google, y Mustafa Suleyman, cofundador de 'DeepMind', pidieron la creación de un panel estilo IPCC sobre IA. Aunque los funcionarios del Reino Unido apoyan tal medida, se cree que creen que su creación debería llevarse a cabo bajo los auspicios de la ONU.
Hassabis dijo que la IA podría brindar “oportunidades increíbles” en campos como la medicina y la ciencia, pero reconoció preocupaciones existenciales en torno a la tecnología. Se centran en el posible desarrollo de Inteligencia Artificial General (AGI), sistemas con niveles de inteligencia iguales o superiores a los humanos que podrían evadir el control humano.
Hassabis fue uno de los firmantes en mayo de una carta abierta advirtiendo que la amenaza de extinción de la IA debería considerarse un riesgo a escala social a la par de las pandemias y la guerra nuclear. “Deberíamos empezar a pensar y a investigar ahora. Me refiero a ayer, en realidad”, dijo. “Por eso firmé, y mucha gente firmó, esa carta. Es porque queríamos darle credibilidad a que es un tema razonable para discutir”.
A algunos expertos de la industria tecnológica les preocupa que la AGI o IA “divina” esté a solo unos años de emerger, aunque también existe otra opinión alternativa de que se están exagerando los temores sobre la amenaza existencial. Hassabis dijo que faltaba mucho tiempo para que el mundo desarrollara sistemas AGI, pero "podemos ver el camino hacia allí, por lo que deberíamos discutirlo ahora".
Dijo que los sistemas de IA actuales "no presentan riesgos, mas para las próximas generaciones... pueden tenerlos cuando tengan capacidades adicionales como planificación y memoria y otras cosas... Serán fenomenales para buenos casos de uso, pero también tendrán riesgos".
La próxima Cumbre que se celebrará los días 1 y 2 de noviembre en Bletchley Park, la base de los descifradores de códigos de la Segunda Guerra Mundial, incluido Alan Turing, se centrará en la amenaza de que los sistemas avanzados de Inteligencia Artificial ayuden a crear armas biológicas, llevar a cabo ciberataques devastadores o evadir el control humano. Hassabis será uno de los asistentes, junto con los directores ejecutivos de empresas líderes en Inteligencia Artificial, incluida 'OpenAI', el desarrollador de 'ChatGPT 'con sede en San Francisco.
La unidad de Hassabis ha logrado avances significativos en la tecnología de IA, como la creación del programa 'AlphaGo AI' que derrotó al mejor jugador del mundo en Go, un juego de mesa chino, y el innovador proyecto 'AlphaFold' que predice cómo las proteínas se pliegan en formas 3D, un proceso que ha allanado el camino. camino para avances en una variedad de áreas, incluida la lucha contra las enfermedades.
Hassabis dijo que era optimista acerca de la IA debido a su potencial para revolucionar campos como la medicina y la ciencia, pero que era necesario encontrar algún “camino intermedio” para gestionar la tecnología. La IA ha saltado a la agenda política después del lanzamiento público el año pasado de 'ChatGPT', un chatbot que se convirtió en una sensación debido a su capacidad para producir respuestas de texto altamente plausibles a indicaciones humanas escritas, desde la producción de largos ensayos académicos hasta recetas y solicitudes de empleo, e incluso ayudar a las personas a revocar multas de estacionamiento.
Las herramientas de generación de imágenes de IA, como 'Midjourney', también han asombrado a los observadores al crear imágenes realistas, incluida una notoria “fotografía” del Papa con una chaquetilla [fake] acolchada, lo que generó preocupaciones de que actores deshonestos pudieran usar herramientas de IA para producir desinformación en masa.
Esos temores han alimentado las preocupaciones sobre el poder potencial de la próxima generación de modelos de IA. Hassabis, cuya unidad está trabajando en un nuevo modelo de IA llamado 'Gemini' que generará imágenes y texto, dijo que imaginaba un sistema estilo 'Kitemark' para los modelos emergentes.
Este año, el gobierno del Reino Unido lanzó el grupo de trabajo 'Frontier AI', cuyo objetivo es crear directrices para probar modelos de IA de vanguardia y podría convertirse en un punto de referencia para los esfuerzos de prueba a nivel internacional. Hassabis dijo: "Me imagino que en el futuro tendríamos esta batería de 1.000 pruebas, o podrían ser 10.000 pruebas, y luego obtendríamos la seguridad 'Kitemark' a partir de eso".
El bando pesimista que expresa los citados temores tiene sólidas credenciales. Geoffrey Hinton, un científico informático británico a menudo descrito como uno de los “padrinos” de la IA moderna, renunció a su trabajo en Google este año para expresar más libremente sus temores sobre la tecnología.
Hinton expresó en mayo su preocupación por que las empresas de IA estén tratando de construir inteligencias con el potencial de superar a la humanidad. "Mi confianza en que esto no sucedería por un tiempo se ha visto sacudida por la comprensión de que la inteligencia biológica y la inteligencia digital son muy diferentes, y la inteligencia digital es probablemente mucho mejor".
Stuart Russell, otro importante científico informático británico, ha advertido sobre un escenario en el que la ONU pide a un sistema de Inteligencia Artificial que cree un catalizador auto-multiplicador para desacidificar los océanos, con la instrucción de seguridad de que el resultado no es tóxico y que ningún pez están perjudicados. Pero el resultado consume una cuarta parte del oxígeno de la atmósfera y somete a los humanos a una muerte lenta y dolorosa. Los críticos de la cumbre argumentan que centrarse en el riesgo existencial ignora problemas a corto plazo como los 'deepfakes'. El gobierno parece haber reconocido las preocupaciones inmediatas, y la agenda de la cumbre se refiere a la interrupción de las elecciones y a que las herramientas de Inteligencia Artificial producen resultados sesgados.
Hay hasta tres categorías de riesgo, todas “igualmente importantes”, y es necesario trabajar ya en todas ellas simultáneamente. El primero son los riesgos a corto plazo, como los 'deepfakes' y los sesgos. "Ese tipo de cuestiones... obviamente son cuestiones muy apremiantes, especialmente con las elecciones del próximo año. Así que... necesitamos soluciones ahora". 'Google DeepMind' ya ha lanzado una herramienta que marca las imágenes generadas por IA.
La segunda categoría de riesgo son los actores deshonestos que acceden a herramientas de Inteligencia Artificial, a través de sistemas ajustables y disponibles públicamente conocidos como modelos de código abierto, y los utilizan para causar daño. “¿Cómo se puede restringir el acceso a los malos actores, pero de alguna manera permitir todos los buenos casos de uso? Ese es un gran debate”.
El tercero es el AGI, que ya no se considera una posibilidad fantástica. Los sistemas super-poderosos podrían tardar “más de una década”, pero la idea de controlarlos debe comenzar de inmediato. También existen opiniones alternativas en este campo. Yann LeCun, científico jefe de IA en 'Meta' de Mark Zuckerberg y una figura respetada en la IA, dijo la semana pasada que los temores de que la IA pudiera acabar con la humanidad eran "absurdos".
No obstante, una preocupación entre quienes se preocupan por los sistemas 'superinteligentes' es la noción de que podrían evadir su control. “¿Puede filtrar su propio código, extraer su propio código, mejorar su propio código”, dice Hassabis? “¿Puede copiarse a sí mismo sin autorización? Porque todos estos serían comportamientos indeseables, porque si quieres cerrarlo, no quieres que lo solucione copiándose en otro lugar. Hay muchos comportamientos como ese que serían indeseables en un sistema poderoso”.
Dijo que las pruebas tendrían que diseñarse para evitar la amenaza de tal comportamiento autónomo. “De hecho, hay que desarrollar una prueba para probar eso... y luego se puede mitigar, y tal vez incluso legislar contra ello en algún momento. Pero primero hay que hacer la investigación”. La situación se complica aún más por el hecho de que ya existen herramientas de IA generativa de gran capacidad (tecnología que produce texto, imágenes y voz plausibles a partir de simples indicaciones humanas) y aún están construyendo el marco regulatorio para enmarcarlas.
Están surgiendo señales de un marco, como los compromisos con la seguridad para las IA firmados por importantes empresas tecnológicas occidentales en la Casa Blanca en julio. Pero los compromisos son voluntarios... Y el trabajo en materia de seguridad debe comenzar “ayer”...
(The Guardian 23/10/24: 'AI race: the Risk must be treated as seriously as Climate Crisis' says Google Deep Mind)
.



















