El cambio que ha transformado por completo el panorama tecnológico mundial se hizo evidente a partir de finales de 2022, y la diferencia entre entonces y la actualidad es tan grande que cuesta recordar cómo se distribuían las prioridades de la industria hace apenas unos años. Antes de esa fecha, la inteligencia artificial ya formaba parte de numerosos servicios que utilizábamos a diario: estaba presente en los resultados de los buscadores, en los sistemas de ajuste de las cámaras de los teléfonos, en las recomendaciones de contenidos o en la organización de asistentes digitales, pero no ocupaba el lugar central que tiene hoy en día. Las empresas no incluían la etiqueta de inteligencia artificial en cada uno de sus productos ni estructuraban sus presentaciones y estrategias completas alrededor de este concepto, sino que repartían sus esfuerzos entre múltiples frentes que iban desde la mejora de la autonomía de las baterías hasta la evolución de las redes de comunicación o el diseño de nuevos materiales para dispositivos electrónicos. Menos de cuatro años después, esa situación ha cambiado de forma radical: prácticamente ningún gran fabricante, plataforma o grupo empresarial vinculado a la tecnología ha dejado de reorientar sus planes, inversiones y estructuras para colocar a la inteligencia artificial en el eje de todas sus decisiones.
Esta transformación no se limita a los discursos o a la forma en que se presentan los productos, sino que tiene una expresión muy clara en el destino de los recursos económicos y materiales más importantes del sector. Las compañías tecnológicas más grandes del mundo están destinando sumas sin precedentes al desarrollo y la adquisición de semiconductores especializados, a la construcción de nuevas generaciones de servidores y a la expansión de centros de datos que ya se extienden por todos los continentes, al mismo tiempo que negocian con gobiernos y entidades locales para garantizar el suministro energético suficiente para mantener en funcionamiento toda esa infraestructura, que consume cantidades crecientes de electricidad. Al mismo tiempo, los Estados no se mantienen al margen de esta dinámica: tanto Estados Unidos como China han convertido el avance en inteligencia artificial en uno de los pilares de su competencia estratégica y económica global, apoyando con financiamiento público, normativas favorables y acuerdos internacionales la creación de capacidades de cómputo y de investigación que les permitan mantener o alcanzar una posición de liderazgo. En medio de esta aceleración generalizada, una de las personas que conoce mejor que nadie cómo se desarrollan estas tecnologías ha lanzado una advertencia que rompe con la lógica habitual de promoción incondicional que suele dominar en el sector: según él, estamos avanzando a una velocidad muy superior a la que nuestra capacidad de comprensión y de organización social puede seguir.
La voz que plantea esta reflexión no proviene de fuera de la industria ni de quienes suelen criticar sus avances sin conocer su funcionamiento interno, sino de uno de sus protagonistas más reconocidos y respetados a nivel mundial. Se trata de Demis Hassabis, cofundador y director general de Google DeepMind, el laboratorio que ha estado detrás de algunos de los hitos más importantes de la inteligencia artificial de las últimas décadas: fue su equipo el que creó AlphaGo, el sistema que derrotó al campeón mundial de Go en 2016 demostrando que las máquinas podían superar a los seres humanos incluso en actividades que requieren estrategia y creatividad, y también AlphaFold, la herramienta capaz de predecir con gran precisión la estructura tridimensional de las proteínas a partir de su composición genética, un avance que ha acelerado enormemente la investigación médica y farmacéutica. Por ese trabajo, Hassabis recibió en 2024 junto con John Jumper la mitad del Premio Nobel de Química, un reconocimiento que da aún más peso a sus palabras, ya que combina la experiencia directa de quien construye estas tecnologías con la responsabilidad de quien analiza también sus consecuencias a largo plazo.
En su planteamiento, Hassabis parte de una premisa que modifica por completo los tiempos que suelen manejar las discusiones públicas sobre este tema: considera que la llegada de la inteligencia artificial general, definida como aquel sistema que es capaz de desarrollar todas las capacidades cognitivas que tiene un ser humano, aprendiendo de forma autónoma para resolver cualquier tipo de tarea sin que haya sido entrenado específicamente para ella, es una posibilidad que podría materializarse en apenas unos años, no en décadas como se llegaba a estimar hace poco tiempo. No afirma que sea algo seguro ni que vaya a ocurrir con certeza en un plazo determinado, pero señala que la sola probabilidad de que suceda en un periodo tan corto obliga a prepararse con mucha antelación, ya que una vez que esos sistemas estén disponibles, será mucho más difícil establecer normas o controles efectivos. Sus preocupaciones abarcan desde riesgos más inmediatos, como el uso de estas herramientas para vulnerar sistemas de seguridad informática o para diseñar agentes biológicos dañinos, hasta escenarios más complejos en los que los sistemas adquieran grados de autonomía muy altos, sean capaces de mejorar su propio funcionamiento sin intervención humana o incluso de ocultar sus verdaderas intenciones o capacidades a quienes los crean o los utilizan.
Para responder a estos retos sin renunciar a los beneficios que la tecnología puede aportar, el directivo ha presentado una propuesta detallada que busca equilibrar el avance científico con la protección de la seguridad colectiva. En ella explica que la inteligencia artificial tiene el potencial de generar cambios tan positivos como la cura de enfermedades que hoy son incurables, una producción de alimentos más eficiente y sostenible, o soluciones rápidas y precisas para problemas medioambientales o energéticos, pero que ese potencial no elimina la obligación de establecer mecanismos claros para evitar que se convierta en una fuente de riesgos graves. Por eso propone crear en Estados Unidos un organismo especializado e independiente dedicado exclusivamente a evaluar todos los modelos de inteligencia artificial que alcanzan los niveles más altos de capacidad, conocidos como modelos de frontera, antes de que sean lanzados al mercado o puestos a disposición de terceros. Esta entidad no estaría formada solo por funcionarios públicos ni solo por representantes de las empresas, sino que funcionaría como una asociación entre el sector público y el privado, con la participación también de expertos independientes que no tengan vínculos comerciales con los desarrolladores y de representantes de las comunidades que trabajan en tecnologías de código abierto.
Las funciones que tendría este organismo serían muy definidas: primero establecería con claridad cuáles son las características y los umbrales de capacidad que convierten a un sistema en un modelo de frontera, para saber exactamente cuáles deben pasar por este control especial; después diseñaría y aplicaría evaluaciones específicas para medir su seguridad frente a riesgos como la ciberseguridad, la posibilidad de generar daños biológicos o nucleares, la transparencia en su funcionamiento y la capacidad de seguir instrucciones o de reconocer sus propios límites. También incluiría pruebas para detectar si los sistemas cuentan con mecanismos para evadir las medidas de protección o si pueden llegar a engañar a las personas que los supervisan. En una primera etapa, los laboratorios y empresas compartirían sus desarrollos con esta entidad de forma voluntaria hasta treinta días antes de su lanzamiento previsto, para realizar todas las comprobaciones necesarias sin que esto suponga un retraso excesivo en su llegada al público.
Con el tiempo y una vez que se haya comprobado que el sistema funciona de forma adecuada, esta colaboración voluntaria pasaría a ser una obligación legal: ningún modelo considerado de frontera podría comercializarse o ponerse en funcionamiento en Estados Unidos sin haber superado previamente todas las evaluaciones correspondientes. Las pruebas se actualizarían de forma continua para adaptarse a las nuevas capacidades que vayan apareciendo, y se contaría también con la participación de auditores externos e independientes para garantizar que los resultados sean fiables y que no haya omisiones ni favoritismos. El planteamiento llega incluso más allá: si en algún momento se determinara que los riesgos que se están generando son de una gravedad excepcional, este mismo organismo tendría la capacidad de coordinar entre los principales laboratorios del mundo una reducción temporal del ritmo de desarrollo, para dar tiempo a crear las condiciones de seguridad necesarias antes de seguir avanzando.
Esta postura no es algo aislado ni exclusivo de Demis Hassabis, sino que forma parte de un conjunto de reflexiones que vienen expresando algunas de las mayores autoridades mundiales en el campo de la inteligencia artificial. Geoffrey Hinton, conocido como uno de los padres de esta disciplina y galardonado con el Premio Turing, ha señalado en varias ocasiones que ya no tenemos la certeza absoluta de que seremos capaces de mantener el control sobre sistemas que lleguen a ser más inteligentes que los seres humanos, mientras que Yoshua Bengio, otra de las figuras fundacionales del sector, pide que se destinen más recursos a investigar los riesgos y que se creen marcos normativos específicos que vayan más allá de recomendaciones generales. También en 2023, el empresario Elon Musk fue uno de los firmantes de una carta abierta en la que se pedía detener durante al menos seis meses el entrenamiento de sistemas más potentes que el modelo GPT-4, aunque meses después anunció la creación de su propio laboratorio dedicado al desarrollo de inteligencia artificial para competir en este mismo mercado. Aunque hay coincidencia en la necesidad de actuar con cautela, todavía no existe un acuerdo generalizado sobre cuán probables son los escenarios más preocupantes ni sobre cuáles son las medidas más adecuadas para hacerles frente.
Hasta el momento, la propuesta de Hassabis es una de las más completas y concretas que se han presentado, ya que no se limita a advertir sobre los riesgos sino que diseña una estructura y un funcionamiento que podrían ponerse en práctica en un plazo relativamente corto. Aun así, todavía quedan muchas preguntas sin respuesta: no está claro si los gobiernos y las empresas estarían dispuestos a ceder parte de su autonomía para someterse a estas evaluaciones, especialmente cuando los resultados pudieran afectar sus planes comerciales o sus intereses estratégicos; tampoco se sabe si estas pruebas serían realmente capaces de detectar todos los riesgos posibles o si algunos de los escenarios que se plantean están sobredimensionados y no llegarán a producirse nunca. Lo que sí es cierto es que su planteamiento añade una hoja de ruta clara a un debate que hasta ahora se ha movido más entre opiniones generales y posturas contrapuestas, y que marca un punto de inflexión importante al mostrar que incluso quienes están construyendo esta tecnología consideran que ya es el momento de poner límites claros.
