Ya hablamos de cómo Evan Hubinger, responsable de la división de alineamiento en Anthropic, publicó un polémico mensaje en X en el que indicaba que creía que había un 10% de posibilidades de que la inteligencia artificial acabase con la raza humana. Ha habido otras personalidades en el pasado que han planteado esa posibilidad, y aunque esos escenarios no pueden descartarse por completo, ese porcentaje no deja de ser una estimación profundamente subjetiva sobre una tecnología que ni siquiera existe todavía. Hay una distancia inmensa entre lo que puede imaginarse o diseñarse en un entorno digital y lo que significa llevar algo así al mundo real, donde cada paso se enfrenta a límites físicos, biológicos y prácticos que no se pueden sortear con simples cálculos. Uno de los ejemplos que más se repiten en los discursos alarmistas es el de una futura superinteligencia capaz de diseñar un virus devastador que se propague sin control y acabe con toda la humanidad. Es cierto que las herramientas de aplicación de la inteligencia artificial en el ámbito de la biología están avanzando con rapidez y que ya existen modelos capaces de diseñar virus que pueden infectar bacterias, un desarrollo que ha hecho sonar las alarmas por su potencial uso en la creación de armas biológicas. Sin embargo, lo que a menudo se omite es que esos logros han requerido equipos de científicos altamente cualificados, instalaciones de primer nivel, ingentes cantidades de recursos y largas series de ensayos y ajustes. Los modelos actuales no tienen capacidad alguna para concebir o poner en marcha un agente patógeno capaz de afectar a seres humanos, y esa barrera no se va a derribar de la noche a la mañana.
David Bellamy, investigador del Institute of Foundation Models, donde se ha desarrollado el modelo K2 Horizon, se encuentra en una posición poco común: ha trabajado tanto en el entrenamiento de modelos de frontera como en el diseño de virus personalizados mediante inteligencia artificial, y su visión desmonta gran parte de la narrativa de pánico. Para él, la idea de que la inteligencia artificial pueda generar de forma autónoma una amenaza biológica existencial es «una farsa total». No niega que un modelo de lenguaje avanzado pueda elaborar un genoma viral teóricamente sintetizable o incluso proponer modificaciones a virus conocidos, pero sostiene que ese no es el escollo real. El verdadero obstáculo radica en conseguir que ese patógeno posea las características precisas, que sea realmente dañino, que logre burlar las defensas del organismo y que se transmita con facilidad, algo que exige someter la materia viva a incontables pruebas en el mundo físico. La biología no se comporta como un programa informático donde se puede probar, corregir y optimizar millones de veces en cuestión de minutos; cada avance requiere cultivar células, sintetizar material biológico, observar resultados y volver a empezar, todo sujeto a los ritmos y limitaciones que impone la naturaleza.
Incluso si se contara con laboratorios de última generación valorados en cientos de millones de dólares y sistemas automatizados que permitieran a una inteligencia artificial dirigir experimentos sin intervención humana, los obstáculos seguirían siendo enormes. Bellamy señala que instalaciones de ese tipo no existen hoy en día, y además chocarían con los mecanismos de control que ya están vigentes entre los proveedores de servicios de síntesis genética y las autoridades sanitarias y científicas de todo el mundo. A esto se suma un conocimiento todavía incompleto de los sistemas biológicos: la Academia Nacional de Ciencias de Estados Unidos ha advertido que la mayoría de las alteraciones genéticas que se intentan introducir en un patógeno no lo hacen más peligroso, sino que lo debilitan o lo inutilizan por completo. La vida es demasiado compleja para manipularla con la precisión y los resultados que se suponen en los peores escenarios.
La propia historia nos ofrece una perspectiva valiosa al respecto. La Peste Negra redujo entre un tercio y la mitad la población de Europa en el siglo XIV; las enfermedades traídas de Europa a América causaron estragos que en algunas zonas superaron el 90% de la población indígena; la gripe de 1918 cobró entre decenas y centenares de millones de vidas en todo el planeta. Fueron catástrofes sin precedentes que marcaron la historia, pero ninguna llegó a poner en peligro la supervivencia de la especie humana en su conjunto. En el siglo pasado la humanidad soportó dos guerras mundiales y llegó a acumular suficientes armas nucleares para destruir varias veces la civilización, y en momentos de tensión extrema estuvimos a punto de utilizarlas. Sin embargo, seguimos aquí, y no por casualidad: los seres humanos han demostrado una y otra vez capacidad de reacción, de cooperación, de innovación y de organización ante las amenazas. Desarrollamos sistemas de alerta, vacunas, tratamientos, organismos internacionales y marcos legales para contener y mitigar los riesgos, y aunque nunca somos invulnerables y podemos sufrir pérdidas enormes, confundir una catástrofe grave con la extinción de la especie es un salto lógico que no se sostiene con los precedentes.
Esto no significa que debamos bajar la guardia. Es posible que una inteligencia artificial futura, muy superior a la actual, pudiera descubrir mecanismos biológicos hoy desconocidos, idear agentes patógenos con propiedades que la evolución natural no ha producido y combinar esa capacidad con ataques a infraestructuras o sistemas de respuesta para dificultar el control de la situación. Tampoco se puede descartar que los plazos y las probabilidades cambien a medida que la tecnología avance, y por eso la vigilancia, la regulación y la investigación en seguridad siguen siendo esenciales. Pero conviene recordar que la historia de la inteligencia artificial ha mostrado también otra cara: cuando se han presentado modelos nuevos, se han señalado riesgos graves que después no se han materializado en la medida prevista. Ocurrió con GPT-2, que se retrasó su publicación por temor a su uso masivo en desinformación y fraudes, y que años después se reconoció que esos efectos no alcanzaron la escala que se temía. Ocurre ahora con modelos como Mythos, capaces de detectar vulnerabilidades con una precisión que ha obligado a reflexionar sobre qué modelos deben ser públicos y cuáles no, y aunque sus capacidades son realmente novedosas y merecen toda la atención, el tiempo nos enseña que lo que parece incontrolable hoy puede tener mecanismos de gestión que hoy no alcanzamos a ver. No se trata de negar los riesgos, sino de diferenciar entre lo que ya podemos observar y medir, y lo que es todavía especulación sobre un futuro que no hemos vivido. El equilibrio entre la precaución y el pánico exagerado es también una responsabilidad cuando hablamos de tecnología que transformará nuestras vidas, pero que todavía comparte este mundo con las leyes de la biología, la física y la resiliencia humana.
