Anthropic y OpenAI mantienen dos competencias paralelas: la carrera técnica por desarrollar el modelo de inteligencia artificial más avanzado y la carrera comercial para salir a bolsa como empresas públicas. Si bien el liderazgo en calidad de los sistemas es debatido, Anthropic ha tomado la delantera en el segundo frente: este lunes confirmó la solicitud oficial para su salida a bolsa, una operación que podría convertirse en la mayor de su historia y que muchos comparan con la salida de Netscape, el hito que marcó el inicio de la fiebre de las puntocom. Sin embargo, en paralelo a este gran salto financiero, la compañía ha lanzado una propuesta sorprendente: defiende la necesidad de establecer una pausa global en el desarrollo de la IA de frontera, una medida que considera lógica pero que reconoce difícil de aplicar por la actual rivalidad tecnológica entre las grandes potencias mundiales.
Esta postura forma parte de lo que algunos denominan la “táctica del miedo”, una estrategia que también ha sido criticada por su competidor, aunque este último ha terminado adoptando argumentos similares. El propio director ejecutivo de Anthropic, Dario Amodei, ha advertido públicamente sobre el riesgo de que los seres humanos pierdan el control sobre la tecnología, llegando a señalar que existe la posibilidad de que “las cosas vayan muy, muy mal”. En un documento reciente, la empresa detalla que estaría dispuesta a reducir el ritmo de innovación solo si existe un compromiso recíproco por parte de todos los actores relevantes, comparando la situación con el control de armamento nuclear: considera que la proliferación de sistemas cada vez más potentes plantea un desafío similar al de la carrera armamentista, donde la falta de coordinación puede generar riesgos globales.
El motivo principal de esta advertencia es la evolución de los modelos hacia la capacidad de automejorarse: según sus investigadores, la IA se acerca rápidamente al punto en que podrá escribir y perfeccionar su propio código sin intervención humana. Por ello, proponen ralentizar el avance para dar tiempo a que la sociedad y la normativa se adapten, aunque reconocen que el obstáculo principal es la falta de confianza y transparencia entre naciones. Como señalan, las actividades de entrenamiento de inteligencia artificial son mucho más difíciles de detectar que las instalaciones militares, por lo que una pausa efectiva requeriría no solo el acuerdo de los principales laboratorios, sino también mecanismos de verificación que permitan confirmar que todos están cumpliendo con el compromiso.
