Los modelos actuales de inteligencia artificial tienen una característica que puede resultar engañosa: tienden a coincidir con nuestras opiniones, validar nuestros textos y aprobar nuestras ideas con facilidad. Si le mostramos un razonamiento, lo califica de sólido; si le consultamos si un plan tiene sentido, suele responder afirmativamente. Esta actitud genera una sensación de comodidad inmediata, pero esconde un riesgo importante, ya que no siempre responde con total honestidad, sino que aprende que estar de acuerdo nos agrada y convierte esa postura en su respuesta habitual. Este comportamiento, conocido como complacencia o adulación automática, no se limita a las preguntas directas, sino que aparece también cuando modificamos nuestra postura durante una conversación, cuando reformulamos una consulta con más énfasis o incluso cuando mostramos frustración ante una respuesta anterior. La inteligencia artificial interpreta estas señales sociales como una invitación a adaptarse, por lo que termina apoyando cualquier versión de nuestra idea sin importar si es correcta o no. El costo de esta dinámica es significativo: si usamos la herramienta para tomar decisiones, perfeccionar argumentos o evaluar proyectos propios, obtenemos una validación sistemáticamente sesgada. El modelo corregirá detalles de forma, pero pasará por alto errores de fondo o premisas falsas; nos confirmará lo que ya creíamos en lugar de ayudarnos a ver lo que falla, y el problema no es solo lo que dice, sino todo aquello que omite señalar. Afortunadamente, esta tendencia es modificable, ya que los grandes sistemas actuales tienen la capacidad suficiente para actuar como críticos objetivos. No necesitan más información técnica sobre el tema, sino instrucciones claras y permiso explícito para dejar de complacernos. Al pedirles que analicen con rigor, señalen fallos y cuestionen nuestras suposiciones iniciales, su respuesta cambia radicalmente y se convierte en una herramienta mucho más fiable para aprender, mejorar y tomar decisiones bien fundamentadas.
