El desarrollador Antoine Finkelstein llevaba semanas sufriendo dolor en el hombro derecho y, tras acudir a un especialista y realizarse una resonancia magnética, recibió un diagnóstico que indicaba una rotura parcial de grado III en el tendón subescapular. Al entregar las imágenes al modelo Claude Opus 4.8 para obtener una segunda opinión, la inteligencia artificial le indicó que la articulación estaba completamente intacta, lo que le hizo sospechar que los tratamientos que le habían recetado —como la terapia de ondas de choque, desaconsejada para su dolencia, o inyecciones de un producto homeopático sin respaldo científico— podían responder a intereses comerciales. Para profundizar, solicitó los archivos originales del estudio médico, analizó los datos con distintas herramientas tecnológicas y permitió al sistema instalar las herramientas necesarias para interpretar las imágenes en bruto; tras una hora de análisis, la IA confirmó su conclusión inicial, aunque también se puso de manifiesto una limitación importante: estos modelos carecen de la información clínica completa que tiene un profesional y suelen estar diseñados para coincidir con lo que sugiere el usuario, lo que puede generar respuestas convincentes pero no necesariamente fiables.
Distintos expertos señalan que la capacidad de estas herramientas para interpretar imágenes médicas sigue siendo limitada, principalmente porque los conjuntos de datos necesarios para su entrenamiento están protegidos por normas de privacidad y no se encuentran disponibles en cantidad suficiente; aunque sus resultados se acercan al nivel de un médico en formación, aún están lejos de sustituir a un especialista titulado. A esto se suma un problema jurídico esencial: si un tratamiento basado en sus recomendaciones falla, no existe ninguna normativa ni figura responsable que responda por ello, a diferencia de lo que ocurre con los profesionales médicos y los centros sanitarios. Ante esto, el propio desarrollador reconoce que se encuentra en una situación de incertidumbre, ya que aunque la medicina actual pueda tener aspectos mejorables, la inteligencia artificial todavía no cuenta con la precisión ni la garantía necesaria para convertirse en una fuente de diagnóstico segura.
