Fuente de la imagen: dw.com
Preguntas comunes como “¿Qué es el lupus?” o “¿Cuánto dura la gripe?” están siendo formuladas a ChatGPT con creciente frecuencia. De acuerdo con una encuesta a aproximadamente 2,000 australianos llevada a cabo a mediados de 2024, uno de cada diez ya usa esta plataforma para consultar temas de salud. El estudio, publicado el martes, reporta que el 61% de los usuarios de ChatGPT para consultas médicas hacen preguntas que normalmente requerirían asesoramiento clínico.
Julie Ayre, autora del estudio e investigadora en la Universidad de Sídney, destacó que aunque las herramientas de inteligencia artificial son populares por su capacidad de ofrecer respuestas rápidas, existe siempre el riesgo de que estas respuestas sean incorrectas. DW indaga si podemos realmente confiar en estas recomendaciones ante un escenario donde académicos están intentando crear un consenso científico sobre la (poco fiable) precisión del consejo médico de los modelos de lenguaje de gran escala (LLMs).
Investigaciones demuestran que, aunque los LLMs pueden simplificar información médica y aclarar términos técnicos, siguen mostrando fallas notables en precisión. Un estudio de 2024 sometió a ChatGPT3.5 a 150 casos médicos y descubrió que el diagnóstico y plan de tratamiento fueron correctos solo el 49% del tiempo. Esto sugiere que, aunque los LLMs proporcionan una base de conocimiento, su habilidad para entender contexto y realizar análisis deductivos es inferior a la humana.
A pesar de estas limitaciones, los LLMs resultan útiles para aquellos que carecen de acceso a información médica comprensible, especialmente en comunidades cultural y lingüísticamente diversas, según el estudio australiano. Sin embargo, tanto la IA como los expertos en la materia coinciden en que ninguna tecnología puede sustituir la conversación directa con un profesional de la salud, debido a que la calidad y la base de datos de la IA no siempre se alinean con los estándares de atención médica vigentes.
