inklusion.png Sitio accesible
adn bueno
Breaking News

Errores médicos y datos incompletos: Google replantea el uso de IA en búsquedas

Google eliminó resúmenes de salud generados por IA tras detectarse datos inexactos. La medida expuso límites del sistema y riesgos por su ubicación prioritaria.

Google

Google retiró de forma discreta varios resúmenes de salud generados por inteligencia artificial de sus resultados de búsqueda, luego de que una investigación periodística revelara que contenían información inexacta y potencialmente alarmante. El reporte, publicado por The Guardian , advirtió que los llamados “Resúmenes de IA”, visibles en recuadros de colores al inicio de la página, ofrecían datos incompletos sobre parámetros médicos.

Según el informe, al solicitar a la IA “rangos normales” de ciertos valores de salud, el sistema devolvía cifras fijas sin considerar variables básicas como sexo, edad, etnia o antecedentes médicos. Especialistas consultados señalaron que este tipo de respuestas, al carecer de contexto clínico, podía resultar riesgoso para los usuarios.

Suscríbete a nuestro canal de Telegram y lleva la información en tus manos.

¿Por qué Google eliminó algunos resúmenes de salud generados por IA?

Tras conocerse el informe, Google eliminó las consultas específicas identificadas como problemáticas y sostuvo que, en general, su sistema de resúmenes suele ser útil. Sin embargo, organizaciones de salud como el British Liver Trust detectaron que al reformular ligeramente las preguntas, la misma información incorrecta podía reaparecer en los resultados.

Este comportamiento evidenció dificultades para controlar de manera consistente el contenido generado por la IA, incluso después de aplicar correcciones puntuales.

¿Qué riesgos presentan los resúmenes de IA en búsquedas médicas?

Los resúmenes de IA se muestran en la parte superior de los resultados, por encima de enlaces a hospitales, instituciones médicas o revistas especializadas. Esta ubicación les otorga una apariencia de autoridad que puede influir en la percepción del usuario.

Expertos señalaron que los usuarios tienden a confiar en el primer resultado visible, aunque en este caso se trata de un sistema predictivo que no sustituye la evaluación médica ni el análisis contextual necesario en temas de salud.

¿Qué límites expone este caso en el uso de IA para información sanitaria?

El episodio puso de relieve las limitaciones actuales de la inteligencia artificial para abordar consultas médicas complejas. Si bien estas herramientas pueden ser útiles para tareas como resumir textos o planificar actividades, el manejo de información sanitaria requiere un nivel de precisión y contexto que aún representa un desafío.

Hasta que se establezcan controles más estrictos o mejoras en la comprensión contextual, los especialistas recomiendan priorizar fuentes médicas verificadas y profesionales de la salud para consultas clínicas.

adn Noticias. Te Hablamos con la verdad. Suscríbete a nuestro canal de WhatsApp y lleva la información en la palma de tu mano.

LO MÁS VISTO