Te contamos qué errores no debes cometer cuando haces consultas de salud a una IA.
¿Te dolió la cabeza después de una maratón de videojuegos nocturna y lo primero que hiciste fue abrir un chat con una IA para preguntar qué tenías? No eres el único. Muchos pasamos el día pegados a las pantallas y se nos hace muy fácil pedirle un diagnóstico a una máquina que consultar con un doctor.
El problema es que la inteligencia artificial generativa se ha convertido en el nuevo “Doctor Google”, una tendencia alimentada por gigantes tecnológicos que lanzaron herramientas como Copilot Health, ChatGPT Health y Amazon’s HealthAI para ayudarnos a interpretar exámenes o síntomas. Sin embargo, hacer consultas de salud a una IA tiene riesgos ocultos que van mucho más allá de un simple dato equivocado.
Más sobre ciberseguridad: Ciberestafas en tiempos del mundial: las amenazas más peligrosas para los hinchas
¿Vale la pena confiarle tu bienestar a un algoritmo que no duerme pero tampoco tiene licencia médica? Te vamos a explicar por qué usar la IA para jugar al autodiagnóstico digital te puede salir muy caro.
El peligro real de las consultas de salud a una IA
Las consultas de salud a una IA conllevan riesgos críticos como las alucinaciones de código o diagnósticos erróneos, sumado a la exposición de la privacidad de datos médicos. Al no estar reguladas por normas como HIPAA (Ley de Portabilidad y Responsabilidad de Seguros Médicos), estas herramientas de inteligencia artificial generativa pueden filtrar información privada a ciberdelincuentes o intermediarios comerciales.
No se trata de paranoia digital. De hecho, el mal uso de los chatbots es actualmente el principal riesgo tecnológico en salud, según una organización de seguridad del paciente en EE. UU. Los sistemas nacionales de salud están saturados y la disponibilidad 24/7 de un bot con tono seguro tranquiliza a cualquiera, pero esa confianza es un arma de doble filo.
Un estudio de la Universidad de Oxford publicado en Nature Medicine descubrió que los usuarios reciben respuestas totalmente distintas si cambian levemente una pregunta. “Los pacientes deben ser conscientes de que preguntarle a un modelo de lenguaje sobre sus síntomas puede ser peligroso, generar diagnósticos erróneos y no reconocer cuándo se necesita ayuda urgente”, afirmó la doctora Rebecca Payne, autora principal del estudio.
Otros datos sobre IA: Futuro Desierto, la atrapante serie de Netflix sobre la Inteligencia Artificial y los Androides
¿Es seguro usar ChatGPT para diagnosticar enfermedades?
No, no es seguro. Los chatbots sufren de alucinaciones de IA, lo que significa que inventan datos médicos con un tono de absoluta certeza.
Tus datos clínicos: el botín perfecto en la red
Si le cuentas al bot detalles de tu historial, esa información podría usarse para entrenar al modelo de lenguaje. Esto significa que tus síntomas o registros podrían aparecer en las respuestas de otros usuarios. Aunque las herramientas especializadas prometen no usar tus chats para entrenarse, el verdadero dolor de cabeza es el intercambio de información con terceros.
Tus datos pueden terminar en manos de agregadores comerciales o anunciantes. Aunque se supone que se anonimizan, el riesgo no desaparece. Al circular por tantas empresas, la probabilidad de que caigan en manos de ciberdelincuentes se dispara. De hecho, legisladores estadounidenses identificaron pérdidas por 21.000 millones de dólares vinculadas a brechas de seguridad en empresas de intermediación de datos.
“El riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital”
Mario Micucci, Investigador de Seguridad Informática de ESET Latinoamérica.
Para los atacantes, un historial médico es oro puro y mantiene su valor en el tiempo, pues sirve para ejecutar extorsiones o permite tramitar fraudes de seguros. “El desafío es que la mayoría de las herramientas de IA para salud no están reguladas por HIPAA, ya que se consideran servicios para consumidores y no de nivel empresarial”, destaca Micucci.
Ottos tips de cibersegurdad: Cinco pecados capitales que permiten el robo de tu WhatsApp
¿Qué pasa con mis datos médicos si los subo a una IA?
Tus datos pueden almacenarse, usarse para entrenar algoritmos o compartirse con intermediarios comerciales, quedando vulnerables a filtraciones y ataques informáticos.
Guía rápida para no regalar tu privacidad
Para reducir la exposición, los expertos de ESET recomiendan evitar herramientas de propósito general y usar solo aplicaciones diseñadas específicamente para el sector salud, revisando siempre sus políticas de privacidad.
Si vas a interactuar con un bot, aplica este protocolo de seguridad:
- Cero documentos: Nunca subas resultados de laboratorio ni recetas médicas escaneadas.
- Anonimato total: Evita escribir nombres, direcciones o datos de tu seguro de salud.
- Capado de historial: Desactiva manualmente las funciones de entrenamiento en los ajustes del chat.
- Minimiza el texto: Comparte solo los síntomas generales indispensables para la consulta.
- Asume el peor escenario: Escribe pensando en que lo que pones podría quedar expuesto en la red.
“No tomes una respuesta con tono seguro como un diagnóstico, y no ignores síntomas urgentes porque una máquina haya sonado tranquilizadora”
Mario Micucci de ESET.
Una cosa es usar la IA para preparar las preguntas que le harás a tu doctor, y otra muy distinta es usarla como sustituto del especialista. El código no reemplaza al estetoscopio.
¿Sabías que?
El término “alucinación” en la inteligencia artificial no es una metáfora moderna. Fue acuñado formalmente en el ámbito de la computación a principios de la década de 2000 durante los primeros desarrollos de traducción automática y reconocimiento de imágenes, cuando los investigadores notaron que las redes neuronales generaban patrones visuales o palabras que no existían en absoluto en el archivo de origen, comportándose literalmente como un cerebro bajo efectos psicotrópicos.
