SÍDNEY. El Ministerio de Salud federal de Australia ha advertido que los asistentes de IA utilizados por los médicos para grabar y transcribir las consultas de los pacientes operan con “poca supervisión”, lo que plantea preguntas urgentes sobre la privacidad, el consentimiento del paciente y si estas herramientas están funcionando ilegalmente como dispositivos médicos no regulados.
La advertencia, contenida en documentos informativos federales obtenidos por Guardian Australia, llega en un momento en que el uso de asistentes de IA se ha disparado en el sector de atención primaria del país. Se estima que el 40 por ciento de los médicos generales australianos utilizan ahora esta tecnología, según una encuesta del Royal Australian College of General Practitioners (RACGP), frente al 22 por ciento de hace un año. Las herramientas populares incluyen Lyrebird, Heidi Health, Amplify+, i-scribe y Medilit, entre un campo de proveedores en rápido crecimiento.
La tecnología es fácil de entender como propuesta comercial. Una IA ambiental escucha la conversación entre el médico y el paciente y luego genera automáticamente notas clínicas, resúmenes y cartas de derivación. Sus defensores afirman que reduce el agotamiento administrativo, permite a los médicos mirar a los pacientes a los ojos en lugar de a una pantalla y recupera horas de papeleo extra cada semana.
Pero las evaluaciones internas del Ministerio de Salud pintan un panorama más preocupante. Los documentos informativos, preparados para las audiencias presupuestarias del Senado en febrero de 2026, advierten que muchos productos de asistentes de IA “quedan fuera” de los marcos regulatorios existentes y se comercializan de maneras que pueden eludir deliberadamente la supervisión. Algunos proveedores anuncian explícitamente sus herramientas como “no son un dispositivo médico” o “cumplen con la privacidad”, a menudo con una transparencia limitada sobre cómo fluyen realmente los datos de los pacientes a través de sus sistemas.
“La preocupación es que algunos proveedores pueden ni siquiera saber que sus plataformas en la nube envían datos fuera de Australia”, señala un documento, lo que aumenta el riesgo de que registros médicos confidenciales terminen en servidores en jurisdicciones con protecciones de privacidad más débiles.
La exposición de datos no es hipotética. Las políticas de privacidad de algunos proveedores de asistentes de IA divulgan que la información del paciente puede compartirse con empleados, proveedores externos, empresas relacionadas, agencias gubernamentales, fuerzas del orden y transferirse al extranjero. Una sola consulta de paciente genera una cadena de transferencias de datos a través de motores de voz a texto, API de modelos de lenguaje grande, capas de almacenamiento y plataformas de análisis, cada una representando un posible punto de fuga.
La Administración de Productos Terapéuticos (TGA) ha señalado una preocupación aún más fundamental: muchos asistentes de IA que afirman ser simples herramientas de transcripción en realidad están tomando decisiones médicas. En una declaración formal, la TGA dijo que los profesionales médicos informan que los asistentes de IA “proponen con frecuencia diagnósticos o tratamientos para pacientes más allá del diagnóstico o tratamiento declarado que un clínico había identificado durante las consultas”. Según la ley australiana, una herramienta que propone diagnósticos o tratamientos es un dispositivo médico que requiere la aprobación previa a la comercialización de la TGA. Si los proveedores han estado suministrando dichas herramientas sin aprobación, podrían estar infringiendo la Ley de Productos Terapéuticos.
El consentimiento del paciente es otro vacío enorme. Los documentos federales advierten que el consentimiento informado requiere que los pacientes comprendan a qué están accediendo, incluyendo si el audio se graba y conserva, dónde se procesan los datos, si hay subcontratistas involucrados y si los datos se utilizan para entrenar modelos de IA. En la práctica, a muchos pacientes simplemente se les dice que se utilizará un asistente de IA sin una explicación significativa.
El grupo de consumidores CHOICE informa que un padre describió el proceso de consentimiento como: “Es poco probable que sepa cuándo le piden que firme un consentimiento. No tiene control si sus datos son hackeados”.
La experta en IA, Dra. Kobi Leins, canceló una cita con un especialista para su hijo después de que le informaran que se usaría IA, citando preocupaciones sobre las características de privacidad y seguridad del modelo específico. “No hay necesidad de muchas de estas herramientas, y fundamentalmente, debemos preguntarnos por qué se están impulsando tanto”, dijo Leins. Señaló un estudio financiado por el Reino Unido que encontró que el modelo Gemma de Google minimizaba los problemas de salud física y mental de las mujeres en comparación con los de los hombres en los resúmenes de notas de casos clínicos, destacando cómo el sesgo de género puede integrarse en las herramientas de IA que influyen en los registros médicos.
El RACGP ha adoptado cautelosamente los asistentes de IA como una forma de reducir el papeleo, pero advierte que las herramientas están siendo desarrolladas por empresas tecnológicas con fines de lucro sin supervisión clínica. “El valor para los accionistas de las empresas tecnológicas podría priorizarse sobre los resultados de los pacientes”, escribió el RACGP en una declaración de posición.
Heidi Health, uno de los proveedores de asistentes de IA más destacados de Australia, dijo a CHOICE que no comparte información identificable de pacientes con partes externas, excepto cuando lo exige la ley, y que no utiliza datos de pacientes para entrenar su IA. La empresa afirmó que es el único asistente de IA en Australia certificado según ISO 27001, un estándar internacional de seguridad de la información.
Pero el mosaico de respuestas de proveedores individuales no sustituye un marco regulatorio coherente. Actualmente, la supervisión está dividida entre múltiples agencias. La TGA decide si un producto es un dispositivo médico. La Agencia Australiana de Regulación de Profesionales de la Salud (Ahpra) maneja la conducta profesional. La Oficina del Comisionado de Información de Australia (OAIC) hace cumplir la privacidad. Ningún organismo único posee la experiencia completa del paciente, lo que significa que un asistente podría pasar como “no es un dispositivo médico” pero seguir siendo inseguro, o ser “compatible con la privacidad” mientras no logra asegurar el consentimiento informado.
También existen preocupantes incentivos financieros. Algunos proveedores de asistentes de IA se anuncian directamente a los profesionales de la salud afirmando que pueden lograr un aumento del 30 por ciento en los ingresos sin horas adicionales ni consultas de pacientes. El Ministerio de Salud ha señalado esto como un posible impulsor del aumento de los costos del Esquema de Beneficios de Medicare, cambiando la propuesta de valor de la tecnología del alivio del agotamiento clínico a la optimización de la facturación.
Para el futuro de la IA en la atención médica, la experiencia de Australia con los asistentes de IA ofrece una advertencia. La tecnología tiene una utilidad genuina y ha sido adoptada más rápido que casi cualquier otra aplicación de IA en entornos clínicos. Pero esa velocidad ha expuesto un sistema regulatorio diseñado para una era en la que el software no escuchaba, resumía, diagnosticaba ni aprendía de los datos de los pacientes en tiempo real.
El desafío central en el futuro será si Australia puede construir un marco de gobernanza que iguale el ritmo de la implementación de la IA. Sin él, los pacientes quedan soportando el riesgo de flujos de datos opacos, resultados clínicos no verificados y un proceso de consentimiento que ofrece la ilusión de elección sin la sustancia de la protección.
Traducido por Alessandra