Una paciente australiana, Rebecca Green, descubrió tras una operación de cálculos renales que el sistema de inteligencia artificial (IA) utilizado para transcribir su cita con un urólogo había inventado que ella consumía hongos psilacibina. La afirmación falsa, incluida en la carta postoperatoria enviada a su médico de cabecera, le generó una angustia enorme porque estaba tramitando una compensación laboral y temía que la mención de drogas ilegales en su historial clínico perjudicara su caso. Tras presentar una queja, la uróloga le envió una carta de disculpa y corrigió la documentación, aunque no aclaró cómo se produjo el error.
El caso ha sido revelado por la ABC mientras un informe de la organización Digital Rights Watch advertía de que los transcriptores de IA en consultas médicas australianas no están regulados y producen errores que pueden alterar decisiones clínicas, como asignar el pecho equivocado en un diagnóstico de cáncer de mama o atribuir epilepsia a un paciente. El Royal Australian College of GPs estima que el 40% de los médicos generales ya usa estas herramientas de forma regular. La Therapeutic Goods Administration (TGA) reconoce que algunos de estos productos podrían estar incumpliendo la ley y anuncia que publicará sus conclusiones en las próximas semanas, mientras Digital Rights Watch pide al nuevo AI Safety Institute que evalúe y certifique los transcriptores, siguiendo el modelo de Nueva Zelanda.