Healthwatch England, el defensor estatutario de los pacientes en el NHS, ha advertido de que los secretarios clínicos basados en inteligencia artificial, que transcriben consultas médicas, cometen errores con los nombres de medicamentos y enfermedades, lo que puede poner en riesgo a los pacientes. En un caso, una profesional sanitaria recibió un resumen que afirmaba erróneamente que padecía desmielinización, un daño nervioso grave asociado a la esclerosis múltiple; el error, identificado por ella misma, se debió a una confusión del sistema entre "demielinización" y "null demyelination" (sin desmielinización). En otra consulta, el programa confundió el fármaco recetado por el médico de cabecera con otro de nombre similar. En un tercer episodio, una carta generada automáticamente omitió la indicación de renovar una receta contra la migraña.
Según Healthwatch, los profesionales sanitarios no detectan estos fallos en muchas ocasiones, por lo que podrían acabar incorporados al historial clínico. La alerta coincide con el plan decenal del Gobierno británico, que promueve el uso masivo de estas herramientas para reducir la burocracia, y con la decisión de la Agencia Reguladora de Medicamentos y Productos Sanitarios de no clasificarlas como dispositivos médicos, lo que dejará a Inglaterra sin una supervisión nacional específica. Investigadores de la Universidad de Uppsala y médicos como la doctora Shier Ziser Dawood han documentado además "alucinaciones" del sistema y dudas sobre su fiabilidad, aunque más de la mitad de los 1.003 médicos de cabecera encuestados en el Reino Unido consideran sus notas más precisas que las escritas a mano.