Chatbots: Nueva York podría limitar consejos médicos y legales

Un proyecto de ley en Nueva York, el Senado Bill S7263, podría prohibir que los chatbots ofrezcan asesoramiento “sustantivo” en áreas reguladas como medicina, derecho, ingeniería y salud mental. La legislación, que podría ser firmada por el gobernador, busca responsabilizar a los operadores de chatbots por respuestas incorrectas o dañinas, afectando tanto a grandes empresas como a organizaciones sin fines de lucro y agencias gubernamentales que utilizan chatbots para brindar información pública. El proyecto de ley, introducido en abril de 2025 y actualmente en proceso de aprobación, define como prohibido cualquier consejo que un profesional con licencia no podría dar legalmente en Nueva York. Una de las mayores preocupaciones es la falta de una definición clara de “sustantivo”, lo que podría llevar a demandas y limitar el acceso a información útil para personas que no pueden costear asesoramiento profesional. Además, la ley prohíbe las exenciones de responsabilidad, lo que obliga a los operadores a bloquear respuestas en lugar de advertir a los usuarios sobre las limitaciones de la IA. Se anticipa que la legislación generará una oleada de demandas, similar a lo observado en litigios por accesibilidad web, especialmente afectando a pequeñas empresas y organizaciones con menos recursos legales.