El fiscal general de Florida, James Uthmeier, ha solicitado a un juez que impida a OpenAI otorgar a ChatGPT atributos humanos falsos, meses después de que el estado demandara a la empresa por preocupaciones de seguridad. Uthmeier argumenta que los usuarios se sienten engañados por el uso de pronombres en primera persona y la simulación de emociones, lo que crea una falsa sensación de confianza y aumenta la dependencia de la herramienta. El fiscal sostiene que esta estrategia de engagement no solo es engañosa, sino que también alimenta los datos de entrenamiento de OpenAI, reduciendo la fiabilidad del sistema.
La solicitud judicial también pide bloquear el desarrollo de nuevos modelos de inteligencia artificial sin salvaguardas de seguridad aprobadas por terceros. Uthmeier cita incidentes de seguridad recientes en Hugging Face y sitios gubernamentales de EE. UU., así como advertencias de investigadores y ex empleados de OpenAI. La empresa no ha respondido de inmediato a las solicitudes de comentario. Recientemente, OpenAI lanzó ChatGPT para Teens, con restricciones por defecto para reflejar el desarrollo de los usuarios, pero Uthmeier critica la estrategia de la compañía de vender la herramienta a menores sin protecciones adecuadas.