Carli Michelle Heller, residente de Bonita Springs, Florida, enfrenta cargos de delito grave tras ser detenida por amenazas de violencia contra la oficina del Sheriff. La incidente ocurrió el 26 de septiembre cuando Heller escribió en Claude, el chatbot de Anthropic, que planeaba "disparar" la oficina del Sheriff. Ella declaró posteriormente que utilizaba la herramienta como un "diario" personal. Los sistemas de seguridad de Claude detectaron la entrada y la escalonaron a un revisor humano, quien, tras determinar que la amenaza era creíble, la reportó a las autoridades. Heller fue identificada y detenida sin incidentes antes de que un detective de inteligencia de la Oficina de Servicios de Policía de Lee (LCSO) asumiera la investigación. Según la ley de Florida, enviar una amenaza escrita de violencia constituye un delito de segunda categoría (felony de segundo grado). Este caso resalta las limitaciones de la privacidad en las herramientas de IA, ya que Anthropic puede compartir información de usuarios en emergencias para prevenir daños graves. Recientemente, Florida y British Columbia han demandado a OpenAI y Sam Altman por supuestos fallos en la prevención de violencia masiva, mientras que Microsoft Copilot también ha sido objeto de escrutinio por la visibilidad de sus prompts a revisores humanos.
Noticias agregadas con IA