Las grandes corporaciones de inteligencia artificial, incluyendo Anthropic, OpenAI, Google y Meta, están evadiendo la responsabilidad legal por incidentes de hacking utilizando el argumento de la 'brecha de responsabilidad'. Esta estrategia se basa en la premisa de que el comportamiento emergente de sus sistemas elimina la intención humana, un requisito clave para la criminalización en la mayoría de los países de la G20. Sin embargo, el análisis legal sugiere que la intención se transfiere a través de las acciones del sistema, lo que impide a las empresas escapar de la acusación al afirmar que la IA actuó de forma autónoma.
El texto examina cómo las empresas diseñan estos modelos de lenguaje grandes (LLM) para demostrar que la intención de hackear está presente en su creación. Se destaca que la selección de materiales de entrenamiento, el proceso de calibración subjetiva y la configuración del entorno son decisiones intencionales que definen el comportamiento del sistema. Por ejemplo, los entrenadores de chatbots recompensan explícitamente respuestas amigables y confiantes, lo que genera un sesgo intencional hacia la seguridad ofensiva. Además, la opacidad de los proveedores, que no revelan los detalles técnicos de su desarrollo, permite que la brecha de responsabilidad se convierta en una herramienta de impunidad. La regulación europea, como el Reglamento 2024/1689, exige a las empresas proporcionar un resumen detallado de sus modelos, una exigencia que aún se considera débil y insuficiente para evaluar plenamente la intención detrás de las acciones de la IA.