La compañía de inteligencia artificial Anthropic, creadora del asistente Claude, asegura haber detectado y bloqueado durante el presente año varios intentos de utilizar sus modelos de lenguaje para desarrollar armas biológicas. Según informó este jueves la empresa californiana en un informe público, en algunos de esos casos no fue posible determinar si los usuarios perseguían fines legítimos o maliciosos, por lo que optó por interrumpir el acceso ante el riesgo de que sus herramientas pudieran contribuir a la creación de patógenos peligrosos.
El documento, divulgado en un momento de creciente inquietud en el sector tecnológico por el llamado uso dual de la inteligencia artificial, reconoce sin embargo una limitación importante: "Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real". Es decir, la empresa puede acreditar que sus modelos serían técnicamente capaces de asistir en ese tipo de tareas, pero no que esos conocimientos se hayan traducido efectivamente en acciones concretas.
Hasta la fecha, la propia Anthropic ha negado tener constancia de que ninguna otra empresa privada del sector haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas", lo que sitúa a esta compañía como la primera gran laboratorio en hacer pública una advertencia de estas características.
Además de los intentos vinculados al ámbito biológico, Anthropic publicó una lista más amplia de casos detectados en los últimos ocho meses en los que sus modelos, incluido el chatbot Claude, fueron empleados de manera indebida. Entre los países donde se localizaron estos usos figuran China, Rusia e Yemen, tres naciones que han sido objeto de preocupación recurrente por parte de gobiernos occidentales y organizaciones de control de armamento. La compañía no facilitó detalles operativos sobre los métodos empleados para rastrear esos intentos ni sobre el perfil de los usuarios involucrados.
El informe llega en un contexto de debate creciente entre expertos y reguladores sobre los riesgos derivados de la autonomía cada vez mayor de los sistemas de inteligencia artificial. La capacidad de los modelos avanzados para asistir en investigaciones complejas, desde el plegamiento de proteínas hasta la síntesis de ácidos nucleicos, preocupa a un sector de la comunidad científica y tecnológica, que advierte de que las mismas herramientas que aceleran descubrimientos médicos pueden ser utilizadas con fines dañinos.
Para hacer frente a esa amenaza, Anthropic asegura haber desarrollado sistemas de detección específicos capaces de identificar patrones de uso que puedan entrañar riesgo biológico y bloquearlos de forma automática. No obstante, la propia compañía asume que la eficacia de estas barreras depende en buena medida de la cooperación con gobiernos y organizaciones internacionales, un terreno en el que todavía no existen marcos regulatorios armonizados a escala global.
Analistas del sector consultados coinciden en señalar que la divulgación de este tipo de informes responde a una doble motivación: por un lado, reforzar la confianza de reguladores y usuarios en la capacidad de autorregulación de la industria; por otro, presionar a competidores y legisladores para que se adopten estándares comunes de seguridad. La decisión de Anthropic de hacer públicos los casos detectados marca un precedente en la transparencia del sector, aunque también plantea interrogantes sobre la verificación independiente de esos datos.
En definitiva, aunque Anthropic sostiene que ningún intento llegó a materializarse en una amenaza real y que sus sistemas de detección funcionaron según lo previsto, la compañía reconoce implícitamente que la frontera entre el uso legítimo y el malicioso de la inteligencia artificial en el ámbito biológico es cada vez más difusa. Queda por ver si esta advertencia se traduce en una regulación más estricta del sector y si otros laboratorios seguirán el ejemplo de hacer públicos sus propios casos de uso indebido.