Expertos alemanes critican la propuesta de pausa de Anthropic en IA

La propuesta de Dario Amodei, de Anthropic, de implementar una pausa de uno a dos años en el desarrollo de modelos de inteligencia artificial ha generado una reacción dividida en la comunidad académica alemana. Mientras que algunos expertos, como Silja Vöneky, consideran la idea necesaria para frenar riesgos extremos, otros la critican por ignorar el marco legal existente y por ser una solución de 'auto-regulación' ineficaz. Björn Ommer, de la Universidad de Múnich, señala que el riesgo real no es la extinción humana, sino el mal uso de sistemas actuales por actores maliciosos. Kristian Kersting, de la Universidad Técnica de Darmstadt, argumenta que la propuesta de Amodei de contratar evaluadores internos y usar a METR para justificar la pausa es una 'autocertificación' con etiqueta de seguridad, no una regulación democrática. Además, el virologista Simon Wain-Hobson advierte sobre los intentos de ocultar la identidad de investigadores que usan IA para desarrollar armas biológicas, exigiendo la publicación de estos trabajos en revistas especializadas. La mayoría de los expertos coinciden en que los riesgos existenciales inmediatos son poco probables debido a la centralización de la tecnología, pero abogan por una regulación estatal más estricta y la detención de riesgos concretos como los ciberataques a infraestructuras críticas.