Jack Clark, cofundador de Anthropic, ha argumentado ante la BBC que la implementación de un 'interruptor de apagado' (kill switch) para software de inteligencia artificial debería ser obligatoria para las empresas. Esta medida permitiría a terceros verificar la capacidad de detener completamente el sistema si se detecta un riesgo inaceptable. Clark señaló que, aunque la mayoría de los laboratorios de IA ya cuentan con mecanismos internos para 'cortar la corriente', la regulación legislativa podría exigir la verificación externa de estas funciones.
La discusión se enmarca en un debate creciente sobre los riesgos existenciales de la IA, tras las advertencias recientes de ejecutivos de la industria. Dario Amodei, CEO de Anthropic, ha instado a ralentizar el desarrollo de la tecnología para mejorar la supervisión, mientras que el científico Evan Hubinger, quien abandonó la empresa por preocupaciones similares, estimó que la probabilidad de extinción humana por IA supera el 10% en la próxima década. Geoffrey Hinton, ganador del Premio Nobel de Física, calificó esta probabilidad como 'no desproporcionada'.
En contraste, figuras como George Arison, de Grindr, y Clement Delangue, de Hugging Face, han cuestionado la magnitud de estos riesgos, sugiriendo que se utilizan para generar hype o justificar valoraciones bursátiles. La compañía Anthropic, valorada en 965.000 millones de dólares, se prepara para su oferta pública inicial, mientras que OpenAI ha retrasado su lanzamiento por la controversia de seguridad. En Estados Unidos, el Congreso ha presentado la 'Kill Switch Act', aunque el presidente Donald Trump ha rechazado las medidas de control, calificando las preocupaciones de extinción como un 'falso' y comparándolas con el 'fraude del cambio climático'.