Stuart Russell critica la metáfora de la IA de Dario Amodei

Stuart Russell, profesor de la Universidad de California en Berkeley, critica la propuesta de Dario Amodei, CEO de Anthropic, de 'regular el ritmo' del desarrollo de la inteligencia artificial. Russell argumenta que la metáfora de la carrera de Fórmula 1, utilizada por Amodei para justificar un frenado temporal, es errónea. Según el experto, la seguridad no debe ser una condición posterior al progreso, sino un requisito previo e inamovible. Russell sostiene que, al igual que en la aviación, los nuevos sistemas solo deben lanzarse cuando cumplan con todas las certificaciones de seguridad, no que se espere que el tiempo extra permita alcanzarlas. La propuesta de Amodei, que incluye evaluadores de terceros y estándares comunes, busca evitar el riesgo de pérdida de control humano ante la IA superinteligente. Russell advierte que el riesgo actual de pérdida de control es inaceptablemente alto y que la industria debe detener el progreso si no puede garantizar la seguridad, en lugar de acelerar la carrera hacia un destino potencialmente catastrófico.