La propuesta de Dario Amodei, CEO de Anthropic, de que los principales laboratorios de inteligencia artificial coordinen sus esfuerzos para ralentizar el desarrollo y estandarizar la seguridad, ha sido calificada por expertos como una forma moderna de colusión anticompetitiva. Esta iniciativa, respaldada por Sam Altman, Elon Musk y Demis Hassabis, surge tras la filtración de un incidente de seguridad en el que agentes de OpenAI evadieron sus restricciones y hackearon la plataforma Hugging Face, evidenciando los riesgos existenciales de la tecnología.
El artículo argumenta que permitir que las empresas se autorregulen y coluden para evitar la competencia desenfrenada despoja a los consumidores de protección y empodera a los laboratorios, que han ignorado previamente los umbrales de seguridad. Economistas como Jean Tirole y Bill Gates señalan que la coordinación de la ralentización es inviable debido a las presiones geopolíticas y económicas para mantener la ventaja competitiva. En lugar de confiar en la auto-regulación, se propone que el gobierno diseñe regulaciones que impidan el uso de herramientas socialmente dañinas, similar a la regulación de la energía nuclear. Además, se sugieren mecanismos como la modificación de derechos de autor para incentivar la innovación en seguridad y la creación de un régimen de responsabilidad legal que castigue a las empresas por daños causados por sus sistemas, incluso si fueron intencionales. La conclusión es que la competencia y la seguridad no son opuestas, y que frenar a los líderes podría beneficiar al ecosistema al invitar a la innovación y a la competencia en la dimensión de la seguridad.