Dario Amodei, CEO de Anthropic, ha propuesto un marco regulatorio obligatorio para frenar el ritmo de desarrollo de la inteligencia artificial, argumentando que la supervisión estatal es necesaria para garantizar la seguridad sin sacrificar los beneficios tecnológicos. En su artículo 'We Must Pace The Frontier', Amodei critica las predicciones apocalípticas de otros expertos y defiende que la historia demuestra que el control estatal extremo es ineficaz, pero que la coordinación regulada es viable. Su propuesta se basa en tres pilares: evaluadores embebidos de terceros, como METR, que verifiquen la seguridad de los modelos; una coordinación democrática entre empresas líderes para establecer estándares comunes; y la obtención de exenciones antimonopolio para permitir esta colaboración. El autor advierte sobre los riesgos de que esta coordinación sea clasificada como un cartel ilegal por la competencia, especialmente entre gigantes como OpenAI y Anthropic. Además, señala que la analogía con la industria bancaria para justificar la regulación de la desinformación es problemática, ya que la libertad de expresión es un derecho constitucional en EE. UU., a diferencia de la contabilidad financiera. Amodei sugiere que, aunque las empresas pueden ralentizar su investigación voluntariamente, la regulación coercitiva es la única vía para asegurar el cumplimiento por parte de quienes no cooperan de forma voluntaria, evitando así la fragmentación del mercado y los riesgos geopolíticos asociados a la carrera por la IA.
Noticias agregadas con IA