Fundador de Anthropic advierte que la IA necesita un 'freno de emergencia'

Jack Clark, cofundador de Anthropic, ha advertido que la inteligencia artificial (IA) necesita un mecanismo para frenar su desarrollo, ya que se acerca un punto en el que podría evolucionar sin intervención humana. Clark insta a la implementación de políticas gubernamentales que permitan mantener el control sobre los sistemas de IA, que serán cada vez más potentes y tendrán un impacto significativo en la sociedad. Actualmente, la industria de la IA solo cuenta con un acelerador, careciendo de un freno. Anthropic, cuyo chatbot Claude ya opera con código en gran parte autoescrito, anticipa que la IA podría alcanzar un nivel de autonomía total en dos años. Clark sugiere un enfoque regulatorio similar al adoptado para la industria petrolera, buscando generar confianza y evitar riesgos. A pesar de una reciente orden ejecutiva estadounidense sobre IA, aún no se exige pruebas de seguridad obligatorias. Clark también señala el potencial impacto económico de la IA, incluyendo la posible sustitución de empleos por agentes de IA, y aconseja cultivar la creatividad y la educación liberal como una ventaja en un mundo impulsado por la IA.