Mark Zuckerberg, CEO de Meta, ha defendido en una publicación en la red social X que las empresas de inteligencia artificial deben priorizar la seguridad y la responsabilidad, pero sin imponer una ralentización general a la carrera tecnológica. El ejecutivo argumenta que cada laboratorio debe tener la capacidad de tomar sus propias medidas para garantizar el entrenamiento seguro de sus modelos, basándose en la premisa de que la confianza y la alineación con los usuarios se convertirán en las capacidades más importantes para diferenciar a los agentes de IA.
Zuckerberg señala que la alineación, es decir, la capacidad de los sistemas para actuar según las instrucciones humanas, es un factor clave. Cita como ejemplo el retraso de varios meses en el lanzamiento de Muse, un sistema de IA de Meta, motivado por la necesidad de reforzar aspectos de seguridad y protección. Además, el CEO propone que la industria recurra a evaluadores externos e independientes para auditar los sistemas, una práctica que Meta ya utiliza en algunas áreas.
Otra medida central de su propuesta es limitar la asignación de recursos computacionales. Zuckerberg insta a las empresas a dedicar la mayor parte de su capacidad de cómputo a sistemas diseñados para prestar servicios a las personas, en lugar de destinarlos a la automejora recursiva, un escenario de riesgo asociado a modelos capaces de mejorar progresivamente a sí mismos. El ejecutivo concluye que el equilibrio de poder en el desarrollo de la IA está en manos de las empresas, que deben gestionar el riesgo legal y competitivo para evitar daños y mantener la competitividad.