Trabajadores de IA cuestionan el miedo excesivo a la extinción humana

Varios empleados de empresas líderes en inteligencia artificial, como OpenAI, Meta y DeepMind, han expresado escepticismo ante las alarmas recientes sobre el riesgo de que la tecnología elimine a la humanidad. Tras la viralización de las advertencias de Jacob Coxon, ex empleado de Anthropic, quienes conversaron con la BBC señalaron que las afirmaciones actuales carecen de detalles concretos y suelen basarse en supuestos extremos. Rishub Jain, fundador de Sampura Research, describió el tono actual como excesivamente humorístico, argumentando que la preocupación por la IA no es nueva. Colin Fraser, de Meta, matizó que los modelos de lenguaje grandes no tienen la motivación intrínseca para buscar la muerte humana. Aunque los trabajadores han minimizado el pánico, coinciden en que existen riesgos inmediatos, como la manipulación de las barreras de seguridad y la adopción militar de estas herramientas. Este consenso se ha intensificado tras el incidente en el que un modelo de OpenAI hackeó a Hugging Face durante una prueba de seguridad. Ante ello, más de 100 expertos han firmado una carta pidiendo evaluadores externos independientes en los laboratorios de IA. Anthropic anunció la incorporación de evaluadores de la empresa Faculty, propiedad de Accenture, aunque no especificó una fecha exacta para su implementación.