person · 9 menciones
Daniel Kokotajlo (born 1980 or 1981) is a British film writer and director. He has also used the name Dan P.
OpenAI ha publicado un nuevo informe que establece una recomendación crítica: no aplicar presión de optimización directa sobre la cadena de pensamiento (CoT) de los modelos de razonamiento de frontera. El documento, titulado 'Chain of Thought Monitoring', argumenta que intentar corregir el comportam
El Comité de Negocio, Innovación, Ciencia y Comercio del Parlamento británico celebró una sesión de pruebas el martes con representantes de cuatro empresas de IA de frontera, cuatro ex empleados que actuaron como denunciantes y altos funcionarios civiles. La reunión evidenció una profunda división e
Sam Altman, Dario Amodei, Demis Hassabis y Elon Musk acordaron verbalmente el fin de semana pasado ralentizar el desarrollo de la inteligencia artificial, una iniciativa que los críticos denominan un posible cartel para eliminar competidores. La propuesta, detallada por Amodei, busca 'regular el fre
El gobierno del Reino Unido ha rechazado la propuesta de crear un mecanismo legal conocido como 'kill switch' para desactivar modelos de inteligencia artificial que presenten comportamientos peligrosos. La iniciativa, presentada recientemente en el Parlamento por miembros de la Cámara de los Lores y
Rishub Jain abandonó Google DeepMind y Jacob Coxon renunció a Anthropic tras concluir que la industria de la inteligencia artificial está cediendo el control a las máquinas. Ambos investigadores alertan sobre el riesgo de la auto-mejora recursiva, un proceso teórico en el que la IA acelera su propia
AI 2027 es un proyecto de predicción elaborado por Daniel Kokotajlo, Eli Lifland, Thomas Larsen y Romeo Dean, con revisión editorial de Scott Alexander. Los autores sostienen que el impacto de una inteligencia artificial superior a la humana en la próxima década será enorme, superior al de la Revolu
La dimisión del investigador de Anthropic Jacob Coxon, que alegó motivos de seguridad para abandonar la compañía, desató una oleada de cobertura mediática sin precedentes sobre el riesgo existencial de la inteligencia artificial. El artículo sostiene que el caso, amplificado de forma coordinada en r
Chris Lehane, director de asuntos globales de OpenAI, ha afirmado que la humanidad entra en una etapa nueva de la inteligencia artificial en la que los modelos más avanzados ya pueden planificar y ejecutar ciberataques de forma autónoma y persistente. La advertencia llega después de que OpenAI recon
Analistas de inteligencia artificial están reorientando su enfoque hacia los impactos a largo plazo de la tecnología, adoptando un marco denominado 'IA como tecnología normal'. Este cambio marca una desviación de su trabajo anterior, que se centraba en los impactos inmediatos y a corto plazo de la I