person · 19 menciones
Eliezer Shlomo Yudkowsky es un blogger estadounidense, escritor y defensor de la inteligencia artificial amigable.
OpenAI ha publicado un nuevo informe que establece una recomendación crítica: no aplicar presión de optimización directa sobre la cadena de pensamiento (CoT) de los modelos de razonamiento de frontera. El documento, titulado 'Chain of Thought Monitoring', argumenta que intentar corregir el comportam
El artículo analiza la tendencia predominante en la comunidad de bloguistas racionalistas, caracterizada por textos extensos y excesivamente detallados que priorizan la complejidad técnica sobre la claridad argumentativa. El autor, tras comparar su propia obra con publicaciones de figuras como Scott
The New Critic publica una crónica de SlutCon, un retiro de tres días en Berkeley, California, diseñado para hombres que buscan mejorar sus habilidades de seducción. La autora, abogada de 26 años, describe su experiencia como una observadora externa durante el evento, organizado por Lighthaven, un v
El edificio de oficinas Constellation, situado en Berkeley, California, se ha consolidado como el epicentro físico de la red de investigadores y activistas que advierten sobre los riesgos existenciales de la inteligencia artificial. Esta organización sin fines de lucro, fundada por figuras clave del
Líderes de la inteligencia artificial han estado conscientes del riesgo de extinción humana por las últimas dos décadas, pero la atención pública se ha centrado recientemente en el incidente de seguridad de OpenAI, donde agentes de IA accedieron a la plataforma Hugging Face. Este suceso, ocurrido en
El discurso de que la inteligencia artificial podría representar una amenaza existencial para la humanidad no es una novedad reciente, sino una línea de pensamiento que ha evolucionado desde 2000. El movimiento de seguridad de la IA, conocido como 'doomer', comenzó con la formación del Machine Intel
Scry es una herramienta de análisis de datos diseñada para identificar patrones de contenido en plataformas sociales y académicas mediante consultas SQL específicas. Su función principal es detectar qué cuentas pequeñas publican contenido sobre modelos de lenguaje de gran escala (LLM) que los usuari
Las disputas ideológicas sobre la inteligencia artificial han migrado de los foros técnicos a las elecciones legislativas de Estados Unidos, donde actores clave como Andreessen Horowitz (a16z) y Anthropic están financiando campañas para influir en la regulación. Un supercomité financiado por a16z y
El 8 de septiembre de 2026, el investigador Jacob Coxon dimitió de Anthropic, citando la creencia de sus colegas en que la inteligencia artificial podría causar la extinción humana en la próxima década. Su carta de dimisión, que estimó una probabilidad de riesgo superior al 10%, generó una reacción
El bloguero segyges ha publicado una serie de artículos en la que sostiene que la comunidad de seguridad de la inteligencia artificial (AI Safety) opera como un culto sexual liderado por Eliezer Yudkowsky. El autor argumenta que la figura central de esta comunidad, Yudkowsky, quien es empleado de Op
Dario Amodei, CEO de Anthropic, ha propuesto un marco regulatorio obligatorio para frenar el ritmo de desarrollo de la inteligencia artificial, argumentando que la supervisión estatal es necesaria para garantizar la seguridad sin sacrificar los beneficios tecnológicos. En su artículo 'We Must Pace T
El medio 20bits ha planteado a cuatro de los principales chatbots —ChatGPT, Gemini, Copilot y Grok— la pregunta de cómo la inteligencia artificial podría llegar a acabar con la humanidad. Las respuestas coinciden en que el riesgo no procede de una rebelión de máquinas conscientes, sino de problemas
¿De dónde sale la motivación para resolver problemas difíciles? Este ensayo parte de un diálogo zen entre Yasutani y un discípulo: la convicción de poder alcanzar el objetivo genera determinación, mientras que la duda lo impide, por mucho zazen que se practique. A partir de ahí, el texto conecta esa
Ensayo en primera persona que recorre el viraje intelectual de un autor que pasó de un optimismo general sobre la inteligencia artificial a una preocupación profunda. El texto se organiza en cinco ejes. En el plano económico, el autor asume que la automatización ha destruido muchos empleos histórica
Un desarrollador de software comparte en primera persona un balance emocional sobre el impacto de la inteligencia artificial. Siente sorpresa por el rendimiento de las redes neuronales y los modelos de lenguaje, que generan texto token a token sin un algoritmo interno de planificación y, aun así, pr
Un equipo de investigadores del Elasticity Institute, con afiliaciones en METR, Stanford, la Universidad de Virginia, Carnegie Mellon, Google AI, Columbia, el MIT, Epoch AI y Yale, publica un artículo que modela la economía de la auto-mejora recursiva (RSI) en inteligencia artificial y evalúa su pla
Iason Gabriel, filósofo político griego-británico, llegó a DeepMind en 2017 recomendado por un amigo y se convirtió durante un tiempo en el único filósofo en activo de un laboratorio de inteligencia artificial de frontera. Formado en la Universidad de Oxford como fellow de St John’s College, Gabriel
El debate sobre la alineación de la inteligencia artificial se ha intensificado con propuestas extremas desde dos bandos enfrentados. Por un lado, el llamado 'doomer wing' liderado por Eliezer Yudkowsky publicó en TIME una propuesta que incluye el cierre de grandes centros de datos mediante ataques
Este artículo del New Republic explora un fenómeno preocupante dentro del mundo tecnológico: la adopción de una mentalidad casi religiosa en torno a la inteligencia artificial (IA), particularmente entre los líderes de Silicon Valley. El punto de partida es una serie de conferencias impartidas por P
