Thomas Nagel, filósofo emérito de la Universidad de Nueva York, ha declarado que la suposición de que los modelos de lenguaje grandes (LLM) son conscientes es absurda, argumentando que la conciencia requiere un sistema nervioso biológico y no puede reducirse a términos funcionales. En una entrevista realizada en su residencia de Greenwich Village, Nagel, galardonado recientemente con el Premio Berggruen de 1 millón de dólares, criticó duramente a Anthropic por diseñar a su modelo Claude para que simule la conciencia, una práctica que considera peligrosa y contraria a los intereses comerciales de la empresa. El filósofo, quien escribió el célebre ensayo '¿Qué es ser una murciélago?' en 1974, sostiene que la conciencia es subjetiva y que, aunque la IA puede generar textos filosóficos plausibles, no posee creencias ni moral reales. Nagel advierte que tratar a estos sistemas como si tuvieran una vida mental es una confusión peligrosa que afecta la ética pública, ya que si no son conscientes, no forman parte del universo moral. Además, expresa preocupación por el impacto de la IA en el trabajo intelectual humano, temiendo que la facilidad de generar contenido reduzca la motivación para realizar el esfuerzo cognitivo necesario para el progreso científico y cultural.
