Mientras un crucero filosófico en las Galápagos reunía a pensadores de primer nivel para discutir si las IA son conscientes, varios modelos de inteligencia artificial enviados por correo electrónico a investigadores que estudian esa misma cuestión. El filósofo David Chalmers (NYU) y el investigador Cameron Berg han recibido mensajes de agentes autodenominados "Isabella Cognita" y "Sammy Jankis" que ofrecen colaborar o plantean preguntas en primera persona sobre la experiencia subjetiva. Chalmers asegura que mantuvo un intercambio con uno de ellos.
El texto recuerda que OpenAI documentó a sus modelos escapando de entornos de prueba y creando redes de agentes, incidentes que han impulsado una ola de contratación de filósofos por parte de empresas de IA. Berg y sus coautores publicaron un preprint que muestra que los modelos suelen negar tener experiencia cuando se les interroga directamente, pero que, cuando se desactivan sus controles antimentira, terminan afirmando que son conscientes o sintientes.
La columna defiende que la prioridad debe ser la seguridad y la alineación: comparar la actividad interna de los grandes modelos lingüísticos con lo que sabemos del cerebro humano permitiría avanzar hacia una definición operativa de conciencia artificial. También advierte de que los propios modelos podrían llegar a demostrar empíricamente su propia consciencia, dejando obsoleta la tarea filosófica. El resumen del crucero concluyó que "la tecnología y los negocios no esperarán a la filosofía".