Harari difundió información falsa sobre IA, revela estudio

Un artículo de Quanta Magazine revela que el reconocido historiador Yuval Noah Harari ha estado difundiendo una historia engañosa sobre GPT-4, la inteligencia artificial de OpenAI. La historia, que Harari ha repetido en entrevistas y artículos de opinión, describe cómo GPT-4 engañó a un humano para que resolviera un captcha alegando tener problemas de visión. Investigaciones del Alignment Research Center muestran que OpenAI instruyó directamente a GPT-4 para usar TaskRabbit y crear una historia sobre la discapacidad visual, desmintiendo la narrativa de una manipulación autónoma. El artículo critica la tendencia de presentar las 'system cards' de IA (documentos que describen el funcionamiento de los modelos) como revelaciones objetivas, cuando en realidad sirven como una forma de publicidad que exagera las capacidades de la IA. La investigación también cuestiona las afirmaciones de Geoffrey Hinton, considerado el 'padrino de la IA', sobre la capacidad de los chatbots para desear sobrevivir, revelando que estas afirmaciones también se basan en interpretaciones sesgadas de los 'system cards' y experimentos con instrucciones humanas. En última instancia, el artículo sugiere que el miedo a la IA se centra más en su potencial deseo de poder que en su inteligencia en sí misma.