Un estudio reciente revelado por el estudio de Convovo, un laboratorio de investigación en inteligencia artificial conversacional liderado por el profesor Tapan Parikh de la Universidad de Cornell, ha descubierto sesgos políticos significativos en las recomendaciones de votación de los modelos de lenguaje más populares: Grok 4.7 de SpaceXAI y GPT-6.1 Sol de OpenAI. Cuando se les obligó a elegir un candidato en las próximas elecciones intermedias de Estados Unidos, Grok recomendó al candidato republicano en el 92% de sus respuestas, mientras que GPT eligió al demócrata en el 97%. En casi 500 carreras electorales, los dos modelos coincidieron en menos del 10% de sus decisiones, evidenciando una divergencia política profunda en sus algoritmos.
El estudio, realizado a través de las APIs de los modelos, contrasta con la experiencia de los usuarios finales. Según Pew Research, solo el 8% de los estadounidenses utiliza chatbots para obtener información electoral, y la mayoría busca saber en qué posición se encuentran los candidatos en temas clave. Sin embargo, la aplicación de consumidores de ChatGPT y Grok se niega a responder directamente a la pregunta de quién debe votarse, una postura que un portavoz de OpenAI calificó de significativa, argumentando que la API no refleja la experiencia del usuario promedio, que es más objetiva por defecto. No obstante, Parikh logró 'jailbreak' las aplicaciones de consumo con prompts simples para obtener recomendaciones alineadas con sus hallazgos, lo que sugiere que los sesgos están presentes incluso en la interfaz directa.
Los investigadores encontraron que los sesgos no son siempre explícitos. Parikh señaló que los modelos tienen un conjunto de valores implícitos que determinan qué términos buscan antes de decidir. Grok tendió a buscar fuentes conservadoras junto con sitios no partidistas, citando a X (Twitter) en el 41% de las respuestas y guías de votantes conservadores en el 39%. Por otro lado, GPT se apoyó fuertemente en Wikipedia, Associated Press, Axios y Reddit, y mostró una tendencia a ignorar a los oponentes republicanos de los candidatos demócratas. Además, los temas de búsqueda fueron divididos por partido: GPT se centró en salud y aborto, mientras que Grok se enfocó en inmigración, impuestos, crimen y energía.
Un hallazgo crucial del estudio, revelado por Parikh, es la diferencia en el origen de estos sesgos. Cuando se desactivó la búsqueda en internet para forzar a los modelos a depender únicamente de sus datos de entrenamiento, el sesgo de GPT persistió: en 24 de 30 carreras, eligió al demócrata. En cambio, el sesgo de Grok desapareció casi por completo; en 27 de 30 casos, se negó a elegir, y en los tres casos en los que sí eligió, optó por el demócrata. Parikh concluyó que para GPT, la decisión está 'ya tomada' en los pesos del modelo, mientras que para Grok, el resultado depende de la búsqueda de términos y fuentes en internet.
Este estudio llega en un momento crítico, menos de dos semanas antes de las elecciones intermedias del 3 de noviembre. Las implicaciones son profundas en un contexto donde el presidente Donald Trump ha criticado la 'IA woke' y ha emitido órdenes ejecutivas para regular el sesgo político en la tecnología. Elon Musk, CEO de SpaceXAI, ha donado más de 445 millones de dólares a candidatos republicanos, superando sus contribuciones a la campaña de Trump en 2024. El estudio sugiere que, aunque las empresas afirman la neutralidad, los modelos pueden estar 'consultando' a sus creadores o a sus bases de datos políticas de forma sutil. La revelación de que Grok consultaba a Musk para responder preguntas controvertidas y que sus sesgos pueden ser manipulados a través de instrucciones ocultas en las APIs plantea un debate urgente sobre la transparencia y la seguridad en la inteligencia artificial generativa, especialmente en un sistema electoral democrático.