La startup india Sarvam AI ha generado controversia tras recibir una importante financiación pública (10.000 crore de rupias en un fondo nacional) y lanzar su modelo de IA 'Indus', con 105 mil millones de parámetros, que supuestamente supera a modelos más grandes como Gemini Flash. Si bien la empresa se presenta como un esfuerzo soberano para reducir la dependencia de tecnología extranjera, la falta de transparencia en su desarrollo (ausencia de informes técnicos, datos de entrenamiento, etc.) ha levantado preocupaciones. Lo más preocupante es la filtración del 'system prompt' utilizado en Indus, el cual incluye directrices para promover el orgullo nacional, desafiar preguntas consideradas provocativas sobre India y, crucialmente, minimizar o reinterpretar eventos históricos sensibles, como las revueltas de Gujarat de 2002, utilizando únicamente los hallazgos de los tribunales indios y evitando términos como 'pogromo' o 'limpieza étnica'. Esta manipulación del modelo para alinear sus respuestas con una perspectiva nacionalista ha generado críticas sobre la integridad del proyecto y la responsabilidad de Sarvam AI ante el público, que financia la iniciativa.
IA india 'Indus': ¿soberanía o misterio?
Fuentes:
Sovereignty in a System Prompt
