La integración de la inteligencia artificial en la investigación científica ha generado un debate creciente sobre la integridad del proceso científico, tras un incidente reciente en el que OpenAI anunció haber resuelto un problema matemático no resuelto, mientras que un matemático de la Nueva York University alertaba sobre la posible filtración de datos a través de su herramienta de codificación. Este caso ha exacerbado las preocupaciones sobre la novedad y la precisión de los descubrimientos generados por IA, especialmente dado el riesgo de que los chatbots de IA 'alucinen' datos inexactos o inventen citas falsas, un fenómeno conocido como 'slop' científico. Mientras que la IA ha demostrado su utilidad en áreas como la predicción de plegamiento proteico con AlphaFold, su uso masivo en la publicación de artículos ha amenazado la fiabilidad de las revistas científicas. Expertos advierten que los editores y revisores deben aumentar drásticamente sus esfuerzos para detectar estas distorsiones, ya que la literatura científica está siendo contaminada por textos generados por IA que carecen de la validación humana crítica. El resultado es una erosión de la confianza en la ciencia, donde se dificulta distinguir entre el descubrimiento real y la ficción generada por algoritmos, poniendo en riesgo la base misma de la investigación científica.
Noticias agregadas con IA