Por qué Fable, el modelo “seguro” de Anthropic, resulta inútil para investigación en computación

Rob Patro, investigador de la Universidad de Maryland y autor del blog COMBINE-lab, relata dos intentos fallidos de utilizar Fable, la versión “consciente de la seguridad” de Anthropic, en tareas reales de investigación en informática. En su primer ensayo, pidió al modelo que le ayudara a reescribir en Rust la herramienta de cuantificación de transcritpos salmon, escrita originalmente en C++. Aunque se trata de una tarea puramente de ingeniería de software sobre código abierto ampliamente usado, Fable rechazó la petición de inmediato por un clasificador de seguridad que identificó la terminología biológica del RNA-seq como un riesgo. Tras media hora de reformulaciones infructuosas, Patro abandonó y delegó el trabajo en Opus 4.8, que completó el porte sin objeciones. En redes sociales constató que otros usuarios, incluidos biólogos, sufrían bloqueos similares ante preguntas inocuas como “qué es una mitocondria” o “qué debería cenar”. El segundo intento, tras el regreso de Fable el 1 de julio tras las restricciones de exportación del gobierno estadounidense del 12 de junio, fue igual de infructuoso. Patro expuso al modelo un problema formal de reconstrucción parsimoniosa de redes de interacción de proteínas, un artículo suyo de 2012, para evaluar su capacidad de razonamiento algorítmico. Fable no pudo avanzar en la tarea, evidenciando, según el autor, que su clasificador actúa más como una lista de términos vetados que como un sistema de seguridad calibrado, y que el modelo carece de utilidad práctica para investigación en computación.