Un experimento personal explora si es posible obtener vectores de steering —vectores de activación que modifican el comportamiento de un modelo de lenguaje— invirtiendo el Jacobiano, una herramienta de interpretabilidad que proyectaactivaciones internas en el espacio del vocabulario para verbalizarlas. El autor trabaja con el modelo Qwen3-1.7B y un Jacobiano ya publicado por Neuronpedia, y compara sus resultados con líneas base obtenidas por métodos establecidos: un vector de steering entrenado a partir de un modelo afinado para escribir en mayúsculas y el vector de rechazo derivado de restar el modelo base y la versión abliterada (sin rechazo) de Qwen3-1.7B.
Para el caso sencillo de forzar mayúsculas, el método funciona: al invertir el Jacobiano sobre pares de tokens como « AND» y « and» se obtienen vectores de activación con alta similitud coseno con el vector de steering de referencia, y al promediarlos el modelo efectivamente genera texto en mayúsculas. Sin embargo, al intentar generalizar la técnica al comportamiento de rechazo —hacer que el modelo se niegue a responder incluso prompts inocuos— los resultados son mucho más débiles. Aunque verbalizar lasactivaciones muestra que el modelo «piensa» en palabras como «forbidden», «not» o «wrong», la tasa de rechazo genuino es baja (aproximadamente uno de cada cinco prompts), las alucinaciones aumentan y las salidas se estrechan hacia los tokens de concepto en lugar de traducirse en un rechazo real.
El autor concluye que invertir el Jacobiano permite derivar vectores de steering útiles para comportamientos simples y fácilmente representables mediante tokens, pero resulta ruidoso y frágil para comportamientos complejos como el rechazo, porque limitarsela representación a palabras del vocabulario pierde información necesaria para articular el comportamiento en el espacio deactivaciones. El código está publicado en el repositorio jlens_steer.