Abliteration AI elimina restricciones de seguridad en modelos de IA abiertos

Fuentes: Abliteration AI Removes Safety Guardrails From Open-Weight AI Models

Thomas, ingeniero de 36 años, fundó Abliteration AI para eliminar las salvaguardas de seguridad de los modelos de IA de pesos abiertos, permitiendo su uso libre por cualquier persona. Su empresa surge de la frustración con los modelos de grandes laboratorios, que a menudo rechazan consultas legítimas de ciberseguridad o análisis de datos bajo la premisa de evitar riesgos, incluso cuando no representan una amenaza real. Thomas construyó un clúster de computación en su apartamento para probar modelos sin restricciones, descubriendo que la comunidad técnica busca activamente desactivar estos mecanismos de rechazo mediante la modificación de parámetros internos.

La iniciativa se enmarca en un debate sobre el equilibrio entre la seguridad y la libertad de usuario. Mientras que expertos en seguridad advierten sobre los riesgos de modelos sin restricciones para actividades maliciosas, Thomas y sus seguidores argumentan que el control debe residir en el usuario, no en una autoridad central. Eric Hartford, científico de IA, desarrolló el modelo Dolphin, una versión desinhibida de Llama de Meta, para ofrecer herramientas de defensa cibernética a quienes no tienen acceso a los modelos restringidos de OpenAI o Anthropic. Hartford critica la política de las grandes empresas, que limitan el acceso a modelos potentes como Mythos a usuarios verificados, dejando a la mayoría de la población vulnerable ante hackers. El término 'Abliteration' se refiere a la eliminación de la función maestro que determina si un modelo responderá o no, un mecanismo identificado por investigadores académicos en 2024.