Anthropic aclara en su centro de ayuda qué pueden y qué no pueden hacer los clientes con los Outputs generados por Claude en lo relativo al entrenamiento de modelos de inteligencia artificial. La compañía recuerda que el usuario es propietario de los Outputs derivados de sus Inputs, pero prohíbe utilizarlos para entrenar o desarrollar modelos de IA sin autorización escrita por escrito, una práctica que califica de estándar en el sector.
La restricción se justifica por dos motivos principales. Primero, por la seguridad: Anthropic realiza pruebas rigurosas antes de cada lanzamiento, aplica capas de seguridad y monitoriza el comportamiento de sus modelos; si los Outputs se usan para entrenar nuevos sistemas sin su supervisión, esos controles se pierden y pueden surgir modelos dañinos, sin que la compañía tenga visibilidad sobre su despliegue. Segundo, por competencia: usar la infraestructura de Anthropic para entrenar modelos rivales socavaría directamente su oferta de producto, algo que ningún proveedor de software o servicios tolera.
El uso de Outputs sí está permitido para entrenar modelos que no compitan con los de Anthropic, como clasificadores y herramientas especializadas: análisis de sentimiento, categorización de contenidos, herramientas de resumen, extracción de información, búsqueda semántica o detección de anomalías. También se autoriza integrar los Outputs en aplicaciones propias, generar contenido para clientes, analizar y estructurar datos o mejorar flujos internos.
Están prohibidos, por el contrario, los chatbots de propósito general, los modelos de generación de texto abierta, el uso de Outputs como objetivo de entrenamiento para otros modelos y la ingeniería inversa de los métodos de entrenamiento. Apoyar a un tercero en cualquiera de estas prácticas también vulnera los términos.