Cloudflare ha lanzado una capa unificada de inferencia de IA para desarrolladores, denominada AI Gateway, que simplifica el acceso y la gestión de modelos de IA de múltiples proveedores. Esta nueva herramienta permite a los desarrolladores utilizar un único API para acceder a más de 70 modelos de 12 proveedores, incluyendo OpenAI, Anthropic, Alibaba Cloud y Google, con una sola línea de código para cambiar entre ellos. La plataforma ofrece monitoreo centralizado de gastos de IA, gestión de costos por atributos personalizados y resiliencia ante fallos de proveedores, redirigiendo automáticamente a modelos alternativos. Además, Cloudflare está trabajando en la posibilidad de que los usuarios puedan subir sus propios modelos personalizados a Workers AI, utilizando la tecnología Cog para facilitar el proceso de contenedorización. Esta iniciativa busca optimizar la velocidad y la fiabilidad de los agentes de IA, especialmente cruciales para aplicaciones que requieren respuestas rápidas y continuas, aprovechando la extensa red global de centros de datos de Cloudflare para minimizar la latencia.
Noticias agregadas con IA