RightNow AI ha presentado AutoKernel, un agente de inteligencia artificial que automatiza la optimización de kernels de GPU, inspirándose en el trabajo de autoresearch de Andrej Karpathy. AutoKernel toma cualquier modelo PyTorch, identifica los kernels de cuello de botella, los optimiza de forma autónoma utilizando el lenguaje Triton y verifica la corrección y el rendimiento general. El agente modifica un único archivo (kernel.py), ejecuta una evaluación fija y decide si mantener o revertir los cambios, repitiendo este proceso continuamente. Cada experimento dura aproximadamente 90 segundos, lo que permite realizar hasta 320 experimentos durante la noche. El sistema utiliza un 'program.md' con instrucciones detalladas y aplica la ley de Amdahl para priorizar la optimización. AutoKernel se ha probado en GPUs NVIDIA H100, A100 y RTX 4090 y ofrece una forma automatizada de mejorar el rendimiento de los kernels, cubriendo operaciones clave como multiplicación de matrices, softmax y atención. El proyecto está disponible en GitHub y busca acelerar la investigación y el desarrollo en optimización de GPU.
Noticias agregadas con IA