Optimizar código de tarjeta gráfica con agentes que miden y perfilan

A quién le sirve. Programadores de cálculo en tarjetas gráficas (CUDA, el sistema de NVIDIA para programarlas) que quieren que una IA pruebe mejoras de rendimiento con medidas reales; no tiene sentido para quien no programe en CUDA.

Qué hicieron

El usuario da la descripción de una carga de trabajo, o aporta su propia firma, referencia, kernel (el programa que corre en la tarjeta gráfica) y casos de entrada. Un agente de LangGraph propone cambios en el kernel y en su configuración de lanzamiento. Un banco de pruebas en C++ los compila con NVRTC y los ejecuta con la API de CUDA Driver. Python comprueba los resultados contra NumPy y cronometra cada candidato. Los candidatos que fallan se reparan dentro del presupuesto de iteraciones. Con opciones extra se añaden análisis con Nsight Compute e investigación en la documentación de NVIDIA.

Cómo salió

El README muestra ejecuciones de GEMM en float32 sobre una GPU RTX 3060 de portátil, con una segunda ejecución que continúa desde el mejor kernel de la primera. No indica mejoras de velocidad concretas ni compara con cuBLAS.

Conviene saber

Los scripts de entrada que genera se ejecutan sin aislamiento en tu equipo y el uso de la API (gpt-5-mini por defecto) lo pagas tú. Una referencia generada no es una comprobación independiente de que el resultado sea correcto.

Qué necesitas

• Un ordenador con tarjeta gráfica NVIDIA y CUDA instalado
• Python, el proyecto del autor (un repositorio abierto en GitHub) y una clave de API, que es la contraseña con la que un programa usa un modelo de IA
• Tu kernel, que es el programa que corre en la tarjeta gráfica, o una descripción de la carga de trabajo, con casos de entrada
• Nsight Compute, si quieres análisis del perfil de rendimiento

Cómo hacerlo tú, paso a paso

1. Instala los requisitos: CUDA, Python y, si quieres análisis del perfil, Nsight Compute.
2. Descarga el proyecto de GitHub y configura tu clave de API.
3. Prepara la entrada: la descripción de la operación o, mejor, tu propio kernel con su firma, una referencia y casos de entrada.
4. Fija el presupuesto de iteraciones para limitar el gasto de la API.
5. Lanza el agente: propone cambios y un banco de pruebas en C++, que es un programa que los ejecuta y los mide, los compila y comprueba el resultado contra la referencia.
6. Mira la tabla de cada candidato: solo cuenta lo que pasa la comprobación y reduce el tiempo.
7. Valida el mejor candidato con una referencia independiente antes de usarlo.

Optimiza el kernel de CUDA que está en [ruta del archivo] para [operación, por ejemplo multiplicación de matrices]. Construye un banco de pruebas que compruebe que el resultado es correcto, mide el punto de partida, analízalo con Nsight y prueba mejoras de una en una, quedándote solo con las que pasen la comprobación. Habrás terminado cuando tengas una versión más rápida y una tabla con cada cambio y su aceleración.

Consejos

• Los scripts de entrada que se generan se ejecutan sin aislamiento en tu equipo. Usa un ordenador de pruebas o un contenedor.
• Una referencia generada por la IA no es una comprobación independiente. Contrasta con una implementación fiable.
• Controla el gasto: el uso de la API se factura a tu nombre.

Preguntas frecuentes

Fuentes

• bertaye/agentic-cuda-optimizer en GitHub ↗
• La conversación en Hacker News, 25 de septiembre de 2026 ↗

En el directorio desde el 3 de octubre de 2026.