Calculadora de batch size / VRAM
Modelo de memoria simplificado: huella de parámetros/optimizador más activaciones que escalan con batch × secuencia × hidden × capas. Estimaciones de planificación, no un perfilador CUDA.
Modelo de memoria simplificado: huella de parámetros/optimizador más activaciones que escalan con batch × secuencia × hidden × capas. Estimaciones de planificación, no un perfilador CUDA.