Batchgröße- / VRAM-Rechner
Vereinfachtes Speichermodell: Optimizer-/Parameter-Fußabdruck plus Aktivierungen proportional zu Batch × Sequenz × Hidden × Layer. Planungsschätzung, kein CUDA-Profiler.
Vereinfachtes Speichermodell: Optimizer-/Parameter-Fußabdruck plus Aktivierungen proportional zu Batch × Sequenz × Hidden × Layer. Planungsschätzung, kein CUDA-Profiler.