[Genussläufer]

Zitat von deralexxx

Wo steht eigentlich, dass die Modelle 24*7 trainiert werden müssen? Die können doch auch schön tagsüber laufen wenn der Strom billig ist.

Wenn du die Budgetierung eines KI-Rechenzentrums aufdröselst, siehst du schnell, wo die eigentlichen Kosten liegen. Strom ist natürlich eine relevante Variable, aber die eigentliche Kostenlast entsteht über die Investition in GPU-Kapazität. Der ‚Preis‘ für GPU-Zeit steckt also im Fixkostenblock. Irgendwoher muss der Marktwert von Nvidia ja kommen . Die teuerste Ressource ist die Dauer, in der tausende GPUs parallel belegt sind. Je länger ein Trainingslauf dauert, desto später ist das Modell marktreif und desto früher müssen wieder neue Chips angeschafft werden. Wenn man das einmal verstanden hat, beantwortet sich die Frage von selbst, warum man nicht nur tagsüber trainiert.