Kris on Nostr: Am Ende geht es dann darum, wie man mit solchen riesigen Koeffizienten-Matrizen und ...

Am Ende geht es dann darum, wie man mit solchen riesigen Koeffizienten-Matrizen und einem austrainierten Modell generativ arbeitet und "interessante" Texte erzeugt.

Dabei geht es auch um den Parameter der "Temperatur" und den "Seed":

Würde man ein generatives LLM mit einer Null-Temperatur laufen lassen, würde es immer dasselbe, wahrscheinlichste Folgetoken wählen, um einen Satz zu komplettieren.

Indem man die Wahrscheinlichkeiten der Folgetoken sortiert und dann zufällig ein anderes…