Kris on Nostr: Wir werden bald Apple-Geräte mit mehr Speicher sehen. Apple hat ja lange Zeit eine ...
Wir werden bald Apple-Geräte mit mehr Speicher sehen.
Apple hat ja lange Zeit eine 16 GB RAM-Barriere gehabt, und auch wenig Elan gezeigt, wenn es darum ging, mehr Speicher bereit zu stellen.
https://www.macrumors.com/2024/04/26/apple-mac-base-ram-boosts-ended-tim-cook/
Das wird sich nun bald ändern müssen.
Lokale LLM brauchen nicht nur CPU beziehungsweise NPU um den ganzen Kram lokal zu berechnen, sondern sie brauchen auch das Modell. Im Speicher.
Und Size Matters. A Lot.
Apple hat ja lange Zeit eine 16 GB RAM-Barriere gehabt, und auch wenig Elan gezeigt, wenn es darum ging, mehr Speicher bereit zu stellen.
https://www.macrumors.com/2024/04/26/apple-mac-base-ram-boosts-ended-tim-cook/
Das wird sich nun bald ändern müssen.
Lokale LLM brauchen nicht nur CPU beziehungsweise NPU um den ganzen Kram lokal zu berechnen, sondern sie brauchen auch das Modell. Im Speicher.
Und Size Matters. A Lot.