Marquito on Nostr: Ich finde es so verrückt, dass man auf ollama.com das 671b (!!!) Modell von ...
Ich finde es so verrückt, dass man auf ollama.com das 671b (!!!) Modell von #deepseek herunter laden und lokal laufen lassen kann. Zum Vergleich: auf meinem Gaming PC (32 GB RAM, nVidia RTX 3060 Grafikkarte, AMD Ryzen 5 3600 6-Core CPU) bekomme ich maximal die 32b Variante ans laufen.
#pilama #ai
Published at
2025-02-22 10:22:38Event JSON
{
"id": "2d50d91767d9a516d495da66241a5cd36d21222efc6c41e185e76658e194deeb",
"pubkey": "449a1d4888f32e7e720b53bbbcd3f263d1270c07c4759a26739fc4dfed76d95f",
"created_at": 1740219758,
"kind": 1,
"tags": [
[
"t",
"deepseek"
],
[
"t",
"pilama"
],
[
"t",
"ai"
],
[
"imeta",
"url https://files.mastodon.social/media_attachments/files/114/047/012/520/353/282/original/b8d7cbf19a434d91.png",
"m image/png",
"dim 1101x617",
"blurhash U7S$ov-;~q%2?bayM{WBoeWBIUWB-;WBWBV@"
],
[
"proxy",
"https://mastodon.social/users/marquito/statuses/114047042101138576",
"activitypub"
]
],
"content": "Ich finde es so verrückt, dass man auf ollama.com das 671b (!!!) Modell von #deepseek herunter laden und lokal laufen lassen kann. Zum Vergleich: auf meinem Gaming PC (32 GB RAM, nVidia RTX 3060 Grafikkarte, AMD Ryzen 5 3600 6-Core CPU) bekomme ich maximal die 32b Variante ans laufen. \n \n#pilama #ai\n\nhttps://files.mastodon.social/media_attachments/files/114/047/012/520/353/282/original/b8d7cbf19a434d91.png",
"sig": "4c5fb0b22c6392fd13042e4974c642ea9e9b22c7400ebfc4e2edaeb10f9cfa1db16887bf56a3be891a157d29046139db64d2bdaf7174e5efb80ba41207f33adb"
}
