Marquito on Nostr: Was übrigens auch noch zeigt, wie irre das ist: Der wirklich unterhaltsame ...
Was übrigens auch noch zeigt, wie irre das ist: Der wirklich unterhaltsame NetworkChuck hat versucht das 405b (!) Model von llama3.1 lokal laufen zu lassen und hat dafür 5 Mac Studio PCs gekauft und zu einem Cluster zusammen geschlossen.
Das Ergebnis könnt ihr in diesem lustigen Video sehen:
https://youtu.be/Ju0ndy2kwlwAuf das 671b Model von #DeepSeek geht er nur kurz ein, da das Model wohl zur Aufzeichnung des Videos gerade erst erschienen war.
#pilama #ai
Published at
2025-02-22 11:06:02Event JSON
{
"id": "640ecb54765b2e7f24ddd8ab6b604c5a8dd4da9779e0114f7b1c6e2c7a05a031",
"pubkey": "449a1d4888f32e7e720b53bbbcd3f263d1270c07c4759a26739fc4dfed76d95f",
"created_at": 1740222362,
"kind": 1,
"tags": [
[
"e",
"2d50d91767d9a516d495da66241a5cd36d21222efc6c41e185e76658e194deeb",
"wss://relay.mostr.pub",
"reply"
],
[
"t",
"deepseek"
],
[
"t",
"pilama"
],
[
"t",
"ai"
],
[
"proxy",
"https://mastodon.social/users/marquito/statuses/114047212747427313",
"activitypub"
]
],
"content": "Was übrigens auch noch zeigt, wie irre das ist: Der wirklich unterhaltsame NetworkChuck hat versucht das 405b (!) Model von llama3.1 lokal laufen zu lassen und hat dafür 5 Mac Studio PCs gekauft und zu einem Cluster zusammen geschlossen. \n\nDas Ergebnis könnt ihr in diesem lustigen Video sehen:\n\nhttps://youtu.be/Ju0ndy2kwlw\n\nAuf das 671b Model von #DeepSeek geht er nur kurz ein, da das Model wohl zur Aufzeichnung des Videos gerade erst erschienen war. \n\n#pilama #ai",
"sig": "0d40796994140012fc29188bf04eb53ec2000a667a43e8b5f46b6bb936d23587da13e40a35b2b6bd3004a8759bee22a5c14f51dcb1abc2d437fc7d3a905b4254"
}
