Adam Štrauch on Nostr: Schmaker Jen naskočili na novou vlnu a divím se, že AMD nenaskakuje tak akčně ...
Schmaker (npub1h2x…uym5) Jen naskočili na novou vlnu a divím se, že AMD nenaskakuje tak akčně jako NVIDIA.
Na LLM se podle mě vyplatí víc speciální akcelerátor než GPU. 4090 má kolik RAM? 24 GB? To je na LLM málo. Akcelerátory jdou k 80 GB RAM.
Published at
2024-07-31 11:37:25Event JSON
{
"id": "bf849b72b11b429bca8a48c0c2e444bd1d405659de6b72c3fe5c23e54be517c3",
"pubkey": "7eda9418e8949fa51ebe372c67929f80f2a274511f513160a1f8b08ec543c92b",
"created_at": 1722425845,
"kind": 1,
"tags": [
[
"p",
"ba8dc5313fc926e9d00e9cde9cf1a46c114d75b1951e398dfc854d8c2ddc1014",
"wss://relay.mostr.pub"
],
[
"e",
"94efb496f2b5939c1129a335afae2fa23aab3927d0b3972acd94863002f4d3df",
"wss://relay.mostr.pub",
"reply"
],
[
"proxy",
"https://mastodonczech.cz/users/bycx/statuses/112880900225863802",
"activitypub"
]
],
"content": "nostr:npub1h2xu2vfleynwn5qwnn0feudydsg56ad3j50rnr0us4xcctwuzq2qmzuym5 Jen naskočili na novou vlnu a divím se, že AMD nenaskakuje tak akčně jako NVIDIA.\n\nNa LLM se podle mě vyplatí víc speciální akcelerátor než GPU. 4090 má kolik RAM? 24 GB? To je na LLM málo. Akcelerátory jdou k 80 GB RAM.",
"sig": "75394fbcff7d6b6d0bfb6a4036a9d8fbb7fae9c5975275b195e908e6515629ab275664dec21c34fc734771014676b9d2503ce326b9ebf82f47ddaf3e3c3d906a"
}
