zvezdo4ёtiя on Nostr: Llama 3.2 3b локально работает... Но на английском ...
Llama 3.2 3b локально работает... Но на английском языке всё ещё надёжнее, по-русски она отвечает примерноСмотря какой fabric
Смотря откуда приходит fabric
Смотря сколько details
Так оно very очень affordable(с) комментарий к реальной выдаче от моего друга, отсылающее на funny video.
Ну понятно, что любой линуксоид с этим легко справится... И понятно, что было бы круче, если бы у меня были А100 и 1 ТБ ОЗУ, смог бы 3.1 405b запустить. Но тут уж извините, куда деваться...
База знаний у неё так себе (надо знать BaseALT LLC, а не выдумывать ALT Linux Russian Nonprofit Foundation), но для примитивных задач на самом деле вполне сойдёт. Особенно если спрашивать по-английски.
Для чего-то более сложного буду использовать расположенную на чужом сервере более мощную LLAMA. А, ну и да, печаль полная у ламы с hrony-запросами. В целом у всех популярных ЯМ с ними печаль. Но ладно, не о них сейчас.
Смотря откуда приходит fabric
Смотря сколько details
Так оно very очень affordable(с) комментарий к реальной выдаче от моего друга, отсылающее на funny video.
Ну понятно, что любой линуксоид с этим легко справится... И понятно, что было бы круче, если бы у меня были А100 и 1 ТБ ОЗУ, смог бы 3.1 405b запустить. Но тут уж извините, куда деваться...
База знаний у неё так себе (надо знать BaseALT LLC, а не выдумывать ALT Linux Russian Nonprofit Foundation), но для примитивных задач на самом деле вполне сойдёт. Особенно если спрашивать по-английски.
Для чего-то более сложного буду использовать расположенную на чужом сервере более мощную LLAMA. А, ну и да, печаль полная у ламы с hrony-запросами. В целом у всех популярных ЯМ с ними печаль. Но ладно, не о них сейчас.