Habr on Nostr: Mixtral – новая LLM от Mistral AI 11 декабря 2023 года Mistral ...
Mixtral – новая LLM от Mistral AI
11 декабря 2023 года Mistral AI, парижский ai-стартап, основанный 7 месяцев назад, выпустил новую модель Mixtral 8x7B – high-quality sparse mixture of experts model (SMoE) . Многие считают модели Mistral AI самыми крутыми из открытых llm-ок, я тоже так считаю, поэтому интерес к новой модели есть большой. В этой статье я хочу коротко пробежаться по тому, как устроена новая модель и какие у её архитектуры преимущества. На некоторых технических моментах я буду останавливаться более подробно, на некоторых – менее.
https://habr.com/ru/articles/780204/
#llm #mistral #agi #ai #большие_языковые_модели #искусственный_интеллект #генеративные_модели
11 декабря 2023 года Mistral AI, парижский ai-стартап, основанный 7 месяцев назад, выпустил новую модель Mixtral 8x7B – high-quality sparse mixture of experts model (SMoE) . Многие считают модели Mistral AI самыми крутыми из открытых llm-ок, я тоже так считаю, поэтому интерес к новой модели есть большой. В этой статье я хочу коротко пробежаться по тому, как устроена новая модель и какие у её архитектуры преимущества. На некоторых технических моментах я буду останавливаться более подробно, на некоторых – менее.
https://habr.com/ru/articles/780204/
#llm #mistral #agi #ai #большие_языковые_модели #искусственный_интеллект #генеративные_модели