Подписаться
Опубликовано

Туториал: запуск Hunyuan-A13B на vLLM и llama.cpp

Автор
  • Имя
    Новости нашего ИТ
    Telegram

Туториал: запускаем Hunyuan-A13B модель на vLLM и на llama.cpp #docker Недавно вышла новая модель - Hunyuan-A13B: https://huggingface.co/tencent/Hunyuan-A13B-Instruct-GPTQ-Int4 (это уже квант)

link

Новости нашего ИТ
14 подписчиков
5145 постов
Данный канал является агрегатором технических статей нашего любимого ИТ, так что кто устал листать тысячи сайтов в поиске технических статей присоеденяйтесь к каналу и наслаждайтесь #it_news

Свежие посты