Подписаться
Опубликовано

Классификатор LLM для телеком‑поддержки за $10/мес

Автор
  • Имя
    Новости нашего ИТ
    Telegram

Как я сделал классификатор обращений для телеком-поддержки на своей LLM за $10/месяц #docker Fine-tuned Qwen2.5-0.5B для классификации обращений в поддержку: intent, category, urgency, sentiment, routing — всё в одном JSON. Модель 350 МБ, работает на CPU, стоимость инфраструктуры $10/месяц. Рассказываю как обучал, квантовал и деплоил.

link

Новости нашего ИТ
14 подписчиков
5145 постов
Данный канал является агрегатором технических статей нашего любимого ИТ, так что кто устал листать тысячи сайтов в поиске технических статей присоеденяйтесь к каналу и наслаждайтесь #it_news

Свежие посты