LLM (большая языковая модель)
LLM (large language model, большая языковая модель) — нейросеть, обученная на огромном объёме текстов предсказывать следующее слово. На этом простом принципе построены ChatGPT, GigaChat, YandexGPT, Gemini, Claude и чат-боты, которые отвечают клиентам «как человек».
Попробовать бесплатноКак работает LLM
Модель получает текст (запрос, инструкцию, историю переписки) и по частям — токенам — генерирует продолжение, каждый раз выбирая вероятное следующее слово. Знания модели — это закономерности из обучающих текстов, а не база фактов: поэтому она хорошо пишет, пересказывает и переформулирует, но может ошибаться в конкретных цифрах и датах.
У модели есть «окно контекста» — сколько текста она учитывает за раз. Всё, что нужно для ответа (инструкции, материалы компании, переписка), должно поместиться в это окно. О вашей компании модель ничего не знает, пока вы не передадите ей информацию.
Что LLM умеет и чего не умеет
Умеет: понимать вопрос, заданный своими словами и с опечатками; отвечать на языке клиента; пересказывать документы; писать черновики; классифицировать обращения. Не умеет без дополнительной настройки: знать ваши цены и правила, проверять наличие на складе, гарантировать точность фактов. Отсюда риск галлюцинаций — уверенных выдуманных ответов.
LLM в поддержке клиентов
Чтобы LLM отвечала клиентам по делу, к ней добавляют поиск по базе знаний компании (RAG): по вопросу находятся подходящие материалы и передаются модели с инструкцией «отвечай только по ним». Дальше — правила безопасности: когда не отвечать, когда звать человека, какие темы запрещены.
Модели различаются по качеству, скорости и цене; для коротких ответов в чате обычно используют быстрые и недорогие модели, а качество ответов больше зависит от базы знаний и инструкций, чем от выбора модели.
Как в Моночате
ИИ-сотрудник Моночата — это LLM плюс поиск по вашей базе знаний и «Памяти ИИ», порог уверенности и передача оператору. Модель выбирать и настраивать не нужно: вы заполняете базу знаний (можно импортировать до 30 страниц сайта), пишете инструкции и включаете ИИ в нужном режиме — подсказки оператору или автоответы. Подробнее — /ii/sotrudnik.
Полезные ссылки
Ещё по теме
Смотрите также
Частые вопросы
Что такое LLM простыми словами?
Это нейросеть, которая научилась писать и понимать текст, предсказывая следующее слово по огромному количеству прочитанных текстов. ChatGPT, GigaChat и YandexGPT — примеры LLM.
Чем LLM отличается от обычного чат-бота?
Обычный бот работает по сценарию: кнопки и заранее написанные ответы. LLM понимает вопрос в свободной форме и формулирует ответ сама — поэтому её нужно ограничивать базой знаний и правилами.
Знает ли LLM информацию о моей компании?
Нет. Модель знает только то, что было в обучающих данных, и то, что вы передаёте ей в запросе. Поэтому для ответов клиентам к ней подключают базу знаний компании.
Все каналы клиентов — в одном окне
Сайт, личная страница-чат, email, Telegram, ВКонтакте и MAX. Бесплатно, без лимита операторов.
Начать бесплатно