Что такое LLM, большая языковая модель
LLM (Large Language Model, большая языковая модель) — LLM это нейросеть, обученная на огромном объёме текстов, которая предсказывает следующее слово и благодаря этому умеет отвечать на вопросы, писать тексты и рассуждать.
Большие языковые модели стоят за ChatGPT, Claude, Gemini, DeepSeek, Алисой (YandexGPT) и GigaChat. Модель обучают на книгах, сайтах, коде и документах, и в процессе она учится продолжать текст так, как его продолжил бы человек. Из этой простой задачи вырастают умения переводить, суммировать, писать код и рассуждать.
Что важно понимать о работе LLM:
- у модели есть дата среза знаний: о событиях после неё она не знает, если не подключён поиск;
- модель может уверенно ошибаться. Это называют галлюцинациями, особенно часто с цифрами, датами, ценами и ссылками;
- текст меряется токенами, примерно 3–4 символа на токен в русском, и за токены платят при работе через API;
- у модели ограничено контекстное окно: сколько текста она может учесть за один раз;
- ответ зависит от промпта: одна и та же модель отвечает по-разному на разные формулировки.
Где LLM работают в маркетинге. Черновики текстов, объявлений и постов. Анализ отзывов и звонков. Чат-боты и ИИ-ассистенты с базой знаний. Кластеризация запросов и разбор семантики. Генерация идей для креативов.
Отдельная тема: LLM как канал привлечения. Люди спрашивают у нейросетей, какую компанию выбрать, и модели с поиском отвечают, опираясь на сайты из выдачи. Продвижение в этих ответах называется GEO-оптимизацией.
Пример расчёта. Бот обрабатывает 1 000 диалогов в месяц, в среднем по 3 000 токенов на диалог с базой знаний. Это 3 млн токенов. Стоимость зависит от модели и тарифа, разница между дешёвой и топовой моделью может быть в десятки раз, поэтому модель подбирают под задачу. Цифры условные.
Частые ошибки. Брать цифры и факты из ответа модели без проверки. Выбирать самую дорогую модель там, где хватит простой. Отправлять в зарубежные модели персональные данные клиентов.