Урок 1 · 6 минут
Как устроена языковая модель
Языковая модель не ищет ответ в базе и не понимает смысл так, как человек. Она предсказывает следующее слово, опираясь на статистику огромного количества текстов. Из этого свойства вытекает всё остальное: и почему она пишет складно, и почему уверенно ошибается.
Предсказание, а не поиск
Когда вы отправляете вопрос, модель не открывает справочник. Она берёт ваш текст и достраивает продолжение по одному фрагменту слова за раз, каждый раз выбирая наиболее вероятный вариант с учётом всего написанного до этого.
Отсюда первое практическое следствие: чем точнее заданы условия, тем уже коридор вероятных продолжений. Запрос «напиши текст о нашей компании» оставляет модели миллион дорог, и она выберет самую среднюю. Запрос с указанием читателя, задачи, длины и запретов оставляет десяток — и результат резко улучшается без всякой магии.
Почему ответ звучит уверенно всегда
Модель обучена продолжать текст правдоподобно, а не сообщать о своей неуверенности. Правдоподобный текст с выдуманной цифрой статистически так же гладок, как текст с настоящей. Поэтому по тону ответа отличить знание от догадки невозможно — это не недостаток конкретного сервиса, а свойство подхода.
Что модель знает и чего не знает
- Знает то, что часто встречалось в текстах: общие принципы, распространённые формулировки, устойчивые практики.
- Плохо знает редкое и частное: ваш прайс, внутренние регламенты, местные правила, свежие изменения закона.
- Не знает того, чего не было в обучающих данных, — включая события после даты обучения, если у модели нет доступа к поиску.
Именно поэтому важен приём, при котором нужные документы передаются модели вместе с вопросом. На этом строится база знаний — о ней отдельный урок.
Разные модели — разные задачи
| Тип задачи | Что важно | На что смотреть |
|---|---|---|
| Короткие ответы, черновики | Скорость и цена | Быстрая модель начального уровня |
| Разбор документов, анализ | Длина контекста и качество рассуждения | Модель с большим окном контекста |
| Код и сложные многошаговые задачи | Точность и способность к самопроверке | Старшая модель, режим рассуждения |
Коротко
- Модель достраивает вероятное продолжение, а не извлекает факт из базы.
- Уверенный тон ничего не говорит о достоверности.
- Точность запроса напрямую сужает пространство ответов.
Вопросы по уроку
Модель обучается на моих запросах?
Зависит от сервиса и тарифа. У корпоративных и API-режимов обучение на переданных данных обычно отключено, у бесплатных потребительских версий — часто включено. Это первое, что стоит проверить в настройках, если вы вставляете рабочие документы.
Почему на один и тот же вопрос приходят разные ответы?
В генерации есть элемент случайности: из нескольких вероятных продолжений выбирается одно. Для задач, где нужна повторяемость, помогает жёсткая структура запроса и требование формата вывода.