ChatGPT пишет код, объясняет философию и имитирует диалог с Достоевским. Многие сделали из этого вывод, что человеческий язык наконец «разложен» на вычислительные операции. Это неточный вывод — и понять, почему, важно любому, кто строит продукты на LLM.
Почему «язык — это код» не работает как аналогия
Формальный язык — это система с автором, стандартом и парсером. Можно написать грамматику, проверить корректность выражения, скомпилировать. Естественный язык устроен иначе: у него нет комиссии, которая однажды решила, как строить предложения.
Язык меняется, распадается на диалекты, заимствует слова и хранит следы давно исчезнувших практик. Дети осваивают его без формального обучения — но только при контакте с другими людьми, не в изоляции. Одна и та же фраза в разных обстоятельствах означает противоположные вещи. Это не баги — это фундаментальные свойства, которые отличают естественный язык от любого формального.
Для разработчика это значит: когда вы работаете с LLM, вы работаете с моделью статистических паттернов поверх огромного корпуса. Это мощный инструмент — но не модель языка в лингвистическом смысле.
Четыре теории, которые изменили понимание языка в XX веке
Прежде чем разбирать, что именно делает LLM, полезно понять, что лингвистика успела выяснить о языке за последние сто лет. Автор оригинального материала выделяет четыре ключевых направления.
Структурализм (Соссюр). Язык — система знаков, где важны не сами знаки, а отношения между ними. Означающее (звук или буква) и означаемое (понятие) связаны произвольно: нет природной причины, по которой собака называется именно «собакой». Это разрыв между формой и смыслом — и он принципиален для понимания галлюцинаций LLM.
Гипотеза Сепира-Уорфа. Язык, на котором мы говорим, влияет на то, как мы воспринимаем реальность. Сильная версия гипотезы (язык определяет мышление) сегодня отвергнута, слабая (язык влияет на категоризацию опыта) получила экспериментальное подтверждение. Для LLM это означает: модель, обученная преимущественно на английском, категоризирует мир так, как это делает английский язык.
Генеративная грамматика Хомского. Человек способен порождать и понимать бесконечное число предложений, которых никогда не слышал. Хомский объяснил это врождённой языковой способностью — универсальной грамматикой, общей для всех людей. Именно поэтому его так раздражают LLM: они имитируют языковую поверхность без какой-либо врождённой структуры — и при этом уверенно рассуждают о несуществующих предметах.
Прагматика и теория речевых актов (Остин, Сёрль). Высказывание — это не просто передача информации, это действие. «Объявляю вас мужем и женой» не описывает реальность — оно её создаёт. LLM не совершает речевых актов в этом смысле: у него нет интенции, нет контекста социального действия.
Эксперимент Псамметиха и вопрос о врождённости языка
Первый задокументированный эксперимент о природе языка описан у Геродота (История II:2). Египетский фараон Псамметих велел вырастить двух новорождённых в изоляции от речи — чтобы выяснить, какой язык является «первым» и, значит, самым древним. Через два года дети произнесли слово «бекос» — оказалось, это фригийское слово, означающее «хлеб». Египтяне заключили, что фригийцы древнее их.
Методологически эксперимент, разумеется, не выдерживает критики. Но сама постановка вопроса актуальна до сих пор: язык врождён или приобретается? Хомский настаивает на врождённой языковой способности. Данные о детях, выросших в полной изоляции от языковой среды (так называемые «дети-маугли»), говорят о том, что без социального контакта в критический период язык не формируется — даже если биологическая способность есть.
Для понимания LLM это важно: модель не имеет ни биологической предрасположенности, ни социального контекста усвоения. Она получает только текст.
Где LLM имитирует язык — и где это ломается
Языковая модель хорошо воспроизводит синтаксическую структуру — порядок слов, согласование, вложенность придаточных. Она улавливает статистические закономерности семантики — какие слова встречаются рядом, какие концепции связаны. На этом уровне результат выглядит убедительно.
Проблемы начинаются там, где язык выходит за пределы текстового паттерна.
| Свойство языка | Что делает LLM | Где ломается |
|---|---|---|
| Означаемое (смысл за словом) | Оперирует означающими (формой) | Галлюцинации — слово есть, референта нет |
| Прагматика (речевой акт) | Имитирует форму высказывания | Не совершает действия, только воспроизводит паттерн |
| Контекст культуры и практики | Усваивает из корпуса частично | Теряет нюансы, специфичные для сообщества |
| Диалектная изменчивость | Усредняет по корпусу | Нестандартные варианты подавляются |
| Врождённая грамматика | Отсутствует | Редкие конструкции, выходящие за паттерны обучения |
Что это значит при проектировании продуктов на LLM
Если вы строите продукт, где точность фактов критична — юридические документы, медицинские тексты, технические спецификации — нельзя полагаться на языковую модель как на источник истины. Она воспроизводит правдоподобный текст, а не верифицированные факты.
Если продукт работает с несколькими языками, учитывайте гипотезу Сепира-Уорфа на практике: модель, обученная преимущественно на английском, будет категоризировать понятия в логике английского языка. Это влияет на тональность, на то, какие различия модель «видит», а какие сглаживает.
Прагматика — самое слабое место. Если пользователь задаёт вопрос с подтекстом, иронией или социальным контекстом («это нормально?» в разговоре о рабочей ситуации), модель отвечает на буквальный текст, а не на речевой акт.
Подводные камни
Антропоморфизация. Модель «разговаривает» — мозг автоматически достраивает «кого-то» на том конце. Это когнитивное искажение, а не наблюдение. Даже исследователи, работающие с LLM ежедневно, от него не застрахованы.
«Понимает» vs. «воспроизводит». Модель воспроизводит паттерн ответа на вопрос о компиляторе — это не то же самое, что понимать, как работает компилятор. Разница становится видна на нестандартных задачах или при смене контекста.
Усреднение по корпусу. Редкие диалекты, профессиональные жаргоны, молодые языки с малым корпусом — всё это модель воспроизводит хуже. Чем дальше ваш домен от центра обучающей выборки, тем выше риск ошибок.
Иллюзия грамматической правильности. Синтаксически корректный текст воспринимается как содержательно верный. Это ловушка при ревью кода или документов, сгенерированных моделью.
Что попробовать дальше
Если тема зацепила — есть несколько направлений для углубления. Ноам Хомский, «Язык и мышление» (1968) — короткая и читаемая работа о генеративной грамматике. Джон Сёрль, «Речевые акты» (1969) — базовый текст по прагматике, объясняет, почему высказывание — это действие. Из свежего: работы Эмили Бендер (в частности, статья «On the Dangers of Stochastic Parrots», 2021) — прямой разговор о том, что именно моделируют LLM и чего не моделируют.
FAQ
Правда ли, что LLM «понимает» язык так же, как человек?
Нет. Языковая модель статистически моделирует паттерны текста. Человеческое понимание включает означаемое — связь слова с реальным объектом или опытом, — социальный контекст и интенцию. У LLM этого нет: есть только означающее, то есть форма.
Почему LLM галлюцинирует факты, если текст звучит убедительно?
Потому что модель оптимизирует правдоподобие следующего токена, а не истинность высказывания. Структура фразы может быть синтаксически и стилистически корректной при полном отсутствии реального референта — именно это Хомский называл языком без означаемого.
Влияет ли язык обучения на качество модели для других языков?
Да. Модели, обученные преимущественно на английском корпусе, хуже справляются с языками, у которых другая грамматическая структура или малый объём обучающих данных. Кроме того, категоризация понятий будет смещена в сторону логики доминирующего языка — это практическое следствие гипотезы Сепира-Уорфа.
Что такое речевой акт и почему LLM его не совершает?
Речевой акт — высказывание, которое не описывает реальность, а создаёт её: обещание, приказ, объявление. Для речевого акта нужна интенция и социальный контекст. LLM воспроизводит форму таких высказываний, но не совершает самого действия — у него нет ни намерения, ни социальной позиции.
Можно ли доверять LLM при работе с юридическими или медицинскими текстами?
Только как вспомогательному инструменту с обязательной верификацией. Модель воспроизводит правдоподобный текст в жанре юридического или медицинского документа, но не гарантирует фактическую точность. Галлюцинации в таких доменах могут быть неочевидны и при этом критичны.
