��� �������� ������������� ��������� �������� �������
«Как работает искусственный интеллект» ищут около 2,8 тысячи раз в месяц, «почему искусственный интеллект» — ещё 3,4 тысячи. Объяснений в сети много, но они делятся на две крайности: либо «это магия», либо страница формул.
Попробуем середину: без математики, но и без сказок. Понимание механики сразу объясняет, почему модель ошибается именно так, а не иначе.
1. Главная идея: предсказание следующего слова
Языковая модель делает одну вещь — предсказывает, какое слово вероятнее всего идёт следующим. Вы пишете «столица Франции —», она отвечает «Париж», потому что в текстах, на которых её учили, после этой фразы почти всегда стоит Париж.
Дальше предсказанное слово добавляется к тексту, и процесс повторяется. Так по одному слову собирается ответ на страницу.
Отсюда сразу два вывода. Модель не хранит факты как справочник — она хранит статистику сочетаний. И она не «понимает» вопрос в человеческом смысле, а продолжает текст правдоподобным образом.
2. Откуда берётся ощущение понимания
Чтобы хорошо предсказывать продолжение, приходится улавливать структуру языка, логику изложения и связи между понятиями. Модель, которая просто запоминала бы фразы, проваливалась бы на новых формулировках.
В процессе обучения на огромных объёмах текста возникают внутренние представления: что предметы бывают одушевлённые, что у действия есть последствия, что после вопроса идёт ответ. Это не сознание, но и не поиск по базе — что-то среднее, и именно поэтому спорят о терминах.
3. Как модель учится
Три этапа, и все важны.
Предобучение. Модель читает гигантский корпус текстов и учится предсказывать пропущенные слова. Здесь она набирает знания о языке и мире.
Дообучение на инструкциях. Модель показывают примеры «вопрос — хороший ответ», чтобы она отвечала по делу, а не продолжала текст произвольно.
Обучение на человеческих оценках. Люди сравнивают варианты ответов, модель подстраивается под предпочтения. Отсюда вежливый тон и отказ от опасных тем.
4. Почему она выдумывает
Самое частое разочарование пользователей — уверенно сообщённая неправда. Механика объясняет это точно.
Модель всегда выдаёт наиболее правдоподобное продолжение. Если точных данных в обучении не было, правдоподобное продолжение всё равно найдётся — просто оно будет выдуманным. У модели нет внутреннего сигнала «я не знаю», есть только вероятности.
Поэтому выдумки чаще всего касаются: точных цифр, дат, имён, названий законов, ссылок и цитат. То есть именно того, что выглядит фактурно и что читатель проверять не станет.
Практический вывод
Просите источники и проверяйте их существование. Формулируйте задачи так, чтобы модель работала с вашим материалом, а не доставала факты из памяти.
5. Что такое контекст и почему он кончается
Модель видит только текст текущего диалога — это и есть контекст. У него есть предел, измеряемый в токенах: кусочках слов.
Когда предел достигнут, начало разговора выпадает. Отсюда знакомое: в длинной переписке модель «забывает» инструкцию, данную в начале. Лечится повторением ключевых требований или новым диалогом.
6. Почему ответы каждый раз разные
При выборе следующего слова модель не всегда берёт самое вероятное — иногда второе или третье. Это делает текст живее, но означает, что один и тот же запрос даёт разные ответы.
Практически это удобно: если результат не понравился, есть смысл просто попросить ещё раз.
7. Чего модель не умеет в принципе
| Ограничение | Почему |
|---|---|
| Знать сегодняшние новости | Обучена на данных до определённой даты |
| Надёжно считать | Предсказывает символы, а не вычисляет |
| Помнить прошлые диалоги | Видит только текущий контекст |
| Отличать правду от правдоподобного | Нет механизма проверки фактов |
| Нести ответственность | Это остаётся за человеком |
Часть ограничений обходят надстройками: доступ к поиску, вызов калькулятора, подключение базы знаний. Но базовая механика от этого не меняется.
Что с этим делать на практике
- Давайте материал, а не спрашивайте факты из памяти.
- Проверяйте всё проверяемое: цифры, даты, ссылки.
- Повторяйте ключевые инструкции в длинных диалогах.
- Не понравился ответ — просите переделать, результат будет другим.
- Считать доверяйте калькулятору.
Если хотите перейти от теории к работе, начните с пошаговой инструкции для новичка.
P.S. Хороший тест на понимание механики: спросите у модели что-нибудь про несуществующую книгу или выдуманный закон. Скорее всего, она уверенно расскажет содержание. Это не поломка — это ровно то, как устроено предсказание следующего слова.
