Назад к блогу
#нейросети#основы ИИ#новичкам

Что такое нейросеть простыми словами и почему она не думает, а угадывает

Как устроены ChatGPT, Claude и другие чат-боты без формул: откуда они берут ответы, почему ошибаются, чего не помнят и почему один и тот же вопрос даёт разные ответы.

Артём Исламов4 мин чтения
Содержание

Когда меня спрашивают «а как она вообще работает?», я отвечаю одной фразой: нейросеть не знает ответ, она угадывает следующее слово. Очень хорошо угадывает, на основе огромного количества прочитанного текста. Из этого простого факта вытекает почти всё: и почему она так полезна, и почему иногда уверенно несёт чушь.

Ниже разберу это без формул. Статью можно кидать любому, кто впервые открыл ChatGPT и не понимает, чему там верить.

Нейросеть это очень начитанный угадыватель

Представьте человека, который прочитал почти весь интернет: книги, статьи, форумы, инструкции, переписки. Он не запомнил всё дословно, но очень хорошо почувствовал, какие слова обычно идут за какими. Начните ему фразу «Утром я выпил чашку», и он без раздумий продолжит «кофе».

Языковая модель, на которой работают ChatGPT, Claude, Gemini, DeepSeek, GigaChat, устроена похоже. Она получает ваш текст и прикидывает вероятности для следующего кусочка. Выбирает один. Дописывает. Снова прикидывает, уже с учётом нового кусочка. И так до конца ответа.

Попробуйте сами: выберите слово или дайте модели выбрать, подвигайте ползунок смелости.

Утром я выпил чашку
ОсторожноСмело
Обычная настройка: чаще вероятное слово, иногда неожиданное.

Нейросеть не ищет ответ в базе. Она каждый раз прикидывает, какое слово вероятнее всего пойдёт дальше, и дописывает текст по одному кусочку.

Ползунок в демке называется «Смелость», в настоящих моделях это температура. Чем она выше, тем чаще модель берёт не самое очевидное слово. В чат-ботах её обычно не видно, но она есть, и именно поэтому на один и тот же вопрос вы получаете разные ответы.

Откуда она столько знает

Модель обучают: показывают ей триллионы слов и раз за разом просят угадать следующее. Ошиблась, внутренние настройки чуть подкручиваются. Угадала, закрепляется. Таких настроек у больших моделей сотни миллиардов, их называют параметрами.

Потом модель дообучают быть помощником: отвечать на вопросы, а не просто продолжать текст, отказываться от вредного, держать вежливый тон. Люди оценивают ответы, модель подстраивается под лучшие. После этого получается тот самый чат-бот, с которым вы разговариваете.

Важный момент: обучение заканчивается в какой-то день. Всё, что случилось позже, модель не знает, пока ей не дадут поиск в интернете или вы сами не вставите свежую информацию в чат.

Если хочется глубже, у меня есть глоссарий из 19 терминов с интерактивными демками: токены, параметры, контекстное окно, агенты.

Пять вещей, которые объясняются угадыванием

1. Она уверенно ошибается

Модель выбирает правдоподобное, а не правдивое. Если в обучении было мало информации про ваш вопрос, она всё равно напишет гладкий ответ, просто с выдуманными деталями. Это называют галлюцинациями. Подробно о них и о том, как ловить выдумки, я написал в статье «Почему нейросеть врёт».

2. Чем точнее вопрос, тем лучше ответ

На запрос «напиши пост» есть миллион правдоподобных продолжений, и модель выберет самое среднее. На запрос с ролью, контекстом и форматом вариантов меньше, и они уже ваши. Об этом статья «Как писать промпты».

3. Она не помнит вас между чатами

Модель видит только текст текущего разговора. Это называется контекстное окно. Новый чат начинается с чистого листа. Функции «памяти» в некоторых сервисах на самом деле просто подкладывают в начало разговора короткие заметки о вас.

4. Длинный разговор она начинает «забывать»

У контекстного окна есть предел. В очень длинной переписке начало может выпасть или потеряться среди деталей. Если чат разросся и модель начала путаться, проще открыть новый и коротко пересказать главное.

5. Считает она хуже, чем пишет

Модель видит текст кусочками, токенами, а не буквами и цифрами. Поэтому посчитать буквы в слове или перемножить большие числа в уме ей сложно. Современные сервисы для этого сами запускают маленькую программу-калькулятор, но проверять цифры всё равно стоит.

Простое правило

Используйте нейросеть как очень быстрого и начитанного стажёра: черновики, идеи, выжимки, переформулировки. Факты, цифры и всё, за что отвечаете вы, проверяйте сами.

Чем отличаются ChatGPT, Claude, Gemini и остальные

Принцип у всех одинаковый. Отличаются данные, на которых учили, размер модели, настройки характера и дополнительные функции: поиск, генерация картинок, работа с файлами, голос. Поэтому одна лучше пишет тексты, другая лучше ищет, третья доступна без ограничений из России.

Короткий подбор по задачам я собрал в статье «Какую нейросеть выбрать», а сервисы, которыми пользуюсь сам, на странице «Чем я пользуюсь».

Итог в трёх предложениях

Нейросеть продолжает текст самым вероятным образом, опираясь на всё, что прочитала при обучении. Поэтому она отлично пишет, пересказывает и придумывает, но может уверенно ошибаться в фактах. Давайте ей подробный контекст, проверяйте важное, и она сэкономит вам часы в неделю.

Если вы только начинаете, возьмите план первой недели с нейросетями: по пятнадцать минут в день, без теории.

Частые вопросы

Почти. Искусственный интеллект это общее название для программ, которые решают «умные» задачи. Нейросеть это самый популярный сегодня способ такие программы делать. Когда говорят «ИИ» про ChatGPT или Claude, имеют в виду нейросеть.

Сама по себе нет. Она отвечает из того, что усвоила при обучении. Поиск в интернете это отдельная функция, которую включают некоторые сервисы. Тогда в ответе обычно видны ссылки на источники.

Потому что каждое следующее слово выбирается с долей случайности. Это сделано специально: так ответы звучат живее. Если нужен стабильный результат, давайте подробный промпт и примеры.

Не так, как человек. У неё нет намерений и проверки на правду. Но она очень хорошо улавливает связи между словами и идеями, поэтому её ответы часто выглядят как понимание и бывают действительно полезны.