Как работают ИИ-чат-боты и почему они «галлюцинируют»
Чат-боты вроде ChatGPT, Claude или Gemini — это не машины, которые «знают», а языковые модели, предсказывающие следующее слово по вероятности. Этот нейтральный справочник на основе источников объясняет, как они работают, почему иногда уверенно выдают ложь (галлюцинация) и как пользоваться ими критически.
Большая языковая модель (LLM) — «сердце» чат-ботов вроде ChatGPT, Claude или Gemini — по сути гигантская статистическая машина предсказаний. Она учится на тексте из миллиардов слов (книги, статьи, сайты, код), какие слова обычно следуют за какими, и на этой основе раз за разом предсказывает следующее слово (точнее, «токен»). То есть она не размышляет — она генерирует текст, соответствующий усвоенным закономерностям. (Источник: IBM — What Are Large Language Models.)
Она не «знает» — она выбирает то, что «подходит»
Выбирая следующее слово, модель вычисляет не истину о мире, а какое слово лучше всего соответствует её шаблону (наибольшая вероятность). По формулировке IBM, она «оптимизирует правдоподобие внутри шаблона, а не правильность в отношении мира». Поэтому текст чат-бота может читаться гладко и убедительно, хотя информация в нём не обязательно верна. (Источник: IBM — What Are AI Hallucinations.)
Что такое «галлюцинация»
«Галлюцинация» ИИ — это когда модель выдаёт ответ, который звучит правдоподобно, но на деле ошибочен, не относится к делу или полностью выдуман. Это бывают фальшивые «факты», несуществующие исследования или придуманные, нерабочие ссылки (URL) — и всё подаётся как достоверное. Причина проста: у модели нет понятия «правда» или «ложь», только «что подходит под шаблон»; при нехватке или неоднозначности данных она заполняет пробел правдоподобной, но ложной деталью. (Источник: IBM — What Are AI Hallucinations.)
Почему она не говорит «не знаю»
Согласно исследованию, опубликованному OpenAI в сентябре 2025 года, одна из причин галлюцинаций в том, что способ обучения и оценки моделей поощряет угадывание. Во многих тестах честное «не знаю» получает ноль баллов, как и неверный ответ; поэтому самой «выгодной» стратегией для модели становится не воздерживаться, а всегда угадывать. Вот почему она уверенно отвечает даже при неопределённости. (Источник: OpenAI — Why language models hallucinate, 2025.)
Знание «заморожено»: knowledge cutoff
Знание модели «заморожено» на момент её обучения — это называется границей знаний (knowledge cutoff). События после этой даты для модели попросту не существуют. По умолчанию чат-бот не ищет в интернете — он отвечает только из того, на чём обучен; чтобы получить актуальную информацию, к нему должна быть подключена отдельная система поиска (например, веб-поиск или поиск по документам). (Источник: Wikipedia — Knowledge cutoff.)
Короткая история
Первый массовый чат-бот — ChatGPT — был запущен OpenAI 30 ноября 2022 года как бесплатный «исследовательский превью» на модели GPT-3.5. Сам термин «галлюцинация» был заимствован из более ранних работ по компьютерному зрению и стал описывать текст, «неверный источнику»; он широко распространился после появления ChatGPT. (Источник: Wikipedia — ChatGPT; ACM Computing Surveys — Survey of Hallucination in NLG, 2023.)
Как правильно пользоваться чат-ботом
Совет экспертов прост: относитесь к ответу чат-бота не как к окончательной истине, а как к черновику, который нужно проверить. Перепроверяйте любое важное число, дату, цитату или медицинский/юридический/финансовый совет по надёжному первоисточнику. Просите у модели источники — и открывайте их сами, чтобы убедиться, что они действительно существуют, ведь модель может выдумать несуществующий адрес. Чем серьёзнее сфера (здоровье, право, деньги), тем важнее осторожность. (Источник: IBM — What Are AI Hallucinations.)
Заключение
Чат-бот — мощный помощник, но он не «знает», а уверенно пишет текст в духе «вероятно, так». Его сила — быстрый и гладкий текст; слабость — он может уверенно излагать ложь. Поэтому золотое правило одно: доверяй, но проверяй. Это общая информация, а технологии быстро меняются — сверяйте возможности и ограничения конкретных моделей с их официальной документацией.
