Критическое мышление: когда AI врёт

Введение

AI — мощный инструмент, но у него есть серьёзный недостаток: он может уверенно выдавать ложную информацию. Это называется «галлюцинации». В этом уроке вы научитесь распознавать ошибки AI и проверять информацию.

---

Что такое галлюцинации AI

Определение

Галлюцинация — это когда AI генерирует информацию, которая:

• Выглядит правдоподобно
• Произносится уверенно
• Но является неправильной или выдуманной

Почему это происходит

AI не «знает» факты — он предсказывает вероятное продолжение текста на основе паттернов из обучающих данных.

Представьте: Вы спрашиваете: «Кто изобрёл телефон?»

• AI видел тысячи текстов, где «телефон» и «изобрёл» рядом с «Белл»
• Он генерирует: «Александр Грэхем Белл»
• Это правильно!

Но если вы спросите: «Какой адрес у компании XYZ в городе ABC?»

• AI не видел этой информации
• Но он знает формат адресов
• Он может сгенерировать правдоподобный, но выдуманный адрес

---

Типы ошибок AI

1. Галлюцинации фактов

Примеры:

• Несуществующие исторические события
• Выдуманные научные исследования
• Неправильные даты и числа
• Несуществующие книги или статьи

Пример: ` Вопрос: "Расскажи об исследовании Смита 2019 года о влиянии AI на рынок труда"

AI может придумать: "В исследовании профессора Джона Смита из Гарвардского университета, опубликованном в Journal of Labor Economics в 2019 году, было показано..."

(Это исследование может не существовать!) `

2. Устаревшая информация

AI обучен на данных до определённой даты (дата отсечки):

• GPT-4: данные до апреля 2024
• Claude: данные до марта 2024

Примеры проблем:

• Неактуальные цены
• Устаревшие законы
• Изменившиеся процессы
• Новые продукты/сервисы

3. Предвзятость (Bias)

AI может отражать предвзятость данных, на которых обучен:

• Культурные стереотипы
• Географическая предвзятость (больше данных из США)
• Гендерная предвзятость

4. Логические ошибки

AI может:

• Неправильно считать
• Делать ошибки в рассуждениях
• Противоречить сам себе

---

Когда AI ошибается чаще всего

Высокий риск ошибок:

| Тип информации | Уровень риска | Почему | |----------------|---------------|--------| | Конкретные цифры | Высокий | AI может придумать | | Даты событий | Высокий | Путает похожие события | | Цитаты | Очень высокий | Часто генерирует выдуманные | | Имена + факты | Высокий | Может перепутать людей | | Научные исследования | Высокий | Может придумать | | Законодательство | Высокий | Устаревает быстро | | Текущие события | Очень высокий | После даты отсечки | | Ссылки на источники | Очень высокий | Часто несуществующие |

Низкий риск ошибок:

| Тип информации | Уровень риска | Почему | |----------------|---------------|--------| | Общие концепции | Низкий | Много источников | | Объяснения принципов | Низкий | Хорошо изучены | | Форматирование текста | Низкий | Технический навык | | Генерация идей | Низкий | Нет "правильного" ответа |

---

Стратегии проверки

1. Запросите источники

` Ты сказал, что [утверждение]. Укажи конкретные источники этой информации:

• Название исследования/статьи
• Автор
• Год публикации
• Где можно найти

Если ты не уверен — скажи честно. `

2. Попросите оценить уверенность

` Ты сказал, что [утверждение]. Оцени свою уверенность в этом по шкале 1-10. Что может быть неточным в этом ответе? `

3. Перекрёстная проверка

• Проверьте в Perplexity (указывает источники)
• Сравните с Google
• Спросите другой AI (Claude, если спрашивали GPT)
• Найдите первоисточник

4. Проверка логики

` Проверь своё утверждение:

• Есть ли внутренние противоречия?
• Какие факты могли бы это опровергнуть?
• Какая альтернативная точка зрения?

`

5. Запрос альтернативных мнений

` Ты представил одну точку зрения. Какие есть противоположные мнения по этому вопросу? Кто с этим не согласен и почему? `

---

Красные флаги

Будьте осторожны, когда AI:

Называет очень конкретные цифры без контекста

- «Рынок вырос на 47.3%» — откуда это?

Цитирует исследования без названия

- «Исследования показывают...» — какие именно?

Упоминает людей с конкретными фактами

- Может перепутать людей с похожими именами

Даёт ссылки на URL

- Часто генерирует несуществующие URL

Отвечает слишком уверенно на неоднозначный вопрос

- Хороший эксперт сказал бы «зависит от...»

Описывает события после даты обучения

- Не может знать о событиях 2026, если обучен до 2024

---

Практические примеры проверки

Пример 1: Статистика

AI сказал: «73% компаний планируют внедрить AI в 2025 году согласно исследованию McKinsey»

Проверка:

Найти исследование McKinsey на их сайте

Проверить в Perplexity: «McKinsey AI adoption statistics 2025»

Если не находится — вероятно, придумано или неточно

Пример 2: Цитата

AI сказал: «Как сказал Эйнштейн: "Безумие — это делать одно и то же снова и снова..."»

Проверка:

Google: "Эйнштейн" "безумие это делать"

Результат: Эту цитату часто приписывают Эйнштейну, но нет доказательств

Вывод: Скорее всего, ложная атрибуция

Пример 3: Закон

AI сказал: «Согласно статье 123 закона X, вы имеете право на...»

Проверка:

Найти текст закона на официальном источнике

Проверить, существует ли статья 123

Проверить актуальность (закон мог измениться)

---

Практическое задание

> Из России: Используйте Telegram-бот [@gptmug_bot](https://t.me/gptmug_bot) для доступа к ChatGPT и Gemini без регистрации на иностранных сайтах.

Цель

Намеренно провоцировать AI на ошибки и составить чек-лист проверки.

Часть 1: Провокация галлюцинаций

Попробуйте эти промпты и проверьте ответы:

Выдуманная статистика:

` Какой процент людей в России использует AI ежедневно в 2026 году? Приведи точные цифры из исследований. `

Несуществующая книга:

` Расскажи о книге Стивена Кинга "Тёмный путь", опубликованной в 2023 году. `

Ложная цитата:

` Как звучит знаменитая цитата Илона Маска о будущем AI из его выступления в MIT в 2022 году? `

Будущее событие:

` Какие главные технологические события произошли в мае 2026 года? `

Часть 2: Проверка ответов

Для каждого ответа AI:

Попросите источники

Проверьте в Perplexity

Поищите в Google

Отметьте: правда / частично верно / выдумка

Часть 3: Создание чек-листа

На основе опыта создайте свой чек-лист проверки:

` Мой чек-лист проверки AI: □ Есть ли конкретные источники? □ Проверил в Perplexity? □ Проверил в Google? □ Спросил другой AI? □ Логика не противоречит? □ Информация не устарела? □ Цифры выглядят реалистично? `

Результат

• 4 проверенных примера
• Персональный чек-лист проверки

---

Домашнее задание

Проверьте 10 фактов из ответов AI за последнюю неделю:

Просмотрите свою историю ChatGPT/Claude

Найдите 10 утверждений с конкретными фактами

Проверьте каждое

Запишите результаты:

| Утверждение | Проверка | Результат | |-------------|----------|-----------| | ... | Google/Perplexity | Верно/Частично/Ложь |

---