Почему нейросеть уверенно врёт
Если ты пользовался нейросетью для учёбы, то наверняка встречал уверенный ответ, который оказался неправдой. Это не баг какой-то одной программы, а свойство всех языковых моделей. Его называют галлюцинациями.
Для школьников 7–11 классов.
Почему так происходит
Языковая модель пишет ответ, угадывая самое правдоподобное продолжение текста. Если в её обучении был точный факт, правдоподобное совпадёт с правдой. Если не было, она всё равно напишет правдоподобное: фамилию, которая похожа на настоящую, год, который подходит по смыслу. Модель не отличает «знаю» от «звучит похоже». Как она устроена, разобрано в статье как работает нейросеть.
Где особенно опасно
- Цитаты и источники. Нейросеть легко выдумывает книги, статьи и цитаты известных людей.
- Даты и числа. Года событий, население, формулы с коэффициентами.
- Литература. Пересказ книги, которую модель «читала» плохо, может содержать выдуманных героев.
- Математика. Красивое решение с ошибкой в середине и уверенным неверным ответом.
- Правила экзаменов. Устаревшие или выдуманные требования к ЕГЭ.
Как проверять
- Факты сверять с надёжным источником: учебник, официальный сайт, энциклопедия.
- Попросить источник и проверить, что он существует.
- В математике пересчитать сам или подставить ответ в условие.
- Правила ЕГЭ и ОГЭ смотреть только на сайте ФИПИ.
- Задать тот же вопрос по-другому: если ответы противоречат, что-то не так.
Как всё-таки пользоваться
Нейросеть хороша, чтобы объяснить идею другими словами, придумать примеры, проверить ход мыслей, потренировать английский. Плохо, когда она заменяет думание: исследования показали, что тогда хуже запоминаешь. Подробно в статье нейросеть вместо домашки и в инструкции как спрашивать нейросеть для учёбы.
Разберём на занятии
Всё, что в этой статье связано со школой, разбираем на живых занятиях с 4 по 11 класс: один на один или в мини-группе до шести человек, с преподавателем, который знает, к чему ты готовишься.
Первое занятие бесплатное: можно посмотреть формат вместе с ребёнком и решить, подходит ли он.
Частые вопросы
Если нейросеть умеет искать в интернете, она перестаёт ошибаться?
Ошибается реже, но всё равно может неправильно понять найденное или сослаться на ненадёжный сайт. Проверять всё равно нужно.