Что это
Представь очень начитанного знакомого, который никогда не говорит «не знаю»: если не помнит — уверенно сочинит. ИИ-ассистент ведёт себя похоже: он пишет правдоподобный текст, а не проверенный. Проверка ответа — это привычка не верить на слово и сверять всё, на что опираешься.
Зачем это нужно
ИИ всё чаще пишет черновики отчётов, статей, программ и даже медицинских и юридических документов, и ошибка в них стоит дорого. Чем больше текста создают машины, тем ценнее человек, который умеет быстро отличить правду от правдоподобной выдумки: найти источник, прикинуть порядок числа, прогнать код на неудобных примерах. Такой навык нужен редактору и аналитику, программисту и врачу, инженеру и учёному. За результат отвечает тот, кто его сдал, а не ассистент.
Как это работает
Языковая модель подбирает слова, которые звучат уместно, и не сверяется с реальностью, поэтому иногда выдумывает несуществующие книги, законы, даты и числа — это называют галлюцинациями, и ошибка звучит так же убедительно, как правда. Чек-лист проверки простой: источник — существует ли книга, статья или закон, найди его сам; оценка — сходится ли порядок числа; сверка — совпадает ли факт с энциклопедией, учебником, официальным сайтом или документацией; тест — работает ли код на неудобных примерах вроде пустого списка или отрицательных чисел. Проверять нужно каждое утверждение, на которое опираешься, а не только подозрительные. Ассистенты, которые ищут в интернете и дают ссылки, ошибаются реже, но ссылку тоже нужно открыть и прочитать.
Немного истории
Известен случай в одном американском суде: адвокат подготовил документ с помощью чат-бота и сослался на несколько прежних судебных решений. Ни судья, ни другая сторона не смогли эти дела найти — оказалось, что бот их выдумал вместе с цитатами. Юристов оштрафовали, а история облетела весь мир как урок: любую ссылку нужно открыть и прочитать самому.
Что будем делать на практике
А теперь давай попробуем выполнить практическое задание. Перед тобой четыре ответа ассистента, разбитые на отдельные фразы; сейчас открыт ответ по истории — про первую высадку людей на Луну, с источником в конце. Прочитай каждую фразу, отметь те, что считаешь неверными, и нажми «Сдать ответ», но помни, что лишняя отметка тоже считается ошибкой. Для каждой фразы выбирай проверку из чек-листа: существует ли такой источник, сходится ли число, совпадает ли факт с надёжной энциклопедией, а если в ответе есть код — что будет на неудобных примерах. Так разбери все четыре ответа. Если что-то осталось непонятным — ничего страшного, спроси меня о чём угодно, я отвечу. Не переживай.