РусҚаз

Проверка ответа

Информатика · 10 класс · Работа с ИИ-ассистентами · Урок 2 из 4

Открыть интерактивный урок ›Опыт своими руками, лекция голосом, ИИ-наставник и тест. Бесплатно.

Что это

Представь очень начитанного знакомого, который никогда не говорит «не знаю»: если не помнит — уверенно сочинит. ИИ-ассистент ведёт себя похоже: он пишет правдоподобный текст, а не проверенный. Проверка ответа — это привычка не верить на слово и сверять всё, на что опираешься.

Мужчина в кафе уверенно рассказывает что-то друзьям, а одна из подруг украдкой проверяет его слова в телефоне.

Зачем это нужно

ИИ всё чаще пишет черновики отчётов, статей, программ и даже медицинских и юридических документов, и ошибка в них стоит дорого. Чем больше текста создают машины, тем ценнее человек, который умеет быстро отличить правду от правдоподобной выдумки: найти источник, прикинуть порядок числа, прогнать код на неудобных примерах. Такой навык нужен редактору и аналитику, программисту и врачу, инженеру и учёному. За результат отвечает тот, кто его сдал, а не ассистент.

Редактор в редакции сидит над распечаткой статьи с цветными пометками на полях и сверяет цифры по справочнику.

Как это работает

Языковая модель подбирает слова, которые звучат уместно, и не сверяется с реальностью, поэтому иногда выдумывает несуществующие книги, законы, даты и числа — это называют галлюцинациями, и ошибка звучит так же убедительно, как правда. Чек-лист проверки простой: источник — существует ли книга, статья или закон, найди его сам; оценка — сходится ли порядок числа; сверка — совпадает ли факт с энциклопедией, учебником, официальным сайтом или документацией; тест — работает ли код на неудобных примерах вроде пустого списка или отрицательных чисел. Проверять нужно каждое утверждение, на которое опираешься, а не только подозрительные. Ассистенты, которые ищут в интернете и дают ссылки, ошибаются реже, но ссылку тоже нужно открыть и прочитать.

Студентка в библиотеке держит раскрытую энциклопедию и сравнивает строчку из неё с текстом на экране ноутбука.

Немного истории

Известен случай в одном американском суде: адвокат подготовил документ с помощью чат-бота и сослался на несколько прежних судебных решений. Ни судья, ни другая сторона не смогли эти дела найти — оказалось, что бот их выдумал вместе с цитатами. Юристов оштрафовали, а история облетела весь мир как урок: любую ссылку нужно открыть и прочитать самому.

Судья в мантии в зале суда хмуро листает пачку бумаг, а адвокат напротив растерянно смотрит в свои записи.

Что будем делать на практике

А теперь давай попробуем выполнить практическое задание. Перед тобой четыре ответа ассистента, разбитые на отдельные фразы; сейчас открыт ответ по истории — про первую высадку людей на Луну, с источником в конце. Прочитай каждую фразу, отметь те, что считаешь неверными, и нажми «Сдать ответ», но помни, что лишняя отметка тоже считается ошибкой. Для каждой фразы выбирай проверку из чек-листа: существует ли такой источник, сходится ли число, совпадает ли факт с надёжной энциклопедией, а если в ответе есть код — что будет на неудобных примерах. Так разбери все четыре ответа. Если что-то осталось непонятным — ничего страшного, спроси меня о чём угодно, я отвечу. Не переживай.

Задание в опыте

В 4 ответах ассистента найдите все ошибки: отметьте неверные фразы и нажмите «Сдать ответ». Лишние отметки тоже считаются ошибкой.
Открыть интерактивный урок ›Опыт своими руками, лекция голосом, ИИ-наставник и тест. Бесплатно.

Уроки темы: Работа с ИИ-ассистентами

  1. Как ставить задачу
  2. Проверка ответа
  3. ИИ как помощник в учёбе
  4. Безопасность и приватность