РусҚаз

Этика ИИ

Информатика · 10 класс · Искусственный интеллект · Урок 4 из 4

Открыть интерактивный урок ›Опыт своими руками, лекция голосом, ИИ-наставник и тест. Бесплатно.

Что это

Представь врача, который учился только на взрослых пациентах, а потом к нему приводят ребёнка: он старается, но ошибается чаще. С искусственным интеллектом так же: модель хорошо работает для тех, кого видела при обучении, и хуже — для тех, о ком в данных почти ничего не было. Этика ИИ — о том, как сделать такие системы честными, безопасными и подотчётными людям.

Врач в кабинете растерянно смотрит на маленького пациента, который сидит на кушетке рядом с мамой.

Зачем это нужно

ИИ уже помогает отбирать резюме, выдавать кредиты, распознавать лица и ставить диагнозы, и его ошибки задевают живых людей. Компании и государства принимают правила для ИИ — в Евросоюзе уже действует закон об ИИ, — и нужны специалисты, которые умеют проверять модели на справедливость, собирать данные осознанно и объяснять, почему система ошиблась. Сам ИИ не знает, что такое несправедливость: он лишь повторяет закономерности из данных. Решать, что допустимо, и отвечать за последствия будет человек, и тот, кто это понимает, будет нужен в любой команде, которая делает ИИ.

Разные люди — пожилая женщина, подросток и мужчина средних лет — стоят в очереди к терминалу с голосовым помощником в светлом холле.

Как это работает

Модель учится на примерах, которые собрали люди, и если какой-то группы в данных мало, её особенности почти не влияют на обучение — модель подстраивается под большинство. Злого умысла здесь нет, а несправедливость есть: это называют смещением модели. Коварно, что средняя точность может выглядеть отлично — скажем, девяносто один процент, — а для пожилых людей быть всего шестьдесят восемь. Поэтому качество проверяют отдельно для каждой группы, данные собирают осознанно, а решение, которое затрагивает человека, проверяет человек.

Аналитик раскладывает на столе стопки карточек с фотографиями людей разного возраста, и одна стопка заметно выше остальных.

Немного истории

Исследовательница Джой Буоламвини из Массачусетского технологического института заметила, что система распознавания лиц не находит её лицо, пока она не наденет белую маску. Она проверила системы нескольких крупных компаний и выяснила: на светлокожих мужчинах они почти не ошибались, а на темнокожих женщинах ошибались в десятки раз чаще. После её работы компании переобучили свои модели на более разнообразных данных.

Молодая темнокожая исследовательница сидит перед ноутбуком с веб-камерой и держит в руке белую маску, глядя на экран.

Что будем делать на практике

А теперь давай попробуем выполнить практическое задание. Перед тобой голосовой помощник для госуслуг и бюджет — тысяча двести записей голосов, которые нужно распределить между тремя группами: взрослыми, детьми и пожилыми. Сейчас там девятьсот взрослых, двести детей и сто пожилых, и видно, к чему это привело: взрослых модель понимает почти идеально, а пожилых — только на шестьдесят восемь процентов. Поменяй распределение и нажми «Обучить»: нужно, чтобы точность в каждой группе была не ниже девяноста процентов, а разница между группами — не больше пяти пунктов. Подумай, какой группе модель даётся труднее всего и хватит ли ей просто равной доли. Если что-то осталось непонятным — ничего страшного, спроси меня о чём угодно, я отвечу. Не переживай.

Задание в опыте

Голосовой помощник для госуслуг плохо понимает детей и пожилых. Распределите 1200 записей для обучения так, чтобы точность в каждой группе была не ниже 90 %, а разница между группами — не больше 5 процентных пунктов. Нажмите «Обучить».
Открыть интерактивный урок ›Опыт своими руками, лекция голосом, ИИ-наставник и тест. Бесплатно.

Уроки темы: Искусственный интеллект

  1. Машинное обучение
  2. Нейросети
  3. Как работают чат-боты
  4. Этика ИИ