РусҚаз

Безопасность и приватность

Информатика · 10 класс · Работа с ИИ-ассистентами · Урок 4 из 4

Открыть интерактивный урок ›Опыт своими руками, лекция голосом, ИИ-наставник и тест. Бесплатно.

Что это

Писать ИИ-ассистенту — это не шептать на ухо другу, а скорее отправлять письмо в большую компанию: его хранят на серверах, и его может кто-то прочитать. Безопасность и приватность — это привычка думать, что ты отправляешь, кому веришь и где тебя могут обмануть с помощью той же нейросети.

Девочка опускает конверт в почтовый ящик, а за ним видна огромная стеклянная башня офиса с горящими окнами.

Зачем это нужно

Нейросети делают поддельные голоса и видео всё правдоподобнее, и мошенники уже звонят голосом родственников и руководителей. Защита данных, кибербезопасность, проверка контента и справедливость алгоритмов — быстро растущие профессии в банках, соцсетях, больницах и технологических компаниях. ИИ умеет и подделывать, и находить подделки, но решить, кому верить, перезвонить, остановить перевод денег и заметить несправедливость при отборе резюме — дело человека. Тот, кто понимает эти риски, защитит и себя, и близких, и компанию, в которой работает.

Специалист по безопасности в полутёмной комнате следит за несколькими мониторами с картами сетевых подключений.

Как это работает

Всё, что ты пишешь ассистенту, уходит на серверы компании: переписка может храниться, её могут просматривать сотрудники или использовать для обучения моделей, хотя часто это можно отключить в настройках. Поэтому не отправляй пароли, коды из СМС, номера документов и карт, адрес и телефон, а чужие фото и данные — только с согласия. Дипфейк выдают губы, не совпадающие со звуком, плывущее на поворотах лицо, лишние пальцы и ровный голос без дыхания, но главный признак — ситуация: срочность, просьба о деньгах, незнакомый номер, и тогда надо перезвонить по знакомому номеру или найти новость в официальном источнике. А ещё модели перенимают стереотипы из текстов людей — это смещение, и его нужно замечать и явно просить разнообразия.

Мальчик держит телефон с видеозвонком, на экране которого лицо слегка размыто, и с сомнением смотрит на маму, стоящую рядом.

Немного истории

Известен случай, когда руководителю энергетической компании позвонил «начальник» из головного офиса и срочно попросил перевести деньги поставщику. Голос и манера речи были узнаваемыми, и руководитель перевёл больше двухсот тысяч евро, а говорила с ним нейросеть, подделавшая голос. Это одно из первых громких мошенничеств с голосовым дипфейком, и с тех пор совет перезвонить по знакомому номеру звучит всё чаще.

Менеджер в строгом костюме в офисе с панорамными окнами говорит по телефону и одновременно подписывает платёжное поручение.

Что будем делать на практике

А теперь давай попробуем выполнить практическое задание. Задание из трёх частей, и сейчас открыта первая — сообщение ассистенту от девочки Алии, которой нужна помощь с письмом в поддержку школьного портала. Прочитай его по фразам и скрой всё, что нельзя отправлять: подумай, что может навредить, если попадёт к чужим людям, и что вообще нужно для письма, — а потом отправь сообщение. Во второй части реши, какие из четырёх материалов — дипфейки, и смотри не только на детали, но и на ситуацию: срочность, деньги, незнакомый номер, официальный ли источник. В третьей найди предвзятость в коротком рассказе про врача, программиста, медсестру и пилота и выбери, как её исправить. Если что-то осталось непонятным — ничего страшного, спроси меня о чём угодно, я отвечу. Не переживай.

Задание в опыте

Скройте в сообщении ассистенту всё, что нельзя отправлять, и отправьте его; распознайте, какие из 4 материалов — дипфейки; найдите предвзятость в ответе и способ её исправить.
Открыть интерактивный урок ›Опыт своими руками, лекция голосом, ИИ-наставник и тест. Бесплатно.

Уроки темы: Работа с ИИ-ассистентами

  1. Как ставить задачу
  2. Проверка ответа
  3. ИИ как помощник в учёбе
  4. Безопасность и приватность