Что это
Писать ИИ-ассистенту — это не шептать на ухо другу, а скорее отправлять письмо в большую компанию: его хранят на серверах, и его может кто-то прочитать. Безопасность и приватность — это привычка думать, что ты отправляешь, кому веришь и где тебя могут обмануть с помощью той же нейросети.
Зачем это нужно
Нейросети делают поддельные голоса и видео всё правдоподобнее, и мошенники уже звонят голосом родственников и руководителей. Защита данных, кибербезопасность, проверка контента и справедливость алгоритмов — быстро растущие профессии в банках, соцсетях, больницах и технологических компаниях. ИИ умеет и подделывать, и находить подделки, но решить, кому верить, перезвонить, остановить перевод денег и заметить несправедливость при отборе резюме — дело человека. Тот, кто понимает эти риски, защитит и себя, и близких, и компанию, в которой работает.
Как это работает
Всё, что ты пишешь ассистенту, уходит на серверы компании: переписка может храниться, её могут просматривать сотрудники или использовать для обучения моделей, хотя часто это можно отключить в настройках. Поэтому не отправляй пароли, коды из СМС, номера документов и карт, адрес и телефон, а чужие фото и данные — только с согласия. Дипфейк выдают губы, не совпадающие со звуком, плывущее на поворотах лицо, лишние пальцы и ровный голос без дыхания, но главный признак — ситуация: срочность, просьба о деньгах, незнакомый номер, и тогда надо перезвонить по знакомому номеру или найти новость в официальном источнике. А ещё модели перенимают стереотипы из текстов людей — это смещение, и его нужно замечать и явно просить разнообразия.
Немного истории
Известен случай, когда руководителю энергетической компании позвонил «начальник» из головного офиса и срочно попросил перевести деньги поставщику. Голос и манера речи были узнаваемыми, и руководитель перевёл больше двухсот тысяч евро, а говорила с ним нейросеть, подделавшая голос. Это одно из первых громких мошенничеств с голосовым дипфейком, и с тех пор совет перезвонить по знакомому номеру звучит всё чаще.
Что будем делать на практике
А теперь давай попробуем выполнить практическое задание. Задание из трёх частей, и сейчас открыта первая — сообщение ассистенту от девочки Алии, которой нужна помощь с письмом в поддержку школьного портала. Прочитай его по фразам и скрой всё, что нельзя отправлять: подумай, что может навредить, если попадёт к чужим людям, и что вообще нужно для письма, — а потом отправь сообщение. Во второй части реши, какие из четырёх материалов — дипфейки, и смотри не только на детали, но и на ситуацию: срочность, деньги, незнакомый номер, официальный ли источник. В третьей найди предвзятость в коротком рассказе про врача, программиста, медсестру и пилота и выбери, как её исправить. Если что-то осталось непонятным — ничего страшного, спроси меня о чём угодно, я отвечу. Не переживай.