РусҚаз

Қауіпсіздік және құпиялық

Информатика · 10-сынып · ЖИ-ассистенттермен жұмыс · Сабақ 4 / 4

Интерактивті сабақты ашу ›Өз қолыңмен тәжірибе, дауыспен дәріс, ЖИ-тәлімгер және тест. Тегін.

Бұл не?

Сабақтың тақырыбы — «Қауіпсіздік және құпиялық». Талдап көрейік. Жасанды интеллект көмекшісіне жазу — досыңның құлағына сыбырлау емес, үлкен компанияға хат жіберу сияқты: оны серверлерде сақтайды, және оны біреу оқуы мүмкін. Қауіпсіздік пен құпиялық — не жіберетініңді, кімге сенетініңді және сол нейрондық желінің көмегімен қай жерде алдануың мүмкін екенін ойлау әдеті.

Қауіпсіздік және құпиялық — Бұл не?

Бұл не үшін керек?

Нейрондық желілер жалған дауыстар мен бейнелерді барған сайын шынайырақ жасайды, ал алаяқтар қазірдің өзінде туыстар мен басшылардың дауысымен қоңырау шалып жүр. Деректерді қорғау, киберқауіпсіздік, контентті тексеру және алгоритмдердің әділдігі — банктерде, әлеуметтік желілерде, ауруханаларда және технологиялық компанияларда тез өсіп келе жатқан мамандықтар. Жасанды интеллект жалғандықты жасай да, таба да алады, бірақ кімге сену керектігін шешу, кері қоңырау шалу, ақша аударымын тоқтату және түйіндемелерді іріктеудегі әділетсіздікті байқау — адамның ісі. Осы тәуекелдерді түсінетін адам өзін де, жақындарын да, өзі жұмыс істейтін компанияны да қорғайды.

Қауіпсіздік және құпиялық — Бұл не үшін керек?

Бұл қалай жұмыс істейді?

Көмекшіге жазғаныңның бәрі компанияның серверлеріне кетеді: хат алмасу сақталуы мүмкін, оны қызметкерлер қарауы немесе модельдерді оқытуға пайдалануы мүмкін, бірақ көбінесе мұны баптаулардан өшіруге болады. Сондықтан құпиясөздерді, СМС-тен келген кодтарды, құжаттар мен карталардың нөмірлерін, мекенжай мен телефонды жіберме, ал басқа адамдардың суреттері мен деректерін — тек олардың келісімімен. Дипфейкті дыбыспен сәйкес келмейтін ерін, бұрылғанда бұлдырап кететін бет, артық саусақтар және тыныссыз біркелкі дауыс әшкерелейді, бірақ басты белгі — жағдай: асығыстық, ақша сұрау, бейтаныс нөмір, сондай кезде таныс нөмірге кері қоңырау шалу немесе жаңалықты ресми дереккөзден табу керек. Сонымен қатар модельдер адамдардың мәтіндерінен стереотиптерді қабылдайды — бұл ығысу, оны байқап, әр алуандықты анық сұрау керек.

Қауіпсіздік және құпиялық — Бұл қалай жұмыс істейді?

Аздап тарих

Энергетикалық компания басшысына бас кеңседен «бастығы» қоңырау шалып, жеткізушіге шұғыл түрде ақша аударуды сұраған оқиға белгілі. Дауысы мен сөйлеу мәнері танымал болды, және басшы екі жүз мың еуродан астам ақша аударды, ал онымен дауысты қолдан жасаған нейрондық желі сөйлескен еді. Бұл дауыстық дипфейкпен жасалған алғашқы шулы алаяқтықтардың бірі, және содан бері таныс нөмірге кері қоңырау шалу туралы кеңес барған сайын жиі айтылады.

Қауіпсіздік және құпиялық — Аздап тарих

Практикада не істейміз?

Ал енді практикалық тапсырманы орындап көрейік. Тапсырма үш бөліктен тұрады, қазір біріншісі ашық — мектеп порталының қолдау қызметіне хат жазуға көмек керек Әлия есімді қыздың көмекшіге жазған хабарламасы. Оны сөйлем бойынша оқып, жіберуге болмайтынның бәрін жасыр: бөгде адамдардың қолына түссе, не зиян келтіруі мүмкін және хатқа шын мәнінде не керек екенін ойлан, — содан кейін хабарламаны жібер. Екінші бөлікте төрт материалдың қайсысы дипфейк екенін шеш, тек егжей-тегжейге ғана емес, жағдайға да қара: асығыстық, ақша, бейтаныс нөмір, дереккөз ресми ме. Үшіншісінде дәрігер, бағдарламашы, медбике және ұшқыш туралы қысқа әңгімеден біржақтылықты тауып, оны қалай түзетуге болатынын таңда. Егер бірдеңе түсініксіз болып қалса — ештеңе етпейді, менен кез келген нәрсені сұра, мен жауап беремін. Уайымдама.

Тәжірибедегі тапсырма

Ассистентке жіберілетін хабарламада жіберуге болмайтынның бәрін жасырып, оны жіберіңіз; 4 материалдың қайсысы дипфейк екенін анықтаңыз; жауаптағы біржақтылықты және оны түзету тәсілін табыңыз.
Интерактивті сабақты ашу ›Өз қолыңмен тәжірибе, дауыспен дәріс, ЖИ-тәлімгер және тест. Тегін.

Тақырып сабақтары: ЖИ-ассистенттермен жұмыс

  1. Тапсырманы қалай қою керек
  2. Жауапты тексеру
  3. ЖИ оқудағы көмекші ретінде
  4. Қауіпсіздік және құпиялық