РусҚаз

ЖИ этикасы

Информатика · 10-сынып · Жасанды интеллект · Сабақ 4 / 4

Интерактивті сабақты ашу ›Өз қолыңмен тәжірибе, дауыспен дәріс, ЖИ-тәлімгер және тест. Тегін.

Бұл не?

Сабақтың тақырыбы — «Жасанды интеллект этикасы». Талдап көрейік. Тек ересек науқастарда оқыған дәрігерді елестет, ал кейін оған баланы алып келеді: ол тырысады, бірақ жиірек қателеседі. Жасанды интеллектпен де солай: модель оқыту кезінде көргендері үшін жақсы жұмыс істейді, ал деректерде өздері туралы мәлімет өте аз болғандар үшін нашарырақ. Жасанды интеллект этикасы — осындай жүйелерді қалай әділ, қауіпсіз және адамдар алдында есеп беретін ету туралы.

ЖИ этикасы — Бұл не?

Бұл не үшін керек?

Жасанды интеллект қазірдің өзінде түйіндемелерді іріктеуге, несие беруге, беттерді тануға және диагноз қоюға көмектеседі, ал оның қателері тірі адамдарға тиеді. Компаниялар мен мемлекеттер жасанды интеллектке арналған ережелер қабылдап жатыр — Еуроодақта жасанды интеллект туралы заң қазірдің өзінде күшінде, — және модельдерді әділдікке тексере алатын, деректерді саналы түрде жинайтын және жүйенің неге қателескенін түсіндіре алатын мамандар қажет. Жасанды интеллекттің өзі әділетсіздіктің не екенін білмейді: ол тек деректердегі заңдылықтарды қайталайды. Не рұқсат етілетінін шешу және салдарына жауап беру адамға тиесілі болады, және мұны түсінетін адам жасанды интеллект жасайтын кез келген командада қажет болады.

ЖИ этикасы — Бұл не үшін керек?

Бұл қалай жұмыс істейді?

Модель адамдар жинаған мысалдар бойынша оқиды, және егер деректерде қандай да бір топ аз болса, оның ерекшеліктері оқытуға әсер етпейдіге жақын — модель көпшілікке бейімделеді. Мұнда жаман ниет жоқ, бірақ әділетсіздік бар: мұны модельдің ығысуы деп атайды. Қиындығы сол — орташа дәлдік керемет болып көрінуі мүмкін, айталық, тоқсан бір пайыз, ал егде адамдар үшін ол небәрі алпыс сегіз пайыз болуы мүмкін. Сондықтан сапаны әр топ үшін бөлек тексереді, деректерді саналы түрде жинайды, ал адамға қатысты шешімді адам тексереді.

ЖИ этикасы — Бұл қалай жұмыс істейді?

Аздап тарих

Массачусетс технологиялық институтының зерттеушісі Джой Буоламвини беттерді тану жүйесі оның бетін ақ маска кигенге дейін таппайтынын байқады. Ол бірнеше ірі компанияның жүйелерін тексеріп, мынаны анықтады: ақ терілі ер адамдарда олар қателеспейтінге жақын болған, ал қара терілі әйелдерде ондаған есе жиі қателескен. Оның жұмысынан кейін компаниялар өз модельдерін әр алуан деректерде қайта оқытты.

ЖИ этикасы — Аздап тарих

Практикада не істейміз?

Ал енді практикалық тапсырманы орындап көрейік. Алдыңда мемлекеттік қызметтерге арналған дауыстық көмекші және бюджет тұр — үш топқа: ересектерге, балаларға және егде адамдарға бөлу керек мың екі жүз дауыс жазбасы. Қазір онда тоғыз жүз ересек, екі жүз бала және жүз егде адам бар, және мұның неге әкелгені көрініп тұр: ересектерді модель мінсіз дерлік түсінеді, ал егде адамдарды — тек алпыс сегіз пайызға. Бөлуді өзгертіп, «Оқыту» батырмасын бас: әр топтағы дәлдік тоқсан пайыздан кем болмауы, ал топтар арасындағы айырма бес пункттен аспауы керек. Ойланып көр: модельге қай топ ең қиын беріледі және оған жай ғана тең үлес жеткілікті ме. Егер бірдеңе түсініксіз болып қалса — ештеңе етпейді, менен кез келген нәрсені сұра, мен жауап беремін. Уайымдама.

Тәжірибедегі тапсырма

Мемлекеттік қызметтерге арналған дауыстық көмекші балалар мен қарттарды нашар түсінеді. Үйретуге арналған 1200 жазбаны әр топтағы дәлдік 90 %-дан төмен болмайтындай, ал топтар арасындағы айырма 5 пайыздық тармақтан аспайтындай етіп бөліңіз. «Үйрету» батырмасын басыңыз.
Интерактивті сабақты ашу ›Өз қолыңмен тәжірибе, дауыспен дәріс, ЖИ-тәлімгер және тест. Тегін.

Тақырып сабақтары: Жасанды интеллект

  1. Машиналық оқыту
  2. Нейрожелілер
  3. Чат-боттар қалай жұмыс істейді
  4. ЖИ этикасы