Бұл не?
Сабақтың тақырыбы — «Жауапты тексеру». Талдап көрейік. Ешқашан «білмеймін» демейтін, өте көп оқыған танысыңды елестет: есінде болмаса — сеніммен ойдан шығарады. Жасанды интеллект көмекшісі де осыған ұқсас әрекет етеді: ол тексерілген емес, шындыққа ұқсас мәтін жазады. Жауапты тексеру — сөзге сенбей, сүйенетін нәрсенің бәрін салыстырып көру әдеті.
Бұл не үшін керек?
Жасанды интеллект есептердің, мақалалардың, бағдарламалардың, тіпті медициналық және заңдық құжаттардың жобаларын барған сайын жиі жазады, ал олардағы қате қымбатқа түседі. Машиналар неғұрлым көп мәтін жасаса, шындықты шындыққа ұқсас ойдан шығарылғаннан тез ажырата алатын адам соғұрлым құнды: дереккөзді табу, санның ретін шамалау, кодты ыңғайсыз мысалдарда тексеріп көру. Мұндай дағды редактор мен талдаушыға, бағдарламашы мен дәрігерге, инженер мен ғалымға керек. Нәтижеге көмекші емес, оны тапсырған адам жауап береді.
Бұл қалай жұмыс істейді?
Тілдік модель орынды естілетін сөздерді іріктейді және шындықпен салыстырмайды, сондықтан кейде жоқ кітаптарды, заңдарды, күндер мен сандарды ойдан шығарады — мұны галлюцинациялар деп атайды, және қате шындық сияқты сенімді естіледі. Тексеру тізімі қарапайым: дереккөз — кітап, мақала немесе заң бар ма, оны өзің тап; бағалау — санның реті сәйкес келе ме; салыстыру — факт энциклопедиямен, оқулықпен, ресми сайтпен немесе құжаттамамен сәйкес келе ме; тест — код бос тізім немесе теріс сандар сияқты ыңғайсыз мысалдарда жұмыс істей ме. Тек күдікті тұжырымдарды емес, сен сүйенетін әрбір тұжырымды тексеру керек. Интернеттен іздеп, сілтеме беретін көмекшілер сирек қателеседі, бірақ сілтемені де ашып, оқу керек.
Аздап тарих
Американың бір сотындағы оқиға белгілі: адвокат чат-боттың көмегімен құжат дайындап, бұрынғы бірнеше сот шешіміне сілтеме жасаған. Бұл істерді судья да, екінші тарап та таба алмады — бот оларды дәйексөздерімен қоса ойдан шығарғаны белгілі болды. Заңгерлер айыппұл төледі, ал бұл оқиға сабақ ретінде бүкіл әлемге тарады: кез келген сілтемені өзің ашып, оқуың керек.
Практикада не істейміз?
Ал енді практикалық тапсырманы орындап көрейік. Алдыңда жеке сөйлемдерге бөлінген көмекшінің төрт жауабы тұр; қазір тарих бойынша жауап ашық — адамдардың Айға алғаш қонуы туралы, соңында дереккөзі бар. Әр сөйлемді оқып, қате деп санайтындарыңды белгіле де, «Жауапты тапсыру» батырмасын бас, бірақ артық белгі де қате болып саналатынын ұмытпа. Әр сөйлем үшін тексеру тізімінен тексеру тәсілін таңда: мұндай дереккөз бар ма, сан сәйкес келе ме, факт сенімді энциклопедиямен сәйкес келе ме, ал жауапта код болса — ыңғайсыз мысалдарда не болады. Төрт жауаптың бәрін осылай талда. Егер бірдеңе түсініксіз болып қалса — ештеңе етпейді, менен кез келген нәрсені сұра, мен жауап беремін. Уайымдама.