ChatGPT oʻqiydigan kitoblar roʻyxati tuzildi: u “Garry Potter”ni oʻqishni yaxshi koʻradi

Kaliforniyaning Berkeley universiteti kompyuter olimi, Tadqiqotchi olim Devid Bamman Jeyn Ostin qalamiga mansub “Magʻrurlik va xurofot” asarini raqamli tahlil qilishga harakat qildi. U sanʼat va adabiyot haqida “mashina fikrini” bilishga intiladi. Bu safar u asardagi Lizzi va Jeyn obrazlarining yaqin doʻst boʻlgan-yoʻqmi mavzusida savol berdi. Avval u ChatGPTʼga asarning 4 000 ta soʻzni yubordi va “Qahramonlar oʻrtasidagi munosabat qanday?” savolini berdi.

Ajablanarlisi shundaki, Chatbotning GPT-4 romanni avvaldan oʻrgangandek tahlil qildi:

Muammo shundaki, GPT-4 ega bilimni qanday oʻzlashtirganini bilishning hech qanday usuli yoʻq edi. Chatbotning markazidagi katta til modellarining ishlashi qora qutiga oʻxshaydi — ularning yaratuvchilari bu maʼlumotni sir deb bilishadi.

Shunday qilib, Bamman jamoasi “maʼlumotlar arxeologi” boʻlishga qaror qildi. GPT-4 nima oʻqiyotganini bilish uchun ular xuddi ingliz tili talabasidek turli kitoblar boʻyicha bilimini sinab koʻrishdi. Keyin har bir kitobga baho berishdi. Bal qancha yuqori boʻlsa, kitob bot maʼlumotlar toʻplamining bir qismi boʻlish ehtimoli shunchalik koʻp – botga yangi til yaratishga yordam berish uchun qayta ishlanibgina qolmay, balki eslab qolingan.

Yaqinda chop etilgan tadqiqotga ko‘ra, bot “oʻqigan kitoblarning” aksariyati, klassikadir, bu “Mobi Dik” va “Qizil maktub”dan tortib “Gʻazab shingillari”gacha, shuningdek, “Garri Potter” va “Sherlok Xolms”dan tortib, “Da Vinchi kodi”gacha boʻlgan koʻplab mashhur romanlar mavjud. Ammo eng hayratlanarlisi, GPT-4 da qanchalik koʻp ilmiy-fantastik va fantaziya toʻplanganligi.

Odamlar chatbotlar qaysi manbalardan oʻrganishlarini aniqlashga harakat qilishlarining sabablaridan biri bu LLMlar (katta til modellari) ushbu asosiy manbalarni qanchalik buzayotganligini aniqlashdir.

Bunda quyidagicha savol paydo bo‘ladi: botlar manbadan vijdonan foydalanyaptimi, uni yangi narsaga aylantiryaptimi yoki ular shunchaki uni toʻliq yodlab olib, iqtibos yoki ruxsatnomasiz qayta tiklayaptimi?

Bu savolga javob berishning usullaridan biri faqat bitta manbadan olinadigan maʼlumotni izlashdir. Misol uchun, soʻralganda, Sudowrite deb nomlangan GPT-3 yozuv yordami Omegaverse deb nomlangan fanfiks yozish janrining baʼzi jinsiy amaliyotlarini tan oladi. Bu OpenAI GPT-3 ni oʻrgatish uchun Omegaverse omborlaridan maʼlumotlarni tortib olganiga aniq ishoradir.

Bamman va uning jamoasi boshqacha taktika qoʻllashdi: bu “ismni yopish” deb nomlangan boʻsh joyni toʻldirish oʻyini. Bunda asl manbada keltirilgan muhim ismlar berkitiladi va botning ularni qanchalik to‘g‘ri to‘ldirishiga qarab manbani qay darajada yaxshi bilishi anglashiladi.

Biroq, botlar oʻqiyotgan barcha ilmiy fantastika ularga oʻqitilgan boshqa maʼlumotlar kabi zararli taʼsir koʻrsatishini tasavvur qilish qiyin emas — bu chatbotlar generatsiya qilayotgan javoblarning turliligida ham koʻrish mumkin. Baʼzan ular irqchilik qilishadi. Ular notoʻgʻri maʼlumotni xuddi haqiqatdek umumlashtirishlari mumkin, chunki Internetda bir xil yolgʻon gʻoyalar koʻp. Bular maʼlum risklar va OpenAI bosh direktori Sem Altman yaqinda Kongressdan oʻz biznesini tartibga solishda yordam soʻraganining sabablaridan biri.

OpenAI va boshqa chatbot ishlab chiqaruvchilari oʻzlarining oʻquv maʼlumotlar toʻplamlarini ommaga oshkor qilmaguncha, ularning oʻqish roʻyxatlarining natijalariga taʼsirini tushunish qiyin boʻladi.

Xulosa qilib aytganda, biz botlarning gaplaridan kitoblar haqida koʻproq bilib olamiz, chunki ular materialga yangicha nigoh bilan qarashadi. Shuningdek, botlarga kengroq va istalgancha gʻalati, noodatiy maʼlumotlar toʻplamini berish zarar qilmaydi. Bu ularni biz atrofdagi narsalar haqida qiziqarli fikrlarni aytishga undashning yagona yoʻli.