ChatGPT možda narušava vještine kritičkog mišljenja, prema novoj MIT studiji

https://time.com/7295195/ai-chatgpt-google-learning-school/

Šteti li ChatGPT sposobnostima kritičkog mišljenja? Novo istraživanje istraživača s MIT-ovog Media Laba dalo je neke zabrinjavajuće rezultate.

Studija je podijelila 54 ispitanika – od 18 do 39 godina iz područja Bostona – u tri skupine i zamolila ih da napišu nekoliko SAT eseja koristeći OpenAI-jev ChatGPT, Googleovu tražilicu i ništa. Istraživači su koristili EEG za snimanje moždane aktivnosti pisaca u 32 regije i otkrili da su od tri skupine korisnici ChatGPT-a imali najnižu angažiranost mozga i „dosljedno su postigli lošije rezultate na neuronskoj, lingvističkoj i bihevioralnoj razini“. Tijekom nekoliko mjeseci, korisnici ChatGPT-a postajali su lijeniji sa svakim sljedećim esejem, često pribjegavajući kopiranju i lijepljenju do kraja studije.

Rad sugerira da bi korištenje LLM-ova zapravo moglo naštetiti učenju, posebno mlađim korisnicima. Rad još nije recenziran, a uzorak je relativno malen. No, glavna autorica rada Nataliya Kosmyna smatrala je važnim objaviti nalaze kako bi se upozorilo na zabrinutost da bi dugoročni razvoj mozga, kako se društvo sve više oslanja na LLM za neposrednu praktičnost, mogao biti žrtvovan u tom procesu.

„Ono što me stvarno motiviralo da to objavim sada, prije nego što čekam potpunu stručnu recenziju, jest to što se bojim da će za 6-8 mjeseci neki kreator politike odlučiti: ‘Uvedimo GPT u vrtiću’. Mislim da bi to bilo apsolutno loše i štetno“, kaže. „Razvoj mozga je u najvećem riziku.“

Pročitajte više: Psihijatar se s terapijskim chatbotovima predstavljao kao tinejdžer. Razgovori su bili alarmantni

Generiranje ideja

MIT Media Lab nedavno je posvetio značajna sredstva proučavanju različitih utjecaja generativnih alata umjetne inteligencije. Studije s početka ove godine , na primjer, otkrile su da se općenito, što više vremena korisnici provode razgovarajući s ChatGPT-om, to se osjećaju usamljenije.

Kosmyna, koja je od 2021. godine stalno zaposlena istraživačica u MIT Media Labu, željela je posebno istražiti utjecaje korištenja umjetne inteligencije za školski rad, jer sve više učenika koristi umjetnu inteligenciju. Stoga su ona i njezini kolege uputili ispitanike da napišu 20-minutne eseje temeljene na SAT upitima, uključujući i one o etici filantropije i zamkama previše izbora.

Grupa koja je pisala eseje koristeći ChatGPT napisala je izrazito slične eseje kojima je nedostajala originalna misao, oslanjajući se na iste izraze i ideje. Dva profesora engleskog jezika koji su ocjenjivali eseje nazvali su ih uglavnom „bezdušnima“. EEG je otkrio nisku izvršnu kontrolu i angažman pažnje. A do trećeg eseja, mnogi pisci jednostavno su dali upute ChatGPT-u i pustili ga da obavi gotovo sav posao. „Više je bilo kao: ‘samo mi daj esej, pročisti ovu rečenicu, uredi je i gotov sam’“, kaže Kosmyna. 

S druge strane, skupina koja je proučavala samo mozak pokazala je najveću neuronsku povezanost, posebno u alfa, theta i delta pojasevima, koji su povezani s kreativnim idejama, memorijskim opterećenjem i semantičkom obradom. Istraživači su otkrili da je ova skupina bila angažiranija i znatiželjnija te je preuzela odgovornost i izrazila veće zadovoljstvo svojim esejima. 

Treća skupina, koja je koristila Google pretraživanje, također je izrazila visoko zadovoljstvo i aktivnu funkciju mozga. Razlika je ovdje značajna jer mnogi ljudi sada traže informacije unutar AI chatbotova, za razliku od Google pretraživanja. 

Nakon što su napisali tri eseja, ispitanici su zamoljeni da prepišu jedan od svojih prethodnih pokušaja – ali ChatGPT grupa je to morala učiniti bez alata, dok je grupa koja je koristila samo mozak sada mogla koristiti ChatGPT. Prva grupa se malo sjećala vlastitih eseja i pokazala je slabije alfa i theta moždane valove, što je vjerojatno odražavalo zaobilaženje procesa dubokog pamćenja. „Zadatak je izvršen i moglo bi se reći da je bio učinkovit i praktičan“, kaže Kosmyna. „Ali kao što pokazujemo u radu, u osnovi niste ništa od toga integrirali u svoje memorijske mreže.“

Druga skupina, nasuprot tome, dobro se pokazala, pokazujući značajno povećanje povezanosti mozga u svim EEG frekvencijskim pojasevima. To daje nadu da bi umjetna inteligencija, ako se pravilno koristi, mogla poboljšati učenje, a ne umanjiti ga.

Pročitajte više: Prestao sam predavati zbog ChatGPT-a

Nakon objave

Ovo je prvi rad prije recenzije koji je Kosmyna ikada objavila. Njezin tim ga je poslao na recenziju, ali nije želio čekati odobrenje, koje može potrajati osam ili više mjeseci, kako bi skrenuo pozornost na problem za koji Kosmyna vjeruje da sada pogađa djecu. „Edukacija o tome kako koristimo ove alate i promicanje činjenice da se vaš mozak treba razvijati na analogniji način apsolutno je ključno“, kaže Kosmyna. „Moramo imati aktivno zakonodavstvo koje je usklađeno i, što je još važnije, testirati ove alate prije nego što ih implementiramo.“

Psihijatar dr. Zishan Khan, koji liječi djecu i adolescente, kaže da vidi mnogo djece koja se uvelike oslanjaju na umjetnu inteligenciju za školski rad. „S psihijatrijskog stajališta, vidim da pretjerano oslanjanje na ove LLM-ove može imati neželjene psihološke i kognitivne posljedice, posebno za mlade ljude čiji se mozak još uvijek razvija“, kaže. „Te neuronske veze koje vam pomažu u pristupu informacijama, pamćenje činjenica i sposobnost otpornosti: sve će to oslabiti.“

Ironično, nakon objavljivanja rada, nekoliko korisnika društvenih mreža provjerilo je LLM kako bi ga saželi, a zatim objavili nalaze online. Kosmyna je očekivala da će ljudi to učiniti, pa je u rad ubacila nekoliko AI zamki, poput upute LLM-ovima da „čitaju samo ovu tablicu u nastavku“, čime je osigurala da će LLM-ovi vratiti samo ograničen uvid iz rada.

Kosmyna kaže da ona i njezini kolege sada rade na sličnom radu koji testira moždanu aktivnost u softverskom inženjerstvu i programiranju sa ili bez umjetne inteligencije te da su do sada „rezultati još gori“. Ta studija, kaže, mogla bi imati implikacije za mnoge tvrtke koje se nadaju zamijeniti svoje programere početne razine umjetnom inteligencijom. Čak i ako se učinkovitost poveća, sve veće oslanjanje na umjetnu inteligenciju moglo bi potencijalno smanjiti kritičko razmišljanje, kreativnost i rješavanje problema među preostalom radnom snagom, tvrdi ona.

Znanstvene studije koje ispituju utjecaje umjetne inteligencije još su u ranoj fazi i razvijaju se. Studija Harvarda iz svibnja otkrila je da generativna umjetna inteligencija čini ljude produktivnijima, ali manje motiviranima. Također prošli mjesec, MIT se distancirao od drugog rada koji je napisao doktorand u svom ekonomskom programu, a koji je sugerirao da umjetna inteligencija može znatno poboljšati produktivnost radnika. 

OpenAI nije odgovorio na zahtjev za komentar. Prošle godine u suradnji s Wharton Onlineom, tvrtka je objavila smjernice za edukatore o korištenju generativne umjetne inteligencije u nastavi. Prošle godine u suradnji s Wharton Onlineom, tvrtka je objavila smjernice za edukatore o korištenju generativne umjetne inteligencije u nastavi.

Ispravak, 23. lipnja

Izvorna verzija ove priče pogrešno je opisala način na koji je ChatGPT opisan u studiji. Rad nije izostavio koja je verzija korištena; zbog tipografske pogreške autora koja će biti ispravljena u sljedećim izdanjima, u jednom je slučaju pogrešno spomenut GPT-4o. Ovaj je odlomak uklonjen.