Magyarok tömegeire van valós veszéllyel a ChatGPT igazi árnyoldala: ezzel sokan nem számolnak

Az utóbbi hónapokban a teljes közbeszédet, de a tudományos élet jelentős részét is leuralta a ChatGPT térhódítása és a programról való beszélgetés. Mindez odáig jutott, hogy míg az Instagramnak 10 millió regisztrált felhasználóig 355 napra volt szüksége, addig a ChatGPT erre elég volt 40 nap. Sokatmondó adat az is, hogy február közepére a programnak már megvolt a havi 100 millió aktív felhasználója.

Ezzel pedig a szoftver megszerezte a történelem leggyorsabban növekvők fogyasztói alkalmazásának rekordját. A sikerhez persze hozzájárul, hogy a nagyközönség ezidáig nem nagyon találkozott ennyire finomhangolt beszélgető szoftverrel, ami tényleg meglehetősen sok esetben, meglehetősen jól tesz úgy, mintha valamiféle emberi értelemmel rendelkezne. Ez persze nincs így, de az élet számos területén nagyon is komoly kérdéseket kell feltennünk a ChatGPT és az ilyen jellegű egyéb szoftverek térhódítása láttán.

Nincs ez másképp az oktatás esetében sem. Legyen szó közoktatásról vagy felsőoktatásra, a mesterséges intelligenciával megtámogatott szövegalkotó szoftverek ugyanis igen komoly dilemmákat vetnek fel az oktatás egész területén. Írjon a diák otthoni beadandót, online dolgozatot vagy csak segítse a saját felkészülését ilyen módon. Bármennyire is néz ki most szinte mindenhatónak egy ilyen szoftver, a szakértők már most is inkább a korlátairól, és véges felhasználási lehetőségeiről beszélnek.

Azért, hogy tisztábban lássunk a mesterséges intelligenciával megtámogatott programok oktatásra gyakorolt hatását illetően, a Pénzcentrumon ezúttal Dr. Friedmann Viktorral, a Budapesti Metropolitan Egyetem oktatójával beszélgettünk, aki maga is éppen a generatív mesterséges intelligencia felsőoktatásra gyakorolt hatását kutatja csapatával annak érdekében, hogy az egyetem előremutató és átgondolt módon reagáljon az általa jelentett lehetőségekre és kihívásokra.

Mire használjuk és mire ne ezeket a programokat?

Először is érdemes tisztázni, hogy pontosan milyen program is a ChatGPT, és azt is, hogy az ilyen eszközöket mire lehet használni az oktatásban, illetve ezzel párhuzamosan milyen lehetőségeket nyújtanak vagy éppen veszélyeket, kihívásokat állítanak az oktatás elé. Friedmann Viktor szerint mindenekelőtt fontos tisztázni, hogy a ChatGPT egy olyan alkalmazás, ami generatív mesterséges intelligencia használatával szövegeket alkot.

Ez egy nyelvi modell, amit nem szabad összetéveszteni sem tudásmodellekkel, sem általános intelligencia modellekkel.

Ezek a szoftverek ilyesmikre nem képesek, pusztán szövegeket tudnak alkotni. Ilyen értelemben a főiskolai docens szerint az oktatás szempontjából leginkább olyan területeken lehetne hasznosítani ezt a programot, ahol kifejezetten a létrejött szöveg a cél. Például lehet a szoftverrel generáltatni egy szöveget, aztán azt elemezni, megnézni nyelvtanilag, hogy milyen a struktúrája, milyen a szövegalkotás technikája és ezáltal a vonatkozó készségeket fejleszteni. Ezen a területen így kifejezetten hasznos is tud lenni egy ilyen program.

Azonban önmagában jó minőségű tartalomgyártásra Friedmann Viktor szerint már jóval korlátozottabban alkalmas. Mégpedig azért, mert a szakember szerint fel kell tennünk azt a nulladik kérdést, hogy a felhasználó, aki szöveget írat a programmal van-e olyan szinten, hogy képes legyen megítélni azt, a végső produktum jó vagy rossz szövegnek minősül-e. Ez ugyanis egyáltalán nem magától értetődő, de erről majd egy picit később.

Az oktató szerint egy második nagy felhasználási területe a programnak, ahol szerinte ugyan kevésbé hasznos, mégis sokan használják, az a tudásátadás, információ szerzés. Sok tanuló esik például ebbe a hibába, hogy magával a programmal generált szövegekből próbálna tudást szerezni vagy saját tudását helyettesíteni ezekkel akár egy beadandó dolgozat megíratásával. A probléma viszont az, hogy az ilyen nyelvi modellek által generált szövegekben megjelent információ vagy igaz vagy sem.

Egyszóval a generált szövegek nem megbízhatóan hozzák az igazságot, sőt azt sem lehet ellenőrizni, milyen forrásból vették a szövegbe szőtt információt. Ez utóbbi például a ChatGPT-re egyértelműen igaz, viszont ma már vannak más alkalmazások, amik megadják a forrásaikat, de nagy általánosságban forráskritikát nehéz alkalmazni ilyen programok szövegeivel szemben.

Ilyen értelemben veszélyes az ilyen programok által generált szövegeket tudásszerzésre használni. Ha ugyanis az ember nem tud valamit, akkor mi alapján fogja eldönteni, hogy igaz-e, amit neki a ChatGPT írt? Ha viszont tudja, akkor meg minek íratna vele bármit is információelőhívás céljából?

- teszi fel a kérdést Friedmann Viktor, aki szerint fontos megérteni, hogyan is működik valójában egy ilyen szoftver. Ennek a lényege, hogy a program a szövegalkotás során megpróbálja előre jelezni, hogy egy adott szó után, milyen szó következhet, aztán egy adott mondat után, milyen másik mondat következhet. Teljesen máshogy működik tehát, mint az emberi agy. A kérdés alapján elkezdi megjósolni, milyen lehetne egy olyan szöveg, ami egy valószerű válasz lenne a feltett kérdésre.

Sőt, azért, hogy kreatívnak tűnő választ tudjon adni, a szoftver belerak az egészbe egy véletlenszerűséget, aminek során a program eldönti milyen irányba megy el az általa alkotott szöveg során. A véletlenszerűség arra kell, hogy a megalkotott szövegek változatosabbak legyenek, kreatívabbnak hassanak.

Ennek viszont ára van: ha a program jó irányba indul, akkor igencsak összetett témákban is meglepően jó válaszokat tud adni, ha viszont rossz irányba, akkor bődületes sületlenségeket ad tovább a kérdezőnek. Persze logikailag az így mondottak is jól kötődnek egymáshoz a szövegben, de a tartalmuk már egyáltalán nem biztos, hogy igaz lesz.

Saját példával is jól alá tudom támasztani ezt. A kérdésem az volt a program felé, hogy az Osztrák Magyar Monarchia tekinthető-e gyarmatosító birodalomnak. Ezt négyszer tettem fel a programnak, melyre kétszer teljesen kompetens és viszonylag magas szintű tudást szimuláló választ tudott adni. Kétszer viszont olyanokat írt, hogy a monarchiának Indiában voltak gyarmatai, és más nyilvánvaló sületlenségeket. Ez jól mutatja, hogyha a kérdező fejében nincs elegendő tudás, csak pusztán a válasz tartalmából nem tudja eldönteni, az valójában milyen minőségű

- vélekedett a szakértő.

Az oktatás feladata

A legfontosabb tehát azt megértenünk az ilyen programok kapcsán, hogy ezek egyfajta gépi tanulással csak szimulálni tudják szövegeikkel az igazi tudást és a magas szintű készségeket. Az oktatásnak viszont pont ez utóbbiak fejlesztése az elsődleges feladata, azaz, hogy a diákok olyan készségeket sajátítsanak el, mint a megértés, az analízis, szintézis, alkotás, kreativitás, értékelés. Ezek mind olyan készségek, amiket a szöveggeneráló szoftverek nem rendelkeznek. Szimulálni viszont sok mindent tudnak, Friedmann Viktor, a METU oktatója szerint éppen ezért óriási kihívás az oktatás számára, hogy a tanulók az energiáikat inkább ezen készségek megszerzésére, semmint programok használata általi kiváltásukra fordítsák.

Azt lehet tehát mondani, hogy bár a szövegalkotás önmagában is lehet hasznos, az oktatásban, és főleg a számonkérésekben a létrehozott szövegek többnyire nem önmagukért vannak. Azok bizonyos feladatok során azért jönnek létre, hogy az oktatók, a tanárok lássak azt, hogy oktatásuk során képesek voltak-e magasabb szintű készségek elsajátítására. Ha viszont ezt a diákok inkább szimulált szövegekkel váltják ki, akkor a tanárok nem fogják tudni, mi történik valójában a diákok fejében.

Márpedig sokszor már ma is, de az idő előrehaladtával még több olyan szöveges számonkérés lehet, amit a ChatGPT vagy a hozzá hasonló más szoftverek alapjaiban fognak megkérdőjelezni. Lesz majd olyan terület, ahol érdemesebb lesz ezeket majd kiváltani, de a szakértő szerint fontos hangsúlyozni, hogy ez nem mindenhol lehetséges. Ezt mindenképpen egy meghatározó kihívásnak nevezi az oktató.

Egy másik fontos probléma, amiről beszélnünk kell, hogy tapasztalatim szerint éppen azok a hallgatók próbálják meg kijátszani a ChatGPT-vel például a számonkéréseket, akik eleve gyengébb készségekkel rendelkeznek. És általában azok a válaszok, szövegek, amiket ők megadnak nem kifejezetten jó válaszok. Ez pedig abból fakad, hogy ők azok, akik nem tudják megítélni azt, hogy a szoftver által kapott válaszok, mennyire is jók valójában

- értékelte a helyzetet Friedmann Viktor, aki szerint rendkívül problémás lehet a jövőben az, hogy az ilyen szoftverek azoknak nyújthatnak könnyen elérhető segítséget, akik alapból is rosszabbul teljesítenek. Így ők még jobban leszakadhatnak azáltal, hogy feladataikat inkább kiszervezik egy szoftvernek, ahelyett, hogy pontosan azokat a készségeiket fejlesztenék, amivel aztán később pontosabban meg tudnák ítélni, milyen válaszokat is kapnak valójában egy programtól.

Az oktató szerint fontos kiemelni azt is, hogy egy jó és egy nem jó képességű diák között nem az a különbség, hogy jól vagy rosszul teljesít egy dolgozat vagy vizsga során. Hanem pontosan az, hogy meg tudja-e ítélni saját teljesítményét a valóságnak megfelelően. A kevésbé jó képességűek erre csak korlátozottan képesek. Ezáltal a többség, aki pont ilyesféle generált válaszokkal operál, nem igazán képes erre. Ennek pedig súlyos buktatói lehetnek, és első sorban nem az eredmények miatt, hanem mert a kiszervezés hatására pont olyan területek sorvadhatnak el, amit a diáknak éppen, hogy fejlesztenie kellene a siker érdekében.

Az oktatás felelőssége

A program és annak használata kapcsán a főiskolai docens kiemelte azt is, hogy a ChatGPT-t és a hasonló programokat nemcsak az oktatásban, hanem az élet más területein is használják a diákok. Viszont annak is az oktatás feladatának kellene lennie, hogy a diákoknak, a felhasználóknak elmondja, megmutassa, mire, milyen formában lehet, és mire nem ajánlott használni az ilyen programokat.

Friedmann Viktor szerint alapvetően sokan félreértik ezeknek a programoknak már a működését is. És például a mesterséges intelligencia által etikai dilemmákra adott válaszokat kezelhetnek univerzális igazságként, miközben bizonyos témákat illetően a fejlesztők egyszerűen csak beleprogramozták a szoftverbe, hogy mit mondjon, elkerülve potenciálisan nagyon súlyos botrányokat.

Ilyen értelemben a közoktatásban, a középiskolákban, de még inkább az általános iskolákban nagy hangsúlyt kell fektetni az edukációra. Elmondani a gyerekeknek, miként működnek ezek a programok, amik az emberi gondolkodás, megértés, kreativitás képességével nem rendelkeznek, csupán óriási minták révén azon ügyködnek, hogy minél pontosabban megjósolják, egy adott szót, milyen más szó kövessen annak érdekében, hogy egy mondat, vagy a szöveget alkotó mondatok minél értelmesebb képet fessenek.

Tehát hogy úgy tűnjön, értelmesen válaszolt, de közben, amit mondott az igaz-e vagy sem, azt csak akkor lehet eldönteni, hogyha a programot használó birtokában van a megfelelő háttértudásnak, mert ha nincs, akkor abból könnyen balul sülhetnek el a dolgok. Az oktatásnak pedig éppen itt van megkülönböztetett jelentősége:

egyre több olyan emberre lesz ugyanis szükség, akik birtokolják a magasabb szintű készségeket és ellenőrizni tudják például az ilyen szövegek minőségét, valóságtartalmát.