Seden Anlar i Maria Luís Fernandes razmotrile su kako je umjetna inteligencija ušla u živote mladih ljudi. Koje mogućnosti nudi, a koje prijetnje? I kako kreatori_ce politika, kako na nacionalnoj tako i na međunarodnoj razini, mogu mladim ljudima ponuditi alate za nošenje s umjetnom inteligencijom?
Ovo je prvi članak u seriji od tri dijela.
Umjetna inteligencija (AI) više nije dalek koncept. Iako postoji već desetljećima u različitim oblicima – od osnovne automatizacije do naprednog strojnog učenja – njen je razvoj sada dosegao novu granicu. Posljednjih je godina generativna umjetna inteligencija, vrsta umjetne inteligencije koja može stvoriti originalni sadržaj, značajno napredovala.
Velika prekretnica u ovoj evoluciji dogodila se u studenom 2022. s javnim izdanjem OpenAI-jevog ChatGPT-a. Ovaj chatbot učinio je generativnu umjetnu inteligenciju dostupnom široj javnosti, dopuštajući korisnicima_ama interakciju i istraživanje njegovih mogućnosti putem jednostavnog sučelja za razgovor. Do kolovoza 2024. ChatGPT je imao 200 milijuna aktivnih korisnika_ca tjedno – dvostruko više nego u studenom 2022. Od puštanja u javnost ChatGPT-a i mnogih drugih sličnih botova i alata, umjetna inteligencija postala je duboko ugrađena u svakodnevni život, utječući na najrazličitije domene, od zabave preko društvenih medija do obrazovanja i politike.
Dezinformacije i generativna umjetna inteligencija
Jedno područje na koje posebno utječe generativna umjetna inteligencija je informacijski prostor. Umjetna inteligencija je iz temelja promijenila način na koji se vijesti i medijski sadržaj stvaraju i distribuiraju, uvodeći nove izazove u aktualno pitanje dezinformacija. Uz besplatno dostupne i uglavnom neregulirane AI alate, postalo je lakše nego ikad generirati i distribuirati lažne informacije i stvoriti uvjerljiv lažni sadržaj koji se može brzo proširiti digitalnim platformama.
Napredne mogućnosti generativne umjetne inteligencije vidljive su u tome koliko uvjerljivo može oponašati ljudsku komunikaciju i ponašanje. Razgovarali smo s Juliane Von Reppert-Bismarck, izvršnom direktoricom i osnivačicom Detektora laži (Lie Detectors), europske neprofitne organizacije predvođene novinarima koji pomažu tinejdžerima_cama, predtinejdžerima_cama i učiteljima_cama da razlikuju činjenice od lažnih vijesti i razumiju etičko novinarstvo. Navela je upečatljiv primjer:
“Dovoljno je da se sjetimo nedavnog slučaja velike inženjerske tvrtke koja je u svibnju 2024. postala žrtvom goleme prevare. Prebacili su 20 milijuna funti na različite bankovne račune jer je netko bio uvjeren da su tijekom videokonferencijskog poziva razgovarali sa stvarnim ljudima. Ali nisu. Razgovarali su s bićima koje je proizvela umjetna inteligencija, koristeći glasove koji su zvučali poznato i to ih je uvjerilo da izvrše taj transfer.”
Međutim, čak i kada se koriste s dobrim namjerama, AI sustavi su skloni pogreškama. ChatGPT i slični chatbotovi redovito upozoravaju korisnike_ce da njihovi odgovori mogu sadržavati netočnosti. Štoviše, ti su sustavi pouzdani onoliko koliko su pouzdani podaci iz kojih uče. Ako ti podaci odražavaju društvene predrasude ili nejednakosti, što obično čine, algoritmi umjetne inteligencije riskiraju ponavljanje ili čak pojačavanje tih pristranosti.
AI u proizvodnji vijesti
Ovaj problem postaje posebno izražen u medijskom sektoru, gdje se AI ubrzano integrira u različite aspekte proizvodnje vijesti. Sadržaj generiran umjetnom inteligencijom sve više dopire do publike, često bez jasnih oznaka ili smjernica koje bi ga razlikovale od materijala koji su stvorili ljudi. Ovaj nedostatak transparentnosti izaziva značajnu zabrinutost zbog potencijalne zlouporabe tehnologije i njezinog utjecaja na povjerenje javnosti u informacije.
Jedan od problema koji najviše zabrinjava je fenomen poznat kao “AI halucinacije” gdje tehnologija generira lažne ili pogrešne informacije koje se čine vrlo vjerodostojnima. Ove se halucinacije mogu dogoditi jer sustavi umjetne inteligencije, iako su sofisticirani, nemaju pravo razumijevanje i mogu stvoriti netočnosti iz svojih podataka za učenje. Stoga, nepostojanje jasnog označavanja ne samo da dovodi publiku u zabludu, već i narušava povjerenje u legitiman sadržaj, jer se publika bori razlikovati istinu od izmišljotine.
Takvi su rizici posebno alarmantni u kontekstima kao što su novinarstvo, obrazovanje ili politički diskurs, gdje je točnost iznimno važna. Zanimljivo, prema Izvještaju o digitalnim vijestima 2024., čini se da je publika manje zabrinuta u vezi priča o sportu i zabavi koje proizvodi umjetna inteligencija, gdje se ulozi smatraju nižima.
Iako izdavači_ce vijesti prepoznaju potencijalne prednosti umjetne inteligencije – osobito za automatizaciju pozadinskih zadataka kao što su prijepis, uređivanje i sustavi preporuka – mnogi još uvijek njezinu uključenost u stvaranje sadržaja vide kao ozbiljnu prijetnju. Zapravo, brinu se da bi uloga umjetne inteligencije u proizvodnji novinskih članaka, naslova ili drugog uredničkog sadržaja mogla dodatno narušiti povjerenje javnosti u novinarstvo.
Uloga medijske pismenosti
Povjerenje javnosti u informacije je u opadanju već dugi niz godina, pogoršano širenjem lažnih vijesti na društvenim mrežama. Ova erozija povjerenja mogla bi se pogoršati sa sve većom prisutnošću umjetne inteligencije, posebno u kontekstu izbora. Raste zabrinutost oko načina na koji bi nove tehnologije mogle biti iskorištene u političkim kampanjama ili čak vanjskih aktera koji žele utjecati na rezultate izbora.
Ured za istraživačko novinarstvo (TBIJ) otkrio je da su takve taktike korištene za širenje ruskih dezinformacija uoči nedavnih izbora u Velikoj Britaniji i Francuskoj. Štoviše, medijski nadzornik NewsGuard primijetio je porast broja web stranica ispunjenih sadržajem generiranim umjetnom inteligencijom, koji je često dizajniran tako da izgleda kao legitimna novinska izdanja, iako prodaje nekvalitetne ili lažne informacije. Porast obmanjujućeg sadržaja je izazvao uzbunu među stručnjacima_kinjama, koji upozoravaju da bi to moglo dodatno narušiti povjerenje u medije.
Štoviše, u Slovačkoj se, primjerice, lažirana audio snimka kandidata koji navodno raspravlja o tome kako lažirati izbore pojavila samo nekoliko dana prije vrlo spornih izbora. Oni koji provjeravaju činjenice borili su se da se učinkovito suprotstave dezinformacijama.
Slično tome, i britanska politika je doživjela prvi veliki deepfake incident u listopadu 2024. kada je audio isječak oporbenog čelnika Keira Starmera, koji psuje osoblje, postao viralan na X-u (bivši Twitter). Snimka je dobila milijune pregleda, čak i nakon što je razotkrivena kao lažna.
Povjerenje u medije vjerojatno će još više opadati kako umjetna inteligencija bude sve više integrirana u digitalne platforme. Istraživanja pokazuju da se ljudi često oslanjaju na slike i videozapise kao na “mentalne prečace” kada odlučuju čemu vjerovati na internetu, držeći se ideje da “vidjeti znači vjerovati”. S porastom sintetičkih slika i sadržaja manipuliranog umjetnom inteligencijom, pouzdanost vizualnih dokaza – koji se dugo smatraju kamenom temeljcem povjerenja – sve se više potkopava, što dovodi do veće nelagode i nesigurnosti u javnosti. Ovi slučajevi naglašavaju kako se sadržaj generiran umjetnom inteligencijom može iskoristiti za sijanje zbunjenosti i nepovjerenja tijekom kritičnih trenutaka.
No, najveća opasnost možda nije u tome da ljudi povjeruju lažnim informacijama, nego u tome da prestanu vjerovati bilo čemu. Kako je upozorila politička filozofkinja Hannah Arendt, u vremenima preokreta najveća prijetnja je kada “nitko više ni u što ne vjeruje”. Stoga ovaj rastući skepticizam prijeti nagrizanjem temelja demokracije. Posljedice pada povjerenja su duboke. Kao što je objasnila Juliane iz Detektora laži, “demokracija se temelji na pretpostavci da smo sposobni donositi informirane odluke. Dakle, medijska pismenost i jamstva koja ona pruža u donošenju informirane, a ne dezinformirane odluke, apsolutno su srž demokratskog procesa i našeg demokratskog društva.”
Rastući izazov za mlade
Ovo je pitanje posebno ključno za mlade ljude, koji su najizloženiji digitalnoj sferi i društvenim mrežama, gdje AI sve više prevladava. Mladi ljudi, koji se često smatraju “digitalnim urođenicima_ama”, više od bilo koje druge skupine komuniciraju s internetskim svijetom. Prema izvješću Instituta Reuters za 2024., mlađe generacije pokazuju slabiju povezanost s tradicionalnim proizvođačima_cama vijesti nego generacije u prošlosti, što ih čini još osjetljivijima na dezinformacije.
Uz dobnu granicu za glasanje spuštenu na ispod 18 godina u zemljama poput Belgije, a s obzirom na to da će ovi mladi ljudi oblikovati značajne političke odluke i preuzeti utjecajne uloge u društvu u nadolazećim desetljećima, od ključne je važnosti da mladi_e razumiju kako se snalaziti u informacijskom krajoliku koji se brzo razvija.
Dok novinske organizacije ulažu napore u zaštitu integriteta informacija usvajanjem smjernica za korištenje umjetne inteligencije, a platforme društvenih medija poput X-a i TikToka uvode mjere kao što su bilješke zajednice i označavanje sadržaja generiranog umjetnom inteligencijom, ostaje ključno pitanje: Je li to dovoljno?
“Lijek” koji se često navodi za ovu rastuću zabrinutost je digitalna medijska pismenost, koja se odnosi na sposobnost kritičke procjene i interakcije s digitalnim sadržajem,te obuhvaća širok skup vještina, u rasponu od identificiranja vjerodostojnih izvora informacija do razumijevanja načina na koji algoritmi i umjetna inteligencija oblikuju sadržaj koji konzumiramo. To ne uključuje samo tehničko znanje, već i sposobnost razlikovanja točnih informacija od dezinformacija te sposobnost odgovornog uključivanja u internetsko okruženje.
No, jesu li mladi_e zapravo digitalno medijski pismeni? Izvješće Ofcoma iz 2024. Djeca i roditelji: korištenje i stavovi prema medijima daje određeni uvid u to što mladi_e misle o vlastitim vještinama digitalne medijske pismenosti: 69 % djece u dobi od 12 do 17 godina izjavilo je da je uvjereno u svoju sposobnost prosuđivanja autentičnosti online sadržaja. Međutim, to je samopouzdanje bilo veće među dječacima i starijim tinejdžerima_cama. Naime, samopouzdanje među 16-17-godišnjacima_kinjama palo je s 82 % u 2022. na 75 % u 2024.
Međutim, kao što je Juliane Von Reppert-Bismarck iz Detektora laži istaknula: “Pitanje mladih misle li da su medijski pismeni nije učinkovit način za mjerenje njihovih stvarnih vještina medijske pismenosti.” Doista, izvješće Ofcoma za 2024. naglašava da samopouzdanje nije uvijek u korelaciji sa stvarnim vještinama medijske pismenosti. U njemu se navodi:
“Povjerenje ne proizlazi samo iz dobrih vještina medijske pismenosti, već se s njima isprepliće na načine koji mogu ojačati ili potkopati kritičko razumijevanje. Netko čije samopouzdanje premašuje njihove sposobnosti vjerojatnije će pogriješiti, što će dovesti do potencijalne štete. Suprotno tome, netko s dobrim kritičkim razumijevanjem ali bez samopouzdanja, možda neće vjerovati vlastitoj prosudbi, zbog čega bi se mogli osjećati zbunjeno ili nesigurno na internetu.”
Unatoč tome što ih se naziva “digitalnim urođenicima_ama”, poznavanje tehnologije mladih ljudi ne znači automatski jake vještine digitalne medijske pismenosti. Safa Ghnaim, pomoćna direktorica programa u Tactical Techu, međunarodnoj neprofitnoj organizaciji usmjerenoj na pomaganje pojedincima_kama i zajednicama da se nose s društvenim utjecajima digitalne tehnologije, istaknula je ovu zabludu:
“Čula sam za izraze poput ‘digitalni urođenik_inja’, što implicira da mladi dobro vladaju tehnologijom jer su s njom odrasli, ali mislim da ljudi ponekad prebrzo zaključe da su također dobri i u razaznavanju dezinformacija ili uočavanju prijevara. To nije nužno slučaj. Ove vještine još uvijek treba učiti. Proveli smo istraživanje s tinejdžerima_cama o njihovim nadama i strahovima u vezi s tehnologijom, a rezultati su bili razotkrivajući. Neki su izrazili zabrinutost zbog erozije odnosa između ljudi, pokazujući dubinu njihove tjeskobe.”
Helderyse Rendall iz Tactical Techa, viša projektna koordinatorica projekta usmjerenog na mlade “Što budućnost želi”, ponavlja ovo mišljenje: “Sposobnost mladih ljudi da koriste tehnologiju često se pogrešno tumači kao dublje razumijevanje načina na koji se tehnologija isprepliće s njihovim odnosima, zajednicama i društvom u cjelini. To su stvari koje trebaju istražiti i raspraviti u okruženjima u kojima mogu razmišljati o njihovim interakcijama i učincima.”
Podaci podupiru ovu zabrinutost. Prema istraživanju EU-a iz 2022., jednom_j od tri 13-godišnja učenika_ce u Europi nedostaju osnovne digitalne vještine kada ih se izravno testira. Štoviše, OECD izvješćuje da je tek nešto više od polovice 15-godišnjaka_inja u EU-u podučavano kako otkriti jesu li informacije subjektivne ili pristrane.
Inicijative EU-a o digitalnoj medijskoj pismenosti
Prepoznajući ovu rastuću potrebu, Europska unija pokrenula je nekoliko inicijativa usmjerenih na promicanje digitalne medijske pismenosti. Dana 1. srpnja 2020. objavljena je Europska agenda vještina koja promiče digitalne vještine za sve i podupire ciljeve Akcijskog plana za digitalno obrazovanje. Ovaj plan ima za cilj poboljšati digitalne vještine i kompetencije za digitalnu transformaciju i promicati razvoj digitalnog obrazovnog sustava visokih performansi. Osim toga, Digitalni kompas i Akcijski plan Europskog stupa socijalnih prava postavljaju ambiciozne ciljeve za EU: osigurati da najmanje 80 % stanovništva ima osnovne digitalne vještine, i imati 20 milijuna ICT stručnjaka do 2030.
U listopadu 2022. Europska komisija je objavila smjernice za nastavnike_ice o promicanju digitalnih vještina i borbi protiv dezinformacija u osnovnim i srednjim školama. Ovaj komplet alata pokriva tri glavne teme: izgradnju digitalne pismenosti, borbu protiv dezinformacija, te procjenu i evaluaciju digitalne pismenosti. Potom je Komisija u veljači 2023 objavila Smjernice za medijsku pismenost, koje državama članicama pružaju okvir za razmjenu najboljih praksi i izvješćivanje o svojim naporima u području medijske pismenosti.
Stanje medijske pismenosti u Europi
Međutim, usprkos ovim smjernicama na razini EU-a, na pojedinačnim je državama članicama i njihovim nacionalnim obrazovnim sustavima da ih provedu, budući da Direktiva o audiovizualnim medijskim uslugama (AVMSD) zahtijeva od država članica promicanje medijske pismenosti i izvješćivanje o svom napretku svake tri godine. Kao što Helderyse Rendall objašnjava:
“Dobro je dokumentirano kako UNESCO ili Europska unija ocjenjuju te kompetencije, ali je kompliciranije kako se to prevodi u različite kontekste. Istraživanje koje smo objavili prošle godine pokazalo je da je, bez obzira na implementirani okvir, digitalna medijska pismenost vrlo kontekstualna. Mlada osoba u Njemačkoj nije isto što i mlada osoba u Portugalu.”
Unatoč tim izazovima, postoji napredak – barem na međunarodnoj i lokalnoj razini. Prema Juliane iz Detektora laži, “puno je aktivnosti na razini EU-a, UNESCO-a i OECD-a”. Slično tome, ističu se lokalne inicijative, sa sve većim brojem gradonačelnika_ica koji_e aktivno surađuju kroz udruživanje i pokretanje inicijativa poput Tjedna digitalnih kompetencija, koje su se pokazale vrlo popularnima.
Međutim, Juliane je naglasila potrebu za djelovanjem na nacionalnoj razini: “Ono što nedostaje je srednji put – potrebno je djelovanje nacionalnih i regionalnih vlada. Tu će doći prava rješenja. Uz to, postoje značajne iznimke. Skandinavija, posebice Finska, često se smatraju predvodnicima u medijskom opismenjavanju, dok je Austrija također napravila napredak s uvođenjem poučavanja osnovnih digitalnih kompetencija kroz zaseban predmet u školama.”
Uz formalno obrazovanje, postoji sve veća potreba za inicijativama za neformalno obrazovanje koje bi pomogle u uklanjanju jaza. Kako ističe Helderyse iz Tactical Techa, mnoge organizacije rade na stvaranju okvira koji podržavaju obrazovne sustave u podučavanju digitalne medijske pismenosti.
Safa iz Tactical Techa dodaje:
“Postoji stvarna potreba za neformalnim, kreativnim i ko-kreativnim intervencijama poput naše, koje su usredotočene na kritičko razmišljanje i međusobno primjenjive vještine. To su vještine koje mladima pomažu razumjeti kako algoritmi funkcioniraju, kako funkcionira prikupljanje podataka i AI. Dok se trenutni obrazovni sustavi uglavnom fokusiraju na praktične primjene tehnologije, poput kodiranja ili robotike, važno ih je poučavati uz vještine kritičkog razmišljanja.”
Seden Anlar je novinarka, moderatorica, voditeljica/producentica podcasta i trenerica iz Bruxellesa. Piše i priča priče o intersekcijskim pitanjima klime i socijalne pravde. Prethodno je radila s organizacijama koje vode političke kampanje kao što je Climate Action Network (CAN) Europe, političkim publikacijama poput Green European Journala i producirala podcaste kao što su Green Space za Zelenu stranku Engleske i Walesa i Changing the Table Podcast za Grupu za migracijske politike. Za suradnju možete je kontaktirati putem LinkedIna.
Maria Luís Fernandes stručnjakinja je za politiku i medije specijalizirana za društvena, građanska i politička pitanja. Nakon rada u nekoliko organizacija civilnog društva u Bruxellesu, trenutno pridonosi Kreativnoj Europi u Europskoj komisiji. Nakon završenog LL.B. diplomirala pravo na Pravnom fakultetu NOVA, nastavila je s magisterijem iz komunikacija i digitalnih medija na Sveučilištu u Tilburgu, gdje je razvila istraživanje o dezinformacijama. Zanima se i piše o umjetnosti i kulturi, medijima i novinarstvu te o jednakosti i socijalnoj pravdi.
Prijevod: Marina Kelava / Voxeurop
Tekst je izvorno objavljen na portalu rekto:verso.
