Gerfigreind: Nytsamlegt verkfæri eða hættulegt tól til misnotkunar?

Þróun gerfigreindar hefur verið mjög hröð á fáum árum og áhrif hennar á fjölmiðla, vefmiðla og opinbera umræðu eru þegar orðin mikil. Hún getur hjálpað við gagnaöflun, leit í skjölum, samantektir, þýðingar, talgreiningu og fyrstu drög að texta. Um leið hefur hún aukið hættu á rangfærslum, upplýsingaóreiðu, djúpfölsunum og ýmiss konar blekkingum. Þess vegna dugar ekki að spyrja hvort eigi að nota gerfigreind, heldur þarf að skilgreina hvað telst heiðarleg notkun, hvernig fjölmiðlar eiga að beita tækninni og hvar mörkin liggja.

Heiðarleg notkun gerfigreindar í fjölmiðlum byggist fyrst og fremst á því að tæknin sé hjálpartæki, en ekki staðgengill fyrir ritstjórn, blaðamennsku eða heimildavinnu. Það er almennt eðlilegt að nota gerfigreind til að leita í opinberum gögnum, bera saman skjöl, draga saman langar skýrslur, finna atriði sem þarf að sannreyna betur og hjálpa til við uppsetningu á drögum. Slík notkun getur sparað tíma og aukið yfirsýn, sérstaklega þegar unnið er með mikið magn upplýsinga. En lykilatriðið er að blaðamaður eða ritstjóri beri áfram fulla ábyrgð á því sem birt er, lesi og kanni frumheimildir, sannreyni staðreyndir, meti samhengi og ákveði hvað telst sanngjörn framsetning. Associated Press hefur til dæmis lagt áherslu á að þróuð gerfigreind megi nýtast sem aðstoð, en ekki grafa undan kröfum um nákvæmni, réttmæti og mannlega ábyrgð.

Óheiðarleg notkun hefst þegar gerfigreind er látin fylla upp í eyður sem engar staðfestar heimildir standa undir. Það getur gerst þegar texti sem lítur út eins og frétt er byggður á ósannreyndri sjálfvirkri samantekt, þegar heimildir eru nefndar án þess að hafa verið lesnar, þegar tilvitnanir eru endurskapaðar í stað þess að vera sóttar í frumtexta eða þegar tilbúið myndefni er sett fram þannig að lesandi geti haldið að það sýni raunverulega atburði. Þá er ekki lengur um tæknilega aðstoð að ræða heldur framsal á ritstjórnarlegri ábyrgð til kerfis sem getur bæði rangtúlkað gögn og búið til ósannindi með sannfærandi hætti. Þar liggur stærsta hættan fyrir fjölmiðla, að traustið veikist vegna þess að framleiðsluhraði fer að skipta meira máli en sannprófun.

Af þessu leiðir að fjölmiðlar ættu að setja sér skýr mörk. Gerfigreind ætti ekki að skrifa lokaútgáfu fréttar án ítarlegrar mannlegrar yfirferðar. Hún ætti ekki að búa til viðtöl, tilvitnanir eða lýsingar á atburðum sem engar frumheimildir staðfesta. Hún ætti ekki að framleiða myndir, hljóð eða myndskeið sem gætu blekkt almenning nema skýr merking fylgi. Og hún ætti ekki að vera notuð til að auka magn efnis á kostnað gæða. Fjölmiðill sem notar tæknina af ábyrgð þarf því að geta svarað einfaldri spurningu: ,,Hvað í efninu er unnið með aðstoð gerfigreindar, hvað hefur maður sannreynt sjálfur og hver ber ábyrgð á lokaafurðinni?”

Umræðan um orkukostnað gerfigreindar hefur á sama tíma orðið sífellt meira áberandi. Þar þarf að halda tveimur hlutum aðskildum. Hið fyrra er hvort gerfigreind sé orkufrek. Hið síðara er hvaðan rafmagnið sem hún notar kemur. Um fyrra atriðið liggur fyrir að stór gerfigreindarlíkön og gagnaver sem keyra þau krefjast verulegrar raforku. Alþjóðaorkumálastofnunin spáir því að raforkunotkun gagnavera á heimsvísu muni meira en tvöfaldast fram til 2030 og nálgast 945 teravattstundir, en gervigreind sé helsti drifkrafturinn að baki þeim vexti. EPRI hefur einnig bent á að hlutur gerfigreindar vinnslu í raforkunotkun gagnavera fari ört vaxandi. Það er því rétt að segja að gerfigreind sé orkuþung tækni, sérstaklega þegar hún er notuð í stórum stíl.

Aftur á móti er ekki jafn rétt að halda því fram með einni einfaldri alhæfingu að rafmagnið fyrir gerfigreind sé almennt framleitt „mest með jarðefnaeldsneyti og kjarnorku“. Á heimsvísu kemur meirihluti raforku enn frá jarðefnaeldsneyti, en kjarnorka er minni hluti og endurnýjanlegir orkugjafar hafa vaxið hratt. Hvernig rafmagnið fyrir gagnaver er framleitt ræðst mjög af landfræðilegri staðsetningu. Í sumum stórum mörkuðum, eins og Bandaríkjunum og Kína, er jarðefnaeldsneyti enn stór hluti orkunnar sem fer í gagnaver. Í Evrópu er myndin hins vegar önnur og þar er líklegt að vaxandi raforkuþörf gagnavera verði í meira mæli mætt með endurnýjanlegri orku og kjarnorku. Réttara er því að segja að gervigreind auki raforkuþörf hratt, en loftslags- og umhverfisáhrif hennar ráðist mjög af raforkukerfinu þar sem hún er keyrð.

Þessi orkuumræða skiptir fjölmiðla máli vegna þess að hún kallar á hóf og samhengi. Það er ekki trúverðugt að tala um gerfigreind eins og hún sé nær orkulaus skrifstofuaðstoð. En það er heldur ekki nákvæmt að láta eins og öll notkun hennar jafngildi sömu umhverfisáhrifum. Skynsamlegasta afstaðan er líklega sú að nota tæknina þar sem hún skilar raunverulegum ávinningi í gæðum, yfirsýn eða vinnuhagræðingu, en forðast að nota hana til að framleiða mikið magn af yfirborðskenndu efni sem litlu bætir við opinbera umræðu. Þar hittast siðferðileg og umhverfisleg sjónarmið. Tæknina er auðvelt að réttlæta þegar hún eykur gæði, en síður þegar hún eykur aðeins hraða og magn.

Síðasti þátturinn er misnotkunin. Þar er vandinn ekki lengur fræðilegur heldur raunverulegur. Gerfigreind hefur gert auðveldara að búa til sannfærandi fölsuð skilaboð, myndir, raddir og myndskeið. Europol hefur varað við því að slík tækni geti stutt við fjársvik, auðkennisþjófnað, fjárkúgun og aðra skipulagða glæpastarfsemi. UNESCO hefur á sama tíma bent á að djúpfalsanir geti grafið undan trausti á upplýsingum almennt, því þær gera bæði auðveldara að ljúga og auðveldara að afskrifa raunveruleg gögn sem fölsun. Þegar sú staða kemur upp veikist sameiginlegur veruleikagrunnur samfélagsins og það bitnar á fjölmiðlum, stjórnmálum og réttarkerfi.

Til að stemma stigu við misnotkun þurfa stjórnvöld að einbeita sér að skaðlegri notkun fremur en að reyna að banna tæknina í heild. Raunhæfar fyrstu aðgerðir eru að gera algjörlega skýrt að ólöglegt sé að nota gerfigreind til tiltekinna blekkingarbrota, krefjast meiri rekjanleika frá fyrirtækjum sem reka öflug kerfi, setja reglur um merkingu á gerfigreindar framleiðislu efnis og byggja upp sérþekkingu hjá lögreglu og eftirlitsstofnunum. NIST leggur áherslu á áhættustýringu, atvikaskráningu og misnotkunarprófanir, en Evrópusambandið hefur með AI Act sett fram bann og skyldur gagnvart sérstaklega áhættusamri notkun og gagnsæi um tilbúið efni. Slíkar aðgerðir leysa ekki vandann að fullu, en þær geta hækkað kostnað og áhættu fyrir þá sem vilja nota tæknina með óheiðarlegum eða glæpsamlegum hætti.

Niðurstaðan er því sú að gerfigreind er hvorki einfalt hjálpartæki né einföld ógn. Hún getur verið nytsamlegt verkfæri í fjölmiðlum ef hún er notuð af heiðarleika, undir skýrri mannlegri ritstjórn og með fullri ábyrgð á sannprófun. Hún er jafnframt orkufrek í stórum stíl, en umhverfisáhrif hennar ráðast mjög af því hvaðan rafmagnið kemur. Og hún hefur aukið möguleika á djúpfölsunum, svikum og blekkingum, sem kallar á skýrari reglur, rekjanleika og öflugri viðbrögð. Stóra verkefnið næstu ár verður ekki að ákveða hvort gerfigreind verði til staðar í fjölmiðlum og samfélagi, heldur hvort stofnanir, stjórnvöld og fjölmiðlar nái að móta reglur sem tryggja að hún þjóni upplýsingagæðum frekar en upplýsingaspillingu.

Dæmi um notkun gervigreindar hjá íslenskum fjölmiðlum

Notkun gervigreindar í íslenskum fjölmiðlum er enn fremur takmörkuð í opinberri, gagnsærri umræðu en þó eru til nokkur skýr og rekjanleg dæmi. Skýrasta dæmið er frá DV, sem viðurkenndi vorið 2024 að miðillinn notaði gervigreind til að búa til myndir í fréttavinnslu. Samkvæmt umfjöllun Vísis sagði Björn Þorfinnsson ritstjóri að þessi leið væri notuð þegar illa gengi að finna heppilegar myndir í myndabönkum. Þar er því ekki verið að tala um að gervigreind skrifi fréttirnar sjálfar, heldur að hún sé notuð sem myndvinnslu- og myndskreytingartæki innan ritstjórnarlegrar vinnu. Þetta er mikilvægt vegna þess að dæmið sýnir hagnýta notkun AI við framsetningu efnis, ekki aðeins almenna umræðu um tæknina.

Annað rekjanlegt dæmi er Iceland Review. Í umfjöllun Heimildarinnar frá ágúst 2025 kom fram að forstjóri miðilsins hefði birt fjölda gervigreindarmyndbanda til að laða að athygli og auglýsendur, og að markmiðið væri að fá fleiri notendur til að smella á efni miðilsins. Í sömu umfjöllun var lýst hvernig AI-myndböndin sýndu stundum skrumskælda eða brenglaða mynd af Íslandi. Hér er notkunin því ekki fyrst og fremst í hefðbundnum fréttaskrifum heldur í markaðssetningu, kynningu og dreifingu efnis. Þetta er engu að síður fjölmiðlanotkun, því hún tengist því hvernig miðill velur að kynna sig og ná til lesenda.

Daginn eftir birti DV svo viðbrögð frá Iceland Review þar sem forsvarsmenn miðilsins sögðu að gervigreind væri ekki að skrifa fréttirnar á vefnum. Samkvæmt þeirri umfjöllun vildu þeir gera greinarmun á tvennu: annars vegar AI-notkun í kynningarefni og myndböndum, hins vegar ritstýrðu efni á sjálfum fréttavefnum, sem þeir sögðu áfram skrifað af fagfólki. Það er gagnlegt að hafa þetta með, því það sýnir að umræðan snýst ekki aðeins um hvort fjölmiðill noti gervigreind, heldur líka hvar í ferlinu hún er notuð og hvort hún hafi áhrif á sjálfa fréttagerðina eða aðeins ytri umgjörð hennar.

Það sem þessi dæmi sýna samanlagt er að íslenskir fjölmiðlar hafa þegar byrjað að nýta gervigreind með ólíkum hætti: annars vegar til myndskreytingar í fréttavinnslu, eins og hjá DV, og hins vegar til kynningar- og auglýsingaefnis, eins og hjá Iceland Review. Á sama tíma er gagnsæi enn takmarkað. Ég fann ekki jafn skýrar, opinberlega staðfestar heimildir um sambærilega notkun hjá öðrum stórum íslenskum miðlum í þessari yfirferð. Það þýðir ekki að slík notkun eigi sér ekki stað, heldur aðeins að hún er ekki jafn vel skjalfest í opinberri umfjöllun. Nákvæmasta niðurstaðan er því sú að dæmin séu til, en að opinber yfirsýn yfir AI-notkun íslenskra fjölmiðla sé enn brotakennd og takmörkuð.

Það eru nokkrir pistlar hér á skandall.is sem eru unnir með gerfigreind en ekki merktir sem slíkir og eins vantar heimildaskrá í þá en úr því verður bætt, þeir uppfærðir og heimildir settar inn.
Við biðjumst velvirðingar á því að hafa ekki byrjað á því strax en allir gera mistök sem hægt er að læra af og það er nákvæmlega það sem við erum að gera.
Virðingarfyllst, Skandall.is, Jack Daniels.

Heimildaskrá

1. Associated Press, Standards around generative AI — um hvernig fréttastofur geta notað gerfigreind með mannlegri yfirferð og ábyrgð.
2. Associated Press, Updates to generative AI standards — um uppfærðar verklagsreglur AP þar sem blaðamaður á áfram að skrifa, fara yfir og sannreyna efni.
3. Evrópusambandið, AI Act — yfirlit yfir regluverk ESB um áhættumiðaða stjórnun gervigreindar og gagnsæisskyldur.
4. Evrópusambandið, European approach to artificial intelligence — skýrir áhættuflokkun, skyldur og markmið um örugga og trausta notkun.
5. International Energy Agency, Energy and AI – Executive Summary — um hraða aukningu raforkuþarfar gagnavera og hlutverk gerfigreindar í þeim vexti.
6. International Energy Agency, Energy demand from AI — nánar um raforkuþörf gervigreindar og gagnavera.
7. OECD, AI risks and incidents — um skráningu atvika, áhættu og skaða tengdan gervigreind.
8. OECD, Towards a common reporting framework for AI incidents — um hvernig stjórnvöld og stofnanir geta samræmt viðbrögð og skilgreint AI-atvik betur.
9. ísir, Gervigreind býr til myndir fyrir DV — um notkun DV á gervigreindarmyndum í fréttavinnslu.
10. Heimildin, Elsta blað Íslands á ensku skiptir úr prenti í gervigreind — um notkun Iceland Review á gervigreind í kynningar- og auglýsingaefni.
11. DV, Viktor segir að gervigreind skrifi ekki á vef Iceland Review og gerir athugasemd við umfjöllun Heimildarinnar — um viðbrögð Iceland Review og aðgreiningu milli AI-kynningarefnis og fréttaskrifa.

Greinin er unnin með ChatGPT og yfirfarin af ritstjórn.

Skoðað: 46

Jack Daniels

Jack Hrafnkell Daníelsson er fæddur í lok janúar 1965 í Reykjavík en ólst upp á sveitabæ á Snæfellsnesi.
Ég hef alltaf haft mikin áhuga á fréttum og stjórnmálum ásamt öllu því sem fylgr því en eitt af því er þegar stjórnmálafólk getur ekki verið heiðarlegt.
Ég hef á síðari árum einbeitt mér mest að skrfum um málefni öryrkja, aldraðra og þeirra sem erfiðast eiga með að verja sig gagnvart því gríðarlega óréttlæti sem þessir hópar þurfa að búa við.
Ég hef alltaf átt erfitt með að horfa upp á óréttlæti og slæma framkomu við minnihlutahópa því stofnaði ég þennan vettvang til að leyfa rödd þeirra að heyrast í þjóðfélaginu.
Í seinni tíð hef ég meira einbeitt mér að því að skoða staðreyndavillur í umræðunni, benda á þær og sýna fram á staðreyndir með heimildum, tenglum og rökum.