Lifir lýðræðið gervigreindina af? Halldóra Mogensen skrifar 13. febrúar 2024 08:30 Systkini sitja saman við morgunverðarborðið og skrolla á sitthvoru tækinu á samfélagsmiðlum. Algrím samfélagsmiðlana mata þau með svo ólíkum upplýsingum um heiminn að þau gætu allt eins búið í sitthvoru stjörnukerfinu en ekki á sama heimili. Þetta er raunveruleikinn sem við búum við í dag. Algjörlega ný staða sem manneskjur, samfélög og lýðræði hafa aldrei áður staðið frammi fyrir. Þessi nýi veruleiki er afleiðing frekar einfaldrar tegundar gervigreindar sem forgangsraðar og dreifir efni með það að markmiði að hámarka áhorf, lestur og skrun notenda. Að fanga athygli notenda eins og unnt er í þeim eina tilgangi að selja auglýsingar og hámarka gróða fyrirtækjanna sem eiga og þróa tæknina.Við mannfólkið þróuðumst til að veita því athygli sem hefur mesta þýðingu fyrir okkur. Þegar við reynum að neyða okkur til að gera eitthvað sem við sjáum lítinn tilgang í er mjög erfitt að halda athygli. Þegar við erum að fást við verkefni sem hefur mikla þýðingu fyrir okkur og það fangar athygli okkar, þá dettum við í flæði. Í flæði fjarlægjumst við egóið og sjálfsvitundina og upplifum að vera fullkomlega í núinu. Við erum, frekar en gerum. Því meira flæði sem við upplifum því betur líður okkur. Skjólstæðingar frekar en söluvara Að viðhalda athygli okkar og beina að þeim verkefnum og markmiðum sem raunverulega skapa þýðingu og tilgang í lífi okkur verður sífellt erfiðara í heimi þar sem við erum umkringd truflunum. Við erum umkringd tækni sem er hönnuð með það að markmiði að stela athygli okkar með algrími sem hefur það að helsta markmiði að halda okkur límdum við skjá. Skilvirkasta leiðin til að ná því markmiði er að forgangsraða efni sem vekur upp hneykslistilfinningar, reiði eða spilar einhvern vegin á tilfinningar okkar. Því öfgafyllri tilfinningar sem efnið vekur upp því meiri athygli fær algrímið frá okkur. Því meiri athygli, því hærri tekjur fær fyrirtækið. Þegar við erum í tilfinningalegu uppnámi þá fer minni athygli í gæði umræðunnar og hugsunin verður sundruð og yfirborðskenndari. Fyrirtækin græða en notendur tapa. Þegar við upplifum í gegnum kommentakerfi að við erum umkringd reiðu fólki verðum við árvökul og athygli okkar færist í meira mæli að því að leita að hættum og óvinum frekar en að næra andann, félagsleg tengsl og samfélag í ró og flæði. Þetta grefur undan getu okkar til að koma saman sem samfélag til að bera kennsl á vanda og finna lausnir í sameiningu. Fyrirtækin græða en samfélagið allt tapar. Gervigreindin gæti verið þróuð með það að markmiði að draga úr truflunum og efla getu okkar til að veita því athygli sem eykur tilgang, flæði og vellíðan í lífi okkar. Við gætum stuðlað að hönnun samfélagsmiðla sem raunverulega tengja og auðga líf fólks, miðlar þar sem notendur eru skjólstæðingar frekar en söluvara. Falskur raunveruleiki sem fangelsar okkur Nýjasta gervigreindin, sem við höfum kallað spunagreind en þekkjum flest sem ChatGPT greinir ekki einungis efni heldur skapar það sjálf út frá miklu magni af gögnum. Þó tækifærin séu mörg þá hlýtur þessi þróun að velta upp óteljandi spurningum um hversu truflandi og sundrandi þessi hæfileiki gervigreindarinnar getur orðið í núverandi hvataumhverfi. Ímyndum okkur gervigreind sem veit allt um okkur, um öll okkar áhugamál, alla okkar fordóma, allt sem við hræðumst, og er forrituð til að nýta sér veikleika í okkar hugsun og atferli til þess að selja okkur vörur og þjónustu. Þetta er mögulegt upp að ákveðnu marki í dag en hvað ef gervigreindin getur einnig skapað efni sem styður við og styrkir söguna sem aðilar á bak við tæknina eru að selja okkur. Við þurfum líka að taka inn í myndina falsfréttir, djúpfölsuð myndbönd, myndir og gervimennin sem geta tekið yfir athugasemdakerfi og hafa m.a. áhrif á niðurstöður kosninga. Í dag eiga margir erfitt með að treysta upplýsingum sem bornar eru fram í hinum ýmsu miðlum. Hvað gerist þegar að staðan er orðin þannig að fólk getur almennt bara alls ekki treyst neinum upplýsingum? Hvernig mun nokkur manneskja vita hvort hægt sé að treysta nokkru um stöðu heimsins? Hvernig munum við vita hvort við séum að tala við raunverulega manneskju en ekki gervimenni? Hvernig snúum við okkur í heimi þar sem gervigreindin getur búið til efni sem stýrir athygli okkar og skapar svo falskan raunveruleika sem fangelsar okkur? Gervigreindin er nú þegar komin langt á leið einungis með því að nota algrím og pólitíska hlutdrægni fólks. Hvaða áhrif mun þetta hafa á lýðræðið? Megin forsenda virks lýðræðis er að borgarar séu frjálsir, menntaðir og eigi í raunverulegu samtali með það að markmiði að komast að sífellt bættum skilningi á sameiginlegum gildum og hvert við viljum stefna sem samfélag. Hver er staða lýðræðis í heimi þar sem allar upplýsingar sem við sjáum eru sérsniðnar og við getum ekki treyst því sem við lesum eða vitað hvort manneskjan sem við erum að tala við sé alvöru manneskja eða bara eitthvað gervimenni hannað til að kynnast okkur og leiða okkur inn í hugmyndafræði sem þjónar málstað sem er okkur dulinn? Hvernig lifir lýðræðið af í þannig heimi? Hvernig geta lýðræðiskerfi sem eru hægfara í eðli sínu unnið regluverk um tækni sem er í veldisvexti? Einmitt núna eru örfáir forstjórar ógnarstórra tæknifyrirtækja að ákvarða örlög mannkynsins á meðan að allskyns nefndir og starfshópar víðsvegar um heim ræða hvernig best sé að setja reglur um tækni sem verður búin að taka stökkbreytingum þegar hóparnir skila einhverju af sér. Ef gervigreindin mótar okkur, hver mótar þá gervigreindina? Ef gervigreindinni verður áfram stýrt út frá því viðskiptamódeli eftirlits kapítalismans sem hefur ríkt hingað til, þar sem upplýsingum um notendur er safnað og seldar til að nota gegn okkur mun gervigreindin halda áfram að ýta undir sundrung og skautun. Hún mun geta haft gífurleg áhrif á heimsmynd fólks og skoðanir og á í hættu á að stuðla að hruni þeirra lýðræðislegu kerfa sem við höfum þekkt til þessa. Við höfum val á milli tveggja kröftugra afla, sundrungar eða flæðis. Sundrung gerir okkur minni, grynnri og reiðari á meðan að flæði breikkar okkur, dýpkar og róar. Sundrung sprettur úr hugmyndafræði auðsöfnunar, endalauss vaxtar og neyslu. Flæði verður til í framtíð sem leggur áherslu á tilgang, velsæld og jafnvægi. Sundrung smækkar okkur á meðan að flæði stækkar okkur. Þetta er valið. Hvernig tæknin mun þróast veltur alfarið á því hverjir hvatarnir verða fyrir fyrirtækin sem þróa hana. Ef samfélagsmiðaðir hvatar verða settir ofar gróðahvötum, býður tæknin upp á gríðarlega möguleika fyrir framþróun og velsæld mannkyns. Bent hefur verið á að gervigreindin geti til dæmis aðstoðað við sjúkdómsgreiningar, við leit og björgun eftir náttúruhamfarir, við að sníða kennslu að þörfum hvers og eins, við að stuðla að sjálfbæru samfélagi með því að gera orkukerfin áfallaþolnari, við stjórnun vökva- og úrgangskerfa í landbúnaði eða við umferðastjórn. Möguleikarnir eru óteljandi og gervigreindin gæti í raun og veru verið lykilinn að betra samfélagi fyrir okkur öll. Samfélagi þar sem við hefðum meiri tíma með fjölskyldu og ástvinum, meiri tíma til að sinna ástríðu, upplifa tilgang, mynda verðmæt tengsl og hlúa að samfélaginu og lýðræðinu. Framtíðarnefnd Alþingis stendur núna fyrir málstofum um gervigreind og lýðræði og stendur til að tala við helstu sérfræðinga um áhrif gervigreindar á vinnumarkaðinn, menntakerfið, stjórnmálin, persónuvernd, höfundarrétt og fleira. Næsta málstofa verður þann 16. febrúar kl.10:30 og mun fjalla um alþjóðlega stöðu stefnumótunar um gervigreind. Málstofunum er streymt beint á Alþingisrásinni og vef þingsins þannig að áhorfendur geta tekið þátt og sent inn fyrirspurnir. Ég hvet alla sem hafa áhuga á þróun gervigreindar og framtíð lýðræðisins að fylgjast með og taka þátt í málstofum framtíðarnefndar. Höfundur er þingmaður Pírata og formaður framtíðarnefndar Alþingis. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Halldóra Mogensen Píratar Alþingi Gervigreind Mest lesið Tryggjum Svandísi á þing Hópur stuðningsfólks Svandísar Svavarsdóttur Skoðun Vók er vont – frambjóðandi XL kærður til lögreglu Kári Allansson Skoðun Skilur Kristrún ekki, að stærð kökunnar er mál nr. 1? Ole Anton Bieltvedt Skoðun Hvar ertu Auddi Blö: Opið bréf til Bjarna Ben frá sérfræðingi Ásta Kristín Pjetursdóttir Skoðun Er einhver að hlusta? Hópur 143 Seyðfirðinga Skoðun Flokkur í felulitum Björn Gíslason Skoðun Greinin sem þú verður að lesa áður en þú ferð á kjörstað Bessí Þóra Jónsdóttir Skoðun Ekki láta Sjálfstæðisflokkinn ljúga að þér Dóra Björt Guðjónsdóttir Skoðun Nýtt húsnæðislánakerfi að danskri fyrirmynd? Jónas Már Torfason Skoðun Höldum okkur á dagskrá Hópur fólks innan íþróttahreyfingarinnar Skoðun Skoðun Skoðun Ísland sé frjálst meðan sól gyllir haf Guðbjörg Elísa Hafsteinsdóttir skrifar Skoðun Að refsa eða treysta VG? Finnur Ricart Andrason skrifar Skoðun Innflytjendur eru blórabögglar Achola Otieno skrifar Skoðun Bað- og búningsklefar okkar kvenna Helga Dögg Sverrisdóttir skrifar Skoðun Stórkostleg tímaskekkja Sigrún Perla Gísladóttir skrifar Skoðun Vinstri græn - þrátt fyrir þverpólitíska ríkisstjórn Aðalbjörg Ísafold Þorkelsdóttir skrifar Skoðun Félag áhugamanna um löggæslu Agnes Ósk Marzellíusardóttir skrifar Skoðun Kosningalimran 2024 Arnar Ingi Ingason,Freyr Snorrason skrifar Skoðun Viðreisn ætlar að forgangsraða – nýta skattfé miklu betur Þorvaldur Ingi Jónsson skrifar Skoðun Sigrar vinnast – spár bregðast Þorvaldur Örn Árnason skrifar Skoðun Af hverju Viðreisn? Eva Rakel Jónsdóttir skrifar Skoðun Pólitískar ofsóknir í aðdraganda Alþingiskosninga Eldur S. Kristinsson skrifar Skoðun Talk about timing – degi fyrir kjördag Yngvi Sighvatsson skrifar Skoðun Hjarta og sál Heiðdís Geirsdóttir skrifar Skoðun ESB andstæðingar blekkja Íslendinga Jón Frímann Jónsson skrifar Skoðun Sjálfstæðisflokkurinn: Fyrir budduna þína og framtíðina Gísli Stefánsson skrifar Skoðun Eldra fólk þarf Jóhann Pál sem félagsmálaráðherra – nema kannski þeir auðugustu Viðar Eggertsson skrifar Skoðun Að mynda ríkisstjórn - skipulagt val til vinstri Hlynur Már Ragnheiðarson skrifar Skoðun Viðreisn: öfgalaus nálgun fyrir öfgalaust samfélag Hanna Katrín Friðriksson skrifar Skoðun Kleppur er víða Ragnheiður Kristín Finnbogadóttir skrifar Skoðun Að geta lesið sér mennsku til gagns Diljá Ámundadóttir Zoëga skrifar Skoðun Börðust afar okkar til einskis í Þorskastríðinu? Hugleiðing um ESB Haukur Ingi S. Jónsson skrifar Skoðun Á ferð um Norðvesturkjördæmi Arna Lára Jónsdóttir,Hannes Sigurbjörn Jónsson,Jóhanna Ösp Einarsdóttir,Magnús Eðvaldsson skrifar Skoðun Stöndum vörð um íslenska fjölmiðla Óli Valur Pétursson skrifar Skoðun Lögfestum félagsmiðstöðvar Guðmundur Ari Sigurjónsson,Friðmey Jónsdóttir skrifar Skoðun Flokkar sem vara við sjálfum sér Þorbjörg S. Gunnlaugsdóttir skrifar Skoðun Hver bjó til ehf-gat? Sigríður Á. Andersen skrifar Skoðun Lausnir eða kyrrstaða í húsnæðismálum Ragnar Þór Ingólfsson skrifar Skoðun Aðventan – njóta eða þjóta? Hrund Þrándardóttir skrifar Skoðun Við kjósum blokkir Kjartan Valgarðsson skrifar Sjá meira
Systkini sitja saman við morgunverðarborðið og skrolla á sitthvoru tækinu á samfélagsmiðlum. Algrím samfélagsmiðlana mata þau með svo ólíkum upplýsingum um heiminn að þau gætu allt eins búið í sitthvoru stjörnukerfinu en ekki á sama heimili. Þetta er raunveruleikinn sem við búum við í dag. Algjörlega ný staða sem manneskjur, samfélög og lýðræði hafa aldrei áður staðið frammi fyrir. Þessi nýi veruleiki er afleiðing frekar einfaldrar tegundar gervigreindar sem forgangsraðar og dreifir efni með það að markmiði að hámarka áhorf, lestur og skrun notenda. Að fanga athygli notenda eins og unnt er í þeim eina tilgangi að selja auglýsingar og hámarka gróða fyrirtækjanna sem eiga og þróa tæknina.Við mannfólkið þróuðumst til að veita því athygli sem hefur mesta þýðingu fyrir okkur. Þegar við reynum að neyða okkur til að gera eitthvað sem við sjáum lítinn tilgang í er mjög erfitt að halda athygli. Þegar við erum að fást við verkefni sem hefur mikla þýðingu fyrir okkur og það fangar athygli okkar, þá dettum við í flæði. Í flæði fjarlægjumst við egóið og sjálfsvitundina og upplifum að vera fullkomlega í núinu. Við erum, frekar en gerum. Því meira flæði sem við upplifum því betur líður okkur. Skjólstæðingar frekar en söluvara Að viðhalda athygli okkar og beina að þeim verkefnum og markmiðum sem raunverulega skapa þýðingu og tilgang í lífi okkur verður sífellt erfiðara í heimi þar sem við erum umkringd truflunum. Við erum umkringd tækni sem er hönnuð með það að markmiði að stela athygli okkar með algrími sem hefur það að helsta markmiði að halda okkur límdum við skjá. Skilvirkasta leiðin til að ná því markmiði er að forgangsraða efni sem vekur upp hneykslistilfinningar, reiði eða spilar einhvern vegin á tilfinningar okkar. Því öfgafyllri tilfinningar sem efnið vekur upp því meiri athygli fær algrímið frá okkur. Því meiri athygli, því hærri tekjur fær fyrirtækið. Þegar við erum í tilfinningalegu uppnámi þá fer minni athygli í gæði umræðunnar og hugsunin verður sundruð og yfirborðskenndari. Fyrirtækin græða en notendur tapa. Þegar við upplifum í gegnum kommentakerfi að við erum umkringd reiðu fólki verðum við árvökul og athygli okkar færist í meira mæli að því að leita að hættum og óvinum frekar en að næra andann, félagsleg tengsl og samfélag í ró og flæði. Þetta grefur undan getu okkar til að koma saman sem samfélag til að bera kennsl á vanda og finna lausnir í sameiningu. Fyrirtækin græða en samfélagið allt tapar. Gervigreindin gæti verið þróuð með það að markmiði að draga úr truflunum og efla getu okkar til að veita því athygli sem eykur tilgang, flæði og vellíðan í lífi okkar. Við gætum stuðlað að hönnun samfélagsmiðla sem raunverulega tengja og auðga líf fólks, miðlar þar sem notendur eru skjólstæðingar frekar en söluvara. Falskur raunveruleiki sem fangelsar okkur Nýjasta gervigreindin, sem við höfum kallað spunagreind en þekkjum flest sem ChatGPT greinir ekki einungis efni heldur skapar það sjálf út frá miklu magni af gögnum. Þó tækifærin séu mörg þá hlýtur þessi þróun að velta upp óteljandi spurningum um hversu truflandi og sundrandi þessi hæfileiki gervigreindarinnar getur orðið í núverandi hvataumhverfi. Ímyndum okkur gervigreind sem veit allt um okkur, um öll okkar áhugamál, alla okkar fordóma, allt sem við hræðumst, og er forrituð til að nýta sér veikleika í okkar hugsun og atferli til þess að selja okkur vörur og þjónustu. Þetta er mögulegt upp að ákveðnu marki í dag en hvað ef gervigreindin getur einnig skapað efni sem styður við og styrkir söguna sem aðilar á bak við tæknina eru að selja okkur. Við þurfum líka að taka inn í myndina falsfréttir, djúpfölsuð myndbönd, myndir og gervimennin sem geta tekið yfir athugasemdakerfi og hafa m.a. áhrif á niðurstöður kosninga. Í dag eiga margir erfitt með að treysta upplýsingum sem bornar eru fram í hinum ýmsu miðlum. Hvað gerist þegar að staðan er orðin þannig að fólk getur almennt bara alls ekki treyst neinum upplýsingum? Hvernig mun nokkur manneskja vita hvort hægt sé að treysta nokkru um stöðu heimsins? Hvernig munum við vita hvort við séum að tala við raunverulega manneskju en ekki gervimenni? Hvernig snúum við okkur í heimi þar sem gervigreindin getur búið til efni sem stýrir athygli okkar og skapar svo falskan raunveruleika sem fangelsar okkur? Gervigreindin er nú þegar komin langt á leið einungis með því að nota algrím og pólitíska hlutdrægni fólks. Hvaða áhrif mun þetta hafa á lýðræðið? Megin forsenda virks lýðræðis er að borgarar séu frjálsir, menntaðir og eigi í raunverulegu samtali með það að markmiði að komast að sífellt bættum skilningi á sameiginlegum gildum og hvert við viljum stefna sem samfélag. Hver er staða lýðræðis í heimi þar sem allar upplýsingar sem við sjáum eru sérsniðnar og við getum ekki treyst því sem við lesum eða vitað hvort manneskjan sem við erum að tala við sé alvöru manneskja eða bara eitthvað gervimenni hannað til að kynnast okkur og leiða okkur inn í hugmyndafræði sem þjónar málstað sem er okkur dulinn? Hvernig lifir lýðræðið af í þannig heimi? Hvernig geta lýðræðiskerfi sem eru hægfara í eðli sínu unnið regluverk um tækni sem er í veldisvexti? Einmitt núna eru örfáir forstjórar ógnarstórra tæknifyrirtækja að ákvarða örlög mannkynsins á meðan að allskyns nefndir og starfshópar víðsvegar um heim ræða hvernig best sé að setja reglur um tækni sem verður búin að taka stökkbreytingum þegar hóparnir skila einhverju af sér. Ef gervigreindin mótar okkur, hver mótar þá gervigreindina? Ef gervigreindinni verður áfram stýrt út frá því viðskiptamódeli eftirlits kapítalismans sem hefur ríkt hingað til, þar sem upplýsingum um notendur er safnað og seldar til að nota gegn okkur mun gervigreindin halda áfram að ýta undir sundrung og skautun. Hún mun geta haft gífurleg áhrif á heimsmynd fólks og skoðanir og á í hættu á að stuðla að hruni þeirra lýðræðislegu kerfa sem við höfum þekkt til þessa. Við höfum val á milli tveggja kröftugra afla, sundrungar eða flæðis. Sundrung gerir okkur minni, grynnri og reiðari á meðan að flæði breikkar okkur, dýpkar og róar. Sundrung sprettur úr hugmyndafræði auðsöfnunar, endalauss vaxtar og neyslu. Flæði verður til í framtíð sem leggur áherslu á tilgang, velsæld og jafnvægi. Sundrung smækkar okkur á meðan að flæði stækkar okkur. Þetta er valið. Hvernig tæknin mun þróast veltur alfarið á því hverjir hvatarnir verða fyrir fyrirtækin sem þróa hana. Ef samfélagsmiðaðir hvatar verða settir ofar gróðahvötum, býður tæknin upp á gríðarlega möguleika fyrir framþróun og velsæld mannkyns. Bent hefur verið á að gervigreindin geti til dæmis aðstoðað við sjúkdómsgreiningar, við leit og björgun eftir náttúruhamfarir, við að sníða kennslu að þörfum hvers og eins, við að stuðla að sjálfbæru samfélagi með því að gera orkukerfin áfallaþolnari, við stjórnun vökva- og úrgangskerfa í landbúnaði eða við umferðastjórn. Möguleikarnir eru óteljandi og gervigreindin gæti í raun og veru verið lykilinn að betra samfélagi fyrir okkur öll. Samfélagi þar sem við hefðum meiri tíma með fjölskyldu og ástvinum, meiri tíma til að sinna ástríðu, upplifa tilgang, mynda verðmæt tengsl og hlúa að samfélaginu og lýðræðinu. Framtíðarnefnd Alþingis stendur núna fyrir málstofum um gervigreind og lýðræði og stendur til að tala við helstu sérfræðinga um áhrif gervigreindar á vinnumarkaðinn, menntakerfið, stjórnmálin, persónuvernd, höfundarrétt og fleira. Næsta málstofa verður þann 16. febrúar kl.10:30 og mun fjalla um alþjóðlega stöðu stefnumótunar um gervigreind. Málstofunum er streymt beint á Alþingisrásinni og vef þingsins þannig að áhorfendur geta tekið þátt og sent inn fyrirspurnir. Ég hvet alla sem hafa áhuga á þróun gervigreindar og framtíð lýðræðisins að fylgjast með og taka þátt í málstofum framtíðarnefndar. Höfundur er þingmaður Pírata og formaður framtíðarnefndar Alþingis.
Skoðun Eldra fólk þarf Jóhann Pál sem félagsmálaráðherra – nema kannski þeir auðugustu Viðar Eggertsson skrifar
Skoðun Börðust afar okkar til einskis í Þorskastríðinu? Hugleiðing um ESB Haukur Ingi S. Jónsson skrifar
Skoðun Á ferð um Norðvesturkjördæmi Arna Lára Jónsdóttir,Hannes Sigurbjörn Jónsson,Jóhanna Ösp Einarsdóttir,Magnús Eðvaldsson skrifar