Ko algoritem odloča o življenju in smrti: se bomo podredili tehnologiji?

“Po tem, ko smo končno iznašli igračo, ki se je nikoli ne naveličamo, moramo zdaj začeti omejevati njeno uporabo,” pravi filozof Tomaž Grušovnik, s katerim smo se pogovarjali o (moralnih) dilemah umetne inteligence. Sodobno tehnologijo in umetno inteligenco so namreč filozofi te dni vzeli pod drobnogled ob letošnjem svetovnem dnevu filozofije.

Danes imamo “igračo”, na kateri je v vsakem trenutku vse, kar želimo – pa to ni rešilo naših težav. Igrače se sicer ne naveličamo, ampak zdaj nas zasvoji. 

Obeta se nam namreč tehnološka prihodnost, za katero ni jasno, kakšna bo, pravijo strokovnjaki. Vsekakor pa si bomo morali sami sestaviti pravila, kako bomo z umetno inteligenco sobivali. In pri tem bomo morali aktivno sodelovati na vseh ravneh družbe, tudi z vzgojo in zaščito demokratičnih ustanov in demokracije, z zavedanjem, da družba potrebuje kritično mišljenje, in živahno razpravo, ne tišino, ki vodi v suženjstvo. Pravila igre bodo morala biti jasna, nadzor pa strog, da bodo nove tehnologije ostale sredstvo, ne gospodar, avtonomni sistemi pa ne bodo zameglili naše presoje, moralnih načel in celo odnosa do življenja.

Pazi, kaj si želiš, pravijo. “Spomnim se svojih otroških sanj o tem, da bi se slike v Atlasu živali spreminjale. Danes je to realnost, ki jo imamo v žepu v obliki pametnega telefona. Včasih si moral čakati na naročeno videoigrico in še kaj, danes imamo ‘igračo’, na kateri je v vsakem trenutku vse, kar želimo – pa to ni rešilo naših težav. Igrače se sicer ne naveličamo, ampak zdaj nas zasvoji. Ko smo si uresničili eno željo, se je očitno pojavil nov problem,” pravi sogovornik.

Filozofija sicer postavlja zanimiv okvir debati o umetni inteligenci in tehnološki prihodnosti. “Filozofija nas namreč uči, da se sprašujemo o rešitvah, da gledamo z druge plati, ter ponuja koncepte za razmislek o življenju in situacijah. Filozofija nas uči, da želja ne gre zgolj zadovoljevati, ampak jih je treba postaviti v kontekst in se vprašati: so sploh upravičene? Jih torej premisliti, preobraziti …” 

A kakšen bo naš kontekst v prihodnosti? Kaj nas čaka ob napovedih vse večjega vključevanja umetne inteligence v naš vsakdan? “Kakšen bo ta svet, si še ne znamo predstavljati, saj bodo nove tehnologije posegle v vse pore življenja. Ne gre namreč za nevtralno orodje umetna inteligenca spreminja način ravnanja, vedenja, tako rekoč postavlja novo družbeno infrastrukturo. Podobno kot izum avtomobila ni samo nadomestil voza, ampak je zahteval arhitekturne spremembe v obliki avtocest, bencinskih črpalk … Bo pa učinek informacijske tehnologije še veliko močnejši.” 

Nevarnost ni v tem, da bi nas tehnologija nadvladala, ampak v tem, da se bi se ji sami podredili

Danes večino časa porabimo za klikanje. Na nek način nas naprave učijo biti kot one same, kot stroji in tukaj vidim težavo.

Ob teh napovedih človeštvo krmari med skoraj otroškim navdušenjem in velikim strahom. Všeč nam je svet, kjer so informacije na dosegu roke, svet, ki je povezan. Kako samoumeven je postal, ugotovimo šele, če se spletna povezava prekine. Obstaja pa tudi veliko strahov.

“Mnogi strahovi so neutemeljeni. Eden glavnih je, da nas bodo roboti nadvladali kot terminatorji, da bo umetna inteligenca dobila zavest in postala akter, kot smo danes ljudje, kar bi pomenilo, da bi imela voljo in bi lahko bila zlobna, ter si nas podjarmila, zasužnjila, kot so nekoč to počeli kolonizatorji,” pravi Grušovnik.

Ocenjuje, da je problem pravzaprav obraten: “Pravzaprav mi svoje mišljenje prostovoljno čedalje bolj prilagajamo umetni inteligenci. Osnovna težava torej ni v tem, da bi nas roboti nadvladali, ampak da bomo mi začeli razmišljati na način robotov.” 

Torej si sami jemljemo svoje mesto? “Vsakič, ko iščemo po Googlu, pustimo, da Google išče po nas. Druge podobne storitve prav tako. In potem se to prepleta z našimi življenji. Danes večino časa porabimo za klikanje. Na nek način nas naprave učijo biti kot one same, kot stroji in tukaj vidim težavo.”

Ko ni osebne odgovornosti, lahko popustijo (moralne) zavore

Ogromna težava pa so etične dileme. “Največji moralni izziv, ki ga vidim, so avtonomni sistemi, recimo pametni avtomobili in droni. Zakaj? Ker so te naprave sposobne “sprejemati” odločitve. V skrajnih primerih so se zmožne odločiti, čigavo življenje bodo vzele, čigavo obvarovale. Pametno vozilo takšno odločitev sprejme v primeru dileme, koga obvarovati. Vzemimo za primer vprašanje, ali zbiti pešca in zavarovati voznika  ali obvarovati pešca ter zapeljati v zid in ogroziti voznika. Odločitev je prepuščena algoritmu, programu, in to so problematične odločitve. Še posebej če si predstavljamo prihodnost, v kateri imamo drone, ki nadzorujejo prebivalstvo, in jim je prepuščeno odločanje o tem, kdaj bodo koga likvidirali. V takšnem svetu začnemo izgubljati moralno odgovornost. Ni več jasno, kdo je odgovoren programer, država, naročnik naprav? Kaj če te osebe sploh ni več, če se je morda zamenjala vlada, morda je upravljavec umrl, te naprave pa so še kar v zraku? Izgublja se moralna odgovornost.”

Kaj je torej za vojsko bolj pripravnega kot avtonomen sistem, ki sam izvršuje dejanja, tako da nima nihče slabe vesti, da se z nekom bojuje?

In to je nevarno, pravi sogovornik. “Zgodovina vojskovanja nas uči, da v ospredje vedno stopijo orožja, s katerimi je mogoče občutek odgovornosti na strani posameznika zmanjšati. Verjetnost, da bo nekdo uporabil napravo, da nekoga likvidira, je namreč precej večja, če pri tem ne bo prisoten, kot če se bo moral neposredno soočiti z nasprotnikom. To potrjujejo vojaške psihološke raziskave. Vojaki, ki streljajo na bojišču, imajo nato pogosto travme in slabo vest, zato ne streljajo oziroma morajo opraviti trening, da sploh začnejo uporabljati orožje. Vojska pa seveda želi, da bi bilo teh zavor čim manj. In zavore izginejo predvsem, ko z obzorja izgine sovražnik. Lažje je uporabiti top kot nož. Tisti, ki so upravljali s topovi, niso imeli slabe vesti. Tudi ne tisti, ki so z letali metali bombe,  saj sovražnik ni več oseba pred teboj, ampak pika na zaslonu. Zato vojska stremi k uporabi tehnologij, pri katerih se zmanjšajo človeški faktorji, ki ugovarjajo uporabi orožja. Kaj je torej za vojsko bolj pripravnega kot avtonomen sistem, ki sam izvršuje dejanja, tako da nima nihče slabe vesti, da se z nekom bojuje? Tukaj vidim velik problem, saj smo v zadnjih 20 letih že videli skokovit porast uporabe brezpilotnih letal. V prihodnje bomo tako potrebovali krepitve demokratičnih ustanov, čim več neodvisnih komisij, neodvisnih teles, nadzor nad industrijo, vojsko, notranji nadzor … Če stvari prepustimo zgolj hierarhičnim strukturam v družbi, potem lahko zavore hitro popustijo.”

Paradoks: Toliko informacij – tako malo širine

Potem je tukaj seveda vprašanje zasebnosti in svobode. “Danes smo dostopni na spletu in nekateri algoritmi ne prepoznajo le naših navad, ampak tudi naša prepričanja, preference, kaj nam je všeč, kaj nam ni … In tako se na nek način vcepljajo v naše že obstoječe miselne pristranskosti. Ena od pristranskosti je recimo ta, da so nam na nezavedni ravni bolj všeč informacije, s katerimi se strinjamo, kot tiste, s katerimi se ne. Primer: če sem ljubitelj psov, je verjetnost, da bom bral članke, ki pozitivno govorijo o njih, večja kot verjetnost, da bom bral članke o prednostih mačk. Skratka, pri sprejemanju informacij smo pristranski in težimo k temu, da še posebej sprejemamo tiste, ki se skladajo z našimi predhodnimi prepričanji – na delu je potrditvena pristranskost. Če pa zdaj v to vključimo še brskalnike in algoritme, se pristranskost še stopnjuje, saj si brskalnik zapomni mojo zgodovino, ve, kaj rad klikam, in mi že vnaprej ponudi rezultate, ki mi bodo všeč. Torej dobimo eksponentno pristranskost, ki rezultira v to, da živimo v informacijskih mehurčkih. In tukaj pride do velikega protislovja. Informacijska tehnologija naj bi nam olajšala dostop do znanja, a nam na nek način zapira miselni prostor.”

In še dodatno polarizira že tako vse bolj polariziran svet? “Mislim, da k temu zelo prispeva in da se lahko zaradi tega zmanjšuje možnost kritičnega mišljenja, če v družbi ni protiuteži, ki skušajo ta pojav kompenzirati. Recimo vzgoja za kritično državljanstvo, za medije … Starejše generacije so vajene, da je vse, kar je objavljeno, suho zlato, saj je včasih veljalo, da so šle informacije pred objavo čez sito, tudi preko urednika, zdaj pa lahko na Twitterju vsak objavi kar koli, objavljena vsebina pa na marsikoga deluje podobno kot objava kakšnega znanstvenika. In zaradi pristranskosti, ki sem jih že omenil, temu hitro verjamemo, celo prej kot znanstveniku.” 

Ključno je, da delujejo demokratične ustanove v državi in da so državljani vzgajani za demokracijo. Za demokracijo moraš biti vzgajan. Če te vzgoje ni, če ni vzgoje za avtonomijo, kritično mišljenje, demokratičen značaj, če ni takšnega vzdušja, v katerem je državljanom sporočeno, da je zaželeno, da razmišljajo drugače, potem slej kot prej pristanemo v konformizmu, vsak konformizem pa vodi v totalitarizem.

“Bolje je ohraniti pravice posameznikov kot pa napredovati za vsako ceno”

Potrebujemo torej vzgojo za informacijsko družbo in kritično mišljenje. “Če tega ni, se nam lahko zgodi, da pristanemo pri čudnih idejah, kot je tista o sistemu družbenega kredita. To so problematične ideje, saj se ne skladajo z osnovno idejo družbene organiziranosti. Država pri nas temelji na svobodi posameznika, svoboda posameznika je povezana z avtonomijo posameznika, da se sam odloča, in da je, ko meni, da se drugi motijo, seveda sposoben povedati: ‘Mislim, da se motite,’ pri tem pa navesti argumente. Sistemi družbenega kredita, v katerih te drugi nagrajujejo za sebi všečna mnenja, pa peljejo v konformizem, v to, da začnemo dajati všečna mnenja in to zmanjša stopnjo svobode.” 

Konformizem, ki pa je tehnološkim gigantom in še komu marsikdaj zelo po godu, še posebej gre uporaba tehnologije v nenavadne smeri na Kitajskem … “Mislim, da je pot odvisna od vrednot, ki jih imamo. Zdi se mi, da se je za zdaj izkazalo, da sta osebna svoboda in zasebnost zelo visoko cenjeni vrednoti, če pa tega ni, lahko imamo stroj, ki deluje, ampak bo delovanje šlo v čudno smer. Bolje je, da izhajamo iz varovalk, da skušamo stvari raje kontrolirati kot jih prepustiti same sebi. Ni dobro žrtvovati etičnih temeljev v prid vednosti. Bolje je ohraniti pravice posameznikov kot pa napredovati za vsako ceno.”

V središču je torej varovanje vrednot. “Ljudje včasih rečejo – demokracija ne deluje, ljudje se samo prepirajo. Ampak ravno ta del demokracije, pogovor, je varovalka, čeprav se kdaj zdi, da stopicamo na mestu. Raje stopicajmo na mestu, kot da delamo prevelike korake v napačno smer in druge pohodimo. Če vzamemo za primer par, je bolje, da se spre, kot da eden ves čas dela po nareku drugega, kar na koncu privede v popolno suženjstvo ali pa do eksplozije.”

Kot v vseh ostalih odnosih je torej tudi v primeru tehnologije pomembno, da bo naš odnos do nje zdrav. “Unescova komisija pripravlja osnovno priporočilo o etiki na tem področju. Ampak ključno je, da delujejo demokratične ustanove v državi in da so državljani vzgajani za demokracijo. Za demokracijo moraš biti vzgajan. Če te vzgoje ni, če ni vzgoje za avtonomijo, kritično mišljenje, demokratičen značaj, če ni takšnega vzdušja, v katerem je državljanom sporočeno, da je zaželeno, da razmišljajo drugače, potem slej kot prej pristanemo v konformizmu, vsak konformizem pa vodi v totalitarizem.”

Natalija Švab

Vir: https://www.24ur.com/magazin/ko-algoritem-odloca-o-zivljenju-in-smrti-tehnologija-nas-ne-bo-nadvladala-morda-pa-se-ji-bomo-podredili.html

Svetovni dan filozofije tokrat o umetni inteligenci

O dnevu filozofije so spregovorili na Valu 202.

Danes je svetovni dan filozofije, ki ga od leta 2005 na pobudo Unesca zaznamujemo tudi pri nas. Tokratna osrednja tema je umetna inteligenca oziroma življenje v času robotov in transhumanizma, kar je bil tudi naslov današnje virtualne okrogle mize, ki so jo obkrožili dijaki, študentje in profesorji. O izzivi in dilemah, povezanih z umetno inteligenco se je z dr. Olgo Markič, filozofinjo in predavateljico na ljubljanski Filozofski fakulteti, pogovarjal Maj Valerij.

Poslušaj na: https://4d.rtvslo.si/arhiv/val-202/174733549

Kako se bo sredi umetne inteligence znašel človek

Okrogla miza ob svetovnem dnevu filozofije, ki je letos posvečen umetni inteligenci

Kako se razlikujeta ali pa sta si podobna človeško mišljenje in umetna inteligenca, kako slednja spreminja status človeka? To sta dve temi, o katerih se bodo na svetovni dan filozofije pogovarjali strokovnjaki, dijaki in študentje.

Okroglo mizo so naslovili Umetna inteligenca: Življenje v času robotov in transhumanizma, na njej pa bodo sodelovali Cene Bavec, Janez Bregant, Marko Grobelnik, Olga Markič in Luka Omladič skupaj z dijaki in študenti.

Času primerno se bo okrogla miza odvila v spletni obliki, kar je morda tudi eden redkih dogodkov v teh razmerah, pri katerih se izvedba dejansko ujema tudi s samo vsebino prireditve.

Spletna okrogla miza, ki jo bo z vabljenimi strokovnjaki ter z dijaki gimnazij Domžale in Novo mesto ter s študenti Pedagoške fakultete iz Kopra moderiral Tomaž Grušovnik, se bo začela ob 11.00. V živo jo bo mogoče spremljati na spletni strani dneva filozofije (danfilozofije.net) ter na Facebooku na profilih Slovenskega filozofskega društva, Društva za razvoj humanistike – Zofijinih ljubimcev in Pedagoške fakultete Univerze na Primorskem.

Dogodek poteka pod okriljem Urada za Unesco, Unesco Ircai, Slovenskega filozofskega društva ter Univerze na Primorskem – Pedagoške fakultete, Pedagoškega inštituta in Društva za razvoj humanistike.

Unesco je dan filozofije letos v celoti posvetil temam, povezanim z umetno inteligenco v širšem pomenu. Pogovarjali se bodo o razlikah in podobnostih med človeškim mišljenjem in umetno inteligenco, o spremenjenem statusu človeka v dobi umetne inteligence, o robotski etiki, politični ureditvi v digitaliziranih družbah, rudarjenju podatkov in vprašanju zasebnosti, o prihodnosti poklicev ob avtomatizaciji dela, pedagogiki v informacijski dobi, odvisnosti od pametnih telefonov ter preostalih izzivih, “na katere naletimo, kadar začnemo razmišljati o posledicah strojnega mišljenja za sodobno omreženo družbo”.

V informacijski dobi si večina ne zna več predstavljati življenja brez elektronske pošte, satelitske navigacije in brskanja po spletu. Ob tem nas preseneča globina posegov naprav v naša življenja. Iskanje po medmrežju nam na primer ponudi tiste podatke in rezultate, za katere brskalniki na podlagi naše spletne zgodovine preračunajo, da nas bodo bolj zanimali, s čemer vplivajo na naše oblikovanje prepričanj. Z vznikom brezpilotnih letalnikov in pametnih avtomobilov se začne zastavljati vprašanje moralne odgovornosti za dejanja avtonomnih sistemov. Tudi trg dela se zaradi čedalje zmogljivejših strojev spreminja, zato se nekateri analitiki že bojijo brezposelnosti. Pojavljajo se tudi dileme ustreznosti nadomestitve domačih živali in celo človeške družbe z roboti.

Razvoj informacijske tehnologije ne prinaša zgolj rešitev in novih priložnosti, ampak tudi številne izzive in nevarnosti, med njimi tudi odvisnosti. Filozofija kot disciplina, ki refleksira sodobne pojave v njihovih spoznavnih, moralnih in bivanjskih razsežnostih, tako ne more mimo razmisleka o umetni inteligenci in njenem vplivu na življenja, so še zapisali organizatorji pogovora.

Generalna skupščina Združenih narodov je tretji četrtek v novembru razglasila za svetovni dan filozofije, k praznovanju katerega vsako leto posebej pod drugim naslovom vabi Unesco. V sodelovanju z Nacionalno komisijo za Unesco in Slovenskim filozofskim društvom v Sloveniji zaznamujemo Unescov svetovni dan filozofije od leta 2005.

M. K., MMC

Umetna inteligenca: življenje v času robotov in transhumanizma

UNESCOv Dan filozofije 2020

Posnetek spletne okrogle mize z vabljenimi gosti (Cene Bavec, Janez Bregant, Marko Grobelnik, Olga Markič in Luka Omladič) ter s sodelovanjem gimnazijskih dijakov, ki jo je moderiral Tomaž Grušovnik.

V informacijski dobi si ne znamo več predstavljati življenja brez elektronske pošte, satelitske navigacije in brskanja po spletu. Čeprav se po eni strani zavedamo vseprisotnosti računalnikov in algoritmov, pa nas po drugi strani nenehno preseneča globina njihovih posegov v naša življenja. Iskanje po medmrežju nam denimo ponudi tiste podatke in rezultate, za katere brskalniki na podlagi naše spletne zgodovine preračunajo, da nas bodo bolj zanimali, s čemer vplivajo na naše oblikovanje prepričanj in preferenc. Z vznikom brezpilotnih letalnikov in pametnih avtomobilov, ki se lahko sami »odločajo«, se začne zastavljati vprašanje moralne odgovornosti za dejanja, ki jih izvršijo ti avtonomni sistemi. Tudi trg dela se zaradi čedalje zmogljivejših strojev spreminja, zato se nekateri analitiki upravičeno bojijo velikih valov brezposelnosti. Srečujemo se tudi z dilemami ustreznosti nadomestitve domačih živali in celo človeške družbe z roboti. Zdi se celo, da se moramo potem, ko smo končno izumili »igračo, ki se je nikoli ne naveličamo«, soočati s problemom učinkovite omejitve njene uporabe: dejstvo je, da se je tako med mlado kot tudi med starejšo populacijo začela javljati odvisnost od pametnih telefonov. Tako nam že kratek premislek pokaže, da razvoj informacijske tehnologije ne prinaša zgolj rešitev in novih priložnosti, ampak tudi težke izzive oziroma celo neposredne nevarnosti. Filozofija kot tista disciplina, ki ima za svojo nalogo refleksije sodobnih pojavov v njihovih spoznavnih, moralnih in bivanjskih razsežnostih, tako ne more mimo razmisleka o umetni inteligenci in njenem vplivu na naša življenja. UNESCOv dan filozofije 2020 v Sloveniji zato posvečamo temam, povezanim z umetno inteligenco v širšem pomenu te besedne zveze, ki med drugim zajemajo:

– razlike in podobnosti med človeškim mišljenjem in umetno inteligenco;
– spremenjen status človeka v dobi umetne inteligence;
– robotsko etiko;
– politične ureditve v digitaliziranih družbah;
– rudarjenje podatkov in vprašanje zasebnosti;
– prihodnost poklicev ob avtomatizaciji dela;
– pedagogiko v informacijski dobi;
– odvisnost od pametnih telefonov;

ter ostale izzive, na katere naletimo, kadar začnemo razmišljati o posledicah strojnega mišljenja za sodobno omreženo družbo.

Za UNESCO-v dan prijateljstva do modrosti

UNESCO, Organizacija Združenih narodov za izobraževanje, znanost in kulturo, je leta 2005 tretji četrtek v novembru razglasil za svetovni dan filozofije, ki ga vsako leto pod drugim naslovom obeležujemo tudi v Sloveniji. Letošnji dan prijateljstva do modrosti, ki ga obeležujemo v četrtek, 19. novembra, je naslovljen UMETNA INTELIGENCA: življenje v času robotov in transhumanizma.

Na Gimnaziji Ilirska Bistrica so dijaki 4. letnika gimnazije izdelali likovne, besedne in druge stvaritve, ki izražajo njihove lastne razmisleke o umetni inteligenci in življenju v času robotov in transhumanizma. Izdelki dijakov so zbrani in predstavljeni v obliki videa, ki si ga lahko ogledate spodaj. S to gesto želimo spodbuditi refleksijo o sodobni tehnologiji, ki nezadržno spreminja naša življenja in vsakdan tako na ravni posameznika kot na ravni družbe kot celote.

Mentor: Gorazd Brne, prof.

Svetovni dan filozofije 2020 – UMETNA INTELIGENCA: življenje v času robotov in transhumanizma

Umetna inteligenca

Življenje v času robotov in transhumanizma

UNESCOv Dan filozofije 2020

Letošnji osrednji dogodek ob svetovnem dnevu filozofije, ki bo potekal 19. novembra ob 11:00 uri, bo zaradi javnih zdravstvenih razmer in temi primerno potekal na medmrežju, in sicer na spletni strani dneva filozofije www.danfilozofije.net ter na profilih soorganizatorjev na družbenem omrežju Facebook.

Na dogodku, ki ga bo moderiral dr. Tomaž Grušovnik (Pedagoška fakulteta, Univerza na Primorskem), bodo sodelovali gostje:

  • dr. Cene Bavec (Univerza na Primorskem),
  • dr. Janez Bregant (Univerza v Mariboru),
  • dr. Marko Grobelnik (UNESCO IRCAI, Institut »Jožef Stefan«),
  • dr. Olga Markič (Univerza v Ljubljani) in
  • dr. Luka Omladič (UNESCO ekspertna skupina za priporočilo o etiki umetne inteligence)

ter študentje Pedagoške fakultete Univerze na Primorskem in dijaki Gimnazij Domžale ter Novo mesto.

Tako kot preteklo leto, bo tudi tokratni dogodek temeljil na skupnem razmišljanju dijakov, študentov, stroke in zainteresirane javnosti. S takšno zasnovo želimo razširiti osnovno idejo dni filozofije, namreč zamisel, da je filozofija skupna last vsega človeštva in njegov dragocen zaklad, ki lahko bistveno prispeva k svetovni kulturi miru. To je tudi razlog, da je UNESCO, Organizacija Združenih narodov za izobraževanje, znanost in kulturo, ta praznik radovednosti in svobode mišljenja zasnovala in vzela pod svoje okrilje.

Brošura (PDF)