IRT 3000

vsebina

Hočemo stroje po naši podobi

12.03.2018

Filozofija tehnologije je ključ za našo prihodnost in naš planet

35793304344_75a7f4c2ee_o.jpgTehnološki razvoj temeljito spreminja naše življenje. Ne vpliva le na razvoj industrije 4.0, umetne inteligence in pametnih strojev, temveč tudi na razvoj širše družbe in na nas samih. Hočemo ustvariti stroje po naši podobi, s katerimi bomo izboljšali svoje življenje in rešiti težave našega planeta? Lahko si pomagamo s filozofijo tehnologije.

 

»Moč domišljije je spremenila svet. To ji je uspelo z uporabo kodiranja, ob kreativni povezavi z računalniki in internetom,« je prepričan prof. dr. Mark Coeckelbergh. Področje tehnologije in obdobje romantike sta sicer navidezno skrajno različni, a tesneje povezani, kot si predstavljamo, dodaja.

 

Belgijec je filozof tehnologije, profesor filozofije medijev in tehnologije na Oddelku za filozofijo Univerze na Dunaju ter profesor tehnologije in družbene odgovornosti v Centru za računalništvo in družbeno odgovornost na Univerzi De Montfort v Leicestru.

Njegova znanstveno-raziskovalna področja proučevanj obsegajo zlasti vsebine filozofije tehnologije, etike in tehnologije, etike in informacijske tehnologije, robotske etike ter filozofije okolij.

Prof. dr. Coeckelbergh je aktiven v številnih strokovnih telesih in znanstveno-raziskovalnih skupinah. Je član odbora za vgradnjo vrednot v avtonomne inteligentne sisteme pri Globalni pobudi za etična vprašanja v umetni inteligenci in avtonomnih sistemih Inštituta inženirjev elektrotehnike in elektronike (IEEE), član odbora za tehnično strokovnost (TEC) pri Fundaciji za odgovorno robotiko ter član novoustanovljenega Robotik-Rat, ki ga je ustanovilo avstrijsko Ministrstvo za promet, inovacije in tehnologijo.

Jernej Kovač: Zakaj umetno? Zakaj danes še govorimo o umetni inteligenci in ne denimo o dodani inteligenci ali komplementarni inteligenci ali preprosto inteligenci?

Prof. dr. Mark Coeckelbergh: Večina nas še vedno močno razlikuje med naravnim in umetnim, med človeškim in nečloveškim. Ob tem mislimo, da je zelo pomembno, da te razlike namenoma izvajamo. Menim, da uporaba izraza »umetna« poudarja prav to. Ravno tako obstajajo razlike med človeško inteligenco in inteligenco strojev. To ni enaka inteligenca. Tudi če menite, da lahko – tako kot jaz – za določene namene združimo tako človeško inteligenco kot umetno inteligenco. Menim, da je dobro, da ohranjamo razlikovanje, ne zgolj, ker cenimo človeško inteligenco kot nekaj posebnega, unikatnega, temveč tudi zato, da spoštujemo dejstvo, da ima lahko umetna inteligenca lastne, specifične lastnosti. Ampak lahko si predstavljam, da če bomo v prihodnosti pogosteje uporabljali umetno inteligenco, bi jo lahko imenovali drugače ali celo ne bi več razmišljali o njej. Če to preslikamo na sedanjost – o računalnikih pravzaprav ne govorimo več, niti o internetu. Ker to ni več nekaj tako posebnega, zato smo privzeli drugačna poimenovanja. Danes uporabljamo določeno »aplikacijo« ali pa rečemo »uporabljam svoj telefon«, ne govorimo več »grem na internet« ali »grem na spletni portal«. To je jezik 90. let. Jezik je živa tvorba, zdaj pa smo ta pretekla imenovanja že davno presegli. Zato gojim mnenje, da se bo v prihodnosti naš jezik še spreminjal in v enem izmed mojih raziskovalnih področij v filozofiji raziskujem, kako jezik oblikuje naše razmišljanje, vključno z našim razmišljanjem o tehnologiji.

36918034106_df02721b35_o.jpgJK: Vsakič, ko postane stroj pametnejši, postanemo pametnejši tudi njegovi uporabniki. Kako pametne nas lahko naredijo naši stroji?

MC: Mislim, da je to dobro vprašanje, saj se vprašanje o tej temi običajno glasi, kako pametni lahko postanejo stroji. Menim, da nas stroji dejansko lahko naredijo pametnejše, da, pravzaprav to tudi zdaj že zelo dobro počnejo. Pametnejši v smislu več informacij, ker uporabljamo Google in druge platforme. Ali nas to res naredi pametnejše v smislu bolj inteligentne, to je odvisno od vaše definicije. Toda, ko delamo, združujemo človeško inteligenco in umetno inteligenco. Torej to že počnemo. Pri iskanju domala česarkoli so ljudje, včasih tudi nehote, v kombinaciji s stroji. Torej se to že zelo dogaja in predstavljam si, da bo tega še več. Tudi povezava bo vse tesnejša, saj za zdaj še posedujemo svoje naprave, ki so ločeni predmeti, vendar se to lahko spremeni. Ne vem natančno, kako bo, v katero smer bo šel razvoj, če bo bolj v navezavi z okoljem ali bolj povezano z našimi telesi. Vendar postalo bo normalno, da se vsi o tem pogovarjamo.

JK: Ali imamo dobro in slabo tehnologijo ali pa smo, ljudje, samo brez dovolj zavesti, se ne zavedamo, ali ne vemo dovolj ali smo celo zavedeni o dejanski dodani vrednosti napredne tehnologije?

MC: To je zelo široko vprašanje. Menim, da obstajajo jasne koristi človeka v povezavi s tehnologijami. Vendar zato, ker tehnologije uporabljamo ves čas ali pa smo brez težav sprejeli vse, kar prihaja s tehnološke strani. Pri tem pa pogosto niti ne razmišljamo o tveganjih in tudi o manj dobrih straneh. Na primer, to, da imamo na voljo več informacij in da jih lahko zlahka združujemo z iskanjem prek Googlovega portala. Ne zavedamo se, da se s tem dejansko delamo zelo odvisne od tega početja. Ker smo sistem popolnoma prisvojili, ponotranjili, se teh nevarnosti ne zavedamo več. Prav tako smo odvisni od tega, kako je algoritem ustvarjen. Vzemimo primer njegovega delovanja – seveda, ponuja nam izbor potencialnih rešitev in daje prednost določenim povezavam. Toda njeno delovanje ni pregledno. Ne poznamo ga, a kljub temu ga enostavno nespametno uporabimo. To je nevarnost.

JK: Kako povečati pripravljenost ljudi in človeštva, da prevzame nove izzive?

MC: Strinjam se, da bi morali povečati pripravljenost za raziskovanje novih možnosti s tehnologijami. Toda hkrati bi morali povečati našo pripravljenost za kritični pogled na tehnologijo in si razjasniti, kako lahko tehnologijo vključimo v naše vsakodnevno življenje na najbolj smiseln način. Zdaj smo integrirani, kot družba želi. Torej, morali bi razmišljati tudi o vprašanjih, kot je moč, ki dejansko odloča, kako vodimo svoje življenje. Odločam jaz? Je to Google? Ali je Facebook? Torej so še vedno samo objave tiste, ki imajo kaj povedati ali pa so velike korporacije, ki se odločajo za nas? Torej, mislim, da bi morali imeti odprtost, prav tako pa bi morali dopustiti dovolj prostora in podpore za zagonska podjetja, za inovacije. Vendar pa se moramo prepričati, da se ta inovacija zgodi na način, ki dejansko bogati naše življenje in našo družbo.

JK: Kakšen svet znanosti in tehnologije potrebuje človek, da bi uresničil svojo temeljno poslanstvo?

MC: To je zelo veliko vprašanje. Nisem prepričan, kaj je pravzaprav temeljno poslanstvo človeštva. robo2018_bannerbig.jpgČloveštvo je zelo odprt koncept in vedno znova smo opredelili svoje cilje kot ljudje, kot družbe, delno tudi oblikovane in pod vplivom tehnologije. Z novimi tehnološkimi možnostmi se človeštvo na novo izumlja. In zato mislim, da bodo projekti, ki jih bomo imeli, odvisni od tehnologije. Torej, če želimo razmišljati o človeku, moramo razmišljati o tehnologiji. In moramo kritično razmišljati o tem, kateri so naši cilji in bi morali biti naši cilji. Kaj že delamo? In ali je to dober način? Toda poslanstvo je težko opredeliti. Eksistencialisti so zatrjevali, da je človeštvo projekt in človeka, ki ga želimo, bomo opredelili z novimi možnostmi in tudi slabimi stvarmi, ki se zgodijo. Odgovorimo na to, kar se zgodi. Tudi v zgodovini je prišlo do dogodkov, da se je posledično naše razmišljanje o ljudeh spremenilo. To se ponovno lahko zgodi.

JK: Ali smo daleč od umetne inteligence skladne s človekom, ki lahko samostojno rešuje probleme z uporabo zdravega občutka, altruizma in drugih človeških vrednot?

MC: Da. Menim, da smo še vedno zelo daleč od tehnologije, ki lahko resnično misli in čuti tako, kot mislimo in čutimo mi. S posnemanjem določenih procesov lahko dejansko dobimo funkcionalni ekvivalent nekaterih stvari, ki jih naredimo. Tako bo napredek v tej smeri zagotovljen. Bolj ključno je tu vprašanje, ali si to res želimo storiti. Ali želimo ustvariti stroje, ki so kot mi? Morda imamo bolj napredne inteligentne stroje, ki imajo različne, zelo različne vrste inteligence, ki imajo zelo različen način reševanja problemov. Menim, da je to bolj prihodnost. Morda je pomembno, da naj človek vse tisto, v čemer je dober, počne še naprej. Ne bi nas smeli za vsako ceno nadomestiti stroji, računalniki in roboti na področjih, kjer dobro delujemo.

JK: Kaj je po vašem mnenju razlog za velik uspeh napovedovanja prihodnosti s strani umetnosti in literature?

MC: Mislite, da nam tehnologija pomaga napovedovati prihodnost ali?

JK: Ne. Umetnost, filmi in literatura, posebej skozi žanr znanstvene fantastike, zelo dobro napovedujejo prihodnost.

MC: Ne vedno. Seveda, če pa to počnejo, je razlog, da znanstvena fantastika vpliva na znanost. To obravnavam tudi v svoji knjigi Novi romantični kiborgi (v izvirniku New romantic cyborgs, op. a.). Tovrstni vplivi so se dogajali že v preteklosti. Na primer, raketni znanstvenik je prebiral Julesa Verna, ki je bila znanstvena fantastika devetnajstega stoletja. Znanstvena fantastika na temo robotov danes navdihuje znanstvenike in robotike k razvijanju človeku podobnih robotov. Mislim, da je znanstvena fantastika lepo polje, ki tudi raziskuje tudi nekatera filozofska vprašanja. Vendar pa moramo biti previdni tudi zato, ker sci-fi ljudje gojijo pričakovanja. Mislijo, da bi lahko v prihodnjih desetih letih posedovali takega robota, kot je ženska v Ex Machini (Film Ex Machina je znanstvenofantastični psihološki triler z leta 2014, ki ga je režiral Alex Garland, op. a.). In to je nevarno, ker ljudje pričakujejo, da bodo, če se srečajo s robotom, lahko ti zelo človeški. Tako mu vnaprej pripisujejo vrste človeških misli in občutkov. Ampak ta v bistvu le ni človek.

JK: Joi Ito, direktor MIT Media Laba, ne verjame v futuriste – in v sposobnost, da uspešno predvidijo prihodnost, saj se običajno precej motijo – verjame v zdaj-iste (ang. now-ist op. a.). Poudarja, da ne razmišljamo o trendih, temveč o odpornosti in sposobnosti biti prožni, prilagodljivi in pripravljeni na vse. Po njegovem je težava v tem, da so ljudje odvisni od trendov in snovanja načrtov. Večina teh pa je napačnih. Kakšno je vaše mnenje o napovedovanju prihodnosti?

MC: Predvidevanje prihodnosti je zelo težko, če ne celo nemogoče. Doslej smo se pri napovedih vedno motili. Tudi napovedi znanstvene fantastike niso natančne. Še vedno se ne vozimo v letečih avtomobilih, tudi če jih nekateri poskusijo pospešeno razviti. Še zmeraj ne počnemo stvari, ki so nam jih vizionarji oz. umetniki napovedovali pred tridesetimi leti. In zato je zelo težko predvideti prihodnost. Mislim pa, da je razmišljanje o prihodnosti dobro in koristno, saj povezuje znanost in tehnologijo z umetnostjo. Kljub vsemu bi se morda morali osredotočiti na bližnjo prihodnost in poskušati graditi resnično kul stvari bolje, tehnično dovršeno, a tudi hkrati smiselno in etično nesporno. Torej, če se prihodnosti lotimo na tak način, potem je to popolnoma v redu. Sprejemljivo. Do neke mere torej lahko predvidimo, napovedujemo in ocenjujemo bližnjo prihodnost.

JK: Ali lahko zgradimo umetno inteligenco, ne da bi nad tem izgubili nadzor?

MC: Da, lahko. Menim, da so fantazije ljudi, kot je Musk (Elon Musk, južnoafriški poslovnež, investitor, inženir in izumitelj, najbolj znan zaradi delovanja v podjetjih SpaceX, Tesla, OpenAI, SolarCity in Neuralink, op. a.) in fantazije nekaterih ljudi v transhumanizmu popolnoma pretirane in niso v redu. Menim, da problem, s katerim se soočamo, ni, da nam bo umetna inteligenca prevladala ali prevzela umetnost ali da bo človeštvu oz. planetu prestavljalo veliko nevarnost. Mislim, da so zdaj naše največje tveganje podnebne spremembe. Resnično obstajajo tveganja in težave, povezane z umetno inteligenco, vendar so slednje bolj povezane z našim vsakdanjim življenjem v tem trenutku in v bližnji prihodnosti. Poglejmo si etične probleme s tehnologijami prihodnosti, s tem, kar prihaja po dobi interneta in pametnih telefonov. Ne glede na to, kaj bo naslednja tehnologija: poskusimo si predstavljati probleme in tveganja sedanjih ter nastajajočih tehnologij v majhnem obsegu in kako te spreminjajo družbo. To bi se moralo osredotočati na planet in človeštvo kot celoto. Menim, da so podnebne spremembe nujnejše. In seveda bi morali razmišljati tudi o tem, kako nam lahko nove tehnologije pomagajo rešiti ta problem.

HocemoStroje.jpgJK: Biologija postaja inženiring, življenje postaja surovina, ki jo je treba načrtovati. Ko se to zgodi, se oblikovalci premaknejo in začnejo načrtovati življenjske biološke izdelke. Kaj se zgodi, če mešate biologijo, umetno inteligenco in oblikovanje?

MC: Nekatere zanimive stvari se že dogajajo in mislim, da je to delno dobro, ker lahko pomaga ljudem. Če imamo umetno tkivo za pomoč v medicini, je to res dobro. Tehnologije so lahko zanimiva rešitev za ljudi z motnjami v možganih. Sam nimam toliko težav pri prehajanju umetnih in bioloških meja oz. medsebojnem križanju teh, vendar obstaja nekaj kombinacij, o katerih moramo razmišljati, ali jih želimo – na primer, zdaj lahko vzamete človeške gene in živalske gene, lahko jih kombinirate ali pa jih lahko na določene načine dodajate oz. urejate. Ob tem vzniknejo druga vprašanja: na kakšen način boste spremenili človeka, na kakšen način boste uporabili žival in kakšen bo rezultat tega? To je potrebno kritično proučiti. Ob tem pa se mi tudi zdi pomembno, da bi vsekakor morali pogledati možnosti novih poti združevanj.

JK: Za vojaške namene so bile razvite številne napredne tehnologije. Kakšen učinek ali vpliv bo imela vojska na prihodnjo znanost in tehnologijo? Katere teme so zlasti privlačne in imajo potencial za prihodnji razvoj?

MC: Imela bo ogromen vpliv, saj ga pravzaprav ima že zdaj. Veliko sredstev za robotiko je neposredno povezanih z vojsko, zlasti v ZDA, in danes mislim tudi v Aziji. To je zelo zaskrbljujoče, ker bodo aplikacije sledile vojaškim ciljem. Zlasti me skrbi tudi silni razvoj avtomatizacije v vojaške namene. Poglejmo primer brezpilotnih plovil. Obstajajo droni za nadzor, ki s seboj prinašajo predvsem vprašanja o zasebnosti. Toda to je ena zadeva. Za uporabo tako imenovanih dronov morilcev pa se moramo vprašati, ali naj stroj odloča o življenju in smrti. Ker to predstavlja našo bližnjo prihodnost, bi to morala biti tudi prednostna naloga.

JK: Kakšne bi utegnili imeti posledice, ko odločitve prevzame vojaška umetna inteligenca, ne ljudje?

MC: No, morda bi prišli do napačne odločitve. Kar ljudje mislimo, je napačno, vendar se je morda že kdaj zgodilo. Problematika robotike na vojaškem področju je, da avtomatizacija spodbuja bojevanje in vojne. Tako se ljudje v določenem trenutku ne morejo več odločati. Če pustimo, da imajo stroji tam večjo vlogo, potem smo se izločili iz sistema in mislim, da tega ne bi smeli storiti. Tudi v vojski so ljudje, ki želijo odgovorno vojaško akcijo. Menim, da je pomembno ohranjati človeka v zanki in se prepričati, da tam nimamo samo strojev, ki delajo, ker bi sicer ljudje trpeli zaradi tega. Utopija, da bi se stroji borili med seboj, ne da bi uničili ničesar ..., to je nemogoče.

JK: Ustvarjanje je razmišljanje. Ali se strinjate, da je manj razmišljanja privedlo do boljše rešitve?

MC: Odvisno od tega, kaj mislite z razmišljanjem in ustvarjanjem. Zato mislim, da bi morali razmišljati, vendar golo razmišljanje brez eksperimentiranja v umetnosti, znanosti in vsakdanjem življenju dejansko ni dovolj. Nikoli ni dovolj. In besede tudi niso nikoli dovolj. Mislim, da sta filozofija in teorija vedno omejena, potrebujemo tudi bolj praktično razmerje, preizkusiti moramo tudi stvari in eksperimentirati.

JK: Kako filozofija lahko prispeva k tehnologiji?

MC: Filozofija lahko prispeva k razvoju pomembnih, etično in družbeno koristnih tehnologij. Pomaga nam, da sistematično in jasno razmišljamo o problemih v družbi in človeštvu. Filozofija tehnologije je specializirana za probleme v zvezi s tehnologijo in bi bilo dobro, če bi več tega dela prešlo v javne razprave o tehnologijah.

JK: Založba MIT Press je izdala knjigo »Novi romantični kiborgi: romantika, informacijska tehnologija in konec stroja«, ki jo opisujete z izrazom »romantična dialektika«. Bi lahko besedno zvezo podrobneje pojasnili?

MC: Tehnologije nam pogosto prodajajo kot neke vrste romantična orodja: v vsakdanjem življenju prinašajo čarobnost, ki jo pogrešamo, omogočajo nam pobeg. Toda hkrati podjetja uporabljajo na primer naše dejavnosti na spletu za ustvarjanje podatkov, ki jih prodajajo, mi smo izdelek, ki se prodaja, ne pa stranka. Nove tehnologije ustvarjajo tudi nova tveganja, postajamo odvisni od njih. Z vidika kritične teorije se zdi, da se obljube romantičnih tehnologij spremenijo v nasprotno. Tehnologija obljublja lansiranje orodij namenjenih svobodnim in ustvarjalnim posameznikom, a uporabniki postanemo podvrženi novim načinom izkoriščanja in zasužnjevanja. To je nevarnost in razlog, da moramo ostati kritični do romantičnih obljub tehnologije.

JK: Kaj je TRANSOR? Ali lahko podrobneje opišete svoje poslanstvo in dejavnosti?

MC: TRANSOR je mreža raziskovalcev, ki se zanimajo za transdisciplinarno študijo socialne robotike. Ni dovolj, da imamo eno disciplino, v akademski skupini potrebujemo skupna prizadevanja, da kritično razmišljamo o uvedbi robotov v vsakdanje življenje.

JK: Ste glavni organizator Mednarodne raziskovalne konference Robophilosophy 2018 / TRANSOR 2018. Kakšen je namen konference, ki jo bo gostila Univerza na Dunaju februarja 2018?

MC: Tako kot vsaka konferenca o robofilozofiji je glavni namen filozofov in drugih raziskovalcev, da skupaj razmišljamo o družbeni robotiki. Toda, tokrat smo fokusirani na vprašanja o politiki in gospodarstvu. Na primer, kakšna je prihodnost dela ob razmahu avtomatizacije? Katere globalne politike potrebujemo za robotiko in umetno inteligenco? Menim, da je pomembno, da se tem vprašanjem ne moremo odzvati samo abstraktno ali administrativno. Zato želim združiti akademike in druge, da se prepričajo o tem, kako razmišljajo o teh vprašanjih, tako s filozofskih kot praktičnih vidikih.

JK: Kako bi morali v družbi predvideti položaj robotov?

MC: Roboti se v družbi ne smejo uporabljati kar povsod in za vse namene, ampak za posebne naloge. Smiselno je, da ljudje in roboti počnejo nekaj skupaj, če je to možno storiti etično in družbeno odgovorno.

ar©tur 2016