Da li veštaščka inteligencija, preciznije, svesna veštačja inteligencija, zavređuje moralna prava? Evolucioni biolog Ričard Dokins, profesor etike i tehnologije Džoana Brajson, filozof i kognitivni naučnik Suzan Šnajder, fizičar Maks Tegmark, filozof Piter Singer i bioetičar Glen Koen iznose svako svoju perspektivu na temu moralna prava veštačke inteligencije.

Uz datost teške tragedije ropstva prisutnog naširoko u ljudskoj istoriji, filozofi i tehnolozi moraju odgovoriti na ovo pitanje ispred tehnološkog razvoja kako bismo izbegli da čovečanstvo stvori ropsku klasu svesnih bića.

Jedna od mogućih zaštita protiv toga? Regulativa. Kada defnišemo kontekst koji zahteva moralna prava veštačke inteligencije, najjednostavnije rešenje bi moglo biti da tu stvar uopšte ne napravimo.

Evolucioni biolog Ričard Dokins:

“Kada govorimo o veštačkoj inteligenciji i mogućnosti da postane svesna, dolazimo do osnovne psihološke poteškoće. Ja sam filozof naturalist; zastupam gledaište da nema ničega u našim mozgovima što odstupa od zakona fizike, te nema ničega što ne bi moglo, u principu, biti reprodukovano u tehnologiji. To još nije urađeno; verovatno smo još uvek jako daleko, ali nema razloga zašto u budućnosti ne bismo stigli do tačke u kojoj je robot napravljen od strane čoveka kadar da ima svest i oseća bol.”

Profesor etike i tehnologije Džoana Brajson:

“Jedna od stvari koje smo uradili prošle godine, što je bilo prilično primećeno među medijskim naslovima, jer smo replicirali neke psihološke stvari o implicitnim predrasudama – zapravo, najbolji ide otprilike ‘Naučnici pokazali da je VI seksista i rasista, a to je naša krivica’, što je u velikoj meri tačno jer je reč o preuzimanju stvari iz našeg društva. U svakom slučaju, suština je bila – evo VI sistema koji toliko nalikuje ljudima da je preuzeo naše predrasude i ostalo, a to su samo vektori. To nije majmun, neće preuzeti svet, neće uraditi ništa, to je samo prikaz, kao fotografija. Ne možemo verovati sopstvenoj intuiciji sa ovakvim stvarima.”

Filozof i kognitivni naučnik Suzan Šnajder:

“Dakle, zašto bi trebalo da brinemo da li je veštačka inteligencija svesna? Pa, imajući u vidu rapidni razvoj veštačke inteligencije, ne bi bilo iznenađujuće da tokom narednih 30 do 80 godina počnemo da razvijamo veoma specifične opšte inteligencije. One možda neće biti tačno nalik ljudima, možda neće biti pametne kao mi, ali mogu biti svesna bića. Ako su svesna bića, potrebni su nam načini određivanja da li je to zaista slučaj. Bilo bi užasno ako ih, na primer, šaljemo u svoje ratove, primoravamo da čiste naše kuće – u suštini ih napravimo kao ropsku klasu. Ne želimo da napravimo tu grešku, želimo da budemo osteljivi na te probleme, stoga treba da razvijemo načine da odredimo da li je veštačka inteligencija svesna ili ne.”

Tjuringov test je postavio Alan Tjuring, rodonačelnik modernog računarstva. On je shvatio da bi u nekom trenutku mašine na kojima je radio mogle postati mašine koje razmišljaju umesto da samo računaju i osmislio je veoma jednostavan test.

Kada čovek interaguje sa računarom i ne zna da je to računar, test je položen. A ovaj Tjuringov test je realna stvar i nikada do sada nije položen.

Ono što jedan od filmova o veštačkoj inteligenciji – Ex Machina – prikazuje, jeste ideja da će se to, u nekom trenutku, dogoditi. Pitanje je kuda to vodi.

Evolucioni biolog Ričard Dokins:

“Ovo je uznemiravajuće iz osnova jer se suprotstavlja svemu što mislimo o mašinama napravljenim od metala i silikonskih čipova koje mogu da osećaju bol, ali ne vidim zašto ne bi mogle. Takođe, ovaj moralni obzir kako da se odnosimo prema veštački inteligentnim robotima će se pojaviti u budućnosti, a to je problem o kome filozofi i filozofi morala već razgovaraju.”

Filozof i kognitivni naučnik Suzan Šnajder:

“Recimo da pronađemo načine da napravimo svesne mašine, može se desiti da ćemo namerno želeti da se postaramo da određene mašine ne budu svesne. Tako, na primer, uzmite u obzir mašinu koju bismo poslali da rastavi nuklearni reaktor, te bismo je tako vrlo verovatno poslali u smrt; ili mašinu koju bismo poslali u ratnu zonu. Da li bismo zaista želeli da šaljemo svesne mašine u takve okolnosti? Da li bi to bilo etično?

Mogli biste reći – pa, možda možemo da prepravimo njihove umove tako da im je zadovoljstvo to što rade i ne smeta im žrtvovanje, ali to podrazumeva određene vrlo komplikovane inženjerske probleme koji su zapravo po prirodi etički i sežu sve do koncepta Vrli novi svet, na primer – situacija u kojoj su ljudi pod intervencijama genetičkog inženjeringa i uzimaju medikament pod nazivom Soma kako bi želeli da žive živote koji su im dati. Stoga, moramo zaista da razmislimo o pravom pristupu. Može se desiti da namerno napravimo mašine za određene zadatke koje nemaju svest.”

Fizičar Maks Tegmark:

“Neki ljudi bi možda radije hteli da njihov budući robot pomoćnik u kući bude nesvesni zombi tako da ne moraju da se osećaju krivima što mu daju da obavlja dosadne obaveze ili ga gase, a neki ljudi bi možda više voleli da je svestan, tako da mogu imati pozitivno iskustvo i ne osećaju se prestrašeno ovom mašinom koja samo lažira i pretvara se da je svesna iako je samo zombi.”

Filozof i kognitivni naučnik Suzan Šnajder:

“Kada ćemo zasigurno znati da treba da brinemo o robotima? Pa, ovde postoji puno pitanja, ali svesnost je još jedna od tih pojmova. Reč koju ja rado koristim je moralni pacijent; to je tehnički termin koji su filozofi osmislili i podrazumeva upravo nešto o čemu smo svi obavezni da vodimo računa. Tako, sada možemo voditi sledeći razgovor: Ako mislite da svesnost znači samo moralni pacijent, onda nije velika pretpostavka reći da u tom slučaju, ako nije svestan, onda treba o njemu da se brinemo. Ali to je mnogo opuštenije nego da kažete: Da li svesnost zahteva da postoji moralni pacijent? A tada ne možemo stati i reći: pa, zavisi šta podrazumevate pod svešću. Ljudi upotrebljavaju svesnost kao značenje za mnogo različitih stvari.

Mnogi ljudi imaju pogrešne utiske, jer su gledali Blejd Raner ili VI ili neki sličan film, a u većini ovih filmova ne govorimo zapravo o VI, ne govorimo o nečemu što je dizanirano od samog početka, u suštini govorimo o klonovima. A klonovi su potpuno druga situacija. Ako imate nešto što je potpuno isto što i osoba, kako god da je napravljeno, onda je isto što i osoba i potrebna mu je ta vrsta zaštite.

Ali ljudi misle da nije etično napraviti ljudske klonove, delom zato što ne žele da opterete nekoga saznanjem da bi trebalo da bude neko drugi, jelte, da je postojala neka druga osoba koja je odabrala umesto njih da budu ta osoba. Ne znam da li ćemo biti sposobni da se toga držimo, ali rekla bih da VI klonovi pripadaju istoj kategoriji. Ako ćete zaista napraviti nešto i onda reći – hej, čestitam, ti si ja i moraš da radiš kako ja kažem – ja ne bih želela da mi prvo ja govori šta da radim, ako to ima smisla, ukoliko me ima dve. Zar ne? Mislim da bismo obe želele da budemo jednake i stoga ne želite da imate predmet ili nešto što ste namerno napravili i što ćete posedovati.

Ako imate nešto što je vrsta humanoidnog sluge koga posedujete, onda je reč za to rob. Dakle, pokušavala sam da ustanovim da – čujte, mi ćemo posedovati šta god da napravimo i samim tim bilo bi pogrešno načiniti to osobom jer smo već utvrdili da je ropstvo ljudi pogrešno, loše i nelegalno. Zatim, nikada mi nije palo na pamet da bi ljudi to shvatili kao – o, roboti će biti ljudi prema kojima se jednostavno odnosimo jako ružno i loše. Ne, to je potpuno suprotno.

Stvarima dajemo prava jer je to najbolji način koji možemo pronaći da izlazimo na kraj sa veoma komplikovanim situacijama. A oni kojima dodeljujemo prava su u suštini ljudi. Mislim, neki ljudi zastupaju životinje, ali, tehnički, osim toga ovo zavisi od tehničke definicije koju koristite, a tehnički prava su obično stvari koje dolaze sa odgovornostima i treba ih biti moguće braniti na sudu. Tako, često govorimo o dobrobiti životinja i govorimo o ljudskim pravima.

Ali sa veštačkom inteligencijom možete čak zamisliti da ona poznaje svoja prava i brani se pred zakonom na sudu, ali pitanje je zašto bi trebalo da štitimo veštačku inteligenciju pravima? Zašto je to najbolji način da je zaštitimo? Sa ljudima je tako jer su ranjivi, zato što nas ima samo jedan rod i zaista smatram da je ovo užasno redukcionistički, ali iskreno mislim da je to jednostavno najbolji način koji smo pronašli da budemo sposobni da sarađujemo. To je vrsta priznavanja činjenice da smo u suštini svi jedno te isto, ista stvar, a morali smo da osmislimo neku vrstu, opet tehnički rečeno, ravnoteže.

Morali smo da smislimo neki način da delimo planetu a nismo uspeli da to uradimo potpuno pravedno, da svi dobijaju istu količinu prostora, ali zapravo svi želimo da naša dostignuća budu priznata pa čak ni potpuno pravedno nije sasvim fer, ako to ima smisla. Ne želim da budem površna, ali zaista je istina da ne možete načiniti da sve na svetu bude pravedno, ne odjednom. To je jednostavno činjenično stanje sveta, to je činjenica o načinu na koji defnišemo pravednost.

Tako, imajući u vidu koliko je teško biti fer, zašto bismo pravili VI kojoj je potrebno da budemo fer prema njoj? Ono što pokušavam je samo da pojednostavim problem i fokusiram nas na ono što ne možemo da promenimo, a to je ljudsko stanje. I preporučujem da ukoliko nešto specificirate, ako kažete: U redu, evo kada su zaista potrebna prava veštačke inteligencije u tom i tom kontekstu – okej, kada smo to utvrdili, onda nemojte to da napravite.”

Filozof Piter Singer:

“Gde bismo tačno svrstali robote bi zavislo od toga kojim sposobnostima verujemo da raspolažu. Mogu da zamislim kako bismo mogli napraviti robote koji su ograničeni na nivo inteligencije životinja, možda čak ne baš ni pametnijih životinja, oni bi i daje mogli da izvode rutinske zadatke za nas, mogli bi da nam donose stvari na glasovnu komandu. To nije previše teško zamisliti. Ali ne mislim da  bi to nužno bilo svesno biće.

Ako bi to bio samo robot za koga bismo razumeli tačno kako radi, to se ne razlikuje previše od onoga što već imamo i ne mislim da bi zavređivao bilo kakva prava ili moralni status. Ali ako bi bio na višem nivou od opisanog, ako bismo bili uvereni da je svesno biće, onda bi neka vrstamoralnog statusa koji bi imao zavisila od toga koji je tačno nivo svesnosti i nivo spoznavanja.

Da li je više nalik svinjama, na primer? Pa, onda bi trebalo da ima ista prava kao i svinja – koja, uzgred, mislim da ugrožavamo svakoga dana na masovnom nivou načinom na koji tretiramo svinje na farmama za uzgajanje. Dakle, ne kažem da takvi roboti treba da budu tretirani kao što tretiramo svinje u našem društvu danas.

Naprotiv, trebalo bi ih tretirati s poštovanjem ka njihovim željama i svesti i njihovim sposobnostima da osećaju bol, kao i njihovoj društvenoj prirodi, sve te stvari koje treba da uzmemo u obzir kada smo odgovorni za živote svinja takođe bismo morali uzeti u obzir kada smo odgovorni za život robota na sličnom nivou.

Ali ako bismo napravili robote koji su na našem nivou, onda mislim da bismo morali da im damo potpuno ista prava koja i sami imamo. Ne bi bilo opravdano reći samo – o, da, ali mi smo biološka stvorenja a ti si robot; Mislim da to nema nikakve veze sa moralnim statusom bića.”

Bioetičar Glen Koen:

“Jedna opcija je da kažete: Neophodni preduslov za biti osoba je da budete ljudsko biće. Dakle, mnoge ljude privlači taj argument i kažu: Samo ljudi mogu biti osobe. Sve osobe su ljudi. E sad, može biti da nisu svi ljudi osobe, ali su sve osobe ljudi. Pa, problem sa time je, a ovo je najsnažnije formulisao filozof Piter Singer, bioetičar Piter Singer, koji kaže da je odbiti vrstu, mogućnost da vrsta ima prava i treba je razmatrati kao pacijenta ne bi li se uzela u obzir, vrste stvari koje imaju moralni obzir na osnovu same činjenice da nisu pripadnici vaše vrste, kaže on, jeste moralni ekvivalent odbijanjnu dodele prava ili moralnog obzira nekome na osnovu njegove rase.

Zato, kaže on, vrstizam je isto što i rasizam. A argument glasi: Zamislite da se susretnete sa nekim ko je nalik vama u svakom mogućem pogledu, ali se ispostavi da zapravo nije pripadnik ljudske vrste, nego je Marsovac – na primer, ili je robot i potpuno je isti kao i vi. Po kom osnovu biste vi bili taj koji njemu daje manje moralnog obzira?

Tako, ljudi koji veruju u kapacitet da određeni broj pogleda mora da, u najmanju ruku, bude otvoren za mogućnost da bi veštačka inteligencija mogla da ima relevantne sposobnosti, premda to nisu ljudi, i stoga se kvalifikuje da bude osoba. S druge strane kontinuuma, jedna od implikacija je da biste mogli imati pripadnike ljudske vrste koji nisu osobe, pa se tako deca sa anenkefalijom, koja su rođena sa vrlo malo moždanog tkiva, veoma često navode kao primer. Stoga, ako želite da se upuštate u ovu nezavidnu poziciju, mogli biste biti primorani da shvatite da neki ljudi nisu osobe a neki ne-ljudi jesu osobe.

Ako se odvažite i kažete “Odlučio sam da budem vrstista; biti pripadnik ljudske vrste je ili neophodno ili dovoljno da se bude osoba“, onda u potpunosti izbegavate ovaj problem. U suprotnom, morate u najmanju ruku biti otvoreni za mogućnost da će veštačka inteligencija u nekom trenutku postati nalik osobama i imati prava osoba. A to zastrašuje veliki broj ljudi, ali u realnosti, kada pogledate tok ljudske istorije i vidite kako smo olako isključivali neke ljude izvan zakona kao da nisu osobe, roblje na primer, čini se da malo skromnosti i malo otvorenosti za ovu ideju ne mora da bude najgora stvar na svetu.

Liderstvo i etika u doba veštačke inteligencije