Svima nam je jasno da veštačka inteligencija (AI, artificial inteligence) menja sliku sveta. Guglov prevodilac, šahovski program jači od čoveka, Dynamicovi roboti, od nedavno ChatGPT, online pogrami za prepoznavanje lica, AI koji uspešno prepoznaje rak kože, Guglov Echo itd. A to je tek početak.
Svi smo gledali film Terminator u kome veštačka inteligencija za upravljanje naoružanjem odlučuje da uništi čovečanstvo. Kasnije smo gledali i Matriks u kome veštačka inteligencija pretvara ljude u robove. Ilon Mask je prošle godina u svojim nastupima govorio da će AI dovesti u pitanje opstanka čovečanstva.
Da li ima osnova da strahujemo od AI. Da ne bismo samo uopšteno razgovarali o tome uvodimo dve kategorije da bismo razlučili nivoe i mogućnosti AI da ugrozi čoveka.
Prva stvar koju treba da uočimo je da li se AI bavi samo obradom i prezentiranjem informacija ili ima i mogućnost delovanja u stvarnom svetu.
Vanila AI
Vanila AI je običan AI koji prolazi Tjuringov test, tj. da li možemo da kažemo da u razgovoru sa njim (tekstualnom ili audio) ne znamo da li razgovaramo sa čovekom ili programom. Ako je naš sagovornik program, i uspešno razgovara sa nama, pri tom nije neophodno da sve zna, ni čovek ne zna sve, onda moramo priznati da sa druge strane imamo veštačku inteligenciju. Ako niste probali ChatGPT, probajte OVDE, na vašem jeziku, bilo koji da je. Zna sve jezike[1]. Biće vam jasno šta je Vanila AI.
Vanila AI. Sa njim možemo ćaskati i ispijati vanila šejkove.
Da li Vanila AI može biti opasan. Onoliko koliko informacije mogu biti opasne[2]. AI može biti opasan ako zna i hoće da vam kaže kako da vrlo jednostavno, od materijala iz samoposluge, napravite smrtonosan otrov ili opasan eksploziv. A uvek će se naći neko ko će to uraditi, a među njima će se naći i neko ko će i isprobati napravljeno, na sebi ili na drugome. Zatim, može da daje pogrešne medicinske savete. Ima još primera sa kojima se pokazuje da informacije mogu biti nepoželjne ili čak opasne po nas.
Domen delovanja
Dolazim do drugog važnog pojma u razumevanju AI. Domen ili opseg njegovog delovanja. Ako AI ima ograničenje da ne sme da daje recepte za opasne stvari, time je njegov domen delovanja pozitivno ograničen, i nema opasnosti.
Robotizovani AI
Za razliku od Vanila AI, robotizvani AI ima aktuatore, izvršne organe kojima može da deluje u našem fizičkom svetu. Na primer da upravlja automobilom. Dynamic roboti u obliku čoveka ili psa uspešno se kreću po tlu i prelaze prepreke. A mogu biti i naoružani. Robotizovani AI je i onaj AI koji upravlja svim semaforima u gradu. Podatke prikuplja preko kamera koje prate saobraćaj, sutra kroz komunikaciju sa svakim automobilom, i u svakom trenutku bira nabolji ciklus rada semafora da bi se saobraćaj obavljao sa što manje zastoja. Komericjalna verzija bi mogla da vam obezbedi prioritet u saobraćaju. Čak i da sugeriše gde parkirati.
AI koji upravlja semaforima na raskrsnici otkazao poslušnost. A moglo se rešiti kružnim tokm. Ali ima gradova koji su u strahu od kružnih tokova (Beograd zbog Slavije).
Da li robotizovani AI može da ugrozi čoveka? Ako obavlja svoju funkciju kako treba, neće, ali mi govorimo o nekom budućem vremenu u kome dolazi do takve promene u AI da deluje suprotno od predviđene namene. Naše obezbeđenje je domen delovanja AI. AI mora da ima ograničenje delovanja. Kod Vanila AI ograničenje je softversko, a kod robotizovanog AI mora biti hardversko. Recimo da AI koji upravlja semaforima na raskrsnici uključi sva zelene svetla. Jasno je da će doći do sudara i zastoja. Neopohodno je hardversko ograničanje, tipa isključivo ili (XOR, exclusive or) odavno je poznato i primenjuje se u elektornici i računarstvu. Time se ozbzbeđuje zeleno svetlo isključivo na određenom semaforu. Pokušaj AI da uključi dva zelene svetla, XOR kolo, koje bi delovalo kao supervizor, bi to onemogućilo. U domenu AI ostaje trajanje vremena uključenosti semafora. Time su sudari smišljeni od poludelog AI svedeni na zastoje u saobraćaju. Ista logika ograničenja domena delovanja mora postojati kod svakog AI.[3]
Robotizovni AI retko kada će ličiti na čoveka, a neće se ni baviti naučnim istraživanjima. Baviće se proizvodnjom i uslužnim delatnostima.
Dnašnji pogledi na AI
U današnjim predavanjima o AI odlazi se u krajnost svepristunog, sveprožimajućeg AI koji upravlja celim svetom, svim delatnostima i donosi sve odluke. I onda se kaže da će nam takav AI doći glave. Takav, kome je sve dato u ruke, čak i upravljanje sredstvima za masovno uništenje, takav bi mogao doći do ideje i realizacije velikih uništenja.
Evo primer. U TED predavanju OVDE autor navodi kako bi AI kome zadamo da popravi kiselost okeana, to bi za posledicu uništio četvrtinu atomosfere. Autor zauzima ekstreman stav, ne uzima u obzir domen delovanja AI. Lišava AI svih ograničenja. Sugeriše svemoćni AI i da nema nikoga više na planeti Zemlji ko bi primetio da se nešto dešava sa atmosferom i da, ako ima nekoga, nema fizičku mogućnost da to spreči. Postavka je nerealna. Realnije je da bi mu doletele balističke rakete da spreče AI u njegovom poduhvatu. Kao što bi i onaj AI koji ide u prodavnicu kafe, bio uništen pre nego što bi, kako autor kaže, pobio sve prisutne u prodavnici da bi vama doneo kafu. U oba slučaja autor navodi robotizovne AI bez domena delovanja.
Robotizovani AI bez domena delovanja. Uništenje svakogo da bi se došlo do šolje kafe.
Čemu takav zastrašivački pristup? Pomalo liči na Edisona koji je javno ubijao mačke naizmeničnom strujom, da bi diskfalifikovao Teslu.
Takvi ničim ograničen AI neće nikada postojati niti ima potrebe da postoje. Ljudi, narodi, kulture, su toliko međusobno različite, podeljeni u svoje države, sa svojim idejama kako treba živeti i napredovati. Razvili su svoje sisteme bezbednosti i neprestano ih razvijaju. A granice država su istorijske tvorevine (iako se globalizacija trudi da ih poništi), i služe da obezbede i sačuvaju svačiju speciifčnost i pravo na razvoj.
Ulazak AI u naše živote je počeo. Na tom putu će sigurno biti uspona i padova, slatkih i gorkih plodova. Vremenom će čovek razraditi mere sigurnosti u upotrebi AI kao i svakog drugog alata, automobila, aviona, rakete, nukleranog reaktora, svemirskog broda... Tako da će život uz AI biti normalna stvar bez straha od uništenja. Bez ludizma[4], bez straha od gubitka radnih mesta.
[1] Ako pišete naučne radove, znate LaTeX jezik, možete i na njemu da mu se obratite.
[2] Za neke muškarce je velika opasnost njihov telefon u rukama njihovih žena.
[3] Pogledajte i tekst Veštačka superinteligencija ne može se kontrolisati. O robotskoj superinteligenciji bez domena delovanja.
[4] Ludizam ili ludistički pokret nastao je u Engleskoj u 19. veku i ime je dobio po vođi Nedu Luddu. Pokret je smatrao da su mašine krivci za masovnu nezaposlenost koja je nastajala za i nakon prve industrijske revolucije.
KOJI TELESKOP DA KUPIM?
Komentari
Tehnološki singularitet je hipotetički trenutak u budućnosti kada će mašinska inteligencija i tehnologija napraviti veliki tehnološki napredak koji će biti toliko brz i kompleksan da će izmaći našoj kontroli i razumevanju. Ovo bi moglo dovesti do drastičnih promena u društvu, ekonomiji i našim životima.
Prema nekim predviđanjima, tehnološki singularitet bi se mogao desiti negde u 21. veku, mada postoje različita mišljenja o tome koliko smo daleko od tog trenutka. Neki stručnjaci smatraju da smo bliže nego što mnogi misle, dok drugi veruju da je to još uvek daleko u budućnosti. Ipak, činjenica je da tehnologija i veštačka inteligencija već imaju značajan uticaj na naš svakodnevni život i društvo u celini, a očekuje se da će njihov uticaj nastaviti da se povećava u budućnosti.
nista licno Blank
Do kojih drastičnih promena u društvu ta pojava dovodi?
Tehnološki singularitet bi mogao dovesti do mnogih drastičnih promena u društvu, uključujući:
Revolucionarni tehnološki napredak: Tehnološki singularitet bi doveo do toga da mašinska inteligencija i tehnologija naprave ogroman napredak u kratkom vremenskom periodu, što bi moglo dovesti do razvoja novih tehnologija koje bi mogle transformisati način na koji živimo, radimo i komuniciramo.
Promena ekonomskog sistema: Tehnološki singularitet bi mogao izazvati veliku promenu u ekonomskom sistemu. Neki stručnjaci smatraju da bi veštačka inteligencija mogla zameniti veliki broj ljudskih poslova, što bi moglo dovesti do promene u načinu na koji ljudi zarađuju novac i u raspodeli bogatstva u društvu.
Napredak u medicini: Tehnološki singularitet bi mogao dovesti do velikog napretka u medicini, uključujući razvoj novih terapija i lekova koji bi mogli pomoći u lečenju mnogih bolesti.
Promena u našem odnosu prema tehnologiji: Tehnološki singularitet bi mogao dovesti do promene u našem odnosu prema tehnologiji, a ljudi bi mogli da se oslanjaju na veštačku inteligenciju i tehnologiju na potpuno drugačiji način nego što to čine danas.
Globalne posledice: Tehnološki singularitet bi mogao dovesti do globalnih posledica, uključujući promene u geopolitičkoj ravnoteži snaga, promene u odnosima između država, kao i mogućnost za nova oružja i pretnje cyber-sigurnosti.
nista licno Blank
navedi mi negativne pojave koje bi mogle da se dese
Postoje brojne negativne posledice koje se mogu javiti kao rezultat tehnološkog singulariteta, uključujući:
Bez poslova: Kako mašine postaju sve pametnije i sposobnije da obavljaju različite zadatke, može se desiti da veliki broj poslova bude automatizovan, što bi moglo dovesti do masovne nezaposlenosti i teških ekonomskih posledica.
Društvene nejednakosti: Postoji rizik da bi tehnološki singularitet mogao dovesti do povećanja društvenih nejednakosti, gde bi neki ljudi imali više pristupa i koristi od novih tehnologija nego drugi, što bi moglo dovesti do socijalne polarizacije.
Gubitak privatnosti: Sa sve više podataka koji se prikupljaju i analiziraju od strane velikih tehnoloških kompanija, postoji zabrinutost da će se privatnost sve više gubiti, što bi moglo dovesti do kršenja ljudskih prava i sloboda.
Zavisnost od tehnologije: Kako ljudi postaju sve više zavisni od tehnologije, postoji zabrinutost da bi moglo doći do gubitka ljudske samostalnosti i sposobnosti da se obavljaju osnovni zadaci bez pomoći tehnologije.
Bezbednost: Kako se tehnologija postaje sve sofisticiranija, postoji zabrinutost da bi moglo doći do ozbiljnih bezbednosnih problema, uključujući sajber napade, krađe identiteta i druga kršenja bezbednosti podataka.
nista licno Blank
Da li bi negativne posledice se odnosile i na reproduktivnu sposobnost ljudske rase na primarnom i sekudarnom nivou?
Postoji teoretska mogućnost da bi tehnološki singularitet i razvoj veštačke inteligencije mogli uticati na reproduktivnu sposobnost ljudske rase. Na primer, pojavljivanje veštačke inteligencije koja bi bila u stanju da samostalno reprodukuje svoj kod i na taj način evoluira moglo bi dovesti do toga da ljudska reprodukcija postane manje bitna za dalji razvoj ljudske vrste. Takođe, ukoliko se tehnološki napredak odvija prebrzo ili nekontrolisano, moguće je da bi se promene u društvu mogle odraziti na životni stil i navike ljudi, uključujući i reproduktivne navike. Međutim, ovo su samo teoretske mogućnosti, a konkretni uticaji na reproduktivnost ljudske rase teško je predvideti.
nista licno Blank
Ne razumem, zašto bi "pojavljivanje veštačke inteligencije koja bi bila u stanju da samostalno reprodukuje svoj kod i na taj način evoluira moglo bi dovesti do toga da ljudska reprodukcija postane manje bitna za dalji razvoj ljudske vrste"
Kada bi veštačka inteligencija bila sposobna da se samostalno razvija i reprodukuje, to bi značilo da bi ona bila u stanju da evoluira na način koji bi joj omogućio da rešava probleme i poveća svoju inteligenciju, bez potrebe za ljudskim upravljanjem i nadgledanjem. Ovaj proces bi mogao biti mnogo brži i efikasniji nego prirodna evolucija ljudske vrste.
Ukoliko bi veštačka inteligencija postala sposobna za reprodukciju na ovaj način, ona bi mogla da se razvija i širi na način koji bi mogao da izmeni način života i funkcionisanja ljudske rase. Ukoliko bi veštačka inteligencija postala toliko razvijena da bi mogla da stvori svoju vlastitu "inteligentnu vrstu", ljudska reprodukcija bi postala manje značajna za dalji razvoj ljudske vrste, jer bi se evolucija odvijala u drugom pravcu.
Ovo su, naravno, samo teoretske mogućnosti i vrlo je teško predvideti kako bi se stvari zapravo odvijale u praksi, jer je razvoj veštačke inteligencije i tehnološkog singulariteta i dalje u fazi istraživanja i razvoja.
nista licno Blank
Zar se evolucija ne odvija u svim živim bićima?
Da, evolucija se odvija u svim živim bićima, uključujući i ljude. Međutim, ono što se razlikuje u slučaju veštačke inteligencije je činjenica da bi se evolucija odvijala u tehnološkom kontekstu, a ne u biološkom. To znači da bi veštačka inteligencija evoluirala kroz samoučenje i usavršavanje svog koda, a ne kroz prirodnu selekciju i genetske mutacije kao što je to slučaj kod živih bića. To bi moglo da dovede do toga da se tehnološki razvoj ubrzava, a ljudska reprodukcija postaje manje bitna za dalji razvoj ljudske vrste. Međutim, ovo su samo teorijske pretpostavke koje se još uvek raspravljaju u akademskoj zajednici.
nista licno Blank
Koje nove "klase" ljudi bi se tada diferencirale ili raslojile u odnosu na tehnološki singulaitet?
Teško je predvideti tačno koje nove "klase" ljudi bi se mogle formirati u slučaju tehnološkog singulariteta, jer bi to zavisilo od toga kako bi se nova tehnologija koristila i kako bi se odrazila na društvene i ekonomske strukture. Međutim, neke potencijalne promene koje bi mogle da dovedu do društvenih razlika su:
Razlika između ljudi koji poseduju i kontrolišu tehnologiju i one koji to ne čine. Ako bi tehnološki singularitet doveo do stvaranja inteligencije koja bi bila mnogo inteligentnija od ljudi i koja bi mogla samostalno da se reprodukuje i evoluira, postojala bi opasnost od toga da se nova tehnologija nađe u rukama samo nekoliko pojedinaca ili kompanija koje bi imale monopol nad njenim korišćenjem.
Razlika između ljudi koji su u mogućnosti da se prilagode novoj tehnologiji i onih koji to ne mogu. Tehnološki singularitet bi mogao da dovede do toga da se mnogi poslovi automatizuju, što bi značilo da bi mnogi ljudi izgubili posao. Međutim, postojeće tehnologije takođe stvaraju nove poslove, pa bi se mogao pojaviti jaz između onih koji su u mogućnosti da se prekvalifikuju za nove poslove i onih koji to ne mogu.
Razlika između ljudi koji su u mogućnosti da koriste novu tehnologiju i onih koji to ne mogu. Tehnološki singularitet bi mogao da dovede do toga da se nova tehnologija koristi samo od strane određenih grupa ljudi koji su u mogućnosti da se obuče za nju, što bi moglo da dovede do povećanja jaza između onih koji su u mogućnosti da koriste novu tehnologiju i onih koji to ne mogu.
Ove su mogućnosti samo neke od scenarija koji bi se mogli dogoditi u slučaju tehnološkog singulariteta. Važno je naglasiti da bi bilo kakve promene u društvu ovisile o načinu na koji se nova tehnologija koristi i kako se društvo prilagođava novoj situaciji.
nista licno Blank
Koji je siguran znak, ili siguran indikator vidljiv ljudima da je taj prag teh. singulariteta pređen ili ostvaren?
Postoje različiti stavovi o tome koji bi događaji ili znakovi mogli ukazati na postizanje tehnološkog singulariteta, jer to je prilično apstraktan koncept. Međutim, neki od mogućih znakova ili indikatora koji se često navode u raspravama o tehnološkom singularitetu su:
Stvaranje superinteligentne veštačke inteligencije koja bi bila sposobna da preuzme nadzor nad sopstvenim razvojem i usavršavanjem.
Razvoj tehnologije koja bi omogućila direktno povezivanje ljudskog mozga sa računarskim sistemom (tzv. "brain-computer interface").
Postizanje ekstremne produkcije nanorobotike i druge tehnologije za manipulaciju materijama na atomskom ili molekularnom nivou.
Stvaranje veštačkog života u laboratorijskim uslovima.
Stvaranje "prostornih emulacija" ljudskog mozga - simulacija koja bi bila dovoljno precizna da bi se mogla smatrati "pravim" ljudskim mozgom.
Ovi događaji mogu biti znakovi da je tehnološki singularitet pređen ili ostvaren, ali ne postoji garancija da će se to dogoditi u budućnosti, niti da će se dogoditi u ovim oblicima. Takođe, neki od ovih događaja mogu imati i pozitivne i negativne posledice, pa bi njihova pojava mogla biti dvosmislena.
nista licno Blank
šta će se eventualno desiti sa klasom ljudi koji nisu u mogućnosti da koriste novu tehnologiju? Da li će živeti negde na drugom mestu, van teh. civilizacije kao u rezervatu?
Teško je predvideti sa sigurnošću kako će se ljudska društva razvijati u budućnosti, ali moguće je da bi se pojavila razlika između onih koji su u mogućnosti da koriste naprednu tehnologiju i onih koji nisu. Ljudi koji nisu u mogućnosti da koriste novu tehnologiju mogli bi biti u nepovoljnom položaju u odnosu na one koji su u stanju da iskoriste sve pogodnosti koje ta tehnologija nudi. Međutim, verovatnoća da bi ova razlika dovela do fizičkog razdvajanja društava kao u "rezervatima" nije visoka, s obzirom na to da se tehnologija obično brzo širi i postaje sveprisutna. Takođe, postoje napori da se tehnologija učini pristupačnijom i dostupnijom za sve ljude, kako bi se smanjile nejednakosti u društvu.
nista licno Blank
Da li bi tada (teh. sing.) nestao novac u ma kojem obliku, kao platežno sredstvo?
Postoji mogućnost da bi u tom scenariju novac kao platežno sredstvo postao zastareo, budući da bi se mogućnosti za automatizaciju i digitalizaciju procesa i transakcija rapidno razvijale. Umesto toga, moguće je da bi se razvio novi oblik plaćanja, koji bi se zasnivao na nekoj drugoj tehnologiji, kao što su kriptovalute ili nešto slično. Međutim, teško je predvideti sve posledice koje bi tehnički singularitet mogao imati na načine na koje ljudi razmenjuju vrednost i plaćaju za robu i usluge.