Profesor Stuart Russell, avtor ene najpomembnejših knjig o umetni inteligenci in ustanovitelj Centra za človeku združljivo umetno inteligenco na kalifornijski univerzi Berkeley, priznava, da so celo strokovnjaki preplašeni nad lastnimi dosežki na področju umetne inteligence. Njen napredek celo primerja z razvojem atomske bombe.
Strokovnjaki verjamejo, da bodo v tem stoletju razvili naprave, ki bodo bolj inteligentne od ljudi. Profesor Stuart Russel poziva k sprejetju mednarodnih sporazumov za regulacijo razvoja te bliskovito napredujoče tehnologije.
Kaj pravzaprav je umetna inteligenca
Umetna inteligenca podpira številne vidike sodobnega življenja, od spletnih iskalnikov do bančništva, opreme za prepoznavanje slik in strojno prevajanje. “Umetna inteligenca je bila zasnovana s posebno metodologijo in nekakšnim splošnim pristopom. In nismo dovolj previdni, da bi tak sistem uporabljali v zapletenih okoljih resničnega sveta,” opozarja Russell in dodaja, da moramo sprejeti nujne ukrepe za zaščito ljudi.
Kakšne so potencialne nevarnosti
Če bi na primer želeli pozdraviti rakava obolenja s pomočjo umetne inteligence, bi se to lahko izkazalo za zelo nevarno. Umetna inteligenca bi najverjetneje povzročila nastanek tumorjev med človeško populacijo, nato pa vse nas uporabila kot poskusne zajčke. Z vidika umetne inteligence bi bil to učinkovit način iskanja rešitve, saj nismo določili nobenih pravil in omejitev.
Russell pravi, da trenutno še obstaja razkorak med dejanskim stanjem in napredno umetno inteligenco, kot je prikazana v filmih, npr. Ex Machina. Vendar pa se zadeve lahko hitro spremenijo. Tudi če določena naprava ni pametnejša od človeka v prav vseh ozirih, še vedno lahko predstavlja resno grožnjo.
Pravzaprav se to že dogaja. Pomislite na družbene medije in najnaprednejše algoritme, ki odločajo, kaj bomo ljudje brali in gledali, s tem pa ključno vplivajo na to, o katerih stvareh razmišljamo in čemu namenjamo pozornost. Algoritmi manipulirajo z uporabniki in vplivajo na njihovo vedenje, ki je zato bolj predvidljivo v smislu vsebin, ki jih izbirajo. To pa pomeni večje prihodke na podlagi klikov.
Česa se lahko naučimo iz zgodovine
Podobne zadeve so se v preteklosti dogajale na področju fizike. Strokovnjaki so vedeli za obstoj atomske energije in znali izmeriti maso atomov, tako da so natančno vedeli, koliko energije bi se sprostilo, če bi sprožili pretvorbo med različnimi vrstami atomov. Poudarjali so, da je scenarij zgolj teoretičen, ko pa se je uresničil, nanj niso bili pripravljeni.
Posebej zaskrbljujoča je možna uporaba umetne inteligence v vojaške namene v obliki protipehotnega orožja. Tovrstno orožje je izjemno majhno, torej bi lahko v en sam tovornjak namestili milijon kosov, kar bi omogočilo, da v trenutku vržemo v zrak celotno mesto.
Kako ravnati v prihodnje
Russell verjame, da morajo strokovnjaki stremeti k razvoju naprav, ki se bodo zavedale, da so vedno v službi človeka. Seveda pa zadeve niso enoznačne, saj imamo različni ljudje različne – in nemalokrat nasprotujoče si – cilje.
Hkrati poziva k sprejetju ukrepov, vključno s kodeksom ravnanja za raziskovalce, do zakonskih uredb in sporazumov za zagotovitev varnostnih sistemov pri uporabi umetne inteligence. Dejal je, da bi morali po vsem svetu sprejeti zakonodajo EU, ki bi prepovedala lažno predstavljanje ljudi s stroji.
Sicer pa nas opominja, da še imamo čas, da izberemo, v kakšni prihodnosti želimo živeti. Ključno je, da je javnost aktivno vključena v sprejemanje odločitev. Javnost bo tista, ki bo na koncu imela koristi od umetne inteligence ali pa določene posledice.
Avtor: M.B.
Vir: theguardian.com