Mednarodni inštitut za bližnjevzhodne in balkanske študije (IFIMES)[1] s sedežem v Ljubljani, Slovenija, je poznan po svojih rednih analizah svetovnega dogajanja, s poudarkom na Bližnjem vzhodu, Balkanu in drugih pomembnih regijah po svetu. Geoffrey Hoon, nekdanji britanski državni sekretar za obrambo, je pripravil prispevek z naslovom »Umetna inteligenca, moč in odgovornost: razumevanje tveganj v spreminjajočem se svetu«. V njem raziskuje revolucijo umetne inteligence in potrebo po njeni regulaciji.
V čast mi je biti tukaj[2] z obrambnimi strokovnjaki, tehnologi, znanstveniki in strateškimi misleci – vsi so predani oblikovanju varne in odporne globalne prihodnosti. Iskreno se zahvaljujem profesorju Anisu H. Bajrektareviću, IFIMES-u in Globalni akademiji za geopolitično-tehnološko prihodnost za organizacijo te ključne serije razprav o umetni inteligenci in robotiki – temah, ki vse bolj opredeljujejo smer naše globalne civilizacije: razumevanje – in posledice – umetne inteligence.
Ker sem večji del svoje kariere preživel poglobljen v vprašanja nacionalne obrambe, strategije in upravljanja, sem se pogosto soočal z novimi tehnologijami, ki nas silijo, da ponovno usmerimo tako naša pričakovanja kot tudi naše odgovornosti. Od jedrskega spopada, hladne vojne do današnjega digitalnega bojišča se vsaka generacija sooča s svojo različico transformativnega tveganja. V našem času to tveganje – in ta obljuba – nosi ime: umetna inteligenca.
Ko sem prvič vstopil v javno službo, je tehnologija že začela preoblikovati vojaško doktrino. Precizno orožje, omrežno usmerjeno bojevanje, brezpilotni sistemi – to so bili znanilci revolucije v obrambnih zadevah. Toda umetna inteligenca je drugačna. Ni le še eno orodje v našem arzenalu; je multiplikator sil, odločevalec in potencialno tudi oblikovalec politik.
Sistemi umetne inteligence lahko zdaj interpretirajo satelitske posnetke z večjo natančnostjo kot človeški analitiki. Samostojno lahko spremljajo kibernetske grožnje, nadzorujejo roje dronov in izvajajo logistično koordinacijo v realnem času z minimalnim človeškim nadzorom. V prihodnosti jim bodo morda zaupane odločitve, ki imajo smrtonosne posledice. Strateške posledice so globoke in segajo daleč preko bojišča.
Vendar umetna inteligenca ni omejena le na obrambo. Vtkana je v naše zdravstvene sisteme, finančne institucije, prometna omrežja in vse bolj v naše demokratične procese. Skratka, področje delovanja umetne inteligence je področje samega upravljanja.
Med svojim mandatom v britanskem parlamentu, zlasti kot državni sekretar za obrambo od leta 1999 do 2005, sem bil odgovoren za nadzor nekaterih najpomembnejših naložb v državi v vojaške raziskave in nastajajoče tehnologije. Tesno sem sodeloval z našimi znanstvenimi skupnostmi, obrambnimi izvajalci in partnerji Nata, da bi inovacije vključili v nacionalno varnostno politiko. Že takrat smo videli prve zametke tega, kar bi lahko postala umetna inteligenca – orodja, ki bi lahko izboljšala odločanje, zaščitila življenja in na novo opredelila sodobno vojskovanje. Danes se je ta meja dramatično razširila, zaradi česar je še toliko bolj pomembno, da razumemo sile, ki zdaj oblikujejo naš svet.
Naj povem odkrito: tehnologija ne pride z vgrajenim moralnim kompasom. Umetno inteligenco ustvarjajo ljudje – usposobljeni so na podatkih, ki so pogosto polni pristranskosti, oblikovani s komercialnimi prioritetami močnih podjetij in uporabljeni v kontekstih, kjer je preglednost nedosegljiva.
To zahteva strog etični nadzor. Katera načela bi morala voditi razvoj in uporabo umetne inteligence? Kdo odloča, kdaj je sistem umetne inteligence dovolj zaupanja vreden, da lahko sprejema odločitve o svobodi, preživetju ali varnosti posameznika? To niso vprašanja samo za inženirje. Zahtevajo aktivno sodelovanje oblikovalcev politik, etikov, civilne družbe in predvsem državljanov.
Kot nekdanji obrambni minister vem, da se v kriznih trenutkih odločitve sprejemajo sproti. Vendar hitrost nikoli ne sme iti na račun odgovornosti. Vsaka vojaška ali vladna uporaba umetne inteligence mora biti vključena v jasne meje demokratičnega nadzora, nadzora in javne legitimnosti.
Na umetno inteligenco moramo gledati tudi skozi geopolitično prizmo. Svetovna tekma za razvoj in prevlado nad umetno inteligenco se pogosto prikazuje kot tekmovanje med velikimi silami. Združene države Amerike in Kitajska vlagata ogromne vsote v raziskave umetne inteligence, Evropa pa si prizadeva za tretjo pot – pot, ki temelji na človekovih pravicah, zasebnosti in regulativni strogosti.
To ni le tehnološko tekmovanje; gre za spopad vrednot. Če verjamemo v demokracijo, individualno svobodo in pravno državo, moramo zgraditi sisteme umetne inteligence, ki odražajo in krepijo te vrednote. To pomeni, da se moramo upreti skušnjavi, da bi v imenu učinkovitosti ali nadzora sprejeli nepregledne modele nadzora.
Pomeni tudi sklepanje mednarodnih sporazumov za preprečevanje orožja umetne inteligence na načine, ki bi lahko destabilizirali globalno varnost. Tako kot smo sklenili pogodbe o jedrskem orožju, moramo zdaj razmisliti o podobnih okvirih za avtonomno orožje, algoritemsko vojskovanje in zlorabo umetne inteligence v hibridnih ali informacijskih konfliktih.
Seveda revolucija umetne inteligence ne bo ostala omejena le na vlade ali tehnološke velikane. Že spreminja način življenja in dela navadnih ljudi. Nekateri se bojijo, da bo umetna inteligenca v celoti nadomestila delovna mesta – voznike, računovodje, celo novinarje. In v tej skrbi je nekaj resnice. Vendar nas strah ne sme ohromiti.
Namesto tega moramo vlagati v izobraževanje in prekvalifikacijo, da bo delovna sila prihodnosti opremljena za delo skupaj z umetno inteligenco – ne pa da jo ta izpodrine. Če lahko umetna inteligenca avtomatizira dolgočasna opravila, se lahko ljudje osredotočijo na to, kar znajo najbolje: ustvarjalno razmišljanje, empatijo, vodenje in moralno presojo.
Vendar je treba ta prehod upravljati. Vlade imajo dolžnost predvideti družbeni vpliv umetne inteligence in ublažiti udarec za tiste, ki bodo morda ostali zadaj. Pravičen prehod, ne pa nenaden pretres, je imperativ našega časa.
Konec koncev mora biti »Razumevanje umetne inteligence« družbeni projekt. Ni dovolj, da peščica strokovnjakov ali regulatorjev razume te sisteme. Vsak državljan si zasluži vedeti, kako se sprejemajo odločitve, ki vplivajo nanj. Vsak študent bi se moral naučiti ne le, kako uporabljati umetno inteligenco, ampak tudi kako deluje – in zakaj je to pomembno.
Zato je ta program tako pomemben. S spodbujanjem javne pismenosti na področju umetne inteligence krepimo demokratične temelje naše družbe. Postajamo bolj odporni na manipulacije, neenakost in avtoritarno zlorabo.
V prihodnjih letih bomo potrebovali več kot le inovacije. Potrebovali bomo modrost – kolektivno modrost. Potrebovali bomo vodstvo, ki razume, da bodo odločitve, ki jih sprejemamo zdaj, odmevale še generacije. In potrebovali bomo budnost. Ker je na kocki veliko.
Naj zaključim z razmislekom. Ko sem služil v vladi, smo se soočali z grožnjami, ki so bile vidne, oprijemljive in v nekaterih primerih predvidljive. Umetna inteligenca je drugačna. Je razpršena, vgrajena v kodo in pogosto deluje nevidno. Toda njeni učinki bodo vse prej kot skriti.
Kot podrobneje raziskujem v svoji nedavni knjigi See How They Run (Poglejte, kako delujejo), vodenje danes zahteva tako predvidevanje kot ponižnost. Imamo izbiro. Umetno inteligenco lahko obravnavamo kot neprozorno silo, ki se nam preprosto zgodi. Ali pa jo razumemo, oblikujemo in vodimo v skladu z našimi najglobljimi vrednotami. Naj bo to trenutek, ko bomo izbrali razumevanje namesto nevednosti, upravljanje namesto kaosa in človečnost namesto ošabnosti.
Ljubljana/London, 16.junij 2025
[1] IFIMES - Mednarodni inštitut za bližnjevzhodne in balkanske študije s sedežem v Ljubljani, Slovenija, ima poseben posvetovalni status pri Ekonomsko-socialnem svetu ECOSOC/OZN, New York, od leta 2018 in je izdajatelj mednarodne znanstvene revije »European Perspectives«, povezava: https://www.europeanperspectives.org/en
[2] Ta članek predstavlja uvodni nagovor, ki ga je imel Geoffrey Hoon, nekdanji britanski državni sekretar za obrambo, na zasedanju: "Razumevanje umetne inteligence in robotike" Globalne akademije za geopolitično-tehnološko prihodnost (GPTF), zasedanje IV, 12. junij 2025. Stališča, izražena v tem članku, so avtorjeva in ne odražajo nujno uradnega stališča IFIMES.
