Sa potencijalom transformacije veštačke inteligencije, ulazimo u eru nacionalne bezbednosti koju je oblikovala revolucionarna tehnologija. Veštačka inteligencija pruža mogućnost unapređivanja budućih vojnih operacija poboljšanjem donošenja odluka, efikasnosti borbe i operativne efikasnosti.
Američka vojska već koristi veštačku inteligenciju za autonomne sistem za izviđanje i borbu, analizu podataka i kibernetičku bezbednost. U narednih pet godina, veštačka inteligencija će omogućiti nove, napredne aplikacije kao što je grupna inteligencija za povećanu situacionu svest, prediktivna analitika za predviđanje kretanja neprijatelja i jačanje kibernetičke bezbednosti. Ovi razvoji će biti omogućeni konvergencijom računarskog rasta, velikih podataka i novih tehnologija u oblasti nosivih uređaja i ugrađenih sistema koji bi mogli učiniti vojsku efikasnijom, agilnijom i sposobnijom.
Imajući u vidu predstojeću globalnu „trku u naoružanju sa veštačkom inteligencijom“, moramo preduzeti korake sada kako bismo osigurali da američka vojska ostane na čelu ovog evoluirajućeg pejzaža.
Prilagođavanje koristima veštačke inteligencije bez zaostajanja
Upravljanje ulaganjima i politikama za prihvatanje veštačke inteligencije omogućiće vojsci održavanje tehničke superiornosti. Međutim, tradicionalne strategije finansiranja Ministarstva odbrane, ugovorne procedure i putevi nabavke ne mogu pratiti napredak veštačke inteligencije. To se mora promeniti. Hitna mera bila bi redistribucija resursa u budžetu za istraživanje i razvoj kako bi se uključile i kratkoročne primene veštačke inteligencije i dugoročna istraživanja. Ova promena zahteva i paralelno pripremanje kancelarija za nabavku i krajnjih korisnika, kako bi mogli da uhvate i primene temeljne rezultate u statusu spremnom za misiju čim budu dostupni.
Potrebno je neprekidno skupljati nove podatke iz obuke i misija i uneti ih u robustan korpus dizajniran za interoperabilnost i brzu upotrebu pri validiranju hipoteza i performansi. Sveobuhvatni ekosistem investicija koji podstiče sigurna, niskorizična istraživanja izvodljivosti osnovnih naučnih principa i sa neophodnim koridorima, omogućiće da više tehnologija bude kandidat i pređe iz „doline smrti“ tehnološke evolucije Ministarstva odbrane (DoD).
Pravilnik o sudelovanju ministra odbrane u nabavkama i druge politike moraju biti revidirane kako bi se olakšala nabavka veštačke inteligencije. Na primer, usvajanje modularnih metoda ugovaranja putem drugih transakcionih ovlašćenja ili vozila sa neograničenim količinama moglo bi omogućiti brzo uvođenje ponuđača tehnologije veštačke inteligencije bez tradicionalnih tereta nadzora.
Osim toga, centralni repozitorijum sa najboljim praksama i okvirima za razvoj veštačke inteligencije, koji može uključiti i standardizovane formate podataka izvan veštačke inteligencije, ubrzao bi učenje i ubrzao napore u istraživanju i razvoju.
Unapređivanje partnerstva sa industrijom i akademskom zajednicom, promovisanje tranzicije tehnologije veštačke inteligencije i investiranje u istraživanje i razvoj startupova će takođe biti ključno. Da bi motivisao priloge partnera, Ministarstvo odbrane ne bi trebalo ograničiti prava intelektualne svojine ili podataka. Eko-sistem kontrolisanog pristupa deljenju podataka, u koje investiraju naša vojska i saveznici, omogućiće brže i temeljnije obučavanje modela veštačke inteligencije. Prednost će imati one nacije koje te modele najefikasnije primene za prave rezultate.
Uz sve nagrade, veštačka inteligencija predstavlja povećane rizike u vojnim operacijama
Sistemi veštačke inteligencije koji funkcionišu bez nadzora čoveka postavljaju moralna, sociopolitička i pravna pitanja, posebno kada se automatizuju delovi „lanca ubijanja“. Pažljivo osmišljeni etički i pravni okviri za radnje i odluke zasnovane na veštačkoj inteligenciji zahtevaće promene u nacionalnim i globalnim politikama i standardima.
Ovo bi trebalo da ide dalje od pukog održavanja ljudskog dozvola. Veštačka inteligencija nadmašuje ljude u mnogim tehničkim, kreativnim i strateškim oblastima. Upotreba veštačke inteligencije za kvantifikaciju rizika u okviru važećih operativnih scenarija mogla bi usmeriti ljude samo na utvrđivanje etički prihvatljivih granica rizika koje partneri mogu pratiti. Treba imati na umu da opšti propisi koji zabranjuju ili umanjuju primenu veštačke inteligencije stvaraju prilike za strane aktere sa manje nadzora da steknu tehničku prednost.
Veštačka inteligencija takođe povećava bezbednosne brige oko povećane ranjivosti na sajber napade i potencijalnog manipulisanja podacima. Svaki senzor, prenos podataka i krajnja tačka stvaraju površinu napada na koju vešti protivnici mogu ciljati. DoD mora usvojiti politike i strategije investiranja u tehnologiju koje se bave ovim tačkama prikupljanja podataka. Kada protivnici pronađu površinu napada, važna će biti otpornost. Metode bezbednosti iz drugih tehničkih oblasti sa visokim rizikom, poput nuklearnog energetike, pružaju korisne lekcije o tome kako pristupiti rizicima složenih sistema zasnovanih na veštačkoj inteligenciji.
Odgovornost za razvoj i upotrebu veštačke inteligencije u vojnim operacijama je od ključnog značaja. Sistemi veštačke inteligencije će zahtevati rigorozno testiranje, validaciju i bezbednosne mere kako bi se osigurali njihova pouzdanost, robustnost i sigurnost. Postojeće prakse za medicinske uređaje pružaju korisnu analogiju.
Takođe postoje pravna pitanja kao što vidimo u slučajevima društvenih medija – ko ima teret kontrole i sprovođenja sadržaja – ISP, pružalac usluge ili korisnik koji je pružio podatke? Politike i konstrukti koji kažnjavaju nove razvojnike veštačke inteligencije koji se trude da uspostave tržišno učešće mogu oterati tehnološke inovatore iz DoD aplikacija.
Zaštita privatnosti podataka predstavlja još jedno pitanje. Opšti uredbor EU o zaštiti podataka i slični zakoni zagovaraju „pravo na transparentnost“. Pored toga, svi želimo da veštačka inteligencija može objasniti kako je došla do određenog rezultata. Izazov je kako definisati prihvatljive standarde da bi se postigla takva transparentnost, što zahteva razumevanje kako veštačka inteligencija funkcioniše.
Na kraju, tu je pitanje kako obnoviti poverenje u veštačku inteligenciju kada je izgubljeno. Ako se veštačka inteligencija nauči nekom ponašanju i izvrši neočekivano ili nepoželjno ponašanje, kako to ponašanje može biti sprečeno u budućnosti, ali i da bude zaboravljeno kako ne bi bilo ponovo razmatrano? Koliko daleko unazad u verifikacionom procesu ta veštačka inteligencija mora da ide kako bi postigla neophodan i prihvatljiv nivo poverenja? Ovo će biti izazovno pitanje za pregovore, jer različite vlade i kulture imaju različite kriterijume za prihvatanje rizika. Međutim, duge linije diskusije možda neće biti dovoljne, s obzirom na brzinu napredovanja veštačke inteligencije.
Dinamika čovek-mašina
Ljudi su se oduvek zajedno razvijali sa alatima i tehnologijama koje čine naše živote produktivnijim. Budući sistemi zasnovani na veštačkoj inteligenciji moraju uzeti u obzir i ljude i veštačku inteligenciju kao korisnike samog sistema. Ljudi moraju naučiti da pristupaju i tretiraju veštačke inteligencije kao nove članove tima. Kao i kod bilo kog tima, produktivnost često proizlazi iz deljenja situacione svesti i
