Dezvoltarea robotilor ucigasi, se poate avea incredere in ei? Analiza despre noua cursa a inarmarilor

Armele inteligente artificiale transforma armatele din intreaga lume – ar trebui sa ne ingrijoram?
Robotii ucigasi si dronele „kamikaze” sunt aici: armamentul inteligent artificial al science-fiction-ului este acum o realitate – si este pe cale sa transforme armatele, marinele si fortele aeriene din intreaga lume.

Acest lucru a declansat o noua cursa a inarmarilor.
„Ganditi-va la ce a facut mitraliera in razboi in 1914 sau la ce a facut aeronava in 1939”, spune Peter Singer, un „futurist” american si autor de bestselleruri. „De ce s-ar astepta cineva ca inteligenta artificiala si robotica sa aiba cumva un impact mai mic?” In cele din urma, chicoteste el, va exista o aplicatie Waze pentru generali: „Va spune ca vei avea mai putine victime daca mergi pe aceasta cale”. Scrie The Times.

Armele autonome sunt deja pe campul de lupta
Utilizarea dronelor turcesti pentru a vana tinte militare – vehicule blindate si soldati – in Libia anul trecut este considerata a fi unul dintre primele exemple de inteligenta artificiala dezlantuita pentru a ucide din proprie initiativa. Lansate cu cateva apasari pe o tastatura (si la o fractiune din costul oricarei forte aeriene traditionale), „munitii tarzii” similare au fost desfasurate de Azerbaidjan pentru a distruge majoritatea sistemelor de artilerie si rachete ale Armeniei si aproximativ 40% din vehiculele blindate ale acesteia intr-un razboi de anul trecut.

Rusia cere Armeniei si Azerbaidjanului sa stopeze escaladarea conflictului

„Aceste cifre sunt uluitoare”, spune Singer. „Ca si cum ai fi intors in primele zile ale tancului.”

„Lovitura” impotriva Iranului

Lovitura de care Israelul a fost acuzat la sfarsitul anului trecut in fruntea programului de arme nucleare al Iranului, Mohsen Fakhrizadeh, ar fi putut fi un alt exemplu de moarte prin robot. Fakhrizadeh a fost impuscat mortal de o mitraliera montata in spatele unei camionete de langa drum, spun iranienii. Pistolul hiper-precis a fost pornit de un operator dintr-o alta tara si programat sa deschida focul imediat ce a recunoscut tinta care se apropia. Fakhrizadeh a fost ucis pe loc, dar sotia lui, care statea langa el, a fost nevatamata.

De ani de zile, tunurile „de santinela” capabile sa deschida singure focul impotriva intrusilor au fost desfasurate de Coreea de Sud de-a lungul zonei demilitarizate coreene si de Israel la granita Fasiei Gaza. Un „caine robot” neinarmat este deja in serviciu la o baza a fortelor aeriene americane, efectuand patrule de perimetru; o versiune inarmata cu o pusca de asalt cu telecomanda a fost dezvaluita la o conventie a armatei din SUA luna trecuta.

Masinile cu un grad si mai mare de autonomie si putere letala – inclusiv roiuri de drone in miniatura si vehicule de lupta fara pilot – vor prolifera in curand pe campul de lupta.

Dar putem avea incredere in ei ca vor merge in lupta in numele nostru?

Ne putem permite sa nu o facem?
A risca masinile in loc de oameni in lupta are atractiile sale pentru planificatorii militari. Robotii sunt ieftini si consumabili. „Iata alegerea”, spune generalul Sir Richard Barrons, un fost comandant al armatei britanice pentru The Times:

„Pot construi o masina care poate intra intr-un loc periculos si poate ucide inamicul sau va putem trimite fiul – pentru ca aceasta este alternativa. Cum te simti acum? Oamenii vor spune, stii ce, acea masina este o alternativa mai buna.”

Dronele au fost folosite pentru a-l ucide pe seful programului de arme nucleare al Iranului, Mohsen Fakhrizadeh.

„Tatal” bombei atomice iraniene, asasinat in apropiere de Teheran

In plus, aparatele nu au nevoie de sarbatori sau plati.

Ele nu obosesc si nu se supun ordinelor. „Aceste sisteme fac ceea ce sunt programate sa faca”, adauga Barrons.

„Nu au nevoie de antrenament regulat sau nu rateaza o lovitura nereusind sa elibereze prinderea de siguranta din cauza emotiei.”

Masinile au depasit deja pilotii de lupta experimentati in luptele aeriene.

In august anul trecut, un pilot american identificat doar ca „Banger”, care are 2.000 de ore de experienta de zbor intr-un F16, a fost invins in mod constant de un algoritm dintr-un simulator de zbor. Banger a spus ulterior ca algoritmul „nu a fost limitat de pregatirea si gandirea care sunt inradacinate intr-un pilot al fortelor aeriene”. La sol, vehiculele blindate rusesti si americane care pot hoinari pe campul de lupta hotarand singure cand sa atace – desi in parametrii stabiliti de oameni – ies de pe linia de productie.

Tehnologia ii face pe multi oameni nelinistiti. Robotii sfideaza.

VIDEO Robotul de serviciu care rezista la socuri

Unii oameni de stiinta au invocat cosmaruri stiintifico-fantastice pentru a ne speria de automatizare. Imaginati-va roboti precum asasinul care isi schimba forma de neoprit din filmele Terminator, cutreierand pamantul in cautarea prazii; sau masini care ajung sa-si inrobeasca stapanii. Sau poate ca realitatea va urma cel mai recent film Bond, care prezinta nanoboti ucigasi care pot viza ADN-ul individual.

Stephen Hawking: Teologia nu este necesara, explicatia stiintifica este suficienta

Regretatul Stephen Hawking a avertizat ca Inteligenta Artificiala ar putea „scrie sfarsitul rasei umane”, iar Elon Musk spune ca „invocam un demon” urmarind „sisteme de arme autonome letale” – Legile, asa cum sunt ele cunoscute.

Vladimir Putin, presedintele rus, este mai entuziasmat – iar cuvintele sale ar trebui sa ne alarmeze: „Cine va conduce in IA va conduce lumea”, a spus el.

Cererile pentru interzicerea armelor autonome s-au intensificat.

„Masinile care ucid oameni reprezinta o directie inacceptabila de deplasare pentru noi, vrem sa construim un sentiment de acord moral in acest sens”, spune Richard Moyes, directorul Stop Killer Robots, un grup care sustine o interdictie a robotilor si ai carui sustinatori au organizat proteste, imbracati in roboti, de la Londra pana la Berlin. Si Papa a intrat in lupta in sprijinul reglementarii, denuntand armele autonome pentru „lipsa de umanitate si constiinta publica”.

Multe tari s-au inscris pentru reglementare intr-o serie de discutii sponsorizate de ONU la Geneva – dar nu si Marea Britanie si cateva alte tari, inclusiv SUA, China si Israel. Pozitia oficiala a Marii Britanii este ca nu va produce niciodata Legi. Dar le defineste ca fiind „capabile sa inteleaga intentia si directia de nivel superior”. Aceasta suna a o eschivare talentata: nimeni nu crede cu adevarat ca suntem aproape de a produce roboti in general inteligenti, daramite procese de gandire asemanatoare omului – sau constiinta – in masini care i-ar putea inspira sa preia controlul.

Amenintarea ingrijoratoare a activistilor vine de la drone autonome si alte arme robot care exista deja si pot fi dezlantuite pe campul de lupta in modul automat, fiind programate sa selecteze si sa distruga tinte fara a astepta ordine de la oameni.

„Controalele legale trebuie aplicate sistemelor care exista acum, nu doar Terminator peste o mie de ani”, spune Moyes, care noteaza ca unele dintre dronele ucigase pot functiona autonom timp de doua ore sau mai mult. „Cand sunt utilizate pe o perioada mai lunga de timp si pe o zona mai larga, utilizatorul poate avea un control relativ mic asupra a ceea ce va fi vizat de fapt.”

Dronele ratacitoare si alte arme robotizate folosesc recunoasterea imaginilor, accesand o biblioteca de imagini pentru a determina daca un obiect este un tanc sau o masina sau daca o fiinta umana este un combatant sau un civil. „O zona de risc”, spune o sursa de securitate, „este ca, in timp ce un tanc T72 este un tanc, cineva care poarta camuflaj de lupta ar putea sa nu merite sa fie impuscat”.

Problema este ca, oricat de sofisticate din punct de vedere tehnologic sunt, armele robot „nu au intuitie, capacitatea de a gandi sau discernamant”, spune sursa de securitate. In prezent, tehnologia functioneaza cel mai bine in „circumstante definite, de exemplu atunci cand o racheta se indreapta spre nava sa”.

Pe masura ce tehnologia se dezvolta, urmatoarea generatie de avioane de lupta din Marea Britanie, Tempest, va include o versiune fara echipaj, capabila sa zboare timp de multe ore, alegandu-si propriile tinte, daca este dezlantuita in modul automat. La fel va fi si cel mai recent avion cu reactie al Rusiei, botezat Checkmate. Submarine fara echipaj si nave autonome de vanatoare de mine sunt, de asemenea, in curs. Imaginile recente din satelit au aratat ca armata chineza construieste deja „nave de suprafata fara echipaj” – cu alte cuvinte nave de razboi robot – la o baza secreta de pe coasta de nord-est a Chinei.

„Oamenii se vor intreba daca ceea ce facem este cu adevarat autonom”, spune Barrons, „pentru ca ai definit niste parametri in care esti fericit ca vor ucide tinta potrivita”.

Oricum ar fi, totusi, tehnologia se dezvolta intr-un moment in care lumea pare din ce in ce mai instabila si nesigura – teren fertil pentru o revolutie a razboiului. Rezervele oamenilor cu privire la etica robotilor ucigasi vor disparea cu cat se vor simti mai amenintati, sustine Barrons. „Daca te lupti cu chinezii, cand ajung in Dover sau pe tarmurile Taiwanului, vei simti foarte diferit riscul de declansare a armelor automate. Multe obiectii fata referitoare la lucrurile neplacute vor disparea. Nu a trebuit sa gandim asa de ceva vreme, nu de la sfarsitul Razboiului Rece.”

urmand arme automate. Multe obiectii fata de a face lucruri neplacute vor disparea. Nu a trebuit sa gandim asa de ceva vreme, nu de la sfarsitul Razboiului Rece.”

Ceea ce ii ingrijoreaza cel mai mult pe planificatorii militari este perspectiva ca sistemele automate sa fie folosite ca arme de distrugere in masa de catre un stat sau un grup terorist. Imaginati-va o tara care dezlantuie milioane de mini masini ucigase inarmate cu o mica incarcatura exploziva in orasele inamicului pentru a-i elimina pe cei selectati de algoritmi pe baza convingerilor lor politice, rasei sau religiei. Aceasta perspectiva de cosmar a fost evidentiata de videoclipul YouTube din 2017 Slaughterbots. A aratat roiuri de drone mici echipate cu sisteme de recunoastere a fetei si explozibili care erau dezlantuite pentru a cauta si ucide indivizi selectati. Unele dintre mini-drone sunt vazute facand echipa pentru a face o gaura intr-un perete pentru a avea acces la tinte in Congresul SUA.

Filmul de fictiune Slaughterbots a avertizat cum automatizarea ar putea face mai probabil un razboi total.

„A fost fictiv”, spune Stuart Russell, profesor britanic de inteligenta artificiala la Universitatea din California, Berkeley, care a creat filmul cu finantare de la Future of Life Institute, un grup de oameni de stiinta si tehnologi. „Scopul nostru a fost sa aratam care sunt consecintele logice ale fabricarii unor astfel de arme.” Acum se simte justificat. „Masini similare sunt deja in uz”, spune el, referindu-se la campurile de lupta libian si armean.

Imaginati-va ce ar putea face un dictator bine dotat si cu un ganduri genocide. „Daca o tara este cu adevarat serioasa, nu ar exista prea multe in calea actionarii a sute de mii si chiar milioane de drone, cred ca aceasta este o ingrijorare serioasa”, spune Russell.

El inca spera ca raspandirea robotilor ucigasi sa poata fi controlata. „Oamenii spun: „Daca nu facem asta, dusmanii nostri o vor face.” Este un pic ca si cursa inarmarilor biologice din anii 1960 si 1970”, spune Russell. „Dar am oprit armele chimice, am oprit armele biologice, am oprit minele. Nu vad de ce nu ar putea sa oprim si asta.”

Mary Wareham, director de promovare a armelor pentru Human Rights Watch, este de acord. Ea spune ca „delegarea deciziilor pe viata si pe moarte catre masinile de pe campul de lupta este un pas prea departe” care ar putea duce la „dezumanizarea in continuare a razboiului”.

Cu toate acestea, beneficiile sistemelor autonome sunt atat de mari incat unele tari puternice se opun reglementarii pe motiv ca concurentii ar putea sa triseze si sa obtina un avantaj imbatabil in razboi.

„Nu exista absolut niciun kilometraj in a spune ca aceste lucruri nu pot exista, pentru ca exista deja”, spune Barrons. „Si nu ii poti opri pe cei care doresc sa le faca. Nu poti dezinventa chestiile astea.”

Alti experti sustin ca incercarea de a afla unde sa traga linia pe care robotica este permisa si care nu este permisa se va dovedi imposibila, mai ales ca tehnologia este deja utilizata in multe aspecte ale operatiunilor militare moderne.

„Fie ca este vorba de droids de lupta sau de IA (inteligenta artificiala) care sfatuiesc politicieni si generali, suntem in pragul razboiului inteligent artificial”, scrie Kenneth Payne in I, Warbot, o carte recenta despre automatizarea militara. Dezvoltarea rapida a tehnologiei militare IA ii face pe oficialii din securitate europeni si americani sa fie nervosi cu privire la modul in care tarile implicate intr-un conflict „existential” (Israel, de exemplu) ar putea fi pregatite sa aplice „o serie intreaga de aceste tehnologii”; si modul in care acest lucru ar putea escalada tensiunile in Orientul Mijlociu cu consecinte catastrofale. „Este o cale pe care multi dintre noi nu vor sa mearga”, spune o sursa de informatii.

Noua cursa a inarmarilor a provocat o explozie a cercetarii din sectorul privat.

Anduril Industries a fost fondata in America in 2017 de Palmer Luckey, in varsta de 29 de ani, un designer de casti de realitate virtuala si donator republican proeminent. Evaluata in prezent la 4,6 miliarde de dolari, Anduril a inceput anul acesta sa furnizeze drona sa Ghost Royal Marines din Marea Britanie.

Chris Brose, directorul de strategie al companiei, spune ca Ghost este folosit impreuna cu software-ul AI numit Lattice, care permite dronelor sa „colaboreze intre ele, eliminand acea povara cognitiva de pe operatorii umani” in timp ce scaneaza campul de lupta pentru amenintari sau „obiecte” de interes” despre care au fost programate sa-si alerteze stapanii umani. De asemenea, pot fi echipate cu arme si programate sa le traga automat atunci cand detecteaza anumite tinte.

Cu toate acestea, Brose crede ca „multe lupte viitoare” nu vor fi „cinetice” – un eufemism militar pentru impuscaturi. La fel de importanta va fi „capacitatea de a scana campul de lupta si de a conduce un razboi electronic”, blocand masinile celeilalte parti.

Acesta este un teritoriu neexplorat.

Cu cat sunt folosite mai multe masini in lupta, cu atat mai mult razboiul poate deveni o competitie intre robotii fiecarei parti. Ar putea insemna ca tarile intra in razboi mai des – deoarece masinile sunt consumabile – cu riscul de a provoca o conflagratie mai larga. Sau ar putea face razboiul mai putin ruinos in termeni umani.

Expertii sunt totusi sceptici cu privire la posibilitatea unor razboaie fara sange. „Prin acest argument am putea sa ne rezolvam toate disputele jucandu-ne de-a tintele,” spune Russell. El avertizeaza ca automatizarea ar putea face escaladarea mai probabila: masinile ar putea raspunde la un atac perceput cu un atac real, declansand un razboi total. „Am avut mai multe situatii in cazul razboiului nuclear, dar, din fericire, erau oameni in bucla undeva care luau o decizie.”

Oliver Lewis, fost director adjunct al Serviciului digital guvernamental al Regatului Unit si co-fondator al Rebellion Defence, o companie care produce software IA pentru armata, isi face griji si de escaladarea accidentala. „Puteti ajunge intr-o situatie in care aveti o masina scrisa cu o logica si alta scrisa cu o alta logica care, indiferent de intentia operatorilor umani, se blocheaza intr-o spirala a mortii cu incapacitatea de a de-escalada chiar daca ar fi vrut sa o faca. ”

El nu crede ca o interdictie sau o reglementare va fi convenita in curand, ceea ce face cu atat mai urgent ca tarile sa descopere cum sa detensioneze ceea ce el numeste evenimentul „probabil” al unei ciocniri cu mize mari intre rivali de sisteme automate in viitorul apropiat.

Asa ca unii oameni iau o pozitie, o ultima aparare impotriva masinilor. „Este vorba despre algoritmi si computere care iau decizii cu privire la vietile noastre”, spune Moyes de la Stop Killer Robots. „Toti avem miza sa tragem o linie aici”.