Recviem pentru un robot de război

Recviem pentru un robot de război

Exextras din Războiul virtual: căutarea automatizării conflictelor, militarizării datelor și prezicerii viitorului de Roberto J. González, publicat de University of California Press. © 2022 de Roberto J. González.

TVântul puternic de după-amiază a zdrobit tabăra Taji, o bază militară americană întinsă la nord de Bagdad, într-o zonă cunoscută sub numele de Triunghiul Sunnit. Într-un colț pustiu al avanpostului, unde temuta Gardă Republicană Irakiană a fabricat cândva gaz muștar, agenți nervoși și alte arme chimice, un grup de soldați americani și pușcași marini s-au adunat solemn în jurul unui mormânt deschis, picurând sudoare în căldura de 114 de grade. Îi aduceau un ultim omagiu lui Boomer, un tovarăș decăzut care fusese de ani de zile un membru indispensabil al echipei. Cu câteva zile mai devreme, el fusese literalmente zdrobit de o bombă de pe marginea drumului.

AUn bubel a sunat cu tristețe ultimele note ale „Taps”, un soldat și-a ridicat pușca și a tras o serie lungă de salve – un salut de 21 de tunuri. În 2013, trupele, care includeau membri ai unei unități de elită a armatei specializate în eliminarea munițiilor explozive (EOD), îl decoraseră postum pe Boomer cu o stea de bronz și o inimă violetă. Cu ajutorul operatorilor umani, robotul mic cu telecomandă protejase mii de trupe de vătămări prin găsirea și dezarmarea explozibililor ascunși.

Boomer a fost un robot multifuncțional Agile cu control de la distanță, sau MARCbot, fabricat de Exponent, o mică firmă din Silicon Valley. Cântărind puțin peste 30 de lire sterline, MARCbots arată ca o încrucișare între un cărucior de cameră de la Hollywood și un camion Tonka supradimensionat.

Dîn ciuda aspectului lor ca de jucărie, dispozitivele lasă o impresie de durată. Într-o discuție online pe Reddit despre roboții de sprijin EOD, un soldat a scris: „Acei mici nenorociți își pot dezvolta o personalitate și salvează atât de multe vieți”.

Aun infanterist a răspuns: „Ne-au plăcut roboții aceia EOD. Nu te pot învinovăți că i-ai dat tipului tău o înmormântare corectă, el a ajutat la menținerea multor oameni în siguranță și a făcut o treabă pe care majoritatea oamenilor nu și-ar dori să o facă.” Unii membri ai echipei EOD au scris scrisori companiilor care produc roboți, descriindu-și curajul și dorința de a se sacrifica.

Trupele americane desfășurate în Irak s-au bazat pe MARCbot montați pe camere pentru misiuni de recunoaștere și eliminarea munițiilor explozive. Kenneth W. Robinson / Marina SUA

SUnii luptători și-au personalizat chiar droidii cu artă „corp”. Un marinar care era staționat în Irak mi-a spus despre legătura strânsă care s-a dezvoltat între un „Johnny 5” deosebit de rezistent – ​​o poreclă dată unui tip de robot – și membrii unității sale EOD: „Un anume Johnny 5 a văzut atât de multe. rahat și a supraviețuit atâtor IED [improvised explosive devices], că au început să-l tatueze cu Sharpies”, a explicat el. „Povestea spune că atunci când Johnny și-a întâlnit în sfârșit meciul, fiecare membru al echipei a luat acasă o parte a corpului tatuată”.

Bdar în timp ce unele echipe EOD au stabilit legături emoționale cu roboții lor, altele i-au detestat, mai ales dacă funcționau defectuos. „Echipa mea a avut odată un robot neplăcut”, mi-a spus un alt marinar care a servit în Irak. „Adesea, ar accelera fără niciun motiv, ar vira în orice direcție dorea, se oprește și cetera. Acest lucru a dus adesea la acest lucru stupid să se introducă într-un șanț chiar lângă un IED suspectat.” În cele din urmă, echipa l-a trimis pe robot într-o misiune sinucigașă când au întâlnit un IED pe teren: „L-am dus direct peste placa de presiune și l-am făcut bucăți pe nenorocitul prost”.

ALa prima vedere, există ceva ciudat în faptul că războinicii înrăutăți de luptă tratează dispozitivele controlate de la distanță fie ca animale curajoase, loiale, fie boboci stângace și încăpățânați – dar nu ar trebui să fim surprinși. Oamenii din multe regiuni au unelte și mașini antropomorfizate, atribuindu-le trăsături și caracteristici umane. Timp de generații, insularii melanezieni au botezat canoele cu porecle pline de umor pentru a le recunoaște idiosincrazia. În India, Guatemala și alte țări, șoferii de autobuz își numesc vehiculele, le protejează cu imagini ale zeităților și le „îmbrăcă” în culori exuberant. De-a lungul secolului al XX-lea, trupele britanice, germane, franceze și ruse au vorbit despre tancuri, avioane și nave ca și cum ar fi oameni. Și în Japonia, rolurile roboților s-au extins rapid în spațiile intime ale casei – o extensie a ceea ce antropologii numesc „tehno-animism”.

SUnii observatori interpretează aceste relatări ca viziuni tulburătoare asupra unui viitor în care bărbații și femeile sunt la fel de probabil să empatizeze cu mașinile inteligente artificiale ca și cu membrii propriei specii. Din această perspectivă, ceea ce face ca funeraliile roboților să fie deranjante este ideea unei pante emoționale alunecoase. Dacă soldații se leagă de piese greoaie de hardware controlat de la distanță, care sunt perspectivele ca oamenii să formeze atașamente emoționale cu mașinile, odată ce devin mai autonomi în natură, nuanțați în comportament și antropoizi în formă?

AApoi, există o întrebare mai tulburătoare: pe câmpul de luptă, Will Homo sapiens să fie capabil să dezumanizeze membrii propriei specii (cum a făcut-o de secole), chiar dacă umanizează simultan roboții trimiși să-i omoare?

AFiind antropolog care explorează lumea războiului virtual, am fost impresionat de entuziasmul nestăpânit pe care mulți oameni de știință, factori de decizie politică și jurnaliști îl au pentru sistemele de arme bazate pe date. În ultimul deceniu, contractorii americani de apărare și oficialii influenți ai Pentagonului au promovat fără încetare tehnologiile robotice, promițând un viitor în care oamenii și automatii vor forma echipe de luptă. Îmbrățișarea de către președintele Joe Biden a „capacităților de peste orizont” care „pot lovi teroriști și ținte fără cizme americane la sol” este un semnal că actuala administrație va continua să ducă război, practic, pe tot globul.

TAceste transformări nu sunt inevitabile, dar devin o profeție care se împlinește. The New York Times notează: „Aproape neobservat în afara cercurilor de apărare, Pentagonul a pus inteligența artificială în centrul strategiei sale de a menține poziția Statelor Unite ca putere militară dominantă a lumii”. Si Timpuri financiare raportează că „progresul inteligenței artificiale aduce cu sine perspectiva ca soldații-roboți să lupte alături de oameni – și, într-o zi, să-i eclipseze cu totul”.

O copertă roșie scrie „Războiul virtual” cu litere mari alb-negru.  Pe fundal sunt contururi albe ilustrate de roboți și un soldat care ține o armă.

University of California Press

Bce este exact un „soldat-robot”? Este o cutie îmbrăcată în armură, controlată de la distanță, pe roți, care se bazează pe comenzi umane explicite și continue pentru direcție? Este un dispozitiv care poate fi activat și lăsat să funcționeze semi-autonom, cu supraveghere sau intervenție umană limitată? Este un droid capabil să selecteze ținte (folosind software de recunoaștere facială sau alte forme de inteligență artificială) și să inițieze atacuri fără implicarea umană? Este un luptător „centaur” – o echipă om-mașină integrată perfect care optimizează performanța câmpului de luptă? Sute de configurații tehnologice posibile se află între telecomandă și autonomie deplină.

TSistemele robotice și autonome ale armatei americane includ o gamă largă de artefacte care se bazează pe control de la distanță sau inteligență artificială: drone aeriene cu nas bulbucat; vehicule cutituite, asemănătoare tancurilor; nave de război și submarine elegante; rachete automate; și roboți de diferite forme și dimensiuni — androizi bipezi, mașini de „roi” de insecte, gadgeturi patrupede care trapează ca câinii sau catârii și dispozitivele acvatice simplificate, care seamănă cu pești, moluște sau crustacee.

TAceste diverse aranjamente implică diferite tipuri de relații și interacțiuni între oameni și obiecte mecanice, precum și noi întrebări etice despre cine poartă responsabilitatea pentru acțiunile unui robot.

Aantropologul Lucy Suchman încadrează succint problema ca o întrebare despre agenția umană în fața dependenței tot mai mari de sistemele tehnologice. Ea subliniază un paradox în curs de dezvoltare în care „corpurile soldaților se încurcă din ce în ce mai mult cu mașinile, în interesul de a le menține separat de corpurile altora” – cum ar fi suspecții inamici și civili care trăiesc sub ocupație militară, de exemplu. Pe măsură ce interfața om-mașină leagă soldații și roboții mai strâns, ea separă fizic luptătorii umani de alții străini.

Patru soldați în echipament militar îngenunchează și stau în picioare în timp ce privesc un mic robot într-o poiană de nisip înconjurată de tufiș.

Soldații americani au desfășurat un robot numit „Hermes” pentru a căuta explozibili în Qiqay, Afganistan, în 2002. Wally Santana-Pool / Getty Images

TConsecințele sunt ironice, potențial mortale. Uneori, sistemele robotice și autonome par concepute pentru a se asigura că războinicii „noștri” nu ar trebui să vadă, să audă sau să se apropie de ceilalți inamici, cu atât mai puțin să-i înțeleagă – ca și cum gândurile și motivațiile lor ar fi contagioase sau contagioase. Astfel de tabuuri și gândire magică stau, de asemenea, la baza mult din software-ul de modelare comportamentală al armatei, care este adesea acoperit de mistica de înaltă tehnologie a inteligenței artificiale, a datelor mari și a analizei predictive.

TImpingerea armatei către sisteme autonome este legată de interconexiunea tot mai mare dintre oameni și tehnologiile conectate digital în rețea, un proces care a început la sfârșitul secolului al XX-lea, apoi a câștigat un impuls mai mare la începutul anilor 2000. Arheologul Ian Hodder susține că încurcăturile de înaltă tehnologie ar putea fi descrise ca forme de captare:

Folosim termeni precum cartea „aerului”, „norul”, „web”, toți termeni care par ușoare și nesubstanțiale, chiar dacă descriu tehnologii bazate pe clădiri pline de fire, consum enorm de energie, forță de muncă ieftină și procese de producție și reciclare toxice. … Ar fi greu să renunți la smartphone-uri și big data; este deja prea mult investit, prea mult în joc. Lucrurile par să ne fi pus stăpânire pe noi… [and] relația noastră cu lucrurile digitale a devenit asimetrică.”

TCăutarea Departamentului Apărării de a automatiza și autonomiza câmpul de luptă face parte din aceste medii materiale și culturale mai mari.

DElitele instituției de apărare din sectoarele public, privat și nonprofit repetă retorica pro-roboticizare din nou și din nou: mașinile vor ține trupele americane în siguranță, deoarece pot îndeplini sarcini plictisitoare, murdare și periculoase; vor avea ca rezultat mai puține victime civile, deoarece roboții vor fi capabili să identifice inamicii cu o precizie mai mare decât oamenii; vor fi rentabile și eficiente, permițând să se facă mai mult cu mai puțin; iar dispozitivele vor permite SUA să rămână în fața Chinei, care, potrivit unor experți, va depăși în curând capacitățile tehnologice ale Americii.

TDovezile care susțin aceste afirmații sunt în cel mai bun caz îndoielnice și, uneori, demonstrabil false – de exemplu, o dronă aeriană Predator „fără pilot” necesită cel puțin trei controlori umani: un pilot, un operator de senzori și un coordonator de informații pentru misiune. Cu toate acestea, propagandiștii și experții Pentagonului fac ecou punctele de discuție și, de-a lungul timpului, mulți oameni le consideră de la sine înțelese.

Ppoate cel mai convingător argument retoric este aparenta inevitabilitate a autonomiei. Oficialii de la Pentagon trebuie doar să sublinieze faptul că producătorii de automobile și firmele din Silicon Valley dezvoltă și testează mașini cu conducere autonomă pe străzile și autostrăzile din America. Momentul și hype-ul favorizează acceptarea rapidă a acestor tehnologii, chiar dacă rămân multe întrebări cu privire la siguranța lor.

GÎn ciuda circumstanțelor, de ce să nu te oprești de griji și să înveți să iubești roboții?

Acest fragment a fost ușor editat pentru lungime, stil și claritate.

Leave a Comment

Adresa ta de email nu va fi publicată.