Prieš kurį laiką žinoma tarptautinė organizacija „Human Rights Watch“ (HRW), besirūpinanti žmogaus teisėmis, kartu su Harvardo teisės mokykla paskelbė tyrimą „Prarandant žmogiškumą: argumentai prieš robotus žudikus“ („Losing Humanity: The Case Against Killer Robots“
Šaltakraujiški žudikai ir atsakomybė
Pirmiausia HRW suskirsto robotus (kaip „mechanizmus, galinčius suvokti aplinkinį pasaulį ir veikti pagal programą“) į tris grupes pagal jų autonomiškumo lygį: tuos, kur žmogus yra valdymo sistemoje (angl. human-in-the-loop); tuos, kur žmogus yra virš sistemos (angl. human-on-the-loop), ir tuos, kur žmogus neturi įtakos sistemai (angl. human-out-of-the-loop). Pirmuoju atveju mašina gali savarankiškai aptikti ir atrinkti taikinius, bet sprendimą dėl jų sunaikinimo priima žmogus operatorius (pavyzdžiui, nepilotuojami žvalgybiniai-koviniai lėktuvai). Antruoju atveju robotai sugeba patys surasti taikinius ir nuspręsti, kuriuos iš jų sunaikinti, bet žmogus operatorius gali įsikišti į procesą bet kuriuo momentu (pavyzdžiui, naujos kartos robotų naikintuvų grupė). Trečiuoju atveju turimas omenyje kino terminatoriaus tipo sudėtingas įrenginys, kurio praktinis funkcionavimas, HRW atstovų nuomone, būtų problemiškiausias.
Pagrindiniai žmogaus teisių gynėjų priekaištai karinių robotų šalininkams yra keli. Pirma, robotai neturi ir niekada neturės žmogaus emocinės ir loginės vertinimo sistemos, todėl jų sprendimai nevienareikšmėse situacijose gali turėti neigiamų padarinių. Pavyzdžiui, jeigu prieš robotą guli sužeistas kareivis su ginklu rankoje arba prieš jį stovi ginkluotas, bet aiškiai norintis pasiduoti priešininkas, mašina gali vis dar galvoti, kad taikinys yra agresyviai nusiteikęs ir todėl turi būti sunaikintas. Antra, pasaulyje yra daugybė autoritarinių režimų, kuriems reikalingi šaltakraujiški žudikai, be dvejonių vykdantys nusikaltėliškus įsakymus. Pavyzdžiui, per revoliuciją žmonių kariuomenė gali atsisakyti šaudyti į savus ar net pereiti sukilėlių pusėn. O robotai darys tai, kas jiems bus liepta. Trečia, jeigu vienu ar kitu atveju paaiškės, kad mašina suklydo ir nužudė nekaltą žmogų, padarė karinį nusikaltimą, kas bus kaltas, ką reikės teisti? Kadangi bausti robotą yra beprasmiška, variantai lieka keli: karininkas, kuris davė robotui įsakymą ar nusprendė, kad jis gali veikti savo nuožiūra; roboto programuotojas, kuris blogai jį užprogramavo; roboto gamintojas (įmonė ir/ar darbininkas), kuris padarė klaidą mašinos gamybos metu. Tačiau bausti bet kurį iš šių subjektų už roboto klaidą būtų ne visai sąžininga, todėl klausimas iš esmės lieka neatsakytas.
Šiame kontekste HRW tyrimo autorių verdiktas yra vienareikšmis: kovinių robotų kūrimo tyrimai, jų gamyba ir naudojimas turi būti teisiškai uždrausti globaliu mastu, nes po 20–30 metų gali būti jau per vėlu.
Mažiau karių – mažiau aukų ir išlaidų
Pagrindinis kariškių argumentas, žinoma, yra tas, kad robotai pakeis gyvus kareivius, o tai reiškia kelis dalykus. Pirma, bus išsaugota daugiau žmonių gyvybių: a) žus mažiau kareivių nuo svetimų ir savų ugnies (vadinamosios „draugiškos ugnies“, aukų per karinius konfliktus dar pasitaiko dėl žmogiškojo faktoriaus, o robotai turėtų sumažinti jų tikimybę); b) žus mažiau civilių, nes nepavargstančios mašinos veiks tiksliau ir be šališkų emocijų.
Antras svarbus argumentas robotų naudai yra tas, kad geram kariui paruošti reikia daug pinigų ir laiko. O jeigu jis buvo sužeistas ar nužudytas, reikia jį gydyti ar mokėti kompensaciją. Kovinių mašinų ir jų atsarginių dalių gamyba, žinoma, irgi nebus pigus reikalas, bet vis tiek atsieis pigiau, o ir pensijos robotui mokėti nereikės.
Pagaliau, reaguodami į žmogaus teisių gynėjų priekaištus, pavyzdžiui, JAV ir Didžiosios Britanijos kariškiai žada, kad žmogus visada kontroliuos robotų veiksmus, kurie bus apriboti įstatymų.
Tačiau akivaizdu, kad šie pažadai yra nieko verti, nes kariuomenei rūpi ne tiek aukų (savų ar priešo) skaičius, kiek užduoties įvykdymas, o, tarkim, nepilotuojamas naikintuvas gali atlikti daugiau nei pilotuojamas, nes didesnių pagreičių ir sudėtingesnių manevrų apkrova lakūnui yra nepakeliama. Kaip sakoma: tikslas pateisina priemones.
Be to, kaip savo socialiniame tinklalapyje rašo profesorius Williamas Astore‘as: „Robotai naikina mūsų ryšį su žiauriomis žudymo realijomis karo metu ir gundo greitu sprendimu bei palankia pabaiga. (...) Kare retai kada yra veiksmingi greiti sprendimai, technologiniai ar kitokie. Jis paprasčiausiai pernelyg chaotiškas ir nenuspėjamas. (...) Net GPS nukreipiamos bombos gali nepataikyti į taikinį arba dėl blogos žvalgybos pataikyti ne ten, kur reikia. „Viskas kontroliuojama“ yra mėgstamiausia JAV kariškių fantazija.“
Kur ta riba?
Kol kas filmo „Terminatorius“ scenarijus atrodo pernelyg apokaliptinis. Tačiau, kaip rašoma straipsnyje „Robotai kare: mokslininkai diskutuoja dėl etinių klausimų“ („Robots at War: Scholars Debate the Ethical Issues“,
Manytina, kad kariškiai nesustos ir eis iki galo – autonominio kovinio roboto sukūrimo. Jiems visuomet atrodys, kad čia nėra nieko pavojingo, nes jie „viską kontroliuoja“. Tačiau bet kokie kompiuteriai ir programos „streikuoja“, ypač pradinėje jų kūrimo stadijoje. Todėl tiesiog neišvengiama, kad nemalonių incidentų su nepagrįstais civilių nužudymais, o svarbiausia – su „terminatorių“ nepaklusnumu, pasitaikys. Tada robotų šalininkai tikriausiai atsipeikės, bet gali būti per vėlu.
Istorija akivaizdžiai parodė, kad žmonija buvo nepasiruošusi branduolinio ginklo išradimui ir tik didelėmis pastangomis sugebėjo įvesti tam tikrą „branduolinę tvarką“. Su autonominėmis žudymo mašinomis gali būti dar blogiau ir dar sunkiau. Čia kaip su klonavimu ar didžiuoju hadronų greitintuvu – svarbu suprasti, kur ta riba, ir tris kartus pagalvoti, ar verta ją peržengti.
