Tweetnuť
Kopírovať odkaz
Čítať neskôr
Pre uloženie článku sa prihláste alebo sa ZDARMA registrujte.
Blog
05. október 2020

Rozlíši inteligentná zbraň dobro od zla?

O etických aspektoch umelej inteligencie.
Rozlíši inteligentná zbraň dobro od zla?

Nastupujúca technologická revolúcia nezasahuje iba odvetvia hospodárstva či náš každodenný život. Pokrok v oblasti umelej inteligencie má svoj presah aj do vojenského priemyslu. Niektorí neváhajú hovoriť o tretej vojenskej revolúcii, po pušnom prachu a atómových bombách. Vlajkovou loďou tretej revolúcie majú byť inteligentné, autonómne (samostatné) zbrane. 

Tematiku autonómnych zbraní alebo inteligentných vojenských robotov väčšina ľudí pozná z hollywoodskych sci-fi filmov, ako napríklad Robocop alebo Terminátor. Za posledných sto rokov vyšlo niekoľko desiatok podobných snímkov. Značná časť z nich prezentuje robotov ako superinteligentné a zlomyseľné stroje, ktoré ovládajú bezmocných ľudí. Z hollywoodskych predstáv potom často vzniká neopodstatnený strach voči tomu, čo už len nás s umelou inteligenciou čaká. 

Umelá inteligencia (aj v oblasti vojenských technológii) ako každý výdobytok vedy prináša viaceré pozitíva aj negatíva, a zdá sa, že je len na nás, ako s týmto veľkým technologickým pokladom naložíme. V tejto súvislosti stojí za to pripomenúť slová francúzskeho filozofa Edgara Morina z jeho knihy Veda a svedomie: „Vedecké poznanie viedlo k neslýchanému pokroku, ktorý je reprezentovaný ovládnutím jadrovej energie a počiatkom génového inžinierstva. Veda teda osvetľuje, obohacuje, je dobyvateľkou a víťazkou. A napriek tomu, táto osvetľujúca, obohacujúca, dobývajúca a víťazná veda nám robí stále väčšie problémy, ktoré sa vzťahujú k poznaniu, ktoré produkuje, k činnosti, ktorú vytvára, a ku spoločnosti, ktorú mení. Táto veda-osloboditeľka zároveň prináša strašnú možnosť zničenia. Musíme preto už od začiatku disponovať myslením, ktoré bude otvorená pochopiť dvojznačnosť v samotnom srdci vedy.“

Morálny imperatív „nie všetko, čo vedecky možné, je morálne dovolené,“ platí aj pre oblasť umelej inteligencie a technológií s ňou úzko prepojených.

Čo je to autonómna zbraň?

Umelá inteligencia a autonómne zbrane so sebou prinášajú početné a zaujímavé etické, filozofické a právne otázky. V prvom rade by sme si však mohli zadefinovať, čo to sú autonómne, inteligentné zbrane. Podobne ako v prípade umelej inteligencie, ani v prípade autonómnych zbraní neexistuje jednotná zhoda v definícii. V direktíve USA č. 3000.09 nájdeme tieto definície. 

Autonómny zbraňový systém: „Zbraňový systém, ktoré po aktivácii dokáže vyberať a zneškodňovať ciele bez ďalšej intervencie ľudského operátora. Patria sem i autonómne zbraňové systémy, ktorých konštrukcie umožňujú ľudskému operátorovi zasahovať do funkcií systému, ktoré však po aktivácii dokážu vyberať a zneškodňovať ciele bez ďalšej interakcie ľudského operátora.“

Poloautonómny zbraňový systém: „Zbraňový systém, ktorého úlohou po aktivácii je nachádzať jednotlivé ciele alebo určité skupiny cieľov, zvolené ľudským operátorom.“

Fyzik a futurológ Louis A. Del Monte v knihe Geniálne zbrane - umelá inteligencia a vojny budúcnosti upozorňuje na možné nedorozumenie a to, že autonómne zbrane nie sú hudbou budúcnosti, ale že už dnes ich veľmoci vlastnia. Napríklad Spojené štáty majú počítačom riadený systém Phalanx, ktorý likviduje protilodné strely. Podobnými zbraňami disponuje aj Rusko. Vlastní autonómne hliadkové roboty, ktoré sú „mobilné a nevyžaduje od človeka oprávnenie k použitiu smrtiacej sily. Tento mobilný robotický systém zvládne za pomoci lasera a radarového senzoru prechádzať po obvode základnou rýchlosťou 45 km/h s ťažkým guľometom kalibru 12,7 mm po 10 hodín bez prestávky.“

Ďalšie príklady týchto zbraní nájdeme napríklad v arzenále Izraela (strely Harpy a Harpy 2), Veľkej Británie (protipancierová strela Dual Mode Brimstone) alebo Južnej Kórey (hliadkový robot Samsung Techwin).

V nasledujúcich kapitolách si aspoň stručne načrtneme niektoré etické aspekty, ktoré sú spojené s používaním inteligentných zbraní.

Inzercia

Výhody a nevýhody používania autonómnych zbraní

Autonómne zbrane a vojenské roboty majú potenciál znížiť ľudské straty na bojiskách. Je teda možné, že vojny budúcnosti budú vojnami medzi strojmi. V porovnaní s atómovými zbraňami sú AI zbrane relatívne lacné, čo však vytvára nebezpečenstvo, že sa stanú predmetom nelegálneho obchodovania. Tento „kalašnikov budúcnosti“ sa môže pomerne ľahko dostať do rúk teroristov. Teroristické organizácie či diktátorské režimy by tak mohli s pomocou vyspelých, inteligentných zbraní spáchať atentát na ľubovoľné miesto či osobu na svete. Takáto zbraň by sa vymykala všetkému, čo si dnes pod zbraňou predstavujeme. Mohli by to byť napríklad smrtiace inteligentné „včely“ (na nerozoznanie od skutočných včiel), ktoré by prenikli nepriateľskou obranou a zničili cieľ. 

Max Tegmark v knihe Život 3.0: Človek v ére umelej inteligencie upozorňuje, že „keby sa AI zbrane vytvárali vo veľkom, stál by takýto malý zabijácky dron disponujúci umelou inteligenciou len o niečo viac ako smartphone. Teroristovi, ktorý chce spáchať atentát na politika alebo odmietnutému milencovi, ktorý sa chce pomstiť bývalej priateľke, každému z nich stačí len nahrať fotografie a adresu cieľa do zabijáckeho dronu. Dron potom doletí na príslušné miesto, danú osobu identifikuje a eliminuje - a ak je to potrebné zničí sám seba, aby zahladil akékoľvek stopy. Podobným spôsobom by mohol byť dron naprogramovaný k tomu, aby predviedol etnickú čistku.“ 

Hoci podobné úvahy môžu u niekoho vyvolať úsmev, zdá sa, že nie je celkom správne, aby sme nad týmito scenármi ľahkovážne mávli rukou a odbili ich iba ako pozoruhodné sci-fi vízie. Už v roku 2013 Organizácia na ochranu ľudských práv Human Right Watch začal kampaň s názvom „Zastavte vražedné roboty.“ Ich päťbodový program vyvolal na pôde OSN niekoľko diskusií na tému autonómnych zbraní. O štyri roky na to, OSN zverejnila list, v ktorom uvádza, že „pozorne sleduje vývoj vo vzťahu ku zbraňovým systémom, ktoré dokážu samostatne voliť svoje ciele a útočiť na nich, s obavou, že technologicky´pokrok môže predbehnúť normatívne uvažovanie.“

Zostáva priestor aj pre etiku?

Základné pravidlo každej vojny hovorí, že civilisti sa nemôžu stať nikdy cieľom útoku. Je však morálne dovolené bombardovať strategicky kľučový cieľ (napríklad sklad zbraní), aj keď tu existuje reálne riziko, že sa civilisti stanú obeťami. Títo civilisti však nie sú cieľom bombardovania, sú iba vedľajšou, neželanou stratou. Výhodou inteligentných zbraní je to, že vďaka svojej presnosti môžu toto riziko prakticky úplne eliminovať. 

Na strane druhej, diskutabilné je nasadenie bojových robotov do vojny. Bude schopný rozlišovať medzi vojakmi a civilistami? Medzi mužmi, ženami a deťmi? Ak jeho umelá inteligencia ešte nebude dosahovať ľudskú úroveň je možné, že takýto potencionálny robot bude zabíjať rad za radom bez ohľadu na vedľajšie straty. 

Ďalšou spornou otázkou je, že aj keď do autonómnej zbrane či robota naprogramujeme umelú inteligenciu podobnú človekovi, bude tento prístroj schopný ľudskosti a morálnosti? Ako bude takáto zbraň v boji schopná rozlišovať čo je oprávnené a čo nie? Bude stroj schopný citu? (Del Monte pripomína, že mnohí experti očakávajú nástup umelej inteligencie porovnateľnej s ľudskou už v tomto storočí.) Vojna prináša mimoriadne zložité situácie a aj človek má čo robiť, aby sa vedel podľa možností správne rozhodovať.    

Autonómne, inteligentné zbrane však budú zohrávať stále väčšiu úlohu v zbraňových systémoch, závodoch v zbrojení či prípadných vojnových konfliktoch. Preto ich vzostup volá po etickej a právnej regulácii. Hoci všetci súdni ľudia si vojny neželajú, žiaľ, vzhľadom na ľudskú povahu a prirodzenosť sa nedajú vopred vylúčiť.   

Titulný obrázok - https://en.wikipedia.org/wiki/General_Atomics_MQ-9_Reaper

 

Zaujímam sa o kresťanskú vieru vo vzťahu k spoločnosti, rozumu a vede. „Každý človek sa môže stať kresťanom, ale iba ten, kto sa ním skutočne stane, je bratom.“ (Joseph Ratzinger, Úvod do kresťanstva) Kontakt: bloger.kc@gmail.com

Inzercia

Inzercia

Odporúčame

Blog
Láska cez peniaze

Láska cez peniaze

Naše nedeľné čítanie z listu Filipanom v liturgickom období „Cez rok“ je na konci. Štvrtá a posledná perikopa pochádza z poslednej časti tvoriacej ešte jadro listu. Táto pasáž sa ohraničuje veršami 4, 10-20. Jej obsahom je Pavlovo vyjadrenie vďaky za prijatú podporu od Filipanov. Svojou tematikou tak voči zvyšku spisu vyznieva značne autonómne. A preto ju mnohí odborníci dokonca považujú za pôvodne samostatný ďakovný list. No názory na to určite nie sú jednotné.