Dobrodošli na advance.hr!
Advance.hr koristi "kolačiće" (cookies), no isključivo za funkcionalnost samih stranica (ovdje nema prikupljanja Vaših podataka za nikakve marketinške agencije). Detalje možete pročitati u sekciji: uvjeti korištenja.
Advance.hr koristi "kolačiće" (cookies), no isključivo za funkcionalnost samih stranica. Detalje možete pročitati u sekciji: uvjeti korištenja.
Slažem se s uvjetima korištenja

Gubitak humanosti u ratovanju: nakon bespilotnih letjelica, dolaze smrtonosni roboti ubojice

Ne događa se često poziv na javnu raspravu o poželjnosti tehnologije koja je još uvijek barem 20 ili 30 godina daleko od toga da uopće bude
moguća.
Human Rights Watch i Harvard Law School - odjel International Human Rights Clinic, izdali su izvješće pod nazivom "Gubitak humanosti: Borba protiv robota ubojica". Naslov izvješća ne ostavlja ni malo sumnje u stav autora: smrtonosne autonomne robote treba zaustaviti prije nego se uopće pojave. Oni tvrde da su autonomni sustavi inherentno nesposobni za djelovanje u skladu s međunarodnim zakonima ratovanja.

Autonomni roboti neće biti u stanju razlikovati civile od vojnika,
nedostaje im ljudsko suosjećanje koje prirodno odvraća ljude od
ubijanja i zato što je robot uistinu samostalan, ni jedna osoba se ne
može smatrati odgovornom za kršenje međunarodnih zakona.

Zagovornici tvrde da roboti mogu biti programirani za korištenje
smrtonosne sile, ako, i samo ako, je upotreba u skladu sa zakonom.
Štoviše, pošto im nedostaje ljudski nagon prema samoodržanju i
osjećaji poput bijesa, oni bi zapravo mogli biti bolji u rješavanju
sukoba od ljudi. I što je najvažnije, implementacija autonomnih oružja
može sačuvati živote vojnika.

Autonomna oružja

Potpuno autonomna oružja su definirana u izvješću kao oni sustavi koji
samostalno odlučuju kada i kako napasti bez utjecaja čovjeka. Mnoge
vojske već koriste autonomno oružje, ali svi oni imaju fazu
odlučivanja gdje čovjek mora donijeti finalnu odluku. Također, ta
autonomna oružja djeluju unutar ograničenog područja.

Profesor robotike Noel Sharkey definira autonomnog robota kao ono što "obavlja predprogramirani slijed operacija ili se kreće u strukturiranom
okruženju", navodi se u izvješću. Dobar primjer je robotska ruka u
industriji automobila. Autonomni robot, nastavlja on," ...je sličan
automatskom stroju osim što djeluje u otvorenim i nestrukturiranim
okruženjima. Robot je još uvijek pod kontrolom programa, ali sada
prima informacije putem svojih senzora koji omogućuju da prilagodi
brzinu i smjer svojih motora kako je definirano u programu."

Postoje mnogi primjeri autonomnog oružja koji u konačnici imaju
ljudski prst na okidaču. Na primjer, Južna Koreja razmjestila je
robote stražare u demilitariziranoj zoni. SGR-1 može otkriti ljudsku
prisutnost na udaljenosti od oko tri kilometra po danu i jedan i pol
kilometar po noći pomoću svojih senzora pokreta i topline. Kad je
osoba (cilj) otkrivena šalje se upozorenje u zapovjedni centar. Vojnik
u kontroli može komunicirati s tom osobom (ciljem) kako bi se utvrdilo
o čemu se radi. Taj vojnik odlučuje da li će robot upotrijebiti svoju
strojnicu ili ne.

Primjer automatskog oružja koja djeluje u okviru strukturiranog
okoliša je izraelski Iron Dome sustav. Stacioniran u blizini gradova
trenutno je operativan u izraelsko-palestinskom sukobu. Iron Dome
koristi radar za otkrivanje dolazne rakete i sposoban reagirati s
presretačem raketa. Po otkrivanju prijetnje sustav preporučuje
protumjeru. Za uspjeh protumjera kritično je vrijeme reakcije,
operator mora odlučiti u djeliću sekunde. Ograničeni opseg ljudskog
nadzora je kompenziran ograničenim djelokrugom sustava: djeluje samo
kao sustav protuzračne obrane.

Zakoni ratovanja

Potpuno autonomna oružja, po definiciji, nemaju ljude u procesu
odlučivanja. A ako su dizajnirani da rade u nestrukturiranih
okruženju, oni se ne mogu programirati za sve moguće scenarije. To
znači da roboti moraju napraviti autonomne odluke o upuštanju u borbu
i uništavanju neprijatelja na temelju njihovih senzorskih podataka i
algoritama koji ih obrađuju.

I to je ono što autori izvješća navode kao srž problema.
Nedostatak ljudske svijesti čini autonomne robote nesposobnima za
djelovanje u skladu sa zakonima ratovanja. Ne možemo očekivati da će
borbeni robot biti sposoban interpretirati i provoditi Ženevsku
konvenciju.

Bit Ženevske konvencije je da borci moraju 'razlikovati civilno
stanovništvo i vojnike'. Vojna operacija koja ne djeluje prema tim
pravilima je nezakonita. Roboti su nesposobni za takve odluke, navode
autori. Pogotovo u situaciji asimetričnog ratovanja gdje se
neprijateljski borci izmiješani s lokalnim stanovništvom. U
tradicionalnom ratu države protiv države vojnici mogu biti prepoznati
po svojim uniformama i njihovom položaju u borbenoj zoni. U
asimetričnom ratovanju vojnici se oslanjaju na svoju prosudbu o
namjeri potencijalnih protivnika. Takvo odlučivanje je vrlo teško za
robote.

Drugi problem je odgovornost. Budući da je robot autonoman ni
programer niti zapovjednik ne može se smatrati odgovornim. Robert
Sparrow, profesor političke filozofije i primijenjene etike, kaže u
izvješću: 'Mogućnost da autonomni sustav donosi odluke različite od
onih predviđenih od programera je izrečena u samoj tvrdnji da je
sustav autonoman'. A budući da robot ne može biti kažnjen, ratni
zločini bi mogli postati izvan dosega zakona.

Etički algoritmi

Zagovornici autonomnih oružja ističu da će robotski rat spriječiti
smrt i ranjavanje vojnika. Pored toga imaju veliko povjerenje u
sposobnost budućih robota za djelovanje u skladu s ratnim propisima.
Ronald Arkin, roboticist na Georgia Institute of Technology, navodi se
u izvješću kao zagovornik. On je artikulirao ideju robota obdarenog s
"etičkim upravljanjem". To je u osnovi skup algoritama koji sprečavaju
robota u primjeni smrtonosne sile osim ako su navedeni uvjeti
ispunjeni. Na primjer, ako je robot nesposoban odrediti da li je cilj
civil ili vojnik ne može koristiti silu.

S takvim ograničenjima, robot nije stanju djelovati protivno zakonima
ratovanja. I zato što roboti nisu vođeni ljutnjom ili strahom, čak bi
mogli biti bolje prilagođeni za rješavanje sukoba nego je to slučaj sa
ljudima.

Javna rasprava

Nakon što su usporedili argumente za i protiv, Human Rights Watch i
Harvard Law School zaključuju da svijet ne treba robote ubojice. Oni
preporučuju državama da zabrane razvoj, proizvodnju i upotrebu potpuno
autonomnih oružja putem međunarodno pravno obvezujućeg instrumenta. Od
robotičara traže uspostavu kodeksa ponašanja.

Možda zanimljiviji od ovog pomalo pojednostavljenog zaključka je poziv
za javnu raspravu. Doista bi vrijedilo imati planetarnu raspravu o
tome što želimo od budućih tehnologija.

Ja bih svemu navedenom dodao da ako imamo zrno soli u glavi, držat
ćemo se četiri zakona robotike koje je postavio Isaac Asimov:

0. Robot ne smije naškoditi čovječanstvu, ili svojom pasivnošću
dopustiti da se čovječanstvu naškodi.
1. Robot ne smije naškoditi čovjeku, ili svojom pasivnošću dopustiti
da se čovjeku naškodi, osim kad je to u suprotnosti s nultim zakonom.
2. Robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s
nultim ili prvim zakonom.
3. Robot treba štititi svoj integritet, osim kad je to u suprotnosti s
nultim, prvim ili drugim zakonom.

VIDEO: Intelligent Surveillance & Security System Samsung Techwin

Izvori:
Tessel Renzenbrink
http://www.techthefuture.com/future/does-the-world-want-lethal-autonomous-robots/
Losing Humanity: The Case Against Killer Robots
http://www.hrw.org/reports/2012/11/19/losing-humanity-0
International Human Rights Clinic
http://www.law.harvard.edu/programs/hrp/ihrc.html
Samsung SGR-1
http://youtu.be/NevCAx6zWNU
Isaac Asimov
http://hr.wikipedia.org/wiki/Isaac_Asimov
T-800
http://images4.wikia.nocookie.net/__cb20090210171835/terminator/images/3/31/T-800.1.jpg

Komentari

(11):
» Objavi komentar
Napomena: komentari čitatelja ne predstavljaju ni na bilo koji način stav uredništva portala advance.hr. Za sadržaj i točnost komentara čitatelja ne odgovaramo. Sadržaj se periodično pregledava i neprikladni komentari se uklanjaju. Advance.hr zadržava pravo brisanja komentara, kao i blokiranja korisničkog imena bez najave i bez objašnjenja.

Uvjeti komentiranja: Poštovani, pri objavi komentara molimo za kulturno izražavanje. Administrator će izbrisati sve komentare koji na bilo koji način vrijeđaju druge ili svojim sadržajem nisu na adekvatnom mjestu.
Sortiranje: | Prikaz:
  1. 0
    Bismarck
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    21:01 | 13.12.2012.
    Zar postoji "humani" način ratovanja? :S
    Prikaži cijeli komentar
  2. 0
    Zapad
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    18:05 | 11.12.2012.
    evo nam Terminator
    Prikaži cijeli komentar
  3. +2
    Arkaj
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    01:31 | 11.12.2012.
    Takva je nažalost priroda rata i prvo se moramo zapitati o ljudskoj svijesti i moralnosti a tek onda o tehnologiji. Ja u ovom razvoju robotike u službi smrti vidim samo prirodni proces tehnološkog razvoja koji će se nastavit u nedogled dok god ljudi budu ratovali među sobom. A to će činit dok god onima koji donose odluke o ratu, koji na samom ratu zarađuju, pa i onima koji u njemu sudjeluju, ratna pobjeda donosi mnoge beneficije. Ženevska konvencija i druga ratna pravila samo su smokvin list kojim se pokušava koliko toliko pokriti i smanjiti suštinsko divljaštvo koje je osnovni sadržaj rata. Stoga će bilo kakve rasprave o ovom novom oružju bi jednako efikasne kao i srednjovjekovni pokušaji da se zabrani ratna upotreba samostrela u sukobu među kršćanskim vojskama. Ako ovo novo oružje bude dovoljno efikasno u ubijanju ljudi, a pogotovo ako ga potencijalni protivnik ne bude imao u jednakom broju i na sličnoj tehnološkoj razini onda će sigurno ili bit upotrebljeno ili će se prijetiti njegovom upotrebom.
    Prikaži cijeli komentar
  4. +1
    izeljko
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    00:21 | 11.12.2012.
    Više me ništa ne cudi!?
    Prije 40-tak godina sam citao Asimova i mislio kakve bi to bile besmislice, kada bi se ostvario samo dio onoga što piše.
    Ili X-100 romani, "Lun kralj ponoći" sa svim onim nemogučim oružjem, koje se danas normalno upotrebljava,prodaja ljudskih organa, mini atomske bombe...'veliki brat'....sve je to danas tu, oko nas. Ni u najgorem snu nisam očekivao da bi se takve stvari mogle početi dogadjati, svakodnevno, bez mogućnosti da se bilo šta promijeni...samo jedna konstatacija - žalosno, da žalosnije ne može biti ...
    Prikaži cijeli komentar
  5. 0
    Krivi Link
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    23:49 | 10.12.2012.
    @radnik: osvrt na komentar
    i nista nova pod nebon.... ili na nebu. npr. britanci su nakon prvog svjetskog rata kontrolirali prostor mezopotamije tj, danasnjeg iraka, kao i ako se ne varam tzv. sjeverozapadanu granicu indije iskljucivo sa snagama novosonovanog raf-a, i to u sklopu ciljane doktrine tehnoloske nadmoci. upotrebljavali su malen broj trupa na zemlji, ali zato masovno opremljenih oklopnim automobilima za podrsku na tlu, te kao glavni faktor cak ne ni prevelik broj aviona kojima su brzo primoravali svako aktivirano zariste na pokornost. radi ogromnog zgrazavanja javnosti u uk praksa je bila prekinuta (iako su se iz rafa-a tada bunili sa argumentom da oni na taj nacin izazivaju manje nevinh zrtava uz istovremeni manji trosak po drzavu, ista mantra kao i danas) i okupaciju su nastavile konvencionalne snage. sve u svemu idejno ne predaleko od danasnjih americkih UAV-a na istom tom prostoru, zapravo ista filozofija istih krugova ljudi. samo nekih devedesetak godina kasnije.
    Prikaži cijeli komentar
  6. +1
    TripleX
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    22:23 | 10.12.2012.
    Pravno gledano, naravno da postoji zapovjedna odgovornost, na kraju živ čovjek ipak mora uključiti robota. Može se napraviti poređenje sa tempiranom bombom, neko je napravi i postavi ali na kraju ona sama kaže bum. Tako da je ista stvar i kod robota, neko ga napravi, uključi i pošalje.

    Nekako mi ovo više izgleda kao pripremanje da će do ovoga doći, nego pokušaj zabrane nečega iz. sf-a.
    Prikaži cijeli komentar
  7. +3
    cegevara
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    21:36 | 10.12.2012.
    Dodao bih komentar ali se plasim potpuno autonomnog robota......mozda mu je senzor podesen da otkriva komentare,ida.....
    Prikaži cijeli komentar
  8. +4
    ivo
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    20:01 | 10.12.2012.
    sreća još malo pa će smak svijeta, nećemo dočekat ovaj užas :P
    Prikaži cijeli komentar
  9. +10
    radnik
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    19:48 | 10.12.2012.
    prije 50 godina nije raja mogla zamislit da bi dronovi bez posade mogli ubijat ljude, a eno ih sad po Africi i Bliskom Istoku svaki dan ubijaju ljude... neko spomene u medijama...postalo je normalno, tako će i ovi roboti...dragi moji, svijet kakvog znamo ubrzo će nestati
    Prikaži cijeli komentar
  10. +8
    deniob
    pozitivna ocjena
    negativna ocjena
    odgovor na komentar
    19:40 | 10.12.2012.
    Posle čitanja ovog teksta, ne mogu da se oduprem misli o besmislenosti ratova samih po sebi...a ne nekih gde će roboti da se bore, to mi je mnogo kao film "Sreamers" iz 1995. godine.
    Prikaži cijeli komentar
Želite ostaviti komentar? Postanite advance pretplatnik.