A brit hadügyminisztérium az elmúlt években komoly erőforrásokat áldozott olyan drónok kifejlesztésére, amelyek minimalizálják vagy teljesen fölöslegessé teszik az „emberi láncszemet”, ölni is önműködően lesznek képesek. Ez pedig rengeteg kérdést felvet. A téma nemzetközi szakértőit kérdeztük a lassan valósággá váló, mesterséges intelligencia működtette fegyverrendszerekről, amelyeket eddig csak olyan filmekben láthattunk, mint a Terminátor.
A Drone Wars független civil szervezet novemberben közzétett jelentése bebizonyította, hogy korábbi ígéretei ellenére, a brit hadügyminisztérium aktívan finanszíroz(ott) olyan kutatásokat, amelyek „önműködő drónok” építésére irányultak. Az Egyesült Királyság 2015 óta blokkolja azokat az ENSZ-ben előterjesztett javaslatokat, amelyek betiltanák az „önműködő fegyverek” kutatását és építését. Sőt, az egyéves kutatás után közzétett jelentés részletesen bemutatja, hogy egyetemek, privát katonai vállalkozók és a hadügyminisztérium aktívan kutatják az „emberi láncszem” kiiktatását lehetővé tevő technológiákat. A cél az, hogy a drónok „önállóan megtalálják és megtámadják az akár mozgó célpontokat is” – minden emberi beavatkozás nélkül.
Lapunk megkereste a jelentést összeállító Peter Burtöt. Az elsősorban nukleáris fegyverbiztonsággal foglalkozó kutató a Magyar Hangnak leszögezte: „A kiadott elemzésünk ugyan teljes egészében nyilvánosan elérhető információkon alapul, ám ez nem jelenti azt, hogy ezeket az adatokat könnyű volt megtalálni. Többhöz csak közérdekűinformáció-igénylés útján lehetett hozzájutni. Ez a része volt a kutatásnak az igazi küzdelem: az egyetemek és az állami szervek rendkívül lassan válaszoltak, néhányan a mai napig nem írtak vissza nekem!”
Amikor arról kérdeztünk, elképzelhetőnek tartja-e, hogy a britek ezeket a drónokat a jövőben exportálnák (ahogy azt jelenleg is teszik más fegyverekkel, Szaúd-Arábia egyik legnagyobb beszállítójaként), és hogy ez milyen problémákat vetne fel, a szakember úgy vélekedett: „a mesterséges intelligencia valószínűleg nem csak elképesztően drága lesz, de talán féltve is őrzik majd. Az Egyesült Királyság jelenleg is figyel arra, hogy az igazán fontos katonai fejlesztéseket belföldön folytassa. Így kétlem, hogy a jövőben ezeket a technológiákat exportálnák.”
Egy karnyújtásnyira van a Skynet? | Magyar Hang
Pontosan mi is ez az mesterséges intelligencia, s vajon mit tudhatnak, mire lehetnek képesek és meddig jutottak el az „öntudatra ébredésben”.
A jelentés közben arra is felhívja a figyelmet, hogy amennyiben egy teljesen önálló drón rendszerét, az abban tárolt adatokat megszerezve sikerülne feltörni, az tragikus következményekkel járna. Már az is végzetes lehet, ha a gépnek „adagolt” adat különbözik attól, mint amit az operátorok eredetileg be akartak táplálni. A kiberbiztonsággal foglalkozó szakértők között a mai napig nem teljes az egyetértés a tekintetben, hogy a teljesen automatizált drónok biztonságosabbak vagy veszélyesebbek, mint az emberi felügyelet alatt állók. Míg az „emberi láncszem” önmagában biztonsági rést jelenthet, a folyamatos külső kontroll azt biztosítja, hogy a drónok összetett működésében nem lép fel hiba.
– Tényleg azt szeretnénk, hogy autonóm fegyverek döntsék el, hogy kit támadnunk meg? – kérdezett vissza megkeresésünkre a Manchesteri Egyetem dél-afrikai származású professzora. A politikai moralitás szakértője, Stephen de Wijze szerint „a fő kérdés az, hogy ki fogja ezeket a gépeket programozni. Ennél pedig még inkább nyugtalanító az, hogy ezek a rendszerek átláthatatlan mennyiségű adattal dolgoznak olyan algoritmusok alapján, amiket már mi sem értünk. Az, hogy emberi életek múlhatnak olyan döntéshozói folyamaton, amit nem látunk át, aggasztó.”
Burt hasonló véleményen volt. „Egyáltalán helyes-e az akármilyen helyzetben, hogy egy gép kioltson egy emberi életet? A kormányok mellett a kutatóknak is felelősséget kellene vállalnia abban, hogy miféle programokban vesznek részt” – értékelt lapunknak.
Ebben Caren Kaplan, a University of California Davis kutatója is egyetértett, aki az elmúlt években több könyvet is publikált a drónhadviselésről és főként a kulturális vonzatáról. „Az egyetemek általában minden felelősséget elhárítanak magukról objektivitásra és a kutatás semleges voltára hivatkozva. Ez egyszerűen szörnyű” – fejtette ki a megkeresésünkre a kutató. Mint mondta: „A drónok pozitív szerepe, ahogy az atomenergiáé is, tagadhatatlan. De ha olyan kutatást végez valaki, ami ahhoz vezet, hogy valakit sérülés ér, akkor felelős érte.”
De Wijze ugyanakkor kiemelte, a nemzetbiztonság megköveteli, hogy ezek a kutatások tovább folytatódjanak. „Ha mi nem fejlesztjük ki őket, más fogja, és hatalmas előnyben lesznek, ha ezek a fegyverek hatékonyabbak, mint a jelenleg elérhetőek. A kutatás betiltása szerintem nem lehetséges. A szellem kibújt a palackból, most a legjobb, amit tehetünk, hogy nemzetközi szinten megpróbáljuk meghatározni, miként használhatók etikusan ezek a rendszerek.”
Ennek a cikknek a nyomtatott változata a Magyar Hang 29. számában jelent meg, 2018. november 30-án.
Hetilapunkat keresse az újságárusoknál, vagy elektronikus formában a Digitalstandon! És hogy miről olvashat a lapban? Itt megtudhatja!
