Yaxın gələcəyin qorxunc müharibələri:süni intellekt insanlığa meydan oxuyacaq – Araşdırma
“Falanks CİBC” gəmi zenit-artilleriya kompleksi
İlya Plexanov
inosmi.ru, 30.12.2017
Yenixeber.org: 2017-ci il süni intellektin hərbi sahədə işlədilməsinə marağın qızışmasıyla əlamətdar olub. Texnologiyanın inkişafının bu aktual yönü haqda keçən il jurnalist və ekspertlərdən tutmuş hərbçilərin özü və prezidentlərə qədər hamı danışıb. Uyğun olaraq, bu “qaynar” mövzuya xeyli məqalə və başqa materiallar həsr olunub, lakin tutumlu əsərlər hələlik o qədər çox deyil. Bununla belə, var.
Sünni intellektin hazırlanması üzrə ABŞ-ın ən aparıcı şirkətlərindən biri “SparkKoqnişin”in qurucusu və baş icraçı direktoru Əmir Hüseynin bu ilin yayında kitabı çıxıb, növbəti ilin yazında isə Amerikanın yeni təhlükəsizliyi gələcək müharibələrin araşdırılması proqramı Vaşinqton Mərkəzinin direktoru Pol Skarrenin kitabı nəşr olunacaq.
Əmir Hüseyn. “Ağıllı maşın: süni intellektin qarşıdakı əsri” (The Sentient Machine: The Coming Age of Artificial Intelligence)
Əmir Hüseyn bu il BMT-yə “öldürücü silahın avtonom sistemlərinin müharibələrin aparılması üsullarında üçüncü inqilaba səbəb ola biləcyi” və “bu təhlükənin yaxınlaşmasından özəl sorumu anladıqlarından” danışan açıq məktub yazmış süni intellekt sahəsində 116 ekspertdən biridir. Bununla belə, Hüseyn qeyd edib ki, texniki tərəqqinin ləngiməsinə səbəb ola biləcək istənilən hərəkətə qarşı çıxış edir. Onun fikrincə, məktub beynəlxalq ictimaiyyətin diqqətini “öldürücü silahın avtonom sistemlərinin özündə gizlətdiyi potensial təhlükələrə və bu məsələ üzrə geniş beynəlxalq diskussiyanın olmadığına”yönəltmək məqsədi güdüb.
Hüseyn nikbindir.
Və Hüseynin kitabı süni intellektin gələcək müharibələrdə tətbiqinə müsbət yöndən yanaşmaq cəhdidir. Hüseyn ABŞ və NATO-nun Əfqanıstandakı qüvvələrinin keçmiş komandanı, general Con Allenlə birgə “hipermüharibə” konsepsiyasının yaradılması üzərində işləyib və qərar qəbul edilməsi silsiləsində və ya yarımavtomat sistemlərdə insanın saxlanmasının gərəkdiyindən danışanları hətta nə baş verdiyini anlamayan “ağzıboş” adamlar adlandırır. Avtonomluğun məğzinin özü ən qısa müddətdə qərar qəbul edilməsi lazım gələn silsilədən insanın çıxdaş edilməsidir və sistemin ehtiyatda saniyə qədər payı yoxdur ki, məsələn, sürətlə yaxınlaşan təhlükəni məhv edib-etməmək barədə insanla məsləhətləşsin. Döyüş meydanında sürətlə qərar qəbul edən qalib gəlir. Bu məqamda maşınların tayı yoxdur.
Hüseynin sözlərinə görə, avtonom sistemlər artıq var və işləyir. ABŞ HDQ-nin gəmilərindəki “Falanks Qatlinq” silahı həm düşmənin raketini, həm də təhlükə kimi dəyərləndirməklə pilotlu təyyarələri məhv edir. “İcis” (Aegis) sistemi də təkcə raketlərə deyil, həm də pilotlu obyektlərə, özü də operatorların heç bir müdaxiləsi olmadan atəş açmaq imkanı verən avtomatik rejimə malikdir.
Müəllifin fikrincə, Çin və Rusiya əxlaqi dəyərləri ölçüb-biçmədən hərbi süni intellekt çalışamları ilə ABŞ-a şans qoymur və yeni qızğın silahlanmanı uduzmamaq üçün Ştatları bu yöndə fəal işləməyə məcbur edir.
Hüseyn hesab edir ki, diqqəti avtonom sistemlərin fəaliyyətinin insan tərəfindən məhdudlaşdırılmasına deyil, süni intellektdə əvvəldən “əxlaqi imkanlar” proqramlaşdırmaq lazımdır. Hətta hərbi sistemin bir hissəsi, bir robot proqram təminatı üzündən və yaxud hakerlərə görə birdən səhv qərarlar qəbul etməyə başlayırsa, onda sistemin başqa hissəsi “pis” robotu dayandırmağı və yaxud məhv etməyi bacarmalıdır.
Hüseyn əmindir ki, gələcəyin hərbi sistemləri indikindən daha dəqiq olacaq. Bu, düşməni fantastik dəqiqlikilə öldürəcək “ağıllı güllələr” səbəti olacaq. Digər yandan, insan dənizdə və səmada mülki şəxslərin olmadığı “ölüm sektoru”nu müəyyən edəcək və artıq sektorun daxilində hərbi sistemlərə zədələməyə tam avtonomiya və fəaliyyət azadlığı verəcək. Çoxlu məlumat və obyektlərin maşın tərəfindən tanınmasında tərəqqi onlara tapşırığı effektli və səhvlərin cüzi sayı ilə icra etmək imkanı verəcək.
Bununla yanaşı, kitab müəllifi ondan danışır ki, süni intellektin tətbiqi silahlı qüvvələrdə baş verən ayrıca nəsə deyil, bu, cəmiyyət həyatının bütün sahələrindəki texnoloji dəyişikliklərin ümumi axınıdır və avtonom sistemlərin hərbi əməliyyatlara qatılmasından faydaya etinasızlıq axmaqlıq olardı. Cin şüşədən artıq buraxılıb və belə yaşamağı öyrənmək gərəkdir.
Pol Skarre. Heç kimin ordusu: avtonom silah və müharibənin gələcəyi (Army of None: Autonomous Weapons and the Future of War)
Keçmiş ordu reynceri, İraq və Əfqanıstan müharibələri veteranı, hərbi robotlar və süni intellekt mövzusunda ABŞ müdafiə nazirinin keçmiş müavini Bob Uorkla sıx şəkildə işləmiş, indi isə silahlar üzrə ekspert Skarre öz işində Almaniyanın II dünya savaşı dövründəki “Vren” torpedosundan (Wren – dünyada ilk özü tuşlanan, akustik başlıqlı, seriyalarla istehsal olunan torpedo) başlayaraq gələcək ordunun robotlaşdırılmış avtonom tanklarının konseptinə qədər avtonom sistemlərin inkişafını izləyir. Onun kitabı aparıcı hərbi analitiklər, kommersiya istehsalçıları, psixoloqlar, politoloqlarla onlarla müsahibə, həmçinin ABŞ ordusunda xidmət vaxtı texnologiyaların inkişafında şəxsi müşahidələri əsasında qurulub.
Skarrenin məlumatına əsasən, artıq otuza yaxın ölkə hələ də insanın müşahidəsi altnda işləyən avtonom müdafiə sisteminə malikdir və bu gün dünyada avtonom hücum silahının yaradılması uğrunda qovğa müşahidə olunur. Pilotsuz avtomobillərin, maşın baxışının inkişafı və neyron şəbəkələrinin təsviri tanımaq dəqiqliyinin yüksəlişi hərbçiləri hərəkətə gətirir. Skarre habelə diqqəti buna yönəldir ki, Rusiya və “Kalaşnikov” konserni hədəfi müəyyən etməyi və atəş açmaq haqda avtonom qərar almağı bacaran döyüş modulları üzərində işləyir. Məsələlərin ayrıca kəsimi – silahın avtomatlaşdırılmasıyla meydana çıxan etik problemlərdir. Zərbə endirmək və atəşlə düşmənin canlı qüvvəsini zədələmək haqda qərarı maşınalara nə dərəcədə həvalə etmək olar? Bəlkə, süni intellektli robotlar mülki şəxslərin simasında “əlavə itkiləri” heçə endirib düşməni inanılmaz dəqiqliklə məhv edə bilər? Və yaxud əksinə, süni intellektin hədəfi seçməkdə səhvi fəlakətli ola bilər və günahsız adamların kütləvi həlakına gətirər? Demokratik-liberal quruluşlu, məsul ölkələr avtonom silahlanmanı inkişaf etdirməlidirmi? Əxlaq məsələsini qarşısına qoymayan və avtonom hərbi sistemlərin yaradılmasını istənilən üsulla körükləyən ölkələrə qarşı nə qoymalı?
Bu suallara asan cavab yoxdur.
Gələcək döyüş meydanında həm insan, həm də süni intellekt birgə işləyəndə Skarre “kentavr döyüşçülər” terminindən fəal istifadə edir. Terminin meydana çıxması başlanğıcını şahmatçıların öz aralarında kompüterin yardımından istifadə etməklə oyunun müəyyən etməsindən götürür. Bu, şahmatda “sayborq-çes” (cyborg chess), “Tsentaur-çes” (centaur chess) və yaxud “rəqəmsal/şahmat kentavrları” adlanır. Skarrenin fikrincə, “ya adamlar, ya da robotlar” dilemması çərçivəsində düşünməyi buraxmaq və insanla süni intellektin birgə işlədiyi texnologiyaların tətbiqini tapmağa cəhd etmək lazımdır. Əyani nümunə – helikopter pilotlarının kompüterlə birlikdə dronların yarıavtonom işinə nəzarət edərkən “Apaçi”lərlə pilotsuzların işinin sınaqdan keçirilməsidir.
Avropada NATO qüvvələrinin keçmiş baş komandanı Ceyms Stavridis bu kitaba resenziyasında nəticə çıxardıb: “Qorxun! Çox, çox qorxun!” Stavridis xəbərdarlıq edir ki, dünya sürətlə tarixdə ən mühüm dönüş müharibəsinə doğru gedir – müharibəni süni intellekt aparacaq, cəmiyyət isə, çox güman ki, buna hazır deyil. Onun fikrincə, Skarrenin kitabı müharibələrin avtonomluğu haqda diskussiyalara hələ on illərlə təsir edəcək və müzakirə olunacaq.