Pažangos košmaras: ar robotai žudikai bus uždrausti? Dmitrijus, ideologinis įkvėpėjas ir visų profesijų džekas

Elonas Muskas neseniai išreiškė griežtą prieštaravimą dirbtinio intelekto naudojimui kuriant robotus žudikus. Kalbame dar ne apie Terminatorius, o apie robotizuotas sistemas, galinčias atlikti kai kurias užduotis, už kurias dažniausiai atsako kariai. Suprantamas kariškių susidomėjimas šia tema, tačiau toli siekiantys jų planai daugelį gąsdina.

Tačiau ne tik šiuolaikiniai kariai svajoja ir mato kulkosvaidžius, galinčius vienu metu pakeisti dešimt ar net šimtą karių. Šios mintys aplankė skirtingų epochų figūrų galvas. Kartais kai kurios idėjos buvo įgyvendintos ir atrodė gana gerai.

Robotas riteris Da Vinci

Leonardo buvo genijus beveik visose srityse. Jam pavyko pasiekti sėkmės beveik visose srityse, kuriomis domėjosi. XV amžiuje jis sukūrė robotą riterį (žinoma, tada žodis „robotas“ nebuvo vartojamas).

Mašina galėjo sėdėti, stovėti, vaikščioti, judinti galvą ir rankas. Visa tai mechaninio riterio kūrėjas pasiekė svirčių, krumpliaračių ir pavarų sistemos pagalba.

Riteris buvo atkurtas mūsų epochoje – veikiantis prototipas buvo pastatytas 2002 m. Jis buvo sukurtas „pagal“ Marko Rosheimo „Da Vinci“ projektą.

Tesla RC valtis

1898 metais išradėjas Nicola Testa parodė pasauliui pirmąjį tokio pobūdžio išradimą – nuotoliniu būdu valdomą transporto priemonę (mažą valtį). Demonstracija vyko Niujorke. Tesla valdė valtį, ir ji manevravo atlikdama įvairių veiksmų tarsi burtų keliu.

Vėliau Tesla bandė parduoti JAV kariuomenei kitą savo išradimą – kažką panašaus į radijo bangomis valdomą torpedą. Tačiau kariškiai kažkodėl atsisakė. Tiesa, savo kūrybą jis apibūdino ne kaip torpedą, o kaip robotą – mechaninį žmogų, gebantį atlikti sudėtingus darbus vietoj savo kūrėjų.

SSRS radijo bangomis valdomi tankai

Taip, inžinieriai Sovietų Sąjunga jie nebuvo tam nusiteikę. 1940 m. jie sukūrė radijo bangomis valdomą kovinės transporto priemonės ant pagrindo lengvas bakas T-26. Valdymo pulto veikimo diapazonas yra daugiau nei kilometras.

Šių karinių terminatorių operatoriai galėjo šaudyti iš kulkosvaidžių, panaudoti patranką ir liepsnosvaidį. Tiesa, šios technologijos trūkumas buvo tas, kad nebuvo grįžtamojo ryšio. Tai reiškia, kad operatorius galėjo tiesiogiai stebėti bako veiksmus tik per atstumą. Natūralu, kad operatoriaus veiksmų efektyvumas šiuo atveju buvo palyginti žemas.

Tai pirmasis karinio roboto pavyzdys.

Galijotas

Naciai sukūrė kažką panašaus, tik vietoj to, kad įprastus tankus aprūpintų radijo valdymu, jie sukūrė miniatiūrines vikšrines sistemas. Juos būtų galima valdyti nuotoliniu būdu. Galijotai buvo pradėti nuo sprogmenų. Idėja buvo tokia: vikrus vaikas priėjo prie „suaugusiojo“ priešo tanko ir, būdamas šalia, įvykdė operatoriaus komandą viską sunaikinti sprogimu. Vokiečiai sukūrė ir elektrinę sistemos versiją, ir mini baką su vidaus degimo varikliu. Iš viso buvo pagaminta apie 7000 tokių sistemų.

Pusiau automatiniai priešlėktuviniai pabūklai

Šios sistemos buvo sukurtos ir Antrojo pasaulinio karo metais. Kibernetikos įkūrėjas Norbertas Wieneris prisidėjo prie jų kūrimo. Jis ir jo komanda sugebėjo kurti priešlėktuvinės sistemos, kurie patys pakoregavo ugnies tikslumą. Juose buvo įdiegta technologija, leidžianti numatyti, kur toliau pasirodys priešo lėktuvas.

Išmanieji mūsų laikų ginklai

1950-aisiais JAV kariuomenė, siekdama laimėti Vietnamo karą, pradėjo kurti lazeriu valdomus ginklus, taip pat autonominius skraidančius prietaisus, iš tikrųjų, dronus.

Tiesa, renkantis taikinį jiems prireikė žmogaus pagalbos. Bet jau buvo arti to, kas yra dabar.

Plėšrūnas

Tikriausiai visi yra girdėję apie šiuos dronus. MQ-1 Predator JAV kariuomenė pristatė praėjus mėnesiui po rugsėjo 11-osios įvykių. Dabar „Predators“ yra labiausiai paplitę kariniai dronai pasaulyje. Jie turi ir vyresnių giminaičių – UAV „Reaper“.

Sapperiai

Taip, be robotų žudikų, yra ir robotų saperių. Dabar jie labai paplitę, pradėti naudoti prieš keletą metų, Afganistane ir kituose karštuose taškuose. Beje, šiuos robotus sukūrė iRobot – būtent ji kuria populiariausius valymo robotus pasaulyje. Žinoma, mes kalbame apie Roomba ir Scooba. 2004 metais tokių robotų buvo pagaminta 150 (ne dulkių siurblių, o sapierių), o po ketverių metų – jau 12 tūkst.

Dabar kariuomenė visiškai išsisklaidė. Dirbtinis intelektas (silpna jo forma) žada dideles galimybes. JAV ketina visapusiškai pasinaudoti šiomis galimybėmis. Čia mes kuriame naujos kartos robotus žudikus su kameromis, radarais, lidarais ir ginklais.

Būtent jie gąsdina Eloną Muską, o kartu ir daugybę kitų šviesių protų iš įvairių veiklos sričių.

Kol ministras pirmininkas Dmitrijus Medvedevas ir Arkadijus Voložas važinėjo nepilotuojamu „Yandex.Taxi“ aplink Skolkovą, karo inžinieriai sugalvojo, kaip pritaikyti nepilotuojamų transporto priemonių technologijas kuriant naujus ginklus.

Tiesą sakant, technologija nėra tokia, kokia atrodo. Visos technologinės evoliucijos problema yra ta, kad riba tarp komercinių robotų „visą gyvenimą“ ir karinių robotų žudikų yra neįtikėtinai plona, ​​ir ją peržengti nieko nekainuoja. Kol kas jie renkasi maršrutą, o rytoj galės pasirinkti, kurį taikinį sunaikinti.

Tai ne pirmas kartas istorijoje, kai technologijų pažanga suabejojo ​​pačiu žmonijos egzistavimu: pirma, mokslininkai sukūrė chemines, biologines ir atominis ginklas, dabar - „autonominiai ginklai“, tai yra, robotai. Vienintelis skirtumas yra tas, kad iki šiol „masinio naikinimo“ ginklai buvo laikomi nežmoniškais - tai yra, jie nesirenka, ką žudyti. Šiandien požiūris pasikeitė: ginklas, kuris žudys su ypatinga diskriminacija, renkantis aukas pagal savo skonį, atrodo daug amoralesnis. Ir jei kokią karingą jėgą sustabdė tai, kad jei ji naudotų biologinį ginklą, nukentėtų visi aplinkiniai, tai su robotais viskas yra sudėtingiau – juos galima užprogramuoti sunaikinti konkrečią objektų grupę.

1942 m., kai amerikiečių rašytojas Isaacas Asimovas suformulavo tris robotikos dėsnius, visa tai atrodė jaudinančiai, bet visiškai nerealu. Šie įstatymai pareiškė, kad robotas negali ir neturi pakenkti ar nužudyti žmogaus. Ir jie turi neabejotinai paklusti žmogaus valiai, išskyrus atvejus, kai jo įsakymai prieštarautų aukščiau nurodytam imperatyvui. Dabar, kai autonominiai ginklai tapo realybe ir gali pakliūti į teroristų rankas, paaiškėjo, kad programišiai kažkodėl pamiršo į savo programinę įrangą įtraukti Asimovo įstatymus. Tai reiškia, kad robotai gali kelti pavojų ir jokie humaniški dėsniai ar principai negali jų sustabdyti.

Pentagono sukurta raketa taikinius aptinka pati programinė įranga, dirbtinis intelektas (AI) nustato britų kariuomenės taikinius, o Rusija demonstruoja nepilotuojamus tankus. Sukurti robotus ir autonominius karinė įranga V įvairios šalys Išleidžiamos didžiulės pinigų sumos, nors mažai kas nori tai pamatyti. Kaip ir dauguma chemikų ir biologų, jie nėra suinteresuoti, kad jų atradimai galiausiai būtų panaudoti kuriant chemines ar biologiniai ginklai, o dauguma dirbtinio intelekto tyrinėtojų nėra suinteresuoti jo pagrindu kurti ginklus, nes tuomet rimtas visuomenės pasipiktinimas pakenktų jų tyrimų programoms.

Savo kalboje pradžioje Generalinė asamblėja Jungtinės Tautos Niujorke rugsėjo 25 d Generalinis sekretorius Antonio Guterresas dirbtinio intelekto technologiją pavadino „pasauline rizika“ kartu su klimato kaita ir didėjančia pajamų nelygybe: „Vadinkime kas daiktais“, – sakė jis. „Mašinų, nustatančių, kas gyvena, perspektyva yra šlykšti. Guterresas tikriausiai vienintelis gali paraginti karinius departamentus susivokti: anksčiau jis sprendė konfliktus Libijoje, Jemene ir Sirijoje bei ėjo vyriausiojo pabėgėlių komisaro pareigas.

Problema ta, kad toliau tobulėjant technologijoms, robotai galės nuspręsti, ką žudyti. Ir jei vienos šalys turi tokias technologijas, o kitos ne, tai bekompromisis androidas ir dronai iš anksto nulems galimo mūšio baigtį. Visa tai vienu metu prieštarauja visiems Asimovo dėsniams. Pavojaus kūrėjai gali rimtai nerimauti, kad savarankiškai besimokantis neuroninis tinklas taps nevaldomas ir nužudys ne tik priešą, bet ir apskritai visus žmones. Tačiau net visiškai paklusnių žudikų mašinų perspektyvos nėra visai šviesios.

Aktyviausias darbas šioje srityje dirbtinis intelektas o mašininis mokymasis šiandien vyksta ne kariuomenėje, o civilinėje sferoje – universitetuose ir tokiose įmonėse kaip Google ir Facebook. Tačiau didelę šios technologijos dalį galima pritaikyti kariniams tikslams. Tai reiškia, kad galimas uždraudimas vykdyti mokslinius tyrimus šioje srityje taip pat turės įtakos civilinei raidai.

Spalio pradžioje JAV nevyriausybinė organizacija „Stop the Killer Robots Campaign“ išsiuntė laišką Jungtinėms Tautoms, reikalaudama tarptautinių teisinių apribojimų autonominių ginklų kūrimui. JT aiškiai pasakė, kad palaiko šią iniciatyvą, o 2017 m. rugpjūčio mėn. Elonas Muskas ir dalyviai Tarptautinė konferencija Jungtinių Tautų dirbtinio intelekto organizacija (IJCAI). Tačiau iš tikrųjų JAV ir Rusija tokiems apribojimams prieštarauja.

Paskutinis 70 šalių, prisijungusių prie Konvencijos dėl tam tikrų įprastinių ginklų (dėl „nežmoniškų“ ginklų), susitikimas įvyko rugpjūtį Ženevoje. Diplomatams nepavyko pasiekti bendro sutarimo, kaip būtų galima įgyvendinti pasaulinę AI politiką. Kai kurios šalys (Argentina, Austrija, Brazilija, Čilė, Kinija, Egiptas ir Meksika) išreiškė pritarimą įstatyminiam robotinių ginklų kūrimo draudimui, Prancūzija ir Vokietija pasiūlė įvesti savanorišką tokių apribojimų sistemą, tačiau Rusija, JAV. , Pietų Korėja ir Izraelis pareiškė, kad neketina riboti šioje srityje atliekamų mokslinių tyrimų ir plėtros. Rugsėjo mėn. Federica Mogherini, vyresnioji pareigūnė Europos Sąjunga dėl klausimų užsienio politika ir saugumo politika, pareiškė, kad ginklai „veikia mūsų kolektyvinis saugumas“, todėl gyvybės ir mirties klausimo sprendimas bet kokiu atveju turėtų likti žmogaus rankose.

Šaltasis karas 2018 m

JAV gynybos pareigūnai teigia, kad Jungtinėms Valstijoms reikia autonominių ginklų, kad išlaikytų savo karinį pranašumą prieš Kiniją ir Rusiją, kurios taip pat investuoja į panašius tyrimus. 2018 metų vasarį Donaldas Trumpas pareikalavo 686 mlrd. JAV dolerių krašto apsaugai kitais finansiniais metais. Šios išlaidos visada buvo gana didelės ir tik sumažėjo valdant ankstesniam prezidentui Barackui Obamai. Tačiau D. Trumpas – neoriginaliai – įrodinėjo būtinybę juos didinti technologine konkurencija su Rusija ir Kinija. 2016 metais Pentagonas per trejus metus autonominių ginklų kūrimui skyrė 18 mlrd. Tai nėra daug, bet čia reikia atsižvelgti į vieną labai svarbų veiksnį.

Didžiąją dalį dirbtinio intelekto kūrimo JAV vykdo komercinės įmonės, todėl jis yra plačiai prieinamas ir gali būti komerciškai parduodamas kitoms šalims. Pentagonas neturi monopolio Aukštosios technologijos mašininis mokymasis. Amerikos gynybos pramonė nebeatlieka savo tyrimų taip, kaip tai darė anksčiau Šaltasis karas“, bet naudoja startuolių iš Silicio slėnio, taip pat Europos ir Azijos plėtrą. Tuo pat metu Rusijoje ir Kinijoje tokius tyrimus griežtai kontroliuoja gynybos departamentai, o tai, viena vertus, riboja naujų idėjų antplūdį ir technologijų plėtrą, tačiau, kita vertus, garantuoja valstybės finansavimą ir apsauga.

„New York Times“ apskaičiavo, kad karinės išlaidos autonominėms karinėms transporto priemonėms ir nepilotuojamiems orlaiviams per ateinantį dešimtmetį viršys 120 mlrd. Tai reiškia, kad diskusijos galiausiai kyla ne dėl to, ar sukurti autonominius ginklus, bet apie tai, kokio laipsnio nepriklausomybę jiems suteikti.

Šiandien visiškai autonominių ginklų nėra, tačiau Jungtinio štabo vadų vicepirmininkas generolas Paul J. Selva dar 2016 metais sakė, kad per 10 metų Jungtinės Valstijos turės technologiją, leidžiančią sukurti ginklus, kurie gali savarankiškai nuspręsti, kas o kada žudyti. Ir nors šalys diskutuoja, ar apriboti AI, ar ne, gali būti per vėlu.

David Domingo Jiménez dalijasi modeliavimo, tekstūravimo ir apšvietimo paslaptimis Crazy, savo roboto personažu.

Įvadas

Visada tikėjau, kad asmeniniai projektai turi būti tokie pat profesionalūs kaip ir darbiniai. Naudodami aukštos kokybės modeliavimą, 8K tekstūras, tikroviškas medžiagas ir techniškai bei meniškai atliktą apšvietimą, galite sukurti unikalų personažą su charakteriu ir atmosferine scena. Darbe daug kas priklauso nuo apšvietimo, nes jis padeda viską scenoje tinkamai nustatyti. Ypatingas ačiū Viktorui Lobai už kompoziciją.

1 veiksmas: koncepcijos kūrimas

Pirmąją koncepciją paėmiau iš galvos, o kadangi nesu konceptualus menininkas, ją išgryninau naudodamas bazinį tinklelį ir nuotraukų nuorodas. Pasirinkite jums tinkamiausią ir efektyviausią darbo eigą.

Aš dirbu: bazinio tinklelio modeliavimas -> visų objektų didelio masto modeliavimas -> UV spindulių kūrimas ir galutinis modeliavimas -> UV redagavimas ir tekstūravimas -> medžiagų ir šviesų nustatymas -> galutinė kompozicija ir šviesų nustatymas -> paskelbimas

2 veiksmas: modeliavimas, 1 etapas

Paveikslėlyje parodytas roboto modelio kūrimo procesas nuo pagrindinio tinklelio iki skulptūros ZBrush ir retopologijos, dėl ko gauname tinklelį su vieno lygio padalijimu

Kai turiu pagrindinį modelį, iškart pradedu dirbti su jo detalėmis atskirai, naudodamas komandas Extrude, Bevel, Connect Edge ir Shell.

Sukūriau galutinę tinklelio versiją naudodamas kuo mažiau daugiakampių, kuriuos vėliau padidinau. Dirbau su komanda Editable Poly su Turbosmooth modifikatoriumi, pabaigoje suaktyvinau parametrą Show End Result.

3 žingsnis: modeliavimas, 2 etapas

„ZBrush“ šepečiai, tokie kaip „Standard“, „Move“, „Smooth“ ir „ClayBuildup“, buvo naudojami detalizuoti roboto drabužius.

Žinoma, yra ir mažiau sudėtingų modeliavimo metodų, leidžiančių naudoti nedidelį daugiakampių skaičių, tačiau šiame darbe buvo daug padalijimo. Todėl man labiausiai patinka greitas metodas, nors tai gali būti ne pati lengviausia.

Naudoju „ZBrush“ išskirtinai drabužių detalizavimui su tokiais šepečiais kaip „Standard“, „Move“, „Smooth“ ir „ClayBuildup“. Taip pat labai svarbu naudoti kaukes. Atlieku retopologiją Topogun.

4 veiksmas: sukurkite UV žemėlapį

UV išdėstymas buvo naudojamas UV spinduliams sukurti. 4 to paties dydžio tekstūriniai žemėlapiai ir su tas pats numeris daugiakampiai

Norėdami sukurti UV spindulius, rekomenduoju naudoti UV Layout, nes tai stabili ir intuityvi programa. Prieš pradėdami pjaustyti objektą, turite atsiminti, kad kuo mažiau modelio pjūvių, tuo geriau. Modelius visada pjaunu mažiausiai fotoaparatui matomose vietose.

Šiam projektui sukūriau 4 vienodo dydžio žemėlapius su tuo pačiu daugiakampių skaičiumi, sugrupavau taip, kaip man labiausiai tinka, kad jie kuo patogiau tilptų UV erdvėje. Man nesvarbu, kaip apvalkalai yra išdėstyti UV spinduliuose, nes aš visada kuriu atskirus ID žemėlapius skirtingos medžiagos.

5 žingsnis: tekstūravimas

Įvairių tekstūrų žemėlapių kūrimas 8K raiška

Pirmiausia kuriu įvairius žemėlapius 8K raiška. Specialiai šiam darbui sukūriau ID, AO, Displacement, Normal, Cavity ir Snow žemėlapius. Norėdami juos gauti naudodami 3Ds Max: atvaizdavimas -> Pateikti paviršiaus žemėlapį. ZBrush juos galima gauti naudojant ZPlugin -> Multi Map Exporter.

6 veiksmas: tekstūravimas „Photoshop“.

Šiame etape jau dirbame su 4 tekstūrų žemėlapiais su 8K raiška

Šie žemėlapiai naudojami ne tik tekstūrai detalizuoti, su jais ypač patogu dirbti, nes nereikia išeiti iš „Photoshop“. Dėl to galiu vizualiai įvertinti mūsų modelio tūrį. Crazy personažas susideda iš 4 8K raiškos tekstūrų, atitinkančių BMP ir SPC korteles.

7 veiksmas: tęskite darbą su tekstūromis

Norėdami gauti geras tekstūras, turite būti kūrybingi ir greitai dirbti

Visada dirbu su didelių plytelių faktūromis, nes taip lengviau sumažinti pradinį vaizdo dydį, o kaukių pagalba labai lengvai paslėpti nereikalingą vietą. Norėdami gauti geras tekstūras, turite būti kūrybingi ir greitai dirbti. Šiame projekte naudojau nuotraukas.

Rekomenduočiau naudoti ZBrush, Mudbox arba Mari, kad dažytumėte tekstūras ant tinklelio. Purvas, įbrėžimai, rūdys 3D modeliui suteiks tikroviškumo, tačiau nepersistenkite, kitaip rezultatas atrodys baisus. Bet kokie papildomi modelio papildymai turi būti derinami su pagrindine medžiaga, pavyzdžiui, mano atveju metalas, magnetinė danga, smėlis ir dulkės, derinant spalvų gamą ir apšvietimą.

8 veiksmas: medžiagų nustatymas

Medžiagų naudojimas leidžia vizualiai atskirti skirtingas modelio dalis viena nuo kitos

Šiame darbe naudojau įvairias metalo medžiagas (plieną, geležį, aliuminį); matinis ir blizgus plastikas; taip pat oda, audinys ir guma. Visoms šioms medžiagoms priskirti tik 3 tekstūrų žemėlapiai: difuzinis, veidrodinis ir nelygus. Įvykio vietoje sudėtingų medžiagų nebuvo, išskyrus televizoriaus ekraną ir metalinį kirvio geležtę.

Visoms medžiagoms, išskyrus Reflection Glossiness ir Fresnel Reflections, kurių tikslūs skaičiai buvo įvesti, buvo naudojama apšvietimo informacija, daugiausia Fresnel IOR, taip pat duomenys apie Bump.

9 veiksmas: galutinis šviesos reguliavimas

Galutinis apšvietimo nustatymas taip pat turėtų apšviesti veikėjo charakterį.

Galutinis šviesos nustatymas turėtų apšviesti veikėjo charakterį, palankiai jį pritaikyti prie jo aplinką. Savo personažui norėjau sukurti agresyvią atmosferą. Naudojau naktinį apšvietimą ir šiek tiek pašviesinau sceną su HDRI, sustiprindamas efektą elektros šviesa. Naudojami VRayLights atspindžiai paryškinti ir per didelis kontrastas pašalinamas.

Norėdami nukreipti šviesą ir gauti aiškiai įskaitomą personažo siluetą, naudojau „SpotLights“. Be to, fonas buvo sukurtas naudojant VrayLightsMaterial, SpotLights naudojau tekstūras, langus ir kitus atributus, kad kažkaip nurodyčiau pastatą. Taip pat naudojau „SpotLights“, kad apšviesčiau visą sceną.

„VrayLights“ buvo naudojami atspindžiui sustiprinti ir pernelyg dideliam kontrastui pašalinti

10 veiksmas: tolesnis apdorojimas

Šio tipo projektuose tai yra svarbiausias etapas. Sceną atlikau viena spalvų schema, pabrėžiau apšviestas sritis, pakoregavau kontrastą ir suliejau kai kurias kūrinio dalis, kad sukurčiau gylio efektą, priversdamas žiūrovą sutelkti dėmesį. Visi šie veiksmai yra labai svarbūs norint gauti gerą rezultatą.

„Photoshop“, norėdamas pasiekti „bokeh“ efektą, dirbau su Saturation, Curves ir Levels. Tada sukonfigūravau tekstūrų žemėlapius, kurie bus pateikiami: atspindys, alfa ir veidrodinis. Kaip rezultatas, mes gauname sudėtingas vaizdas, kuris žiūrovui perteikia emociją ir istoriją. Padedama veikėjo Crazy demonstruoju visą eilę savo darbų ir meninį stilių, kuriuo dirbu.

Bendrovė Clearpath Robotics Prieš šešerius metus įkūrė trys kolegijos draugai, kurie dalijosi aistra kurti dalykus. 80 bendrovės specialistų išbando nelygios vietovės robotus, tokius kaip Husky – keturių ratų robotą, kurį naudoja JAV Gynybos departamentas.

Jie taip pat gamina dronus ir netgi pastatė robotą valtį, pavadintą Kingfisher. Tačiau yra vienas dalykas, kurį jie niekada nepastatys: robotas, kuris gali nužudyti.

„Clearpath“ yra pirmoji ir kol kas vienintelė robotikos įmonė, pasižadėjusi nekurti robotų žudikų. Tokį sprendimą pernai priėmė bendrovės vienas iš įkūrėjų ir CTO Ryanas Garipay, ir iš tikrųjų į įmonę pritraukė ekspertų, kuriems patiko unikali Clearpath etinė pozicija.

haskis

Robotų kompanijų etika pastaruoju metu iškilo į pirmą planą. Matote, mes esame viena koja ateityje, kurioje bus robotai žudikai. Ir mes dar nesame jiems pasiruošę.

Žinoma, laukia dar ilgas kelias. Pavyzdžiui, Korėjos Dodam sistemos kuria autonominį robotizuotą bokštelį, vadinamą Super aEgis II. Jis naudoja terminio vaizdo kameras ir lazerinius tolimačius, kad aptiktų ir atakuotų taikinius, esančius iki 3 kilometrų atstumu. Pranešama, kad JAV taip pat eksperimentuoja su autonominėmis raketų sistemomis.

Du žingsniai nuo Terminatorių

Šiuo metu karinius dronus, tokius kaip Predator, valdo žmonės, tačiau Garipai teigia, kad jie greitai taps visiškai automatiniai ir autonomiški. Ir tai jam kelia nerimą. Labai. „Mirtinai autonominės ginklų sistemos dabar gali nuriedėjo nuo surinkimo linijos. Tačiau mirtinų ginklų sistemų, kurios bus pagamintos laikantis etikos standartų, net nėra planuose.

Garipay problema yra ta tarptautinės teisės. Karo metu visada pasitaiko situacijų, kai jėgos panaudojimas atrodo būtinas, tačiau tai gali kelti pavojų ir nekaltiems aplinkiniams. Kaip sukurti robotus žudikus, kurie bet kurioje situacijoje priims teisingus sprendimus? Kaip galime patys nustatyti, koks turėtų būti teisingas sprendimas?

Panašias problemas jau matome ir autonominio transporto pavyzdyje. Tarkime, per kelią perbėga šuo. Ar robotas automobilis turėtų suktis, kad nepataikytų šuns, bet keltų pavojų jo keleiviams? O jei tai ne šuo, o vaikas? Arba autobusas? Dabar įsivaizduokite karo zoną.

„Negalime susitarti, kaip parašyti tokio automobilio vadovą“, – sako Garipay. "Ir dabar mes taip pat norime pereiti prie sistemos, kuri turėtų savarankiškai nuspręsti, ar naudoti mirtiną jėgą, ar ne."

Kurkite šaunius daiktus, o ne ginklus

Peteris Asaro, kaip Tarptautinio robotų armijų kontrolės komiteto įkūrėjas, pastaruosius kelerius metus lobizavo už robotų žudikų uždraudimą tarptautinėje bendruomenėje. Jis mano, kad atėjo laikas „aiškiam tarptautiniam draudimui juos kurti ir naudoti“. Pasak jo, tai leis tokioms įmonėms kaip „Clearpath“ ir toliau gaminti šaunius gaminius, „nesijaudinant, kad jų produktai gali būti naudojami siekiant pažeisti žmonių teises ir kelti grėsmę civiliams“.

Autonominės raketos domina kariuomenę, nes išsprendžia taktinę problemą. Pavyzdžiui, kai nuotoliniu būdu valdomi dronai veikia kovinėje aplinkoje, priešas dažnai užstringa jutikliuose ar tinklo jungtyje, kad žmogus operatorius negalėtų matyti, kas vyksta, ar valdyti drono.

Garipay teigia, kad užuot kūrę raketas ar dronus, galinčius savarankiškai nuspręsti, kurį taikinį atakuoti, kariuomenė turėtų išleisti pinigus jutiklių ir apsaugos nuo trukdžių technologijoms tobulinti.

„Kodėl mums nepasiėmus investicijų, kurias žmonės norėtų skirti statybai autonominiai robotai-žudikų, o ne investuoti į esamų technologijų efektyvumo gerinimą? - jis sako. „Jei mes iškelsime iššūkį ir įveiksime šią kliūtį, galime priversti šią technologiją padėti žmonėms, o ne tik kariuomenei.

Pastaruoju metu dažnėja ir pokalbiai apie dirbtinio intelekto keliamus pavojus. Elonas Muskas nerimauja, kad pabėgęs dirbtinis intelektas gali sunaikinti mums žinomą gyvybę. Praėjusį mėnesį Muskas dirbtinio intelekto tyrimams paaukojo 10 mln.

Vienas iš pagrindinių klausimų apie tai, kaip AI paveiks mūsų pasaulį, yra tai, kaip jis susilies su robotika. Kai kurie, pavyzdžiui, Baidu tyrinėtojas Andrew Ng, nerimauja, kad artėjanti AI revoliucija atims iš žmonių darbo vietas. Kiti, tokie kaip Garipay, baiminasi, kad tai gali nusinešti jų gyvybes.

Garipay tikisi, kad jo kolegos mokslininkai ir mašinų gamintojai pagalvos, ką daro. Štai kodėl Clearpath Robotics stojo į žmonių pusę. „Nors mes, kaip įmonė, negalime skirti 10 mln.

„Clearpath Robotics“ prieš šešerius metus įkūrė trys kolegijos draugai, kurie dalijosi aistra kurti dalykus. 80 bendrovės specialistų išbando nelygios vietovės robotus, tokius kaip Husky – keturių ratų robotą, kurį naudoja JAV Gynybos departamentas. Jie taip pat gamina dronus ir netgi pastatė robotą valtį, pavadintą Kingfisher. Tačiau yra vienas dalykas, kurį jie niekada tikrai nesukurs: robotas, galintis nužudyti.

„Clearpath“ yra pirmoji ir kol kas vienintelė robotikos įmonė, pasižadėjusi nekurti robotų žudikų. Tokį sprendimą pernai priėmė bendrovės vienas iš įkūrėjų ir CTO Ryanas Garipay, ir iš tikrųjų į įmonę pritraukė ekspertų, kuriems patiko unikali Clearpath etinė pozicija. Robotų kompanijų etika pastaruoju metu iškilo į pirmą planą. Matote, mes esame viena koja ateityje, kurioje bus robotai žudikai. Ir mes dar nesame jiems pasiruošę.

Žinoma, laukia dar ilgas kelias. Pavyzdžiui, Korėjos Dodam sistemos kuria autonominį robotizuotą bokštelį, vadinamą Super aEgis II. Jis naudoja terminio vaizdo kameras ir lazerinius tolimačius, kad aptiktų ir atakuotų taikinius, esančius iki 3 kilometrų atstumu. Pranešama, kad JAV taip pat eksperimentuoja su autonominėmis raketų sistemomis.

Du žingsniai nuo Terminatorių

Šiuo metu karinius dronus, tokius kaip Predator, valdo žmonės, tačiau Garipai teigia, kad jie greitai taps visiškai automatiniai ir autonomiški. Ir tai jam kelia nerimą. Labai. „Mirtinai autonominės ginklų sistemos dabar gali nuriedėjo nuo surinkimo linijos. Tačiau mirtinų ginklų sistemų, kurios bus pagamintos laikantis etikos standartų, net nėra planuose.

Garipay problema yra tarptautinės teisės. Karo metu visada pasitaiko situacijų, kai jėgos panaudojimas atrodo būtinas, tačiau tai gali kelti pavojų ir nekaltiems aplinkiniams. Kaip sukurti robotus žudikus, kurie bet kurioje situacijoje priims teisingus sprendimus? Kaip galime patys nustatyti, koks turėtų būti teisingas sprendimas?

Panašias problemas jau matome ir autonominio transporto pavyzdyje. Tarkime, per kelią perbėga šuo. Ar robotas automobilis turėtų suktis, kad nepataikytų šuns, bet keltų pavojų jo keleiviams? O jei tai ne šuo, o vaikas? Arba autobusas? Dabar įsivaizduokite karo zoną.

„Negalime susitarti, kaip parašyti tokio automobilio vadovą“, – sako Garipay. "Ir dabar mes taip pat norime pereiti prie sistemos, kuri turėtų savarankiškai nuspręsti, ar naudoti mirtiną jėgą, ar ne."

Kurkite šaunius daiktus, o ne ginklus

Peteris Asaro, kaip Tarptautinio robotų armijų kontrolės komiteto įkūrėjas, pastaruosius kelerius metus lobizavo už robotų žudikų uždraudimą tarptautinėje bendruomenėje. Jis mano, kad atėjo laikas „aiškiam tarptautiniam draudimui juos kurti ir naudoti“. Pasak jo, tai leis tokioms įmonėms kaip „Clearpath“ ir toliau gaminti šaunius gaminius, „nesijaudinant, kad jų produktai gali būti naudojami siekiant pažeisti žmonių teises ir kelti grėsmę civiliams“.

Autonominės raketos domina kariuomenę, nes išsprendžia taktinę problemą. Pavyzdžiui, kai nuotoliniu būdu valdomi dronai veikia kovinėje aplinkoje, priešas dažnai užstringa jutikliuose ar tinklo jungtyje, kad žmogus operatorius negalėtų matyti, kas vyksta, ar valdyti drono.

Garipay teigia, kad užuot kūrę raketas ar dronus, galinčius savarankiškai nuspręsti, kurį taikinį atakuoti, kariuomenė turėtų išleisti pinigus jutiklių ir apsaugos nuo trukdžių technologijoms tobulinti.

„Kodėl mums nepasinaudojus investicijomis, kurias žmonės norėtų skirti autonominių robotų žudikų kūrimui, ir nepanaudojus jų esamų technologijų veiksmingumui? - jis sako. „Jei mes iškelsime iššūkį ir įveiksime šią kliūtį, galime priversti šią technologiją padėti žmonėms, o ne tik kariuomenei.

Pastaruoju metu dažnėja ir pokalbiai apie dirbtinio intelekto keliamus pavojus. Elonas Muskas nerimauja, kad pabėgęs dirbtinis intelektas gali sunaikinti mums žinomą gyvybę. Praėjusį mėnesį Muskas dirbtinio intelekto tyrimams paaukojo 10 mln. Vienas iš pagrindinių klausimų apie tai, kaip AI paveiks mūsų pasaulį, yra tai, kaip jis susilies su robotika. Kai kurie, pavyzdžiui, Baidu tyrinėtojas Andrew Ng, nerimauja, kad artėjanti AI revoliucija atims iš žmonių darbo vietas. Kiti, tokie kaip Garipay, baiminasi, kad tai gali nusinešti jų gyvybes.

Garipay tikisi, kad jo kolegos mokslininkai ir mašinų gamintojai pagalvos, ką daro. Štai kodėl Clearpath Robotics stojo į žmonių pusę. „Nors mes, kaip įmonė, negalime skirti 10 mln.