Nočná mora pokroku: budú zakázaní zabijaci roboti? Dmitrij, ideologický inšpirátor a všelijaký odborník

Elon Musk nedávno vyjadril svoj silný odpor k tomu, aby sa umelá inteligencia používala na vytváranie zabijáckych robotov. Nehovoríme zatiaľ o Terminátoroch, ale o robotických systémoch schopných vykonávať niektoré úlohy, ktoré majú zvyčajne na starosti vojaci. Záujem armády o túto tému je pochopiteľný, no ich ďalekosiahle plány mnohých strašia.

Ale nielen moderní bojovníci snívajú a vidia guľomety, ktoré dokážu nahradiť desať, ba aj sto vojakov súčasne. Tieto myšlienky navštívili hlavy postáv z rôznych období. Niekedy sa niektoré nápady zrealizovali a vyzerali celkom dobre.

Robot rytier Da Vinci

Leonardo bol génius takmer v každej oblasti. Podarilo sa mu dosiahnuť úspech takmer vo všetkých oblastiach, o ktoré prejavil záujem. V 15. storočí vytvoril robotického rytiera (samozrejme, slovo „robot“ sa vtedy nepoužívalo).

Stroj bol schopný sedieť, stáť, chodiť, pohybovať hlavou a rukami. To všetko tvorca mechanického rytiera dosiahol pomocou sústavy pák, prevodov a prevodov.

Rytier bol znovu vytvorený v našej dobe - funkčný prototyp bol postavený v roku 2002. Bol vytvorený „na základe“ projektu Da Vinci od Marka Rosheima.

RC čln Tesla

V roku 1898 vynálezca Nicola Testa ukázal svetu prvý vynález svojho druhu – diaľkovo ovládané vozidlo (malý čln). Demonštrácia sa konala v New Yorku. Tesla ovládal čln, manévroval a predvádzal rôzne akcie akoby kúzlom.

Tesla sa neskôr pokúsil predať svoj ďalší vynález americkej armáde – niečo ako rádiom riadené torpédo. Ale z nejakého dôvodu armáda odmietla. Je pravda, že svoj výtvor opísal nie ako torpédo, ale ako robota, mechanického človeka, ktorý je schopný vykonávať komplexnú prácu namiesto svojich tvorcov.

Rádiom riadené tanky ZSSR

Áno, inžinieri Sovietsky zväz neboli na to vystrihnutí. V roku 1940 vytvorili rádiom riadené bojové vozidlá na základni ľahký tank T-26. Prevádzkový dosah ústredne je viac ako kilometer.

Operátori týchto vojenských terminátorov mohli spustiť paľbu z guľometov, použiť delo a plameňomet. Pravda, nevýhodou tejto technológie bolo, že neexistovala spätná väzba. To znamená, že operátor mohol priamo pozorovať činnosť tanku na diaľku. Prirodzene, efektivita konania operátora bola v tomto prípade relatívne nízka.

Toto je prvý príklad vojenského robota v akcii.

Goliáš

Nacisti vytvorili niečo podobné, no namiesto toho, aby konvenčné tanky vybavili rádiovým ovládaním, vytvorili miniatúrne pásové systémy. Dali sa ovládať na diaľku. Goliášovia začali s výbušninami. Myšlienka bola nasledovná: šikovné dieťa sa dostalo k „dospelému“ nepriateľskému tanku a keď bolo blízko, vykonalo príkaz operátora, aby všetko zničil výbuchom. Nemci vytvorili elektrickú verziu systému aj mini-tank so spaľovacím motorom. Celkovo bolo vyrobených asi 7 000 takýchto systémov.

Poloautomatické protilietadlové delá

Tieto systémy boli vyvinuté aj počas druhej svetovej vojny. Na ich vzniku mal podiel zakladateľ kybernetiky Norbert Wiener. On a jeho tím dokázali tvoriť protilietadlové systémy, ktorí si sami upravovali presnosť streľby. Boli vybavené technológiou, ktorá umožňovala predpovedať, kde sa najbližšie objavia nepriateľské lietadlá.

Inteligentné zbrane našej doby

V 50. rokoch minulého storočia americká armáda v snahe vyhrať vojnu vo Vietname propagovala laserom navádzané zbrane, ako aj autonómne lietadlá, v podstate drony.

Pravda, pri výbere cieľa si vyžadovali ľudskú pomoc. Ale už to bolo blízko tomu, čo je teraz.

Predátor

O týchto dronoch už počul snáď každý. MQ-1 Predator predstavila americká armáda mesiac po udalostiach z 11. septembra. Teraz sú Predators najbežnejšími vojenskými dronmi na svete. Majú tiež starších príbuzných - Reaper UAV.

Sapéri

Áno, okrem robotov zabijakov existujú aj roboti sapéri. Teraz sú veľmi bežné, začali sa používať pred niekoľkými rokmi v Afganistane a na iných horúcich miestach. Mimochodom, tieto roboty boli vyvinuté spoločnosťou iRobot - je to spoločnosť, ktorá vytvára najobľúbenejšie čistiace roboty na svete. Hovoríme samozrejme o Roombe a Scoobe. V roku 2004 bolo vyrobených 150 týchto robotov (nie vysávačov, ale sapérov) a o štyri roky neskôr - už 12 000.

Teraz sa armáda úplne rozptýlila. Umelá inteligencia (jej slabá forma) sľubuje veľké príležitosti. USA sa chystajú naplno využiť tieto príležitosti. Tu vytvárame novú generáciu zabijackych robotov s kamerami, radarmi, lidarmi a zbraňami.

Práve oni strašia Elona Muska a s ním aj mnoho ďalších bystrých myslí z rôznych oblastí činnosti.

Zatiaľ čo premiér Dmitrij Medvedev a Arkadij Volozh viezli bezpilotné Yandex.Taxi okolo Skolkova, vojenskí inžinieri zisťovali, ako prispôsobiť technológie bezpilotných vozidiel na výrobu nových zbraní.

V skutočnosti technológia nie je taká, ako sa zdá. Problémom celej technologickej evolúcie je, že hranica medzi komerčnými robotmi „na celý život“ a vojenskými zabijakmi je neuveriteľne tenká a jej prekročenie nestojí nič. Zatiaľ si vyberajú trasu a zajtra si budú môcť vybrať, ktorý cieľ zničia.

Nie je to prvýkrát v histórii, čo technologický pokrok spochybnil samotnú existenciu ľudstva: po prvé, vedci vytvorili chemické, biologické a jadrová zbraň, teraz - „autonómne zbrane“, to znamená roboty. Jediný rozdiel je v tom, že doteraz boli zbrane „hromadného ničenia“ považované za nehumánne – to znamená, že si nevyberajú, koho zabijú. Dnes sa perspektíva zmenila: zbraň, ktorá bude zabíjať s osobitnou diskrimináciou a vyberá si obete podľa vlastného vkusu, sa zdá byť oveľa nemorálnejšia. A ak by nejakú bojovnú mocnosť zastavil fakt, že ak by použila biologické zbrane, trpeli by všetci naokolo, tak s robotmi je všetko komplikovanejšie – dajú sa naprogramovať na ničenie špecifickej skupiny objektov.

V roku 1942, keď americký spisovateľ Isaac Asimov sformuloval Tri zákony robotiky, sa to všetko zdalo vzrušujúce, ale úplne nereálne. Tieto zákony stanovovali, že robot nemôže a nemal by ublížiť alebo zabiť človeka. A musia bez pochýb poslúchať vôľu človeka, okrem prípadov, keď by jeho príkazy odporovali vyššie uvedenému imperatívu. Teraz, keď sa autonómne zbrane stali realitou a môžu padnúť do rúk teroristov, ukazuje sa, že programátori akosi zabudli vložiť Asimovove zákony do svojho softvéru. To znamená, že roboty môžu predstavovať nebezpečenstvo a žiadne humánne zákony alebo zásady ich nemôžu zastaviť.

Raketa vyvinutá Pentagonom detekuje ciele sama vďaka softvér umelá inteligencia (AI) identifikuje ciele pre britskú armádu a Rusko zobrazuje bezpilotné tanky. Rozvíjať robotiku a autonómnosť vojenskej techniky V rôznych krajinách Míňa sa obrovské množstvo peňazí, hoci len málokto to chce vidieť v praxi. Ako väčšina chemikov a biológov nemajú záujem na tom, aby sa ich objavy v konečnom dôsledku použili na vytvorenie chemických resp biologické zbrane a väčšina výskumníkov AI sa nezaujíma o vytváranie zbraní na ich základe, pretože potom by vážne verejné pobúrenie poškodilo ich výskumné programy.

Vo svojom príhovore na úvod Valného zhromaždenia Organizácia spojených národov v New Yorku 25. septembra Generálny tajomník Antonio Guterres označil technológiu AI za „globálne riziko“ spolu so zmenou klímy a rastúcou nerovnosťou príjmov: „Nazvime veci pravými menami,“ povedal. "Vyhliadka, že stroje budú určovať, kto žije, je nechutná." Guterres je pravdepodobne jediný, kto môže naliehať na vojenské oddelenia, aby sa spamätali: predtým riešil konflikty v Líbyi, Jemene a Sýrii a pôsobil ako vysoký komisár pre utečencov.

Problém je, že s ďalším vývojom technológií sa budú môcť roboty rozhodnúť, koho zabijú. A ak niektoré krajiny majú takéto technológie a iné nie, tak nekompromisné androidy a drony predurčia výsledok potenciálnej bitky. To všetko zároveň odporuje všetkým Asimovovým zákonom. Alarmisti sa môžu vážne obávať, že sa samoučiaca sa neurónová sieť vymkne kontrole a zabije nielen nepriateľa, ale celkovo všetkých ľudí. Vyhliadky aj na úplne poslušné stroje zabijakov však nie sú vôbec svetlé.

Najviac aktívna práca v teréne umela inteligencia a strojové učenie sa dnes nevykonáva v armáde, ale v civilnej sfére – na univerzitách a vo firmách ako Google a Facebook. Ale veľká časť tejto technológie môže byť prispôsobená na vojenské účely. To znamená, že prípadný zákaz výskumu v tejto oblasti ovplyvní aj civilný vývoj.

Začiatkom októbra poslala americká mimovládna organizácia Stop Killer Robots Campaign list Organizácii Spojených národov, v ktorom žiadala, aby bol na medzinárodnej legislatívnej úrovni obmedzený vývoj autonómnych zbraní. OSN dala jasne najavo, že podporuje túto iniciatívu a v auguste 2017 sa k nej pridal Elon Musk a jej účastníci. Medzinárodná konferencia Organizácia Spojených národov pre umelú inteligenciu (IJCAI). Ale v skutočnosti sú Spojené štáty a Rusko proti takýmto obmedzeniam.

V auguste sa v Ženeve uskutočnilo posledné stretnutie 70 krajín, ktoré sú zmluvnými stranami Dohovoru o určitých konvenčných zbraniach (neľudských zbraniach). Diplomati neboli schopní dosiahnuť konsenzus o tom, ako by sa dala implementovať globálna politika AI. Niektoré krajiny (Argentína, Rakúsko, Brazília, Čile, Čína, Egypt a Mexiko) vyjadrili podporu legislatívnemu zákazu vývoja robotických zbraní, Francúzsko a Nemecko navrhli zaviesť dobrovoľný systém takýchto obmedzení, ale Rusko, USA, Južná Kórea a Izrael vyhlásili, že nemajú v úmysle obmedziť výskum a vývoj v tejto oblasti. V septembri Federica Mogherini, vysoká úradníčka Európska únia na otázky zahraničná politika a bezpečnostnej politiky, uviedol, že zbrane „ovplyvňujú naše kolektívnej bezpečnosti„Rozhodnutie o otázke života a smrti musí teda v každom prípade zostať v rukách človeka.

Studená vojna 2018

Americkí predstavitelia obrany sa domnievajú, že autonómne zbrane sú potrebné na to, aby si Spojené štáty udržali vojenskú prevahu nad Čínou a Ruskom, ktoré tiež investujú do podobného výskumu. Vo februári 2018 Donald Trump požadoval 686 miliárd dolárov na obranu krajiny v budúcom fiškálnom roku. Tieto náklady boli vždy dosť vysoké a znížili sa až za predchádzajúceho prezidenta Baracka Obamu. Trump však – neoriginálne – argumentoval potrebou ich navýšenia technologickou konkurenciou s Ruskom a Čínou. V roku 2016 rozpočet Pentagonu vyčlenil 18 miliárd dolárov na vývoj autonómnych zbraní počas troch rokov. To nie je veľa, no tu treba brať do úvahy jeden veľmi dôležitý faktor.

Väčšinu vývoja AI v USA vykonávajú komerčné spoločnosti, takže je široko dostupná a môže sa komerčne predávať do iných krajín. Pentagon na to nemá monopol Hi-tech strojové učenie. Americký obranný priemysel už nevykonáva svoj vlastný výskum rovnakým spôsobom ako predtým studená vojna“, ale využíva vývoj startupov zo Silicon Valley, ako aj z Európy a Ázie. V Rusku a Číne je zároveň takýto výskum pod prísnou kontrolou rezortov obrany, čo na jednej strane obmedzuje prílev nových nápadov a rozvoj technológií, no na druhej strane garantuje vládne financovanie a ochranu.

New York Times odhaduje, že vojenské výdavky na autonómne vojenské vozidlá a bezpilotné lietadlá presiahnu v nasledujúcom desaťročí 120 miliárd dolárov. To znamená, že diskusia nakoniec nevedie k tomu, či vytvoriť autonómne zbrane, ale do akej miery im dať nezávislosť.

Dnes úplne autonómne zbrane neexistujú, ale podpredseda Zboru náčelníkov štábov generál Paul J. Selva z vzdušných síl už v roku 2016 povedal, že do 10 rokov budú mať Spojené štáty technológiu na výrobu zbraní, ktoré môžu nezávisle rozhodovať o tom, kto a kedy zabíjať. A zatiaľ čo krajiny diskutujú o tom, či obmedziť AI alebo nie, môže byť príliš neskoro.

David Domingo Jiménez zdieľa tajomstvá modelovania, textúrovania a osvetlenia Crazyho, svojej postavy robota.

Úvod

Vždy som veril, že osobné projekty by mali byť rovnako profesionálne ako pracovné. Pomocou high-poly modelovania, 8K textúr, realistických materiálov a technicky a umelecky prevedeného osvetlenia môžete vytvoriť jedinečnú postavu s charakterom a atmosférickou scénou. Pri práci veľa závisí od osvetlenia, pretože pomáha správne nastaviť všetko na scéne. Špeciálne poďakovanie patrí Victorovi Lobovi za kompozíciu.

Krok 1: Vytvorenie konceptu

Prvý koncept som zobral z hlavy a keďže nie som konceptuálny umelec, doladil som ho pomocou podkladovej siete a foto referencií. Vyberte si pre vás najvhodnejší a najefektívnejší pracovný postup.

Potrubie, na ktorom pracujem, je: modelovanie základnej siete -> vysoko-poly modelovanie všetkých objektov -> vytváranie UV a finálne modelovanie -> UV úprava a textúrovanie -> nastavenie materiálov a svetiel -> konečná kompozícia a nastavenie svetiel -> príspevok

Krok 2: Modelovanie, Fáza 1

Na obrázku je znázornený proces vytvárania modelu robota od základnej siete až po vyrezávanie v ZBrush a retopológii, výsledkom čoho je sieť s jednou úrovňou delenia.

Keď mám základný model, okamžite začnem pracovať na jeho detailoch individuálne pomocou príkazov Extrude, Bevel, Connect Edge a Shell.

Finálnu verziu siete som vytvoril pomocou čo najmenšieho počtu polygónov, ktoré som neskôr zväčšil. Pracoval som s príkazom Editable Poly s modifikátorom Turbosmooth, nakoniec som aktivoval parameter Show End Result.

Krok 3: Modelovanie, fáza 2

Na detailovanie oblečenia robota boli použité štetce ZBrush ako Standard, Move, Smooth a ClayBuildup.

Samozrejme, existujú aj menej zložité metódy modelovania, ktoré umožňujú použiť malý počet polygónov, no v tejto práci bolo veľa podrozdelení. Preto mám najradšej rýchla metóda, aj keď to nemusí byť najjednoduchšie.

ZBrush používam výhradne na detailovanie oblečenia pomocou štetcov ako Standard, Move, Smooth a ClayBuildup. Je tiež veľmi dôležité používať masky. Robím retopológiu v Topogune.

Krok 4: Vytvorte UV mapu

Na vytvorenie UV sa použilo rozloženie UV. 4 textúrové mapy rovnakej veľkosti a s rovnaké číslo polygóny

Na vytváranie UV odporúčam použiť UV Layout, keďže ide o stabilný a intuitívne jednoduchý program. Predtým, ako začnete rezať objekt, musíte si uvedomiť, že čím menej rezov na modeli, tým lepšie. Vždy strihám modely v oblastiach najmenej viditeľných pre fotoaparát.

Pre tento projekt som vytvoril 4 mapy rovnakej veľkosti s rovnakým počtom polygónov, ktoré som zoskupil tak, ako mi to najviac vyhovovalo, aby boli čo najpohodlnejšie umiestnené v UV priestore. Nezáleží mi na tom, ako presne sú škrupiny umiestnené v UV, pretože vždy vytváram samostatné ID karty pre rôzne materiály.

Krok 5: Textúra

Vytváranie rôznych máp textúr v rozlíšení 8K

Najprv vytvorím rôzne mapy v rozlíšení 8K. Konkrétne pre túto prácu som vytvoril mapy ID, AO, Displacement, Normal, Cavity a Snow. Ak ich chcete získať v 3Ds Max: Rendering -> Render Surface Map. V ZBrush ich možno získať pomocou ZPlugin -> Multi Map Exporter.

Krok 6: Textúra vo Photoshope

V tejto fáze už pracujeme na 4 mapách textúr s rozlíšením 8K

Tieto mapy sa nepoužívajú len na detaily textúr, ale je obzvlášť pohodlné s nimi pracovať, pretože nie je potrebné opustiť Photoshop. Vďaka tomu viem vizuálne odhadnúť objem nášho modelu. Postava Crazy pozostáva zo 4 textúr s rozlíšením 8K, ktoré zodpovedajú kartám BMP a SPC.

Krok 7: Pokračujte v práci na textúrach

Ak chcete získať dobré textúry, musíte byť kreatívni a pracovať rýchlo

Vždy pracujem s veľkými textúrami dlaždíc, pretože je jednoduchšie zmenšiť pôvodnú veľkosť obrázka a pomocou masiek veľmi ľahko skryjete nepotrebnú oblasť. Ak chcete získať dobré textúry, musíte byť kreatívni a pracovať rýchlo. V tomto projekte som použil fotografie.

Na maľovanie textúr na sieť by som odporučil použiť ZBrush, Mudbox alebo Mari. Nečistoty, škrabance, hrdza dodajú 3D modelu na realite, nepreháňajte to však, inak bude výsledok vyzerať hrozne. Akékoľvek dodatočné doplnky k modelu je potrebné skombinovať so základným materiálom, napríklad v mojom prípade s kovom, magnetickým povlakom, pieskom a prachom, pri zladení farebnej schémy a osvetlenia.

Krok 8: Nastavenie materiálov

Použitie materiálov umožňuje vizuálne oddeliť rôzne časti modelu od seba

V tejto práci som použil rôzne kovové materiály (oceľ, železo, hliník); matný a lesklý plast; ako aj koža, látka a guma. Všetkým týmto materiálom sú priradené iba 3 mapy textúr: Diffuse, Specular a Bump. Na scéne neboli žiadne zložité materiály, okrem televíznej obrazovky a kovovej čepele sekery.

Pre všetky materiály okrem Reflection Glossiness a Fresnel Reflections, pre ktoré boli zadané presné čísla, boli použité informácie o osvetlenosti, hlavne pre Fresnel IOR, ako aj údaje pre Bump.

Krok 9: Konečné nastavenie svetla

Konečné nastavenie osvetlenia by malo osvetliť aj charakter postavy.

Konečné nastavenie svetla by malo osvetliť charakter postavy a priaznivo zapadnúť do nej životné prostredie. Pre moju postavu som chcel vytvoriť agresívnu atmosféru. Použil som nočné osvetlenie a scénu som trochu zosvetlil pomocou HDRI, pričom som efekt umocnil elektrickým svetlom. Použité VRayLights na zvýraznenie odrazov a odstránenie nadmerného kontrastu.

Aby som nasmeroval svetlo a získal jasne čitateľnú siluetu postavy, použil som SpotLights. Okrem toho bolo pozadie vytvorené pomocou VrayLightsMaterial, pre SpotLights som použil textúry, okná a ďalšie atribúty, aby som budovu nejako naznačil. Na osvetlenie celej scény som použil aj SpotLights.

VrayLights boli použité na zvýraznenie odrazov a odstránenie nadmerného kontrastu

Krok 10: Následné spracovanie

V tomto type projektu je to najdôležitejšia fáza. Scénu som zrealizoval v jednej farebnej schéme, zdôraznil osvetlené plochy, upravil kontrast a rozmazal niektoré časti diela, aby som vytvoril efekt hĺbky, čo núti diváka sústrediť sa. Všetky tieto kroky sú veľmi dôležité na dosiahnutie dobrého výsledku.

Vo Photoshope som na dosiahnutie efektu bokeh pracoval s Saturation, Curves a Levels. Potom som nakonfiguroval textúrové mapy, ktoré sa budú vykresľovať: Reflection, Alpha a Specular. V dôsledku toho dostaneme komplexný obraz, ktorý divákovi sprostredkuje emócie a históriu. Pomocou postavy Crazy demonštrujem celú sériu svojich diel a umelecký štýl, v ktorom pracujem.

Spoločnosť Clearpath Robotics bola založená pred šiestimi rokmi tromi priateľmi z vysokej školy, ktorí zdieľali vášeň pre výrobu vecí. 80 špecialistov spoločnosti testuje roboty pre drsný terén, ako je Husky, štvorkolesový robot, ktorý používa ministerstvo obrany USA.

Vyrábajú tiež drony a dokonca postavili robotickú loď s názvom Kingfisher. Je tu však jedna vec, ktorú nikdy nepostavia s istotou: robot, ktorý dokáže zabiť.

Clearpath je prvou a zatiaľ jedinou robotickou spoločnosťou, ktorá sa zaviazala, že nevytvorí vražedných robotov. Rozhodnutie urobil minulý rok spoluzakladateľ a technický riaditeľ spoločnosti Ryan Garipay a v skutočnosti prilákal do spoločnosti odborníkov, ktorým sa páčil jedinečný etický postoj Clearpath.

Husky

V poslednej dobe sa do popredia dostala etika robotníckych spoločností. Vidíte, sme jednou nohou v budúcnosti, kde existujú roboti zabijaci. A my na ne ešte nie sme pripravení.

Samozrejme, k tomu je ešte dlhá cesta. Kórejské systémy Dodam napríklad stavajú autonómnu robotickú vežu s názvom Super aEgis II. Využíva termovízne kamery a laserové diaľkomery na identifikáciu a útok na ciele na vzdialenosť až 3 kilometrov. USA údajne tiež experimentujú s autonómnymi raketovými systémami.

Dva kroky od Terminátorov

Vojenské bezpilotné lietadlá ako Predator v súčasnosti pilotujú ľudia, ale Garipay hovorí, že sa čoskoro stanú plne automatickými a autonómnymi. A toto ho znepokojuje. Veľmi. „Smrteľné autonómne zbraňové systémy by teraz mohli schádzať z montážnej linky. Ale smrtiace zbraňové systémy, ktoré budú vyrobené v súlade s etickými normami, nie sú ani v plánoch.“

Pre Garipay je problém medzinárodné práva. Vo vojne vždy nastanú situácie, v ktorých sa použitie sily javí ako nevyhnutné, no môže ohroziť aj nevinných okoloidúcich. Ako vytvoriť zabijáckych robotov, ktorí budú robiť správne rozhodnutia v každej situácii? Ako môžeme sami určiť, aké by malo byť správne rozhodnutie?

Podobné problémy už vidíme na príklade autonómnej dopravy. Povedzme, že pes prebehne cez cestu. Malo by robotické auto uhnúť, aby nezrazilo psa, ale ohrozilo svojich pasažierov? Čo ak to nie je pes, ale dieťa? Alebo autobus? Teraz si predstavte vojnovú zónu.

„Nevieme sa dohodnúť na tom, ako napísať manuál pre takéto auto,“ hovorí Garipay. "A teraz tiež chceme prejsť na systém, ktorý by sa mal nezávisle rozhodnúť, či použije smrtiacu silu alebo nie."

Vyrábajte skvelé veci, nie zbrane

Peter Asaro strávil posledné roky lobovaním za zákaz zabijackych robotov v medzinárodnom spoločenstve ako zakladateľ Medzinárodného výboru pre kontrolu robotických armád. Verí, že nastal čas na „jasný medzinárodný zákaz ich vývoja a používania“. Hovorí, že to umožní spoločnostiam ako Clearpath pokračovať vo výrobe skvelých vecí „bez obáv, že ich produkty môžu byť použité na porušovanie ľudských práv a ohrozovanie civilistov“.

Autonómne rakety sú pre armádu zaujímavé, pretože riešia taktický problém. Keď napríklad diaľkovo ovládané drony fungujú v bojových prostrediach, nepriateľ často ruší senzory alebo sieťové pripojenie, takže ľudský operátor nemôže vidieť, čo sa deje, alebo dron ovládať.

Garipay hovorí, že namiesto vývoja rakiet alebo bezpilotných lietadiel, ktoré sa môžu nezávisle rozhodnúť, na ktorý cieľ zaútočia, by armáda mala míňať peniaze na zlepšenie senzorov a technológie proti rušeniu.

„Prečo nevezmeme do výstavby investície, ktoré by ľudia chceli investovať autonómne roboty-vrahov, a neinvestovať ich do zvyšovania efektivity existujúcich technológií? - on hovorí. "Ak stanovíme výzvu a prekonáme túto prekážku, môžeme zabezpečiť, aby táto technológia fungovala v prospech ľudí, nielen armády."

V poslednom čase sú čoraz častejšie aj rozhovory o nebezpečenstvách umelej inteligencie. Elon Musk sa obáva, že umelá inteligencia na úteku môže zničiť život, ako ho poznáme. Minulý mesiac Musk venoval 10 miliónov dolárov na výskum umelej inteligencie.

Jednou z veľkých otázok o tom, ako AI ovplyvní náš svet, je to, ako sa spojí s robotikou. Niektorí, ako napríklad výskumník z Baidu Andrew Ng, sa obávajú, že prichádzajúca revolúcia AI vezme ľuďom prácu. Iní ako Garipay sa obávajú, že by im to mohlo vziať život.

Garipay dúfa, že jeho kolegovia vedci a konštruktéri strojov budú premýšľať o tom, čo robia. Preto sa Clearpath Robotics postavila na stranu ľudí. "Aj keď my ako spoločnosť na to nemôžeme dať 10 miliónov dolárov, môžeme na to dať svoju reputáciu."

Spoločnosť Clearpath Robotics založili pred šiestimi rokmi traja priatelia z vysokej školy, ktorí zdieľali vášeň pre výrobu vecí. 80 špecialistov spoločnosti testuje roboty pre drsný terén, ako je Husky, štvorkolesový robot, ktorý používa ministerstvo obrany USA. Vyrábajú tiež drony a dokonca postavili robotickú loď s názvom Kingfisher. Jednu vec však nikdy nepostavia s istotou: robota, ktorý dokáže zabíjať.

Clearpath je prvou a zatiaľ jedinou robotickou spoločnosťou, ktorá sa zaviazala, že nevytvorí vražedných robotov. Rozhodnutie urobil minulý rok spoluzakladateľ a technický riaditeľ spoločnosti Ryan Garipay a v skutočnosti prilákal do spoločnosti odborníkov, ktorým sa páčil jedinečný etický postoj Clearpath. V poslednej dobe sa do popredia dostala etika robotníckych spoločností. Vidíte, sme jednou nohou v budúcnosti, kde existujú roboti zabijaci. A my na ne ešte nie sme pripravení.

Samozrejme, k tomu je ešte dlhá cesta. Kórejské systémy Dodam napríklad stavajú autonómnu robotickú vežu s názvom Super aEgis II. Využíva termovízne kamery a laserové diaľkomery na identifikáciu a útok na ciele na vzdialenosť až 3 kilometrov. USA údajne tiež experimentujú s autonómnymi raketovými systémami.

Dva kroky od Terminátorov

Vojenské bezpilotné lietadlá ako Predator v súčasnosti pilotujú ľudia, ale Garipay hovorí, že sa čoskoro stanú plne automatickými a autonómnymi. A toto ho znepokojuje. Veľmi. „Smrteľné autonómne zbraňové systémy by teraz mohli schádzať z montážnej linky. Ale smrtiace zbraňové systémy, ktoré budú vyrobené v súlade s etickými normami, nie sú ani v plánoch.“

Pre Garipayovú sú problémom medzinárodné práva. Vo vojne vždy nastanú situácie, v ktorých sa použitie sily javí ako nevyhnutné, no môže ohroziť aj nevinných okoloidúcich. Ako vytvoriť zabijáckych robotov, ktorí budú robiť správne rozhodnutia v každej situácii? Ako môžeme sami určiť, aké by malo byť správne rozhodnutie?

Podobné problémy už vidíme na príklade autonómnej dopravy. Povedzme, že pes prebehne cez cestu. Malo by robotické auto uhnúť, aby nezrazilo psa, ale ohrozilo svojich pasažierov? Čo ak to nie je pes, ale dieťa? Alebo autobus? Teraz si predstavte vojnovú zónu.

„Nevieme sa dohodnúť na tom, ako napísať manuál pre takéto auto,“ hovorí Garipay. "A teraz tiež chceme prejsť na systém, ktorý by sa mal nezávisle rozhodnúť, či použije smrtiacu silu alebo nie."

Vyrábajte skvelé veci, nie zbrane

Peter Asaro strávil posledné roky lobovaním za zákaz zabijackych robotov v medzinárodnom spoločenstve ako zakladateľ Medzinárodného výboru pre kontrolu robotických armád. Verí, že nastal čas na „jasný medzinárodný zákaz ich vývoja a používania“. Hovorí, že to umožní spoločnostiam ako Clearpath pokračovať vo výrobe skvelých vecí „bez obáv, že ich produkty môžu byť použité na porušovanie ľudských práv a ohrozovanie civilistov“.

Autonómne rakety sú pre armádu zaujímavé, pretože riešia taktický problém. Keď napríklad diaľkovo ovládané drony fungujú v bojových prostrediach, nepriateľ často ruší senzory alebo sieťové pripojenie, takže ľudský operátor nemôže vidieť, čo sa deje, alebo dron ovládať.

Garipay hovorí, že namiesto vývoja rakiet alebo bezpilotných lietadiel, ktoré sa môžu nezávisle rozhodnúť, na ktorý cieľ zaútočia, by armáda mala míňať peniaze na zlepšenie senzorov a technológie proti rušeniu.

„Prečo nezoberieme investície, ktoré by ľudia chceli vynaložiť na vytvorenie autonómnych zabijakových robotov, a nevložíme ich do zefektívnenia existujúcich technológií? - on hovorí. "Ak stanovíme výzvu a prekonáme túto prekážku, môžeme zabezpečiť, aby táto technológia fungovala v prospech ľudí, nielen armády."

V poslednom čase sú čoraz častejšie aj rozhovory o nebezpečenstvách umelej inteligencie. Elon Musk sa obáva, že umelá inteligencia na úteku môže zničiť život, ako ho poznáme. Minulý mesiac Musk venoval 10 miliónov dolárov na výskum umelej inteligencie. Jednou z veľkých otázok o tom, ako AI ovplyvní náš svet, je to, ako sa spojí s robotikou. Niektorí, ako napríklad výskumník z Baidu Andrew Ng, sa obávajú, že prichádzajúca revolúcia AI vezme ľuďom prácu. Iní ako Garipay sa obávajú, že by im to mohlo vziať život.

Garipay dúfa, že jeho kolegovia vedci a konštruktéri strojov budú premýšľať o tom, čo robia. Preto sa Clearpath Robotics postavila na stranu ľudí. "Aj keď my ako spoločnosť na to nemôžeme dať 10 miliónov dolárov, môžeme na to dať svoju reputáciu."