Coșmarul progresului: vor fi interziși roboții ucigași? Dmitry, inspirator ideologic și om de toate meseriile

Elon Musk a vorbit recent în spiritul că se opune ferm folosirii AI pentru a crea roboți ucigași. Nu este vorba încă despre „Terminatori”, ci despre sisteme robotizate capabile să îndeplinească unele sarcini care sunt de obicei responsabilitatea soldaților. Interesul armatei pentru acest subiect este de înțeles, dar planurile lor de anvergură îi sperie pe mulți.

Dar nu doar războinicii moderni dorm și văd mitraliere care pot înlocui zece sau chiar o sută de soldați în același timp. Aceste gânduri au vizitat capete de figuri din diferite epoci. Uneori, unele idei au fost realizate și arătau foarte bine.

Cavalerul Robot Da Vinci

Leonardo a fost un geniu în aproape toate domeniile. A reușit să obțină succes în aproape toate domeniile în care și-a manifestat interes. În secolul al XV-lea, a creat un cavaler robot (desigur, atunci cuvântul „robot” nu era folosit).

Aparatul putea să stea, să stea, să meargă, să-și miște capul și brațele. Creatorul cavalerului mecanic a realizat toate acestea cu ajutorul unui sistem de pârghii, angrenaje și roți dințate.

Cavalerul a fost recreat în epoca noastră - un prototip funcțional a fost construit în 2002. A fost creat „pe baza” proiectului Da Vinci de Mark Rosheim.

Barcă RC Tesla

În 1898, inventatorul Nicola Testa a arătat lumii prima invenție de acest gen - un vehicul controlat de la distanță (barcă mică). Manifestația a avut loc la New York. Tesla a condus barca, iar ea a manevrat, performând diverse activitati ca prin magie.

Mai târziu, Tesla a încercat să-și vândă cealaltă invenție armatei americane - ceva ca o torpilă controlată prin radio. Dar armata din anumite motive a refuzat. Adevărat, el și-a descris creația nu ca pe o torpilă, ci ca pe un robot, un om mecanic care este capabil să efectueze lucrări complexe în locul creatorilor săi.

Tancuri radiocontrolate ale URSS

Da, ingineri Uniunea Sovietică nu au fost cusute cu bast. În 1940 au creat radiocontrolate vehicule de luptă pe bază rezervor ușor T-26. Raza de acțiune a panoului de control este mai mare de un kilometru.

Operatorii acestor terminatoare militare puteau deschide focul cu mitraliere, puteau folosi un tun și un aruncător de flăcări. Adevărat, dezavantajul acestei tehnologii a fost că nu a existat feedback. Adică, operatorul putea observa direct acțiunile rezervorului doar la distanță. Desigur, eficiența acțiunilor operatorului în acest caz a fost relativ scăzută.

Acesta este primul exemplu de robot militar în acțiune.

Goliat

Naziștii au creat ceva similar, doar că în loc să echipeze tancurile convenționale cu control radio, au creat sisteme de șenile în miniatură. Ar putea fi controlate de la distanță. Au pornit pe Goliati cu explozibili. Ideea a fost următoarea: un copil agil și-a făcut drum spre tancul inamic „adult” și, fiind în apropiere, a îndeplinit comanda operatorului de a distruge totul cu o explozie. Germanii au creat atât o versiune electrică a sistemului, cât și un mini-tanc cu motor cu ardere internă. În total, au fost produse aproximativ 7.000 de astfel de sisteme.

Tunuri antiaeriene semi-automate

Aceste sisteme au fost dezvoltate și în timpul celui de-al Doilea Război Mondial. Fondatorul ciberneticii, Norbert Wiener, a contribuit la crearea lor. El și echipa lui au reușit să creeze sisteme antiaeriene, care au corectat ei înșiși acuratețea incendiului. Erau echipați cu tehnologie care le permitea să prezică unde va apărea următoarea aeronave inamice.

Arma inteligentă a timpului nostru

În anii 1950, armata americană, căutând să câștige războiul din Vietnam, a fost pionierat de arme ghidate cu laser, precum și dispozitive de zbor autonome, de fapt, drone.

Adevărat, au avut nevoie de asistență umană în alegerea unei ținte. Dar era deja aproape de ceea ce este acum.

Prădător

Probabil că toată lumea a auzit despre aceste drone. MQ-1 Predator a fost prezentat armatei americane la o lună după evenimentele din 11 septembrie. Predatorii sunt acum cele mai utilizate drone militare din lume. Au și rude mai în vârstă - UAV-ul Reaper.

sapatori

Da, pe lângă roboții ucigași, există și roboți sapători. Acum sunt foarte comune, au început să fie folosite în urmă cu câțiva ani, în Afganistan și în alte puncte fierbinți. Apropo, acești roboți au fost dezvoltați de iRobot - ea este cea care creează cei mai populari roboți de curățare din lume. Desigur, este vorba despre Roomba și Scooba. În 2004, au fost produși 150 de astfel de roboți (nu aspiratoare, ci sapători), iar patru ani mai târziu - deja 12.000.

Acum armata s-a dispersat complet. Inteligența artificială (forma sa slabă) promite mari oportunități. În SUA, aceste oportunități vor profita din plin. Aici vine crearea unei noi generații de roboți ucigași, cu camere, radare, lidare și arme.

Ei sunt cei care îl sperie pe Elon Musk și, împreună cu el, multe alte minți strălucitoare din diverse domenii de activitate.

În timp ce prim-ministrul Dmitri Medvedev și Arkadi Volozh conduceau Yandex.Taxi fără pilot în jurul Skolkovo, inginerii militari aflau cum să adapteze tehnologia vehiculelor fără pilot pentru a crea noi arme.

De fapt, tehnologia nu este chiar ceea ce pare. Problema cu toată evoluția tehnologică este că linia dintre roboții comerciali „pentru viață” și roboții ucigași militari este incredibil de subțire și nu costă nimic de trecut. Până acum, ei aleg traseul de mișcare, iar mâine vor putea alege ce țintă să distrugă.

Nu este prima dată în istorie când progresul tehnologic pune sub semnul întrebării însăși existența omenirii: mai întâi, oamenii de știință au creat substanțe chimice, biologice și arme nucleare, acum - „arme autonome”, adică roboți. Singura diferență este că, până acum, armele de „distrugere în masă” erau considerate inumane – adică nu alegeau pe cine să omoare. Astăzi, perspectiva s-a schimbat: mult mai imoral pare a fi o armă care va ucide cu o discriminare deosebită, alegând victime după propriul gust. Și dacă o putere militantă a fost oprită de faptul că, dacă ar folosi arme biologice, toată lumea din jur ar avea de suferit, atunci cu roboți totul este mai dificil - aceștia pot fi programați să distrugă un anumit grup de obiecte.

În 1942, când scriitorul american Isaac Asimov a formulat cele trei legi ale roboticii, totul părea incitant, dar complet nerealist. Aceste legi prevedeau că un robot nu poate și nu trebuie să rănească sau să omoare un om. Și trebuie să se supună fără îndoială voinței omului, cu excepția cazurilor în care ordinele sale ar fi contrare imperativului de mai sus. Acum că armele autonome au devenit o realitate și ar putea cădea foarte bine în mâinile teroriștilor, s-a dovedit că programatorii au uitat cumva să pună legile lui Asimov în software-ul lor. Aceasta înseamnă că roboții pot fi periculoși și nicio lege sau principiu uman nu îi poate opri.

Racheta dezvoltată de Pentagon însuși detectează ținte datorită software, inteligența artificială (AI) identifică ținte pentru armata britanică, iar Rusia demonstrează tancuri fără pilot. Pentru dezvoltarea robotică și autonomă echipament militar V diverse tari se cheltuiesc fonduri colosale, deși puțini oameni vor să-l vadă în acțiune. La fel ca majoritatea chimiștilor și biologilor, ei nu sunt interesați ca descoperirile lor să fie folosite în cele din urmă pentru a crea o substanță chimică sau arme biologice, iar majoritatea cercetătorilor AI nu sunt interesați să creeze arme pe baza acestuia, pentru că atunci un strigăt public serios le va deteriora programele de cercetare.

În discursul său de la început Adunare Generală Națiunile Unite la New York, 25 septembrie Secretar general António Guterres a numit tehnologia inteligenței artificiale un „risc global”, împreună cu schimbările climatice și creșterea inegalității veniturilor: „Să numim picăia o pică”, a spus el. „Perspectiva ca mașinile să determine cine trăiește este dezgustătoare.” Guterres este probabil singurul care poate cere armatei să se răzgândească: anterior s-a ocupat de conflicte din Libia, Yemen și Siria și a servit ca Înalt Comisar pentru Refugiați.

Problema este că, odată cu dezvoltarea ulterioară a tehnologiei, roboții înșiși vor putea decide pe cine să omoare. Și dacă unele țări au astfel de tehnologii, în timp ce altele nu, atunci androizii și dronele fără compromisuri vor predetermina rezultatul unei bătălii potențiale. Toate acestea contrazic toate legile lui Asimov în același timp. Alarmiștii se pot îngrijora serios că o rețea neuronală cu auto-învățare va scăpa de sub control și va ucide nu numai inamicul, ci toți oamenii în general. Cu toate acestea, perspectiva unor mașini ucigașe chiar și destul de ascultătoare nu este deloc roz.

Cea mai activă activitate în domeniu inteligenţă artificială iar învățarea automată astăzi nu este în sfera militară, ci în sfera civilă - în universități și companii precum Google și Facebook. Dar o mare parte din această tehnologie poate fi adaptată pentru uz militar. Aceasta înseamnă că o potențială interdicție a cercetării în acest domeniu va afecta și evoluțiile civile.

La începutul lunii octombrie, campania Stop the Killer Robots, o organizație neguvernamentală din SUA, a trimis o scrisoare Națiunilor Unite în care cere restricții legale internaționale privind dezvoltarea armelor autonome. ONU a spus clar că sprijină această inițiativă, iar în august 2017, Elon Musk și participanții Conferinta Internationala Națiunile Unite privind utilizarea inteligenței artificiale (IJCAI). Dar, de fapt, SUA și Rusia se opun unor astfel de restricții.

Ultima întâlnire a celor 70 de țări membre ale Convenției privind anumite arme convenționale (cu privire la armele „inumane”) a avut loc la Geneva în august. Diplomații nu au reușit să ajungă la un consens asupra modului în care ar putea fi implementată o politică globală de IA. Unele țări (Argentina, Austria, Brazilia, Chile, China, Egipt și Mexic) și-au exprimat sprijinul pentru interzicerea legislativă a dezvoltării armelor robotizate, Franța și Germania au propus introducerea unui sistem voluntar de astfel de restricții, cu toate acestea, Rusia, Statele Unite ale Americii , Coreea de Sudși Israelul au declarat că nu vor limita cercetarea și dezvoltarea care se desfășoară în acest domeniu. În septembrie, Federica Mogherini, reprezentant de rang înalt Uniunea Europeană pentru întrebări politica externași politica de securitate, a declarat că armele „afectează noștri securitate colectivă”, deci decizia chestiunii vieții și morții ar trebui să rămână în orice caz în mâinile omului.

Războiul Rece 2018

Oficialii americani din apărare spun că Statele Unite au nevoie de arme autonome pentru a-și menține avantajul militar față de China și Rusia, care investesc și ele în cercetări similare. În februarie 2018, Donald Trump a cerut 686 de miliarde de dolari pentru apărarea națională în următorul an fiscal. Aceste costuri au fost întotdeauna destul de mari și au scăzut doar sub fostul președinte, Barack Obama. Cu toate acestea, Trump - neoriginal - a susținut necesitatea creșterii acestora prin competiția tehnologică cu Rusia și China. În 2016, Pentagonul a bugetat 18 miliarde de dolari pentru dezvoltarea de arme autonome timp de trei ani. Acest lucru nu este mult, dar aici trebuie să țineți cont de un factor foarte important.

Majoritatea dezvoltărilor AI din SUA sunt realizate de companii comerciale, astfel încât acestea sunt disponibile pe scară largă și pot fi vândute comercial în alte țări. Pentagonul nu are monopol înaltă tehnologieînvățare automată. Industria americană de apărare nu își mai desfășoară propria cercetare în felul în care a făcut-o în timpul „ război rece”, și folosește realizările startup-urilor din Silicon Valley, precum și din Europa și Asia. În același timp, în Rusia și China, o astfel de cercetare se află sub controlul strict al departamentelor de apărare, ceea ce, pe de o parte, limitează afluxul de idei noi și dezvoltarea tehnologiilor, dar, pe de altă parte, garantează statul. finanțare și protecție.

New York Times estimează că cheltuielile militare pentru vehicule militare autonome și vehicule aeriene fără pilot vor depăși 120 de miliarde de dolari în următorul deceniu. Aceasta înseamnă că discuția se reduce în cele din urmă nu la crearea de arme autonome, ci la ce grad de independență să le acorde.

Astăzi, armele complet autonome nu există, dar vicepreședintele Forțelor Aeriene, generalul Paul J. Selva de la Joint Chiefs of Staff a declarat încă din 2016 că în 10 ani Statele Unite vor avea tehnologia pentru a crea astfel de arme care pot decide singure. pe cine și când să omoare. Și pe măsură ce țările dezbat dacă să limiteze sau nu IA, poate fi prea târziu.

David Domingo Jiménez ne împărtășește secretele modelării, texturii și iluminării Crazy, personajul său robotic.

Introducere

Întotdeauna am crezut că proiectele personale ar trebui să fie la fel de profesionale ca și proiectele de muncă. Folosind modelare high-poli, texturi cu rezoluție 8K, materiale realiste și iluminare bine plasată din punct de vedere tehnic și artistic, puteți crea un personaj unic cu caracter și o scenă atmosferică. Multe depind de iluminarea din lucrare, deoarece aceasta este cea care ajută la aranjarea corectă a totul în scenă. Mulțumiri speciale lui Victor Loba pentru compoziție.

Pasul 1: Crearea conceptului

Primul concept l-am scos din cap și, nefiind un concept artist, l-am finalizat cu ajutorul unei plase de bază și referințe foto. Alegeți cel mai potrivit și eficient flux de lucru pentru dvs.

Conducta cu care lucrez este modelarea ochiurilor de bază -> modelarea înalt poli a tuturor obiectelor -> crearea UV și modelarea finală -> editare și texturare UV -> configurarea materialului și a luminii -> compoziția finală și configurarea luminii -> postare

Pasul 2: Modelare, pasul 1

Imaginea arată procesul de creare a unui model de robot de la o plasă de bază la sculptură în ZBrush și retopologie, în urma căruia obținem o plasă cu un nivel de subdiviziuni

Odată ce am un model de bază, încep imediat să lucrez la detaliile acestuia unul câte unul folosind comenzile Extrude, Bevel, Connect Edge și Shell.

Am creat rețeaua finală folosind cât mai puține poligoane, pe care le-am mărit ulterior. Am lucrat cu comanda Editable Poly cu modificatorul Turbosmooth, activând parametrul Show End Result la sfârșit.

Pasul 3: Modelare, pasul 2

Perii ZBrush precum Standard, Move, Smooth și ClayBuildup au fost folosite pentru a detalia hainele robotului.

Desigur, există metode de modelare mai puțin complexe care vă permit să utilizați un număr mic de poligoane, dar în această lucrare au existat multe diviziuni. De aceea prefer cel mai mult metoda rapida, deși poate să nu fie cel mai ușor.

Folosesc ZBrush exclusiv pentru a detalia hainele cu pensule precum Standard, Move, Smooth și ClayBuildup. De asemenea, este foarte important să folosiți măști. Fac retopologie în Topogun.

Pasul 4: Creați o hartă UV

Layout UV a fost folosit pentru a crea UV-urile. 4 hărți texturi de aceeași dimensiune și cu acelasi numar poligoane

Pentru a crea UV-uri, recomand să utilizați UV Layout deoarece este un program stabil și intuitiv. Înainte de a începe să tăiați un obiect, trebuie să vă amintiți că cu cât sunt mai puține tăieturi pe model, cu atât mai bine. Modelele decupează întotdeauna în zonele cele mai puțin vizibile pentru cameră.

Pentru acest proiect am creat 4 hărți de aceeași dimensiune cu același număr de poligoane, le-am grupat în cel mai potrivit mod pentru mine, astfel încât să se încadreze în spațiul UV cât mai comod. Nu contează pentru mine cum sunt poziționate carcasele în UV, deoarece întotdeauna creez hărți de identificare separate pentru materiale diferite.

Pasul 5: Texturarea

Crearea diferitelor hărți de textură la rezoluție de 8K

Mai întâi creez diferite hărți la rezoluție de 8K. Special pentru această lucrare, am creat hărți ID, AO, Displacement, Normal, Cavity și Snow. Pentru a le obține în 3Ds Max: Redare -> Redare Hartă de suprafață. În ZBrush, acestea pot fi obținute folosind ZPlugin -> Multi Map Exporter.

Pasul 6: Texturarea în Photoshop

În această etapă, lucrăm deja la 4 hărți de textură cu o rezoluție de 8K

Aceste hărți sunt folosite nu numai pentru detalierea texturii, ci sunt deosebit de convenabile pentru a lucra, deoarece nu este nevoie să părăsiți Photoshop. Datorită acestui fapt, pot estima vizual volumele modelului nostru. Personajul Crazy este format din 4 texturi cu rezoluție de 8K care se potrivesc cu hărțile BMP și SPC.

Pasul 7: Continuați să lucrați la texturi

Pentru a obține texturi bune, trebuie să fii creativ și să lucrezi rapid.

Lucrez întotdeauna cu texturi cu gresie mari, deoarece este mai ușor să reducă dimensiunea inițială a imaginii, iar utilizarea măștilor este foarte ușor să ascunzi zonele nedorite. Pentru a obține texturi bune, trebuie să fii creativ și să lucrezi rapid. În acest proiect, am folosit fotografii.

Aș recomanda să folosiți ZBrush, Mudbox sau Mari pentru a desena texturi deasupra rețelei. Murdăria, zgârieturile, rugina vor adăuga realism modelului 3D, cu toate acestea, nu exagerați, altfel rezultatul va arăta groaznic. Orice intervenții suplimentare în model ar trebui să fie combinate cu materialul de bază, de exemplu, în cazul meu, cu metal, acoperire magnetică, nisip și praf, în același timp potrivit cu schema de culori și iluminare.

Pasul 8: Configurarea materialelor

Utilizarea materialelor vă permite să separați vizual diferite părți ale modelului unele de altele.

In aceasta lucrare am folosit diverse materiale metalice (otel, fier, aluminiu); plastic mat și strălucitor; precum și piele, țesătură și cauciuc. Toate aceste materiale au doar 3 hărți de textură alocate: Diffuse, Specular și Bump. În scenă nu erau materiale complicate, cu excepția ecranului televizorului și a lamei de metal a toporului.

Pentru toate materialele, cu excepția Reflection Glossiness și Fresnel Reflections, pentru care au fost introduse numere exacte, s-au folosit informații luminoase, în principal pentru Fresnel IOR, precum și date pentru Bump.

Pasul 9: Reglarea finală a luminii

Configurația finală de iluminare ar trebui să lumineze și personalitatea personajului.

Setarea finală a luminii ar trebui să lumineze caracterul personajului, potrivindu-l în mod favorabil. mediu inconjurator. Pentru personajul meu, am vrut să creez o atmosferă agresivă. Am folosit iluminarea de noapte, am luminat puțin scena cu HDRI și am îmbunătățit efectul cu „lumină electrică”. Am folosit VRayLights pentru a scoate în evidență reflexiile și pentru a elimina contrastul suplimentar.

Pentru a direcționa lumina și a obține o silueta bine citită a personajului, am folosit SpotLights. În plus, fundalul a fost creat folosind VrayLightsMaterial, pentru SpotLights am folosit texturi, ferestre și alte accesorii pentru a desemna cumva clădirea. Am folosit și SpotLights pentru a ilumina întreaga scenă.

VrayLights au fost folosite pentru a îmbunătăți reflexiile și pentru a elimina contrastul excesiv.

Pasul 10: Postprocesare

În acest tip de proiect, acesta este cel mai important pas. Am executat scena într-o schemă de culori, am subliniat luminile, am ajustat contrastul și am estompat unele părți ale lucrării pentru a crea un efect de profunzime, forțând privitorul să se concentreze. Toți acești pași sunt foarte importanți pentru a obține un rezultat bun.

În Photoshop, am lucrat cu Saturație, Curbe și Niveluri pentru a obține efectul bokeh. Apoi am configurat hărțile de textură care vor fi redate: Reflection, Alpha și Specular. Drept urmare, obținem tablou complex care transmite emoții și istorie privitorului. Cu ajutorul personajului Crazy, prezint o serie întreagă din munca mea și stilul artistic în care lucrez.

Companie Robotică Clearpath a fost fondată în urmă cu șase ani de trei prieteni de facultate care împărtășeau o pasiune pentru a face lucruri. Cei 80 de specialiști ai companiei testează roboți cross-country precum Husky, un robot cu patru roți folosit de Departamentul Apărării al SUA.

Ei fac, de asemenea, drone și chiar au construit o barcă robotică Kingfisher. Cu toate acestea, cu siguranță nu vor construi niciodată unul: un robot care poate ucide.

Clearpath este prima și până acum singura companie de roboți care se angajează să nu construiască roboți ucigași. Decizia a fost luată anul trecut de cofondatorul și CTO Ryan Garipay și, de fapt, a atras chiar experți către companie cărora le-a plăcut poziția etică unică a Clearpath.

Husky

Etica companiilor de roboți a ieșit în prim-plan recent. Vedeți, suntem un picior în viitor, în care vor exista roboți ucigași. Și încă nu suntem pregătiți pentru ele.

Desigur, mai este un drum lung de parcurs. Sistemele coreene Dodam, de exemplu, construiesc o turelă robotică autonomă numită Super aEgis II. Folosește camere termice și telemetru laser pentru a detecta și ataca ținte aflate la o distanță de până la 3 kilometri. Se pare că SUA experimentează, de asemenea, sisteme de rachete autonome.

La doi pași de „terminatori”

Dronele militare precum Predator sunt operate în prezent de oameni, dar Garipai spune că vor deveni complet automate și autonome foarte curând. Și îl îngrijorează. Foarte. „Sistemele de arme autonome mortale ar putea ieși din linia de asamblare acum. Dar sistemele de arme mortale care vor fi realizate în conformitate cu standardele etice nici măcar nu sunt în planuri.

Pentru Garipai, problema este drept internațional. Există întotdeauna situații de război în care utilizarea forței pare necesară, dar poate pune în pericol și trecători nevinovați. Cum să creezi roboți ucigași care vor lua deciziile corecte în orice situație? Cum putem determina singuri care ar trebui să fie soluția corectă?

Deja vedem probleme similare în exemplul transportului autonom. Să presupunem că un câine traversează drumul. Ar trebui mașina robot să devieze astfel încât să nu lovească câinele, ci să-i pună în pericol pasagerii? Dacă nu este un câine, ci un copil? Sau un autobuz? Acum imaginați-vă o zonă de război.

„Nu putem fi de acord cu privire la cum să scriem un manual pentru o astfel de mașină”, spune Garipay. „Și acum vrem să trecem la un sistem care ar trebui să decidă în mod independent dacă să folosească forța letală sau nu.”

Faceți lucruri interesante, nu arme

Peter Asaro a petrecut ultimii ani făcând lobby pentru interzicerea roboților ucigași în comunitatea internațională, fiind fondatorul Comitetului Internațional pentru Controlul Armatelor Robotice. El crede că a venit timpul pentru „o interdicție internațională clară a dezvoltării și utilizării acestora”. Acest lucru va permite companiilor precum Clearpath să continue să facă lucruri grozave fără a-și face griji că produsele lor pot fi folosite pentru a încălca drepturile omului și a amenința civilii, a spus el.

Rachetele autonome sunt de interes pentru militari pentru că rezolvă o problemă tactică. Când dronele telecomandate, de exemplu, operează în luptă, nu este neobișnuit ca un adversar să blocheze senzorii sau conexiunea la rețea, astfel încât operatorul uman să nu vadă ce se întâmplă sau să controleze drona.

Garipai spune că, în loc să dezvolte rachete sau drone care pot decide singure care țintă să atace, armata trebuie să cheltuiască bani pe senzori mai buni și tehnologii anti-brulare.

„De ce nu luăm investiția pe care oamenii ar dori să o investească pentru a o construi roboți autonomi-ucigași, și nu-i investesc în îmbunătățirea eficienței tehnologiilor existente? el spune. „Dacă ne stabilim un obiectiv și depășim această barieră, putem face ca această tehnologie să funcționeze în beneficiul oamenilor, nu doar al armatei.”

Recent, discuțiile despre pericolele inteligenței artificiale au devenit tot mai frecvente. Elon Musk este îngrijorat că o inteligență artificială fugitivă ar putea distruge viața așa cum o cunoaștem. Luna trecută, Musk a donat 10 milioane de dolari pentru cercetarea inteligenței artificiale.

Una dintre marile întrebări despre modul în care AI va afecta lumea noastră este cum se va îmbina cu robotica. Unii, precum cercetătorul Baidu Andrew Ng, își fac griji că viitoarea revoluție a inteligenței artificiale îi va scoate pe oameni de la locul de muncă. Alții, precum Garipai, se tem că ar putea lua vieți.

Garipay speră că colegii săi, oamenii de știință și constructorii de mașini, se vor gândi la ceea ce fac. Prin urmare, Clearpath Robotics a luat partea oamenilor. „Deși noi, ca companie, nu putem paria 10 milioane de dolari pe asta, ne putem paria reputația.”

Clearpath Robotics a fost fondată în urmă cu șase ani de trei prieteni de facultate care împărtășeau o pasiune pentru a face lucruri. Cei 80 de specialiști ai companiei testează roboți cross-country precum Husky, un robot cu patru roți folosit de Departamentul Apărării al SUA. Ei fac, de asemenea, drone și chiar au construit o barcă robotică Kingfisher. Cu toate acestea, un lucru pe care cu siguranță nu îl vor construi niciodată: un robot care poate ucide.

Clearpath este prima și până acum singura companie de roboți care se angajează să nu construiască roboți ucigași. Decizia a fost luată anul trecut de cofondatorul și CTO Ryan Garipay și, de fapt, a atras chiar experți către companie cărora le-a plăcut poziția etică unică a Clearpath. Etica companiilor de roboți a ieșit în prim-plan recent. Vedeți, suntem un picior în viitor, în care vor exista roboți ucigași. Și încă nu suntem pregătiți pentru ele.

Desigur, mai este un drum lung de parcurs. Sistemele coreene Dodam, de exemplu, construiesc o turelă robotică autonomă numită Super aEgis II. Folosește camere termice și telemetru laser pentru a detecta și ataca ținte aflate la o distanță de până la 3 kilometri. Se pare că SUA experimentează, de asemenea, sisteme de rachete autonome.

La doi pași de „terminatori”

Dronele militare precum Predator sunt operate în prezent de oameni, dar Garipai spune că vor deveni complet automate și autonome foarte curând. Și îl îngrijorează. Foarte. „Sistemele de arme autonome mortale ar putea ieși din linia de asamblare acum. Dar sistemele de arme mortale care vor fi realizate în conformitate cu standardele etice nici măcar nu sunt în planuri.

Pentru Garipai, problema stă în drepturile internaționale. Există întotdeauna situații de război în care utilizarea forței pare necesară, dar poate pune în pericol și trecători nevinovați. Cum să creezi roboți ucigași care vor lua deciziile corecte în orice situație? Cum putem determina singuri care ar trebui să fie soluția corectă?

Deja vedem probleme similare în exemplul transportului autonom. Să presupunem că un câine traversează drumul. Ar trebui mașina robot să devieze astfel încât să nu lovească câinele, ci să-i pună în pericol pasagerii? Dacă nu este un câine, ci un copil? Sau un autobuz? Acum imaginați-vă o zonă de război.

„Nu putem fi de acord cu privire la cum să scriem un manual pentru o astfel de mașină”, spune Garipai. „Și acum vrem să trecem la un sistem care ar trebui să decidă în mod independent dacă să folosească forța letală sau nu.”

Faceți lucruri interesante, nu arme

Peter Asaro a petrecut ultimii ani făcând lobby pentru interzicerea roboților ucigași în comunitatea internațională, fiind fondatorul Comitetului Internațional pentru Controlul Armatelor Robotice. El crede că a venit timpul pentru „o interdicție internațională clară a dezvoltării și utilizării acestora”. Acest lucru va permite companiilor precum Clearpath să continue să facă lucruri grozave fără a-și face griji că produsele lor pot fi folosite pentru a încălca drepturile omului și a amenința civilii, a spus el.

Rachetele autonome sunt de interes pentru militari pentru că rezolvă o problemă tactică. Când dronele telecomandate, de exemplu, operează în luptă, nu este neobișnuit ca un adversar să blocheze senzorii sau conexiunea la rețea, astfel încât operatorul uman să nu vadă ce se întâmplă sau să controleze drona.

Garipai spune că, în loc să dezvolte rachete sau drone care pot decide singure care țintă să atace, armata trebuie să cheltuiască bani pe senzori mai buni și tehnologii anti-brulare.

„De ce nu luăm investiția pe care oamenii ar dori să o facă pentru a construi roboți ucigași autonomi și nu o investim în îmbunătățirea eficienței tehnologiilor existente? el spune. „Dacă ne stabilim un obiectiv și depășim această barieră, putem face ca această tehnologie să funcționeze în beneficiul oamenilor, nu doar al armatei.”

Recent, discuțiile despre pericolele inteligenței artificiale au devenit tot mai frecvente. Elon Musk este îngrijorat că o inteligență artificială fugitivă ar putea distruge viața așa cum o cunoaștem. Luna trecută, Musk a donat 10 milioane de dolari pentru cercetarea inteligenței artificiale. Una dintre marile întrebări despre modul în care AI va afecta lumea noastră este cum se va îmbina cu robotica. Unii, precum cercetătorul Baidu Andrew Ng, își fac griji că viitoarea revoluție a inteligenței artificiale îi va scoate pe oameni de la locul de muncă. Alții, precum Garipai, se tem că ar putea lua vieți.

Garipay speră că colegii săi, oamenii de știință și constructorii de mașini, se vor gândi la ceea ce fac. Prin urmare, Clearpath Robotics a luat partea oamenilor. „Deși noi, ca companie, nu putem paria 10 milioane de dolari pe asta, ne putem paria reputația.”