uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Uusi viisausraportti

Toimittaja: Aeneas niin uninen

[Johdatus uuteen viisauteen] Onko Manhattan Project 2.0 tulossa? Tähän mennessä Yhdysvaltain armeijalla on yli 800 aktiivista tekoälyprojektia, ja se on hakenut 1,8 miljardin dollarin rahoitusta tekoälyyn pelkästään 24 vuoden aikana. Seuraavien viiden vuoden aikana Yhdysvallat osoittaa myös 6 miljardia dollaria miehittämättömien yhteistyöhävittäjälentokoneiden tutkimukseen ja kehittämiseen. Nyt tekoäly näyttää saavuttaneen Oppenheimer-hetkensä.

Tekoäly on astunut Oppenheimer-hetkeensä.

Nyt tekoälyaseita käytetään jatkuvasti sotilaallisiin tarkoituksiin, ja niihin liittyvät teollisuudenalat kukoistavat.

Monen miljardin dollarin asevarustelu tekoälyssä on houkutellut Piilaakson jättiläisiä ja maita ympäri maailmaa.

Kasvavat konfliktit ympäri maailmaa ovat sekä kiihdyttimiä että testausaluksia tekoälysodankäynnille. Eri maiden armeijat ovat erittäin kiinnostuneita tekoälystä, ja tällä hetkellä valvonta on puutteellista.

Yhdysvaltain armeijalla on jo yli 800 aktiivista tekoälyprojektia Pelkästään vuonna 2024 se on hakenut 1,8 miljardin dollarin arvosta rahoitusta tekoälylle.

Tekoäly, joka juurtuu armeijoihin ja hallituksiin ympäri maailmaa, muuttaa todennäköisesti perusteellisesti yhteiskuntaa, teknologiaa ja sodankäyntiä.

Drone-mainonta toteutuu

Joukko sotilaita on rakettien tulituksen kohteena lähitaistelun aikana.

Yksi heistä soitti radion kautta, ja pian räjähteillä varustettuja pieniä autonomisia droneja lensi sisään.

Nämä itsemurhadronit lentävät rakennuksiin ja alkavat etsiä vihollisia löydettyään kohteen, ne räjähtävät käskystä.

Yllä oleva kuva on aseyhtiö Elbitin mainoksesta, jossa edistetään, kuinka tekoälydronit voivat "maksimoida kuolleisuuden ja taistella rytmin".

Nyt Elbitin kehittämä tekniikka on tullut yhä enemmän todelliseen maailmaan.

"Ajan myötä voimme nähdä ihmisten luovuttavan enemmän tuomiota koneille", sanoi Paul Scharre, Center for a New American Security -ajatushautomon varatoimitusjohtaja ja tutkimusjohtaja.

"Jos katsomme taaksepäin 15 tai 20 vuoden kuluttua, ymmärrämme, että olemme ylittäneet erittäin tärkeän kynnyksen."

Vuonna 2023 tekoälyyn integroitu drone havaitsee räjähteitä

Yhdysvallat käyttää miljardi dollaria "replikaattoriprojektiin"

Vaikka tekoälyn kehityksessä on nähty investointien voimakas nousu vasta viime vuosina, autonomisten asejärjestelmien kehitys sodankäynnissä voidaan jäljittää vuosikymmeniä taaksepäin.

Tietenkin nämä kehityssuunnat näkyvät harvoin julkisissa keskusteluissa, mutta niitä tutkii pieni joukko tutkijoita ja sotilaallisia strategeja.

Mutta nyt yleisön huomio tekoälyyn on lisääntymässä. Siitä, ovatko aseet todella "autonomisia", on myös tullut kiivasta keskustelunaihe.

Asiantuntijoiden ja tutkijoiden mukaan voimme ymmärtää "autonomian" pikemminkin spektrinä kuin yksinkertaisena binäärikäsitteenä.

Mutta he ovat yleisesti samaa mieltä siitä, että koneet pystyvät nyt tekemään enemmän päätöksiä ilman ihmisen panosta kuin koskaan ennen.

Ja rahaa valuu yrityksiin ja valtion virastoihin, jotka lupaavat, että tekoäly voi tehdä sodasta älykkäämpää, halvempaa ja nopeampaa.

Pentagon aikoo käyttää miljardi dollaria "Replicator Program" -ohjelmaan vuoteen 2025 mennessä. Tämän ohjelman tavoitteena on kehittää suuri määrä miehittämättömiä taisteludroneja ja käyttää tekoälyä uhkien metsästykseen.

Seuraavien viiden vuoden aikana Yhdysvaltain ilmavoimat aikovat osoittaa noin 6 miljardia dollaria miehittämättömien yhteistyöhävittäjälentokoneiden tutkimukseen ja kehittämiseen rakentaakseen 1 000 itsenäisesti lentävän tekoälyhävittäjän laivaston.

Viime vuosina Yhdysvaltain puolustusministeriö on myös kerännyt satoja miljoonia dollareita rahoittaakseen salaista tekoälyohjelmaa nimeltä Project Maven, joka keskittyy teknologioihin, kuten automaattiseen kohteentunnistukseen ja valvontaan.

Brittisotilaat käyttävät tekoälyä harjoituksissa

Teknologiayritykset tekevät suuria sopimuksia

Samaan aikaan tekoälyn ja armeijan autonomian kasvava kysyntä on auttanut teknologiayrityksiä ja asekauppiaita voittamaan valtavia tilauksia.

Anduril, itsenäisiä hyökkäysdroneja, miehittämättömiä taistelulentokoneita ja vedenalaisia ​​ajoneuvoja kehittävä yritys kerää uuden kierroksen riskipääomaa, jonka arvioitu arvo on 12,5 miljardia dollaria.

Andurilin perustaja Palmer Luckey on 31-vuotias miljardööri, joka allekirjoitti tänä vuonna sopimuksen Pentagonin kanssa miehittämättömän hävittäjäohjelman rakentamisesta.

Piilaakson miljardööri Peter Thiel perusti myös Palantirin, teknologia- ja valvontayhtiön. Se on jo osallistunut tekoälyprojekteihin, kuten Yhdysvaltain armeijan "ensimmäiseen tekoälyn määrittelemään ajoneuvoon".

Toukokuussa Pentagon ilmoitti myöntäneensä Palantirille 480 miljoonan dollarin sopimuksen AI-teknologiasta, joka auttaa tunnistamaan viholliskohteita.

Tällä hetkellä Palantirin teknologiaa on käytetty useissa sotilasoperaatioissa.

Palantir mukana Yhdysvaltain armeijan "First AI-defined Vehicle"

Anduril ja Palantir, jotka on nimetty pyhän miekan ja viisasten kiven mukaan "sormusten herrasta", ovat vain pieni osa kansainvälistä tekoälyn kultaryntäystä.

Helsing on kerännyt lähes 500 miljoonan dollarin rahoituksen tekoälyntorjuntaohjelmistoonsa, ja sen arvo oli tässä kuussa 5,4 miljardia dollaria.

Samaan aikaan Elbit Systems paljasti maaliskuussa antamassaan rahoitushakemuksessa, että se oli allekirjoittanut 760 miljoonan dollarin ammuksia koskevan sopimuksen vuonna 2023. Ja viime vuonna liikevaihto oli 6 miljardia dollaria.

Helsing kerää lähes 500 miljoonaa dollaria tekoälyntorjuntaohjelmistoonsa, jonka arvo on tässä kuussa 5,4 miljardia dollaria

Suuret teknologiayritykset ovat myös vastaanottavaisempia puolustusteollisuudelle ja sen tekoälyn käytölle kuin viime vuosina.

Vuonna 2018 Googlen työntekijät vastustivat yrityksen osallistumista armeijan Project Maveniin väittäen, että se loukkasi eettisiä ja moraalisia velvollisuuksia. Tuolloin Google katkaisi paineen alla yhteistyönsä projektin kanssa.

Google on kuitenkin sittemmin tehnyt 1,2 miljardin dollarin arvoisen sopimuksen tietyn maan hallituksen kanssa pilvipalveluiden ja tekoälyominaisuuksien tarjoamisesta sille.

Tänä vuonna Google irtisanoi kymmeniä työntekijöitä, kun jotkut työntekijät protestoivat sotilassopimuksia vastaan. Toimitusjohtaja Pichai sanoi suoraan työntekijöille: "Tämä on bisnestä."

Samanlaisia ​​työntekijöiden mielenosoituksia tapahtui Amazonilla vuonna 2022, ja jälleen kerran, yritys ei muuttanut politiikkaansa.

kaksinkertainen musta laatikko

Tutkijat varoittavat, että koska puolustusteknologiasektorille virtaa valtavia rahasummia, monet yritykset ja teknologiat toimivat minimaalisella läpinäkyvyydellä ja vastuuvelvollisuudella.

Kun tuote epäonnistuu odottamatta, seuraukset voivat olla kohtalokkaita, mutta nämä asekauppiaat eivät yleensä ole vastuussa tästä.

Lisäksi Yhdysvaltain kansallisen turvallisuuslaitteiston salassapitoharha tarkoittaa myös sitä, että yrityksillä ja hallituksilla ei ole velvollisuutta paljastaa näiden järjestelmien toimintatapoja.

Kun hallitus ottaa salaisen, patentoidun tekoälyteknologian ja sijoittaa sen kansallisen turvallisuuden piilotettuun maailmaan, se luo Virginian yliopiston oikeustieteen professorin Ashley Deeksin kutsuman "kaksoismustan laatikon".

Tässä tapauksessa yleisön on vaikea tietää, toimivatko nämä järjestelmät oikein tai eettisesti. Ja yleisesti ottaen se jättää paljon tilaa virheille.

"Olen nähnyt paljon hypeä tekoälyn ympärillä liikemaailmassa, ja sanaa "AI" käytetään väärin kaikkialla", sanoi Center for American Security -ajatushautomon Scharre. "Kun kaivaa syvemmälle, huomaat sen se ei välttämättä ole niin monimutkaista kuin mainostetaan."

Aktivistit protestoivat Brandenburgin portin edessä Berliinissä, Saksassa ja vaativat "pysäyttämään tappajarobotit"

piirissä olevia ihmisiä

Vaikka yritykset ja kansalliset armeijat ovat haluttomia paljastamaan järjestelmiensä toiminnallisia yksityiskohtia, ne käyvät paljon keskustelua tekoälyjärjestelmien eettisestä vastuusta ja sääntelystä.

Esimerkiksi diplomaatit ja asekauppiaat ovat yleensä sitä mieltä, että päätöksentekoprosessiin pitäisi aina osallistua "ihmisen" sijaan, että heitä ohjattaisiin täysin koneiden toimesta.

Ihmisen valvonnan toteuttamisesta on kuitenkin vähän yksimielisyyttä.

"Kaikki voivat olla samaa mieltä konseptista, mutta samalla jokaisella on erilainen käsitys siitä, mitä se käytännössä tarkoittaa", sanoi Rebecca Crootof, Richmondin yliopiston oikeustieteen professori ja autonomisen sodankäynnin asiantuntija ja DARPAn ensimmäinen vieraileva tutkija.

"Tämä konsepti ei ole kovin hyödyllinen teknisten suunnittelupäätösten ohjaamisessa."

Mielenosoittajat kokoontuvat Elbit Systemsin tehtaan eteen Leicesterissä, Isossa-Britanniassa

Lisäksi ihmisen psykologian ja vastuullisuuden monimutkaisuus tekee korkean tason keskusteluista "ihmisistä silmukassa" vieläkin hankalampaa.

Yksi tutkijoiden usein mainitsema esimerkki ovat itseajavat autot, joissa ihmisten on otettava ajoneuvo takaisin hallintaansa tarvittaessa saavuttaakseen "ihmisen osallistumisen".

Mutta jos itseajava auto tekee virheen tai saa ihmisen tekemään väärän päätöksen, onko reilua syyttää kuljettajaa?

Tarkemmin sanottuna, jos itseajava auto luovuttaa hallinnan ihmiselle törmäyksen ensimmäisten sekuntien aikana, kuka on vastuussa?

Scharre Center for American Safetystä huomautti mielenkiintoisen asian: laitamme joskus ihmisiä ohjaamoon, jotta voimme löytää jonkun, joka ottaa vastuun, kun jokin menee pieleen. Tämä on niin kutsuttu "moraalinen puskurivyöhyke".

Valvonnasta on erilaisia ​​mielipiteitä

Tämän vuoden huhtikuun lopussa Wienissä pidetyssä konferenssissa kansainväliset järjestöt ja diplomaatit 143 maasta kokoontuivat keskustelemaan tekoälyn ja autonomisten aseiden käytön sääntelykysymyksistä sodankäynnissä.

YK:n turvallisuusneuvosto ei moneen vuoteen onnistunut saamaan aikaan kattavaa sopimusta tästä asiasta.

Verrattuna autonomisten aseiden täydelliseen kieltoon, Itävallan ulkoministeri Alexander Schallenbergin kehotus on paljon lievempi - "Ainakin meidän pitäisi tehdä kauaskantoisin ja tärkein päätös - kuka elää ja kuka kuolee, on edelleen ihmisten, ei koneiden, käsissä. ".

Kansainvälinen Punainen Risti ja Stop Killer Robots ovat vaatineet tietyntyyppisten autonomisten asejärjestelmien kieltämistä yli kymmenen vuoden ajan.

Stop Killer Robotsin johtaja Catherine Connolly sanoi: "Näemme, että paljon rahaa investoidaan teknologioihin, kuten autonomisiin aseisiin ja tekoälyjärjestelmiin, mikä on erittäin huolestuttavaa."

Nykyään tilanne on yhä kiireellisempi.

Asevalvonnan puolestapuhujat myöntävät myös, että aika on loppumassa sääntelyn puolesta.

Organisaation kriisi-, konflikti- ja aseosaston apulaisjohtaja Mary Wareham sanoi: "Vaadimme kerran ennaltaehkäisevää kieltoa täysin autonomisille asejärjestelmille, ja nyt emme enää käytä sanaa "ennaltaehkäisevä", koska olemme niin kaukana autonomisista. aseet hyvin lähellä."

Vaatimusta valvonnan vahvistamisesta ovat vastustaneet Yhdysvallat ja muut maat sekä asekauppiaat.

Andurilin perustaja Luckey on epämääräisesti luvannut säilyttää "ihmisen osallistumisen" yrityksen teknologiaan, mutta on vastustanut autonomisten aseiden sääntelyä ja kieltoja.

Palantirin toimitusjohtaja Alex Karp on maininnut monta kertaa, että olemme saavuttaneet Oppenheimer-hetken.

Tekoälyyn integroitu drone raivaa miinoja

Asiantuntijat sanovat, että tämä valvonnan puute ei ole vain autonomisten aseiden ainutlaatuinen ilmiö, vaan kansainvälisen oikeusjärjestelmän yleinen ongelma.

Mutta monet ovat huolissaan siitä, että kun nämä tekniikat on kehitetty ja integroitu armeijaan, ne säilyvät ja niitä on vaikeampi säännellä.

"Kun asetta on käytetty armeijassa, on vaikeampaa luopua siitä, koska he ovat tulleet siitä riippuvaisiksi", sanoi Scharre Center for American Security -ajatushautomosta. "Tämä ei ole enää vain taloudellinen investointi."

Jos autonomiset aseet ja tekoäly kehittyvät muiden sotilaallisten teknologioiden tapaan, niiden käyttö todennäköisesti valuu myös kotimaisiin lainvalvonta- ja rajavartioviranomaisiin, mikä vahvistaa teknologiaa entisestään.

"Monet kertaa sodassa käytetty tekniikka päätyy takaisin kotiin", Connolly sanoi.

Viitteet:

https://www.theguardian.com/technology/article/2024/jul/14/ais-oppenheimer-moment-autonomous-weapons-enter-the-battlefield