uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Lähde: Global Times

[Global Timesin erikoiskirjeenvaihtaja Yhdysvalloissa Zhuo Ran Global Timesin erikoiskirjeenvaihtaja Wang Yi] "Kalifornian tekoäly (AI) Bill laukaisi jakautumisen Piilaaksossa Agence France-Pressen 25. päivänä Kalifornian osavaltiossa tekemän raportin mukaan." Lainsäätäjä valmistelee tekoälyn sääntelemiseen tähtäävää lakiesitystä ("SB 1047 Bill", koko nimi on "Frontier Artificial Intelligence Model Security Innovation Act"). Lakiesitys jätettiin Kalifornian yleiskokoukselle tämän vuoden helmikuussa ja aiheutti suurta keskustelua. Kalifornian lainsäätäjä ilmoitti 19. elokuuta lakiehdotuksen tarkistetun version. Lakiesitystä tukivat Jeffrey Hinton ja Joshua Bengio, jotka tunnetaan "tekoälyn kummiseinä", mutta sitä vastustivat myös tutkijat, kuten Yang Likun ja Li Feifei, sekä johtavat tekoälyyritykset.

20. elokuuta robotti käveli Amazonin tekoälylaboratorion edessä San Franciscossa. (Visuaalinen Kiina)

Haluat välttää riskejä ja edistää innovaatioita

Yhdysvaltain tiedotusvälineiden mukaan SB 1047 -lakiehdotuksella pyritään luomaan turvallisuusstandardit kehittäjille, joiden koulutuskustannukset ylittävät 100 miljoonaa dollaria tai saavuttavat tietyn laskentatehon, jotta voidaan varmistaa laajamittaisten tekoälymallien turvallinen kehittäminen. Lakiehdotus vaatii suurten, huippuluokan tekoälymallien kehittäjiä ryhtymään varotoimiin, kuten käyttöönottoa edeltävään testaukseen, simuloituihin hakkerointihyökkäuksiin, asentamaan kyberturvallisuussuojatoimia ja tarjoamaan ilmiantajien suojauksia.

Yhdysvaltain demokraattinen senaattori Scott Wiener, SB 1047 -lain sponsori, sanoi: "Kongressin saavuttaessa tekoälyn sääntelyn umpikujan, Kalifornian on ryhdyttävä toimiin, ennen kuin tekoälyn nopea kehitys aiheuttaa ennakoitavissa olevia riskejä Wiener uskoo, että tekoälyn turvallisuus ja innovaatio eivät sulje toisiaan pois, ja lakiehdotuksen tarkistettu versio on vastannut joidenkin aiempien kriitikkojen huolenaiheisiin.

Yhdysvaltain "Business Insider" -raportin 25. päivänä elokuun 19. päivänä julkistettu tarkistettu versio sisältää useita muutoksia. Ensinnäkin se rajoittaa siviilioikeudellisten rangaistusten soveltamisalaa rikoksista, jotka eivät aiheuta vahinkoa tai aiheuttavat välittömän vaaran. Myös lakiehdotuksen keskeistä kieltä on löysennetty. Tämä "auttaa selventämään, että lakiesityksen painopiste on riskien testaamisessa ja lieventämisessä", sanoi Calvin, Center for Artificial Intelligence Safety Action Fund -rahaston vanhempi politiikan neuvonantaja, lakiehdotuksen toinen tukija. Toiseksi lakiehdotus ei enää edellytä Frontier Models Divisionin perustamista, mutta se kuitenkin perustaisi Frontier Models Councilin ja asettaisi sen olemassa olevaan valtion toimintavirastoon. Päivitetyssä lakiehdotuksessa poistetaan myös väärästä valasta johtuva rangaistus, jolloin asianomaiset yritykset vapautetaan rikosoikeudellisesta vastuusta ja säädetään vain siviilioikeudellisesta vastuusta.

Jotkut näkyvät henkilöt ilmaisivat tukensa

Anthropic, Kalifornian tekoälyn startup, ehdotti sarjaa muutoksia alkuperäiseen lakiin sen julkistamisen jälkeen ja ilmaisi "varovaisen hyväksynnän" kuukautta myöhemmin. Anthropicin toimitusjohtaja Dario Amodei sanoi Kalifornian kuvernöörille Gavin Newsomille lähettämässään kirjeessä, että lakiehdotuksella on tällä hetkellä "enemmän etuja kuin puutteita". Mutta hän lisäsi: "Emme ole varmoja siitä, ja lakiehdotuksessa on edelleen näkökohtia, joista olemme huolissamme tai joista olemme epäselviä."

Lakiehdotuksella on kuitenkin edelleen monien tunnettujen tekoälyalan hahmojen tuki. Esimerkkejä ovat Montrealin yliopiston professori Joshua Bengio ja tietojenkäsittelytieteilijä Jeffrey Hinton. Hinton kirjoitti Fortune-lehden artikkelissa: "Tehokkaalla tekoälyllä on uskomattomia lupauksia, mutta riskit ovat myös hyvin todellisia, ja ne on otettava erittäin vakavasti. SB 1047 on erittäin älykäs lähestymistapa näiden huolenaiheiden tasapainottamiseksi."

Dan Hendrick, Yhdysvaltain tekoälyn turvallisuuden keskuksen perustaja, sanoi New York Timesin haastattelussa, että lakiesitys pakottaisi suuret teknologiayritykset tunnistamaan ja poistamaan kalliisiin teknologioihinsa sisältyvät vaarat.

Vastustaja: "Tekee enemmän haittaa kuin hyötyä"

Vaikka teknologiayhteisön ihmiset ovat yleensä samaa mieltä tarpeesta hillitä uusien tekoälymallien riskejä, kriitikot väittävät, että Wienerin ehdotus tukahduttaisi startup-yrityksiä, hyödyttäisi yhdysvaltalaisia ​​kilpailijoita ja heikentäisi Kalifornian asemaa tekoälyn alalla.

Stanfordin yliopiston tietojenkäsittelytieteen professori Feifei Li on yksi tunnetuista tutkijoista, joka vastustaa lakiesitystä. Hän sanoi, että SB 1047 -laki ei ratkaise ongelmaa, jonka se haluaa ratkaista, ja vahingoittaa vakavasti tekoälyn akateemista. yhteisö, avoimen lähdekoodin yhteisö jne., koska kehittäjät kantavat liian suuren vastuun, mikä rajoittaa heidän innovaatiotaan. Lisäksi lakiehdotus edellyttää, että kaikissa malleissa, jotka ylittävät tietyn kynnyksen, on oltava "tappikytkin", mekanismi, joka voi sulkea ohjelman milloin tahansa, mikä saa kehittäjät epäröimään koodin kirjoittamista ja yhteistyötä sekä julkisen sektorin ja akateemista tutkimusta. Heikkenee yhteistyön puutteen ja muiden syiden vuoksi. Hän sanoi myös, että huolestuttavinta on se, että lakiehdotuksessa ei käsitellä tekoälyn kehityksen mahdollisia haittoja, mukaan lukien puolueellisuus ja syväväärennökset.

Amerikkalainen tekoälyyritys OpenAI on myös ilmaissut julkisesti vastustavansa tätä lakiesitystä Jason Quan, yhtiön strategiajohtaja, kirjoitti Weinerille lähettämässään kirjeessä, että lakiehdotus uhkaa "Kalifornian ainutlaatuista asemaa tekoälyn maailmanlaajuisena johtajana". Hän lisäsi, että tämä voisi "hidastaa innovaatiotahtia ja saada maailmanluokan insinöörit ja yrittäjät lähtemään osavaltiosta etsimään mahdollisuuksia muualta". Toinen teknologiayritys, Meta, väitti, että lakiesitys "estää avoimen lähdekoodin tekoälymallien julkaisemisen".

Kriitikot, mukaan lukien Yhdysvaltain demokraattiset lainsäätäjät, uskovat, että uhkaaminen rangaistuksilla kehittäjiä vastaan ​​nousevalla alalla voi tukahduttaa innovaation. Entinen edustajainhuoneen puhemies Pelosi antoi myös lausunnon vastustavansa lakiesitystä 16. päivänä. Lausunnossa todettiin: "Monet kongressissa uskovat, että vaikka SB 1047 on hyvää tarkoittava, hän sanoi, että huippudemokraatit ovat jakaneet huolensa Weinerin kanssa: "Vaikka toivomme, että Kalifornia jatkaa kuluttajien, tietojen ja henkisen omaisuuden suojaamista." ja muita näkökohtia, jotka johtavat tekoälyn kehitystä, mutta SB 1047 -laki tekee enemmän haittaa kuin hyötyä."

Kalifornian lainsäätäjät, jotka toivoivat saavansa kuvernööri Newsomin allekirjoittamaan vähemmän kiistanalaisen tekoälylain, tekivät merkittäviä muutoksia SB 1047:ään, mutta eivät onnistuneet vakuuttamaan Piilaakson tärkeintä tekoälylaboratoriota siitä, että laki oli hyväksymisen arvoinen. SB 1047 on parhaillaan Kalifornian yleiskokouksessa lopullista äänestystä varten ja saattaa olla Newsomin pöydällä kuun loppuun mennessä. Newsom ei ole vielä ilmaissut näkemyksiään lakiehdotuksesta, mutta Piilaakso ja Yhdysvaltain teknologiayhteisö ovat seuranneet hänen päätöstään laajalti.