uutiset

koneen sydänraportti

toimittaja: zhang qian

alkuperäinen tarkoitus on hyvä, mutta lähestymistapa on edelleen kyseenalainen.

juuri nyt yli puoli vuotta keskusteltu sb 1047 vihdoin päättyi: kalifornian kuvernööri gavin newsom kielsi lakiesityksen.

sb 1047:n koko nimi on "safe and secure innovation for frontier artificial intelligence act", jonka tavoitteena on luoda selkeät turvallisuusstandardit riskialttiille tekoälymalleille, jotta ne eivät joutuisi väärinkäyttöön tai aiheuttamaan katastrofia.

lakiehdotuksella pyritään erityisesti säätelemään tekoälyä mallitasolla, ja se koskee malleja, jotka on koulutettu tietyn laskennallisen ja kustannuskynnyksen yli. kuitenkin, jos ne lasketaan tiukasti määrättyjen laskenta- ja kustannuskynnysten mukaisesti, kaikkia markkinoilla olevia valtavirran laajamittaisia ​​malleja pidetään "potentiaalisesti vaarallisina". lisäksi lakiehdotus edellyttää mallin takana olevan kehitysyhtiön kantavan juridisen vastuun mallinsa jatkokäytöstä tai muuttamisesta, millä uskotaan olevan "jäähdyttävä vaikutus" avoimen lähdekoodin mallien julkaisuun.

linkki laskuun: https://leginfo.legislature.ca.gov/faces/billtextclient.xhtml?bill_id=202320240sb1047

lakiesitys hyväksyttiin tämän vuoden helmikuussasenaattiehdotettiin, ja siitä lähtien se on ollut kiistanalainen. li feifei, yann lecun,andrew ngkaikki vastustavat. jokin aika sitten li feifei kirjoitti henkilökohtaisesti artikkelin, jossa selitti laskun monia haittavaikutuksia. kymmenet kalifornian yliopiston opettajat ja opiskelijat allekirjoittivat myös yhteisen kirjeen vastustaakseen tätä lakiesitystä (katso "li feifei kirjoitti henkilökohtaisesti artikkelin, ja kymmenet tutkijat allekirjoittivat yhteisen kirjeen vastustaakseen kalifornian tekoälyn rajoituslakia"). on kuitenkin myös monia ihmisiä, jotka tukevat lakiesitystä, kuten musk, hinton ja bengio. ennen kuin lakiesitys toimitettiin kalifornian kuvernöörille, osapuolten välillä käytiin monia kiivaita keskusteluja.

nyt kaikki on ratkennut. vetolausunnossaan kuvernööri newsom mainitsi useita tekijöitä, jotka vaikuttivat hänen päätökseensä, mukaan lukien lakiehdotuksen vaikutuksetaiyritysten taakka, kalifornian johtajuus alalla ja kritiikki siitä, että lakiehdotus saattaa olla liian laaja.

uutisten julkistamisen jälkeen yann lecun ilmaisi kiitollisuutensa kalifornian kuvernöörille avoimen lähdekoodin yhteisön puolesta.

ng vahvisti yann lecunin pyrkimyksiä selittää lakiesityksen puutteet yleisölle.

jotkut ihmiset ovat kuitenkin iloisia ja jotkut huolissaan - kalifornian senaattori scott wiener, lakiesityksen sponsori, sanoi olevansa erittäin pettynyt tuloksiin. hän kirjoitti viestissä, että veto "on takaisku kaikille, jotka uskovat suurten yritysten valvontaan, jotka tekevät kriittisiä päätöksiä, jotka vaikuttavat yleiseen turvallisuuteen ja hyvinvointiin sekä "planeettamme tulevaisuuteen".

on huomattava, että sb 1047:n hylkääminen ei tarkoita, että kalifornia sulkee silmänsä tekoälyn turvallisuuskysymyksiltä, ​​kuten kuvernööri newsom mainitsi lausunnossaan. samalla hän ilmoitti myös, että li feifei ja muut auttavat kaliforniaa suunnittelemaan vastuullisia suojatoimenpiteitä generatiivisen tekoälyn käyttöönottamiseksi.

kalifornian kuvernööri: sb 1047:ssä on monia ongelmia

mitä tulee sb 1047:ään, kalifornian kuvernööri newsom sanoo viimeisen sanan. miksi hän vetosi lakiehdotukseen? vastauksen antoi lausunto.

lausuntolinkki: https://www.gov.ca.gov/wp-content/uploads/2024/09/sb-1047-veto-message.pdf

ote lausunnosta on seuraava:

kaliforniassa asuu 32 maailman 50 johtavasta al-yrityksestä, jotka ovat tärkeän teknologisen kehityksen edelläkävijöitä modernissa historiassa. olemme tällä alalla edelläkävijöitä tutkimus- ja koulutuslaitostemme, monipuolisen ja motivoituneen työvoimamme sekä vapaamielisen vapaiden ideoiden viljelemisen ansiosta. tulevana johtajana ja innovaattorina otan vastuuni säännellä tätä alaa vakavasti.

sb 1047 liioittelee keskustelua al:n käyttöönoton aiheuttamista mahdollisista uhista. keskustelun avain on siitä, pitäisikö sääntelyn kynnyksen perustaa al-mallin kehittämiseen tarvittavien laskelmien kustannuksiin ja määrään vai arvioida järjestelmän todellinen riski näitä tekijöitä ottamatta huomioon. tämä maailmanlaajuinen keskustelu syntyy, kun al:n mahdollisuudet kasvavat edelleen hälyttävää vauhtia. samaan aikaan strategiat ja ratkaisut katastrofaalisten vaarojen riskien torjumiseksi kehittyvät nopeasti.

keskittymällä vain kalleimpiin ja suurimpiin malleihin sb 1047 luo sääntelykehyksen, joka voi antaa yleisölle väärän turvallisuuden tunteen tämän nopeasti kehittyvän tekniikan hallinnasta. pienemmät erikoismallit voivat olla yhtä vaarallisia tai jopa vaarallisempia kuin sb 1047:n kohteena olevat mallit.

sopeutumiskyky on ratkaisevan tärkeää, kun kilpailemme aikaa vastaan ​​säännelläksemme teknologiaa, joka on vielä lapsenkengissään. tämä vaatii herkkää tasapainoa. vaikka sb 1047:llä on hyvät aikomukset, se ei ota huomioon, käytetäänkö tekoälyjärjestelmiä korkean riskin ympäristöissä, onko niissä kriittisiä päätöksiä vai käytetäänkö arkaluonteisia tietoja. sen sijaan lakiesitys asettaa tiukat standardit jopa kaikkein perustoiminnoille - kunhan niitä käytetään suurissa järjestelmissä. en usko, että tämä on paras tapa suojella yleisöä tämän tekniikan todellisilta uhkilta.

olen samaa mieltä kirjoittajan kanssa siitä, että emme voi odottaa, kunnes tapahtuu suuri katastrofi, ryhtyäksemme toimiin yleisön suojelemiseksi. kalifornia ei luovu velvollisuuksistaan. turvaprotokollat ​​on otettava käyttöön. ennakoivia suojatoimia tulee toteuttaa, ja huonoille toimijoille tulee olla selkeät ja täytäntöönpanokelpoiset seuraukset. olen kuitenkin eri mieltä siitä, että pitääksemme yleisön turvassa meidän täytyy tyytyä ratkaisuun ilman tekoälyjärjestelmien ja -ominaisuuksien empiiristä liikerata-analyysiä. viime kädessä minkä tahansa kehyksen, joka säätelee tekoälyä tehokkaasti, on pysyttävä itse tekniikan tahdissa.

niille, jotka sanovat, että emme ratkaise ongelmaa tai että kalifornialla ei ole roolia säännellä tämän tekniikan mahdollisia vaikutuksia kansalliseen turvallisuuteen, olen eri mieltä. tämän lähestymistavan käyttäminen vain kaliforniassa voi olla järkevää, varsinkin jos kongressi ei ole toiminut liittovaltion toimesta, mutta sen on perustuttava empiiriseen näyttöön ja tieteeseen.

yhdysvaltain kansalliseen tiede- ja teknologiainstituuttiin kuuluva yhdysvaltain tekoälyn turvallisuusinstituutti kehittää näyttöön perustuviin menetelmiin perustuvaa kansallista turvallisuusriskiohjeistusta suojautuakseen selkeiltä yleisen turvallisuuden riskeiltä.

syyskuussa 2023 antamani toimeenpanomääräyksen mukaisesti hallintoni virastot tekevät riskianalyysejä mahdollisista uhista ja haavoittuvuuksista, jotka liittyvät tekoälyn käyttöön kalifornian kriittisessä infrastruktuurissa.

nämä ovat vain muutamia esimerkkejä työstä, jota teemme asiantuntijoiden johdolla esitelläksemme tieteeseen ja faktoihin perustuvia tekoälyn riskinhallintakäytäntöjä poliittisille päättäjille.

näiden ponnistelujen ansiosta olen allekirjoittanut yli tusina laskua viimeisten 30 päivän aikana säädelläkseni tekoälyn aiheuttamia erityisiä ja tunnettuja riskejä.

yli tusina laskua allekirjoitettiin 30 päivässä, kalifornian intensiivinen tekoälyturvallisuusaloite

lausunnossaan newsom mainitsi allekirjoittaneensa yli tusina laskua 30 päivässä. nämä laskut kattavat monenlaisia ​​aiheita, kuten avoimen syvän väärennössisällön torjumisen, vesileimojen lisäämisen vaatimuksen tekoälyn luomaan sisältöön, esiintyjien digitaalisten muotokuvien suojaaminen, kuolleiden hahmojen äänten tai hahmojen tekijänoikeudet, kuluttajien yksityisyys ja tekoälyn sisällyttämisen opetukseen ja moniin muihin näkökohtiin.

linkki laskuluetteloon: https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/

vastauksena sb 1047:n tekoälyriskien arvioinnin tieteellisen analyysin puutteeseen kuvernööri ilmoitti pyytäneensä maailman johtavia generatiivisen tekoälyn asiantuntijoita auttamaan kaliforniaa kehittämään toteuttamiskelpoisia suojakaiteita generatiivisen tekoälyn käyttöönotolle.

li feifein lisäksi tino cuéllar, national academy of sciences computing researchin sosiaalisia ja eettisiä vaikutuksia käsittelevän komitean jäsen, ja jennifer tour chayes, kalifornian yliopiston tietojenkäsittelyn, tietotieteen ja yhteiskunnan koulun dekaani, berkeley ovat myös ohjelman jäseniä.

heidän työnsä keskittyy huippumallien empiiriseen, tieteeseen perustuvaan liikerata-analyysiin sekä niiden kykyihin ja niihin liittyviin riskeihin. tällä työllä on vielä pitkä matka.

参考链接: https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/