uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

toimittaja: toimitusosasto hyz

[johdatus uuteen viisauteen]hyvää juhannusta! juuri nyt kalifornian kuvernööri ilmoitti käyttävänsä veto-oikeutta kalifornian ai-rajoituslakia vastaan. lecun, li feifei ja ng enda ryntäsivät kertomaan toisilleen innoissaan ja juhlivat otsallaan ja käsillään. bengio ja hinton, jotka tukevat lakia voimakkaasti, ovat pysyneet vaiti. openai, google ja meta ovat kaikki välttyneet katastrofilta.

raskasta!

varhain tänä aamuna kalifornian kuvernööri gavin newsom ilmoitti virallisesti käyttävänsä veto-oikeutta sb-1047-lakia vastaan!

kehittäjille ympäri maailmaa sb-1047-laskun peruuttaminen tarkoittaa, että suurten valmistajien, kuten metan ja googlen, avoimen lähdekoodin mallit ovat edelleen saatavilla.

tätä päätöstä voidaan sanoa laajalti odotetuksi. tekoälypiirin suuret nimet ryntäsivät kertomaan toisilleen innoissaan, ja erityisesti oppositiossa vahvassa roolissa olleet ng enda, lecun ja li feifei olivat iloisia.

mitä kalifornian kuvernöörin veto-oikeus tarkoittaa?

sb-1047 lasku on todellakin sen loppu.

"pamaineinen" sb-1047 edellyttää, että sb 1047 estää tekoälyjärjestelmiä aiheuttamasta joukkouhreja tai käynnistämästä kyberturvallisuushäiriöitä, jotka maksavat yli 500 miljoonaa dollaria, pitämällä kehittäjät vastuullisina.

heti kun uutinen julkaistiin, se aiheutti valtavaa vastustusta akateemisessa ympäristössä ja teollisuudessa.

tiedäthän, että 32 maailman 50 parhaasta genai-yrityksestä sijaitsee kaliforniassa, ja niillä on keskeinen rooli tekoälyn tulevaisuuden määrittelyssä.

kalifornian toimiston lehdistötiedotteen mukaan gavin allekirjoitti 18 genai-laskua viimeisen kuukauden aikana, mutta käytti veto-oikeuttaan vain sb-1047:n.

viimeisten 30 päivän aikana kuvernööri on allekirjoittanut joukon lakeja syväväärennössisällön torjumiseksi, esittäjien digitaalisten kuvien oikeuksien suojelemiseksi ja paljon muuta.

tällä lakiehdotuksella on hyvät aikeet, mutta käytännössä siinä on vakavia ongelmia.

"en usko, että tämä on paras tapa suojella yleisöä tekoälyn todellisilta uhkilta", hän sanoi.

sb-1047 ei ota huomioon sitä, käytetäänkö tekoälyjärjestelmää korkean riskin ympäristössä, sisältääkö se kriittisiä päätöksiä vai käyttääkö se arkaluonteisia tietoja. sen sijaan lakiehdotuksessa sovelletaan tiukkoja standardeja suurten mallijärjestelmien käyttöönoton perustoimintoon.

kun sb-1047 hylätään, tekoäidin li feifein roolia ei voida jättää huomiotta.

stanfordin professori li feifei sanoi iloisena, että hänellä oli suuri kunnia työskennellä stanfordhai:n kanssa tasoittaakseen tietä vastuulliselle tekoälyhallinnolle kaliforniassa.

tekoälyguru andrew ng kiitti myös li feifeitä hänen julkisesta vastustuksestaan ​​sb-1047:lle ja sanoi, että hänen ponnistelunsa voivat edistää järkevämpää tekoälypolitiikkaa tutkimuksen ja innovaatioiden suojelemiseksi.

vain muutama päivä sitten, kun sb-1047-laki oli valmistumassa, ng ja lecun vaativat edelleen innokkaasti äänestystä ja käynnistivät äänestyksen peläten, että avoimen lähdekoodin tekoälyllä ja koko tekoälyekosysteemillä olisi hyydyttävä vaikutus.

tänään ai-yritykset kaikkialla kaliforniassa hengittävät vihdoin helpotuksesta.

kuvernöörin veto-kirje: ei allekirjoitettu

"palautan senaatin lakiesityksen 1047 ilman allekirjoitustani."

kirjeessä kuvernööri myönsi, että sb-1047 liioittelee tekoälyn käyttöönoton aiheuttamaa uhkaa.

lisäksi keskittymällä vain kalleimpiin suuren mittakaavan malleihin, lasku todella antaa yleisölle "väärä turvallisuuden tunteen".

hän huomauttaa, että pienemmätkin patentoidut mallit voivat olla yhtä vaarallisia.

lyhyesti sanottuna lakiesityksen tekoälyä koskeva sääntely tapahtuu "yleisen edun mukaisen innovaation rajoittamisen" kustannuksella.

kuvernööri sanoi, että lakiehdotuksessa sovelletaan tiukimpia standardeja perustoimintoihin, mikä ei ole paras tapa suojella yleisöä tekoälytekniikan uhilta.

paras ratkaisu on suunnitelma, joka ei perustu tekoälyjärjestelmien ja -ominaisuuksien empiiristen kehityskulkujen analyysiin.

ai-pomo vihaa sitä

tätä loppua voidaan kuvata erittäin tyydyttäväksi lopetukseksi useimmille ihmisille bengioa ja hintonia lukuun ottamatta.

mitä tulee sb-1047:ään, monet isot kaverit vihaavat sitä.

koko tarina on tämä.

viime vuonna kalifornian kuvernööri allekirjoitti toimeenpanomääräyksen, jossa korostettiin, että kalifornian tulee olla varovaisempi genai:n edessä ja tehdä tekoälystä eettisempi, läpinäkyvämpi ja luotettavampi.

tämän vuoden helmikuussa kalifornia laati suoraan lain nimeltä "sb-1047 frontier ai large model safety innovation act", joka sisältää tarkemmat määräykset suurten mallien turvalliselle ja avoimelle käytölle.

siinä on kuitenkin paljon kohtuutonta sisältöä, joka vain tukahduttaa tietyt yritykset nimen perusteella.

yli 100 miljoonan euron mallit on estettävä aiheuttamasta "merkittävää haittaa"

esimerkiksi on olemassa säännös, joka määrää, että jos joku käyttää laitonta toimintaa avoimen lähdekoodin jälkeen, jos isoa mallia, jonka kehitys- ja koulutuskustannukset ylittävät 100 miljoonaa dollaria ja jonka liukulukuoperaatiot ylittävät 10^26 kertaa, mallin kehittäjä myös rangaistaan ​​ankarasti.

sinun pitäisi tietää, että metan llama 3 -malli, googlen gemma-malli jne. täyttävät kaikki tämän ehdon.

tämä säännös on selvästikin erittäin kiistanalainen.

jos esimerkiksi joku murtautuu autonomiseen ajojärjestelmään ja aiheuttaa onnettomuuden, tuleeko järjestelmän kehittänyt yritys myös vastuuseen?

lakiesityksen mukaan kehittäjien on arvioitava malliensa johdannaiset ja estettävä niiden aiheuttamat haitat, mukaan lukien jos asiakkaat hienosäätävät malleja, muutoin muokkaavat malleja (jailbreak) tai yhdistävät ne muihin ohjelmistoihin.

kuitenkin, kun avoimen lähdekoodin ohjelmisto on julkaistu, ihmiset voivat ladata mallin suoraan henkilökohtaisiin laitteisiinsa, joten kehittäjät eivät voi tietää muiden kehittäjien tai asiakkaiden toimintoja.

lisäksi lakiehdotuksessa on monia epämääräisiä määritelmiä.

esimerkiksi tekoälymallien "kriittisiä vammoja" kuvataan valtaviksi uhreiksi, yli 500 miljoonan dollarin tappioiksi tai muiksi "yhtä vakaviksi" vammoksi. mutta millä ehdoilla kehittäjät joutuvat vastuuseen? mitä vastuita siellä on?

lakiesitys ei ole asiasta hiljaa.

lisäksi laki koskee tekoälymalleja, jotka käyttävät yli 100 miljoonaa dollaria koulutukseen, tai kehittäjiä, jotka käyttävät yli 10 miljoonaa dollaria olemassa olevien mallien hienosäätöön, mikä asettaa monet pienet teknologiayritykset hyökkäyksen piiriin.

sb-1047:ssä on myös joitain kohtuuttomia ehtoja. esimerkiksi jos yritys avaa mallinsa muihin maihin, sen on toimitettava kaikki asiakastiedot, mukaan lukien asiakkaan henkilökortti, luottokortin numero, tilinumero jne.

kehittäjien on myös luotava testausmenettelyjä, jotka käsittelevät tekoälymallin riskejä, ja heidän on palkattava vuosittain kolmannen osapuolen tarkastajia arvioimaan tekoälyn turvallisuuskäytäntöjään.

niille malleihin perustuville tekoälytuotteille on kehitettävä vastaavat suojausprotokollat ​​väärinkäytösten estämiseksi, mukaan lukien "hätäpysäytyspainike", joka sammuttaa koko tekoälymallin.

billiä kritisoitiin siitä, että hän oli sulkenut silmänsä todellisilta riskeiltä

useammat kriitikot uskovat, että tämä lakiesitys on liian perusteeton.

se ei ainoastaan ​​estä tekoälyinnovaatiota, vaan se ei auta nykypäivän tekoälyn turvallisuutta.

vielä ironista on, että lakiehdotuksessa käytetään niin kutsuttua hätäkytkintä maailmanlopun estämiseksi, mutta suljetaan silmät olemassa olevilta turvallisuusriskeiltä, ​​kuten deepfakeilta ja vääriltä tiedoilta.

vaikka myöhemmät tarkistukset olivatkin löyhempiä, mikä heikensi kalifornian hallituksen valtaa pitää tekoälylaboratoriot vastuullisina.

mutta silti sb-1047:llä on huomattava vaikutus suuriin valmistajiin, kuten openai, meta ja google.

joillekin aloittaville yrityksille tämä isku voi olla jopa tuhoisa.

nyt kun pöly on laskeutunut, niin suuret yritykset kuin pienet startupit voivat hengittää helpotuksesta.

turing jättiläinen hajoaa

sb-1047 jopa sai turingin suuren kolmion "hajoamaan" tämän takia.

lecunin, li feifein ja ng endan edustamat suuret pomot ovat julkisesti vastustaneet ja tyytymättömiä monta kertaa.

lecun jopa kopioi alkuperäisen viestin, jota hän käytti, kun hän vaati tekoälytutkimuksen keskeyttämistä – ole hyvä ja keskeytä tekoälylainsäädäntö kuudeksi kuukaudeksi!

kaksi muuta turingin suuresta kolmesta, yoshua bengio ja geoffrey hinton, kannattivat yllättävän voimakkaasti tämän lain hyväksymistä.

minusta jopa tuntuu, että nykyiset ehdot ovat hieman liian löysät.

vanhempina tekoälyteknologian ja politiikan tutkijoina kirjoitamme ilmaistaksemme vahvan tukemme kalifornian senaatin lakiehdotukselle 1047.

sb 1047 määrittelee perusvaatimukset tämän tekniikan tehokkaalle säätelylle. se ei ota käyttöön lupajärjestelmää, ei vaadi yrityksiä hankkimaan lupaa valtion virastoilta ennen koulutusta tai mallien käyttöönottoa, luottaa siihen, että yritykset arvioivat riskejä itse, eikä aseta yrityksiä tiukasti vastuuseen edes katastrofin sattuessa.

tämä on suhteellisen lievä lainsäädäntö suhteessa kohtaamiemme riskien laajuuteen.

lakiehdotuksen perustoimenpiteiden kumoaminen olisi historiallinen virhe – virhe, joka tulee entistä ilmeisemmäksi vuoden kuluttua, kun seuraavan sukupolven tehokkaampia tekoälyjärjestelmiä julkaistaan.

mutta bengio ja hinton eivät ilmeisesti ole valtavirtaa.

yhteenvetona voidaan todeta, että eri teknologiajättiläisten asemat ja isot lyönnit ovat seuraavat.