uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

TMTpost App -uutisten mukaan 7. elokuuta "AI-kummi", National Academy of Engineeringin akateemikko, National Academy of Medicine akateemikko, American Academy of Arts and Sciences akateemikko, Stanfordin yliopiston ensimmäinen Sequoia-tuoliprofessori, Stanford Human-Centered Artificial Intelligence Institute (HAI) dekaani Feifei Li kirjoitti artikkelin "Fortunessa" tänä aamuna ja huomautti, että tekoälyn turvallisuuslain tuleva täytäntöönpano Kaliforniassa vahingoittaa kehittäjiä, tiedemaailmaa ja jopa koko Yhdysvaltain tekoälyn ekosysteemi, mutta se ei ratkaise tekoälyn mahdollista haittaa.

"Tänään tekoäly on kehittyneempi kuin koskaan. Suuren voiman myötä päättäjät, kansalaisyhteiskunta ja alan toimijat etsivät lähestymistapaa, joka minimoi mahdolliset haitat ja muodostaa turvallisen, ihmiskeskeisen yhteiskunnan Jotkut näistä ponnisteluista, mutta olen varovainen muiden suhteen koko maassa", Li Feifei sanoi.

On raportoitu, että tämän vuoden heinäkuussa Kalifornian senaatti hyväksyi version SB-1047-lakista, joka vaatii kehittäjiä todistamaan, että heidän tekoälymallejaan ei käytetä haitan aiheuttamiseen. Tämä on enemmän kuin ehdotettua yli 600 tekoälyä Yhdysvaltain osavaltioiden lainsäätäjien tänä vuonna liian monta rajoitusta kiinnittääkseen huomiota. Kalifornian kuvernööri Gavin Newsom saattaa allekirjoittaa tämän erittäin vahingollisen ehdotuksen tämän vuoden elokuussa.

Lakiesityksen mukaan Metan Llama-3 määritellään "huippuluokan malliksi", jonka harjoittelu maksaa yli 100 miljoonaa dollaria. Meta saa myös ankaran rangaistuksen, jos joku käyttää mallia laittomiin tarkoituksiin. Samanaikaisesti lain pykälä 22603(a)(3)(4) edellyttää "Limited Duty Exemption":n toimittamista valtion virastoille ja mallin toiminnan lopettamista, jos siinä on virheitä, kun taas pykälä 22603(b) edellyttää. kehittäjät voivat ilmoittaa minkä tahansa mallin mahdollisista tekoälyn tietoturvahäiriöistä. Jos kehittäjä ei pysty täysin hallitsemaan eri johdannaisversioita mallinsa perusteella, jos tapahtuu tietoturvahäiriö, vastuu kuuluu ensimmäiselle kehittäjälle—-Tämä vastaa yhteisvastuuta。

Lisäksi lain pykälässä 22604(a)(b) määrätään, että kun käyttäjät käyttävät huippuluokan mallejaan ja laskentaresurssejaan, kehittäjien on toimitettava kaikki asiakastiedot, mukaan lukien asiakkaan henkilöllisyys, luottokortin numero, tilinumero, ja asiakkaan tunniste, tapahtumatunnus, sähköposti, puhelinnumero. Lisäksi tiedot on toimitettava kerran vuodessa ja käyttäjän käyttäytyminen ja aikomukset arvioidaan. Kaikki käyttäjätiedot varmuuskopioidaan 7 vuoden ajan ja ne tallennetaan myös Tulli- ja rajahallitukseen.

Kalifornian maantieteellinen sijainti Yhdysvalloissa on hyvin erikoinen. Siellä sijaitsevat kuuluisat koulut, kuten Stanford, Caltech ja Etelä-Kalifornian yliopisto, sekä Google, Apple,OpenAI Se on myös Metan ja Metan kaltaisten teknologiajättiläisten päämaja. Siksi tässä suhteessa Yann LeCun, Turing-palkinnon voittaja ja Metan johtava tekoälytutkija, Li Feifei, Andreessen Horowitz, sijoituslaitoksen a16z perustajaosakas, Stanfordin yliopiston tietojenkäsittelytieteen laitos ja sähkötekniikan laitos Vieraileva professori Andrew Ng ja muut esitti vastalauseita.

Heidän joukossaan Yang Likun varoitti, että lakiesityksen "yhteisvastuulauseke altistaa avoimen lähdekoodin tekoälyalustat valtaville riskeille... Meta ei vaikuta, mutta tekoälyn startupit menevät konkurssiin." Laki vaatii tekoälykehittäjien ottamaan siviili- ja jopa rikosoikeudellisen vastuun kehittämistään malleista.

Horowitz uskoo, että vaikka Kalifornian tekoälyn vastainen lakiesitys on hyvää tarkoittava, se voi heikentää Yhdysvaltain teknologiateollisuutta väärän tiedon vuoksi juuri silloin, kun teknologian tulevaisuus on kriittisessä tienhaarassa. Yhdysvallat tarvitsee johtajia tunnustamaan, että nyt on kriittinen hetki älykkäälle ja yhtenäiselle tekoälyn sääntelylle.

Andrew Ng julkaisi artikkelin, jonka mukaan Kalifornian SB-1047-laki tukahduttaa suurten avoimen lähdekoodin mallien kehittämisen. Hän huomautti edelleen,Tekoälysovelluksia pitäisi säännellä, ei itse suuria malleja。

Li Feifei uskoo, että tekoälypolitiikan on edistettävä innovaatioita, asetettava asianmukaiset rajoitukset ja lievennettävä näiden rajoitusten vaikutuksia. Politiikat, jotka eivät tee niin, eivät parhaimmillaan saavuta tavoitteitaan ja johtavat pahimmillaan tahattomiin ja vakaviin seurauksiin. Jos SB-1047 hyväksytään laiksi, se vahingoittaa Amerikan aloittelevaa tekoälyekosysteemiä, erityisesti niitä osia, jotka ovat jo nyt heikommassa asemassa nykypäivän teknologiajättiläisissä: julkinen sektori, tiedemaailma ja "pieni teknologia". SB-1047 rankaisisi tarpeettomasti kehittäjiä, tukahduttaisi avoimen lähdekoodin yhteisömme ja estäisi akateemista tekoälytutkimusta, mutta epäonnistuisi ratkaisemaan todellisia ongelmia, jotka se on suunniteltu ratkaisemaan.

Li Feifei antoi neljä syytä:

Ensinnäkin SB-1047 rankaisisi kehittäjiä kohtuuttomasti ja tukahduttaisi innovaatiot. Jos tekoälymallia käytetään väärin, SB-1047 asettaa vastuulliset osapuolet ja mallin alkuperäiset kehittäjät vastuuseen. Jokaisen tekoälykehittäjän (etenkin aloittelevien ohjelmoijien ja yrittäjien) on mahdotonta ennustaa mallilleen kaikkia mahdollisia käyttötarkoituksia. SB-1047 pakottaa kehittäjät vetäytymään ja puolustautumaan – juuri sitä, mitä yritämme välttää.

Toiseksi SB-1047 rajoittaa avoimen lähdekoodin kehitystä. SB-1047 edellyttää, että kaikissa malleissa, jotka ylittävät tietyn kynnyksen, on oltava "tappikytkin", mekanismi, joka voi sammuttaa ohjelman milloin tahansa. Kehittäjät ovat vielä haluttomampia koodaamaan ja tekemään yhteistyötä, jos he pelkäävät, että heidän lataamansa ja rakentamansa ohjelmat poistetaan. Tämä tappokytkin tuhoaisi avoimen lähdekoodin yhteisön – lukemattomien innovaatioiden lähteen, ei vain tekoälyssä, vaan kaikessa GPS:stä MRI:hen ja Internetiin.

Kolmanneksi SB-1047 heikentää tekoälytutkimusta julkisella sektorilla ja korkeakouluissa. Avoimen lähdekoodin kehittäminen on tärkeää yksityiselle sektorille, mutta se on tärkeää myös korkeakouluille, jotka eivät voi edistyä ilman yhteistyötä ja mallidataa. Otetaan esimerkiksi tietojenkäsittelytieteen opiskelijat, jotka työskentelevät avoimien tekoälymallien parissa. Jos oppilaitoksillamme ei ole pääsyä asianmukaisiin malleihin ja tietoihin, miten koulutamme seuraavan sukupolven tekoälyjohtajia? Tappava kytkin heikentäisi entisestään näiden opiskelijoiden ja tutkijoiden ponnisteluja, koska he ovat jo nyt huonommassa asemassa tietojen ja tietojenkäsittelyn suhteen suuriin teknologiayrityksiin verrattuna. SB-1047 soi "kuolemankelloksi" korkeakoulujen ja julkisen sektorin tekoälylle, jonka pitäisi kaksinkertaistaa investoinnit.

Huolestuttavinta on, että lakiehdotuksessa ei käsitellä tekoälyn kehityksen mahdollisia haittoja, mukaan lukien harhaa ja syväväärennöksiä. Sen sijaan SB-1047 asettaa mielivaltaisen kynnyksen säätelemällä malleja, jotka käyttävät tietyn määrän laskentatehoa tai maksavat 100 miljoonaa dollaria kouluttautumisesta. Tämä toimenpide ei suinkaan tarjoa suojaa, vaan se vain rajoittaa innovointia eri aloilla, mukaan lukien korkeakoulut.

Li Feifei huomautti, että nykyään akateemisen AI-mallit ovat tämän kynnyksen alapuolella, mutta jos Yhdysvallat tasapainottaa investoinnit yksityisen ja julkisen sektorin tekoälyyn, tiedemaailmaa säätelee SB-1047, ja Yhdysvaltain tekoälyn ekosysteemi heikkenee sen seurauksena. . Siksi Yhdysvaltojen on toimittava päinvastoin.

"Olen useissa keskusteluissa presidentti Bidenin kanssa kuluneen vuoden aikana ilmaissut, että tarvitaan 'moonshot'-mentaliteettia tekoälykoulutuksen, -tutkimuksen ja -kehityksen edistämiseksi maassamme. SB-1047:n rajoitukset ovat kuitenkin liian mielivaltaisia, eivätkä ne vaikuta pelkästään Kalifornia Tekoälyekosysteemillä on myös häiritseviä loppupään vaikutuksia tekoälyyn kaikkialla maassa." Li Feifei huomautti, ettei hän vastusta tekoälyn hallintoa. Lainsäädäntö on kriittinen tekijä tekoälyn turvalliselle ja tehokkaalle kehitykselle. Mutta tekoälypolitiikan on edistettävä avoimen lähdekoodin kehitystä, ehdotettava yhtenäisiä ja järkeviä sääntöjä ja lisättävä kuluttajien luottamusta. SB-1047 ei täytä näitä standardeja.

Li Feifei korosti ehdottaneensa yhteistyötä senaattori Scott Wienerille, lakiehdotuksen laatijalle: Muotoillaan yhdessä tekoälylainsäädäntö ja rakennetaan todella teknologiavetoinen, ihmiskeskeinen tulevaisuuden yhteiskunta.

"Tekoälyn tulevaisuus riippuu itse asiassa siitä, että Kalifornia on edelläkävijäkokonaisuus ja maamme vahvimman tekoälyn ekosysteemin koti - on AI-liikkeen ytimessä, ja Kalifornian kehitys vaikuttaa muuhun maahan. "Li Feifei sanoi lopussa.