uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

whips kertoi, että 17. syyskuuta ulkomaisten tietojen mukaan openai:n toimitusjohtaja sam altman jättää openai:n toukokuussa perustaman sisäisen komitean, joka vastaa yhtiön projekteihin ja toimintaan liittyvien keskeisten turvallisuuspäätösten valvonnasta.

openai sanoi tänään blogikirjoituksessaan, että turvallisuus- ja turvallisuuskomiteasta tulee riippumaton hallituksen valvontaryhmä, jonka puheenjohtajana toimii carnegie mellonin yliopiston professori zico kolter ja jonka jäseniä ovat quoran toimitusjohtaja adam d'angelo, eläkkeellä oleva yhdysvaltain armeijan kenraali paul nakasone ja sonyn entinen varajohtaja. presidentti nicole seligman.

he ovat kaikki openai:n hallituksen nykyisiä jäseniä.

openai huomautti viestissä, että komitea suoritti openai:n uusimman ai-mallin o1 turvallisuusarvioinnin - vaikka altman on edelleen mukana.yhtiö sanoi, että ryhmä saa jatkossakin säännöllisiä tiedotuksia openai-tietoturvatiimiltä ja pidättää oikeuden viivyttää julkaisua, kunnes turvallisuusongelmat on ratkaistu.

openai kirjoitti viestissä: osana työtään turvallisuuslautakunta saa jatkossakin säännöllisesti teknisiä arviointiraportteja nykyisistä ja tulevista malleista sekä jatkuvat julkaisun jälkeiset seurantaraportit. rakennamme mallinjulkaisuprosesseihimme ja käytäntöihimme perustuvaa kattavaa tietoturvakehystä, jonka avulla voimme määritellä selkeästi mallijulkaisujen onnistumiskriteerit.

altman erosi turvallisuus- ja turvallisuuskomiteasta sen jälkeen, kun viisi yhdysvaltain senaattoria esitti kysymyksiä openai:n politiikasta altmanille tänä kesänä lähettämässään kirjeessä.

lähes puolet koskaan tekoälyn pitkän aikavälin riskeihin keskittyneistä openai:n työntekijöistä on lähtenyt, ja entiset openai-tutkijat ovat syyttäneet altmania todellisen tekoälysääntelyn vastustamisesta openai:n yritystavoitteita edistävien politiikkojen hyväksi.

kuten he sanovat, openai on lisännyt merkittävästi menojaan liittovaltion lobbaukseen 800 000 dollarin budjetilla vuoden 2024 kuuden ensimmäisen kuukauden aikana verrattuna 260 000 dollariin koko viime vuonna.

aiemmin tänä keväänä altman liittyi myös yhdysvaltain sisäisen turvallisuuden ministeriön tekoälyn turvallisuus- ja turvallisuusneuvostoon, joka neuvoo tekoälyn kehittämisessä ja käyttöönotossa yhdysvaltain kriittiseen infrastruktuuriin.

vaikka altman poistetaan, ei ole juurikaan merkkejä siitä, että turvallisuuskomitea tekisi vaikeita päätöksiä, jotka vaikuttavat vakavasti openai:n kaupalliseen tiekarttaan.

erityisesti openai sanoi toukokuussa, että se pyrkii käsittelemään työnsä pätevää kritiikkiä komitean kautta - pätevä kritiikki riippuu tietysti katsojan käsityksestä.

toukokuussa openai:n entiset hallituksen jäsenet helen toner ja tasha mccauley sanoivat the economist -lehdessä, että he uskoivat, että openai ei ollut luotettava eikä voinut ottaa vastuuta.

he kirjoittavat: kokemuksemme perusteella uskomme, että autonomia ei voi luotettavasti kestää voittokannustimien painetta.

ja openai:n voittokannustimet kasvavat edelleen.

yrityksen huhutaan keräävän yli 6,5 miljardia dollaria rahoitusta, mikä merkitsisi openai:n arvoa yli 150 miljardiin dollariin. sopimuksen saavuttamiseksi openai todennäköisesti hylkää hybridijärjestönsä, joka on suunniteltu rajoittamaan sijoittajien tuottoa, osittain varmistaakseen, että openai pysyy johdonmukaisena perustavan tehtävänsä kanssa: kehittää yleistä tekoälyä, joka hyödyttää koko ihmiskuntaa.