uutiset

openai ja anthropic sopivat toimittavansa uudet mallit yhdysvaltain hallitukselle turvallisuusarviointia varten ennen niiden julkaisua

2024-08-30

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

mediatietojen mukaan tekoälyjohtajat openai ja anthropic ovat sopineet torstaina, 29. elokuuta, itäistä aikaa, että yhdysvaltain hallituksen tekoälyn turvallisuustutkimusinstituutti arvioi uusien tekoälymallien ominaisuudet ja mahdolliset hyödyt ennen niiden lanseerausta ja yhdessä tutkimusmenetelmiä vähentää mahdollisia turvallisuusriskejä ja varmistaa, että näillä tekoälytekniikoilla ei ole kielteisiä vaikutuksia yhteiskuntaan.

american ai security institute perustettiin vuonna 2023 biden-harrisin hallinnon tekoälyä koskevalla toimeenpanomääräyksellä. instituutin tehtävänä on kehittää testejä, arviointeja ja ohjeita varmistaakseen, että tekoälyteknologiat voivat innovoida vastuullisesti. lisäksi yhdysvaltain kauppaministeriön kansallisen standardi- ja teknologiainstituutin (nist) ilmoittaman sopimuksen nojalla yhdysvaltain hallitus tekee tiivistä yhteistyötä yhdistyneen kuningaskunnan ai turvatoimet.

elizabeth kelley, american ai security research instituten johtaja, sanoi:

"turvallisuus on kriittistä läpimurron teknologisen innovaatioiden ajamiselle. nämä sopimukset ovat vasta alkua, mutta ne ovat merkittäviä, kun johdamme keinotekoisen älykkyyden tulevaisuuden kehitystä vastuullisesti."

openai:n strategiajohtaja jason kwon ilmaisi tukensa yhteistyölle:

"tuemme voimakkaasti amerikkalaisen ai -turvallisuusinstituutin tehtävää ja odotamme innolla yhteistyötä kehittääkseen parhaita käytäntöjä ja standardeja ai -mallien turvallisuutta varten. uskomme, että instituutti on avainasemassa yhdysvaltojen johtajuuden varmistamisessa ai -roolin vastuullisessa kehittämisessä. toivomme, että yhteistyöllä instituutin kanssa voimme tarjota puitteet, joista maailma voi oppia."

anthropic totesi myös, että on tärkeää luoda kyky testata tekoälymalleja tehokkaasti. jack clark, yksi perustajista ja yhtiön politiikkapäällikkö, sanoi:

"varmistetaan, että ai on turvallinen ja luotettava, on ratkaisevan tärkeää, jotta tällä tekniikalla on positiivinen vaikutus. tällaisen testauksen ja yhteistyön avulla ai: n aiheuttamat riskit voidaan paremmin löytää ja vähentää, ja ai -kehitystä voidaan edistää. olemme sitoutuneet olemaan pystymme olemaan ylpeitä siitä, että olemme osa tätä tärkeää työtä ja toivomme asettavan uusia standards ai: n turvallisuudelle ja luotettavuudelle. "

lisäksi on syytä huomata, että microsoftin tukeman yrityksen openai valmistelee uutta rahoituskierrosta, jonka tavoitteena on kerätä vähintään miljardia dollaria, mikä arvosta yritystä yli 100 miljardia dollaria. microsoft on sijoittanut 13 miljardia dollaria openai:han vuodesta 2019 lähtien ja omistaa nyt 49 % osuuden yhtiön voitosta.

uutiset uudesta rahoituskierroksesta tulivat noin kuukausi sen jälkeen, kun openai paljasti testaavansa uutta ominaisuutta nimeltä searchgpt. tämä uusi ominaisuus yhdistää ai-tekniikan ja reaaliaikaisen hakutiedot.