uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Koneen sydänraportti

Machine Heart -toimitusosasto

Soitetaanko hälytys vai siirrytään kohti sulkemista?

"ACL ei ole AI-konferenssi (ACL ei ole AI-konferenssi)", ACL 2024:ssä Bangkokissa, Thaimaassa, tämän vuoden ACL:n puheenjohtaja Emily M. Bender teki erittäin kiistanalaisen johtopäätöksen.

ACL-konferenssi on laskennallisen lingvistiikan ja luonnollisen kielen prosessoinnin alan huippukonferenssi. Sen järjestää International Association for Computational Linguistics. ACL-konferenssi on aina ollut NLP:n akateemisen vaikuttavuuden ensimmäisellä sijalla, ja se on myös CCF-A:n suosittelema konferenssi.

Viime vuosina, kun syväoppimisesta ja muista menetelmistä on tullut NLP-tutkimuksen valtavirtaa, yhä useammat ihmiset pitävät tätä konferenssia tekoälykonferenssina, ja suurin osa esityksistä liittyy tekoälyyn. Emily M. Bender näyttää näkevän joitain huonoja puolia tässä taipumuksessa.

Puheessaan hän korosti, että ACL on laskennallisen lingvistiikkayhdistyksen vuosikokous. Sen ydin ei ole tekoäly, vaan keskittyy enemmän kieliteknologiaan ja laskennalliseen lingvistiikkaan.

Bender teki selväksi, ettei hän käytä tekoälyä (AI) synonyyminä ML:lle (koneoppiminen). Hän uskoo, että koneoppiminen (mukaan lukien syväoppiminen) tarjoaa monia hyödyllisiä tekniikoita kieliteknologiaan ja laskennalliseen lingvistiikkaan, mutta ongelmia syntyy, kun painopiste siirtyy tekoälyyn.

Laskennallinen lingvistiikka ja luonnollisen kielen prosessointi (CL/NLP) keskittyvät kielten yhtäläisyyksiin/eroihin, tiedon esittämiseen kielessä, teknologian rakentamiseen, joka auttaa muun muassa transkriptiota, kääntämistä, yhteenvetoa, tiedon hankintaa eri kielillä, ja Miten arvioida nämä tekniikat, mitkä väliesitykset ovat hyödyllisiä näille tekniikoille, kuinka tehokkaita eri ML-tekniikat ovat eri tehtävissä ja kuinka kielitekniikat ovat vuorovaikutuksessa olemassa olevien tehojärjestelmien kanssa.

Tekoälyn ongelmia ovat muun muassa kuinka rakentaa ajattelukoneita, jotka pystyvät suorittamaan ihmisen kaltaista päättelyä, kuinka nämä koneet ylittävät ihmiset kognitiivisissa tehtävissä, kuinka automatisoidaan tieteellisiä menetelmiä ja miten automatisoidaan luovia tehtäviä.

Tekoälyn ala herättää myös ajatuksia, kuten että ihmiskunnan kohtalo on sulautua koneiden kanssa yli-inhimillisiksi, että singulariteetin saapuminen on väistämätöntä ja että tekoäly (oikeastaan ​​synteettiset tekstikoneet) voi korvata palvelut, joita meidän tulisi tarjota kullekin. muut (koulutus, lääketiede, oikeudellinen edustus).

Tekoälyalalla on useita ongelmia, mukaan lukien pääomasijoittajien ja miljardöörien voimakas kiinnostus.

Bender kritisoi myös tekoälyn huonoja tutkimuskäytäntöjä, kuten benchmarkien sopimatonta käyttöä, SOTA:n suljettujen mallien vertailevan arvioinnin vaatimuksia sekä liian suuria tietojoukkoja, jotka johtavat säilytetyn datan puutteeseen. Bender sanoi, että jos tutkimuskysymyksesi keskittyy "Kuinka todistan, että koneeni on älykäs", tämä painopiste voi vääristää tutkimuskäytäntöä.

Hän totesi myös, että keskittyminen tekoälyyn on johtanut huonoihin arviointikäytäntöihin, joten papereita, joissa ei käytetä suuria kielimalleja (LLM) tai jotka eivät tarjoa SOTA-kokoisia LLM-tuloksia, voidaan pitää epäkiinnostavina.

Toisin kuin tekoälyn huonot käytännöt, CL/NLP-alan tutkimuksen parhaita käytäntöjä ovat tekniikan sovellettavuus, ihmisten kielen käyttäytymisen ymmärtäminen, hyvin määritellyt arvioinnit, sisäiset ja ulkoiset arvioinnit, kiinteät lähtökohdat, säilytetyt testitiedot ja yksityiskohtaiset tiedot. virheanalyysi.

Bender sanoi, että CL/NLP-tutkimus perustuu tiedon ymmärtämiseen, mukaan lukien tietämys kielen toiminnasta (eli kielitieteestä) ja tietojoukkodokumentaatio.

Toistettavuuden ja toistettavuuden osalta Bender korosti, että tiede perustuu aiempaan tutkimukseen, ei vain siihen, että se yrittää päästä sinne.

Sosiaalisen vaikutuksen osalta CL/NLP-tutkimus keskittyy teknologiansa vaikutuksiin yhteiskuntaan, mukaan lukien etiikka ja NLP-tutkimuksen historia, sekä sen ymmärtämiseen, kuka kieltä ja teknologiaa tulee käyttämään, kenelle ja kenelle. jotka voidaan sulkea pois tai mukaan lukien ja joutuvat vahingoittumaan.

Bender uskoo, että ACL:n tulee olla kieliteknologiaan keskittyvä paikka, tieteidenvälistä tutkimusta edistävä yhteisö, kieliryhmistä välittävä tutkimusala ja tila, jossa voimme rationaalisesti keskustella tutkimuksemme ja teknologiamme vaikutuksista yhteiskuntaan.

Tämä näkemys on aiheuttanut suurta keskustelua sosiaalisessa mediassa.

Jotkut väittävät, että tämä on merkki siitä, ettei se ole tarpeeksi kattava. ”NLP:n historian parhaat hetket olivat avoimia muiden tieteenalojen ideoille: tilastomenetelmien oppiminen kielten tutkijoilta, ajattelun oppiminen yhteiskuntatieteilijöiltä. Nämä diat saavat minut ajattelemaan, että jotkut haluavat meidän sulkevan toimintansa."

Toiset uskovat, että tämä erottaminen on täysin tarpeetonta, koska nämä kaksi on integroitunut orgaanisesti.

Jotkut ihmiset kuitenkin ilmaisivat ymmärryksensä. Tekoäly on kuitenkin liian suosittu.

Tämän puheen lähettämän signaalin suhteen kaikki alkoivat spekuloida: Tarkoittaako tämä, ettei ACL ota AI-papereita tervetulleeksi?

Mitä mieltä olet tästä?

Viitelinkki: https://faculty.washington.edu/ebender/papers/ACL_2024_Presidential_Address.pdf