Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Maschinenherzbericht

Redaktion von Machine Heart

Alarm schlagen oder auf Schließung zusteuern?

„ACL ist keine KI-Konferenz (ACL ist keine KI-Konferenz)“, auf der ACL 2024 in Bangkok, Thailand, kam die diesjährige ACL-Vorsitzende Emily M. Bender zu einer sehr kontroversen Schlussfolgerung.

Die ACL-Konferenz ist die wichtigste internationale Konferenz im Bereich Computerlinguistik und Verarbeitung natürlicher Sprache. Sie wird von der International Association for Computational Linguistics organisiert und findet jährlich statt. Die ACL-Konferenz steht seit jeher an erster Stelle in Bezug auf akademischen Einfluss im Bereich NLP und ist außerdem eine von der CCF-A empfohlene Konferenz.

Da Deep Learning und andere Methoden in den letzten Jahren zum Mainstream der NLP-Forschung geworden sind, betrachten immer mehr Menschen diese Konferenz als KI-Konferenz, und die meisten Einreichungen beziehen sich auf KI. Emily M. Bender scheint einige Nachteile dieser Tendenz zu erkennen.

In ihrer Rede betonte sie, dass ACL die Jahrestagung der Association for Computational Linguistics ist, deren Kern nicht künstliche Intelligenz ist, sondern sich eher auf Sprachtechnologie und Computerlinguistik konzentriert.

Bender machte deutlich, dass sie KI (künstliche Intelligenz) nicht als Synonym für ML (maschinelles Lernen) verwendet. Sie glaubt, dass maschinelles Lernen (einschließlich Deep Learning) viele nützliche Techniken für die Sprachtechnologie und Computerlinguistik bietet, aber Probleme entstehen, wenn der Fokus auf KI verlagert wird.

Computerlinguistik und Verarbeitung natürlicher Sprache (CL/NLP) konzentrieren sich auf sprachliche Ähnlichkeiten/Unterschiede, wie Informationen in der Sprache dargestellt werden, wie man Technologien entwickelt, die die Transkription, Übersetzung, Zusammenfassung, Informationsbeschaffung usw. in verschiedenen Sprachen unterstützen, und wie man sie auswertet Diese Techniken, welche Zwischendarstellungen für diese Techniken nützlich sind, wie effektiv verschiedene ML-Techniken für verschiedene Aufgaben sind und wie Sprachtechniken mit bestehenden Energiesystemen interagieren.

Zu den Problemen im Bereich der KI gehört es, wie man Denkmaschinen baut, die menschenähnliches Denken ausführen können, wie man diese Maschinen dazu bringt, Menschen bei kognitiven Aufgaben zu übertreffen, wie man wissenschaftliche Methoden automatisiert und wie man kreative Aufgaben automatisiert.

Das Gebiet der KI wirft auch einige Ideen auf, wie zum Beispiel, dass die Bestimmung der Menschheit darin besteht, mit Maschinen zu verschmelzen, um übermenschlich zu werden, dass die Ankunft der Singularität unvermeidlich ist und dass KI (eigentlich synthetische Textmaschinen) die Dienste ersetzen kann, die wir jedem bieten sollten Sonstiges (Bildung, Medizin, Rechtsvertretung).

Es gibt zahlreiche Probleme im KI-Bereich, darunter ein starkes Interesse von Risikokapitalgebern und Milliardären.

Bender kritisierte auch einige schlechte Forschungspraktiken im Bereich KI, wie etwa die unangemessene Verwendung von Benchmarks, Anforderungen an eine vergleichende Bewertung mit den geschlossenen Modellen von SOTA und übermäßig große Datensätze, die zu einem Mangel an gespeicherten Daten führten. Bender sagte, wenn sich Ihre Forschungsfrage auf „Wie beweise ich, dass meine Maschine intelligent ist?“ konzentriert, kann dieser Fokus die Forschungspraxis verzerren.

Sie wies auch darauf hin, dass der Fokus auf KI zu schlechten Begutachtungspraktiken geführt habe, sodass Arbeiten, die keine großen Sprachmodelle (LLMs) verwenden oder keine LLM-Ergebnisse in SOTA-Größe liefern, möglicherweise als uninteressant angesehen werden.

Im Gegensatz zu schlechten Praktiken im KI-Bereich umfassen die besten Forschungspraktiken im CL/NLP-Bereich die Anwendbarkeit der Technologie, das Verständnis des menschlichen Sprachverhaltens, klar definierte Bewertungen, intrinsische und extrinsische Bewertungen, solide Grundlagen, gespeicherte und detaillierte Testdaten Fehleranalyse.

Laut Bender basiert die CL/NLP-Forschung auf einem Verständnis der Daten, einschließlich Kenntnissen darüber, wie Sprache funktioniert (z. B. Linguistik) und der Dokumentation von Datensätzen.

In Bezug auf Reproduzierbarkeit und Reproduzierbarkeit betonte Bender, dass es in der Wissenschaft darum gehe, auf früheren Forschungen aufzubauen und nicht nur zu versuchen, dorthin zu gelangen.

Im Hinblick auf die sozialen Auswirkungen konzentriert sich die CL/NLP-Forschung auf die Auswirkungen ihrer Technologie auf die Gesellschaft, einschließlich der Ethik und der Geschichte der NLP-Forschung, sowie auf das Verständnis, wer Sprache und Technologie von wem, für wen und für wen verwendet wird wer ausgeschlossen oder einbezogen werden kann und geschädigt wird.

Bender glaubt, dass das ACL ein Ort sein sollte, der sich auf Sprachtechnologie konzentriert, eine Gemeinschaft, die interdisziplinäre Forschung fördert, ein Forschungsfeld, das sich um Sprachgruppen kümmert, und ein Raum, in dem wir die Auswirkungen unserer Forschung und Technologie auf die Gesellschaft rational diskutieren können.

Diese Ansicht hat auf sozialen Plattformen große Kontroversen ausgelöst.

Einige argumentieren, dass dies ein Zeichen dafür ist, dass man nicht inklusiv genug ist: „Die besten Momente in der Geschichte des NLP ereigneten sich, als die Menschen offen für Ideen aus anderen Disziplinen waren: das Erlernen statistischer Methoden von Sprachforschern, das Erlernen des Denkens von Sozialwissenschaftlern.“ Diese Folien lassen mich denken, dass einige Leute wollen, dass wir schließen.“

Andere glauben, dass diese Trennung völlig unnötig sei, weil beide organisch integriert seien.

Einige Leute äußerten jedoch ihr Verständnis, denn sobald eine Konferenz durch KI-Vorträge „beauftragt“ wird, wird die Forschung zwangsläufig außen vor bleiben, wodurch die Konferenz ihr ursprüngliches Interesse verliert.

Über das Signal, das diese Rede aussendete, begannen alle zu spekulieren: Bedeutet das, dass ACL keine AI-Papiere begrüßt?

Was denken Sie darüber?

Referenzlink: https://faculty.washington.edu/ebender/papers/ACL_2024_Presidential_Address.pdf