Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Neuigkeiten zur Titanium Media App am 24. AugustYoshua Bengio, ein kanadischer Informatiker, der als „Godfather of AI“ bekannt ist, ein Pionier der Deep-Learning-Technologie und Gewinner des Turing Award 2018, erklärte öffentlich, dass mit der Einführung von ChatGPT die Zeit für Risiken der KI-Technologie verkürzt wurde .Leider können wir nicht zehn Jahre nutzen, um KI-Risiko- und Richtlinienüberwachungsprobleme zu lösen, sondern eine kürzere Zeit, daher muss die Branche jetzt handeln, um die Umsetzung von KI-Sicherheitsrichtlinien zu beschleunigen.

„Es braucht viel Zeit, eine Politik zu entwickeln, es braucht Jahre, um Meinungsverschiedenheiten zu lösen, Gesetze wie diese brauchen Jahre, um in Kraft zu treten, es müssen Prozesse eingeführt werden, es dauert Jahre, um dies tatsächlich richtig zu machen“, Bengio sagte Bloomberg. Machen Sie sich jetzt Sorgen, dass nicht mehr viel Zeit bleibt, um „es richtig zu machen“.Und was noch schlimmer ist: KI-Risiken sind nicht nur ein Regulierungsproblem, sondern ein internationaler Vertrag, und wir müssen dieses Problem auf globaler Ebene lösen.

Es wird berichtet, dass Bengio in Paris geboren und in Kanada aufgewachsen ist. Er lebt heute in Montreal, Kanada, und arbeitet als Professor am Institut für Informatik und Informatik der Universität Montreal. Er erhielt 1991 seinen Doktortitel in Informatik von der McGill University in Kanada. Bengios Hauptforschungsgebiete sind Deep Learning und Natural Language Processing.

In seiner mehr als 30-jährigen Karriere als Deep-Learning-Forscher hat Bengio mehr als 300 wissenschaftliche Arbeiten veröffentlicht und wurde mehr als 138.000 Mal zitiert. Ng Enda sagte einmal, dass Bengios viele theoretische Studien ihn sehr inspiriert hätten.

Im Jahr 2018 gewannen er, der „Vater der neuronalen Netze“ Geoffrey Hinton und der „Vater der Faltungsnetze“ Yann LeCun den „Turing Award“ für die Pionierarbeit in der Theorie der Deep-Learning-Technologie. Die drei werden von ihnen auch „KI“ genannt die KI-Industrie. „Große Drei“, „Große Drei des Deep Learning“, „Drei Paten der KI“.

Bengio, einer der „Drei Giganten des Deep Learning“, wies einmal darauf hin, dass der Begriff KI von einigen Unternehmen anthropomorphisiert wird, als ob das KI-System eine dem Menschen gleichwertige intelligente Einheit sei Tatsächlich gibt es noch kein intelligentes Wesen, das mit der menschlichen Intelligenz vergleichbar wäre. Natürlich liebt er KI als Technologie immer noch.

Bengio sagte, dass er vor dem Aufkommen von ChatGPT Ende 2022 davon ausgegangen sei, dass die tatsächlichen KI-Risiken erst in mindestens Jahrzehnten auftreten würden. Es gab eine Zeit, in der er sich keine großen Sorgen um KI-Sicherheitsprobleme machte und glaubte, dass der Mensch weit weg sei Während die KI-Technologie noch „Jahrzehnte entfernt“ ist, geht er davon aus, dass wir „die Vorteile der KI noch Jahre lang ernten können“, bevor wir uns den Risiken stellen.

Doch nun hat der Start von ChatGPT seine Meinung völlig geändert. Er war sich nicht mehr so ​​sicher. Seine Annahmen über die Geschwindigkeit der KI-Entwicklung – und die potenziellen Bedrohungen, die die Technologie für die Gesellschaft darstellt –Es wurde untergraben, nachdem OpenAI Ende 2022 ChatGPT veröffentlichte, weil KI-Technologie auf menschlicher Ebene angekommen ist.

„Ich habe meine Meinung völlig geändert, seit wir endlich Maschinen hatten, die mit uns sprechen konnten (ChatGPT). „Wir haben jetzt nicht damit gerechnet, dass das so schnell passieren würde.“ Ich glaube nicht, dass irgendjemand das wirklich erwartet hat, nicht einmal die Leute, die diese Systeme bauen. Man sieht, dass es Jahre, Jahrzehnte oder sogar länger dauern könnte, bis wir die menschliche Intelligenz erreichen Auf Intelligenzebene ist es schwer vorherzusagen, was passieren wird – ob wir am Ende etwas wirklich, wirklich Gutes oder etwas wirklich, wirklich Schlechtes haben werden und wie wir darauf reagieren werden. Das ist es, was meine aktuelle Arbeit in Wissenschaft und Politik antreibt .“

Nachdem ChatGPT eine weltweite Diskussion über die Risiken von KI entfacht hatte, begann Bengio, mehr Energie darauf zu verwenden, sich für eine KI-Regulierung einzusetzen, und zusammen mit seinem akademischen Kollegen und KI-Pionier Geoffrey Hinton unterstützte er öffentlich einen umstrittenen kalifornischen Gesetzentwurf zur KI-Sicherheit SB1047, der den Gesetzentwurf umsetzen würde Machen Sie Unternehmen für katastrophale Schäden haftbar, die durch ihre KI-Modelle verursacht werden, ohne Sicherheitsvorkehrungen zu treffen.

Bengio glaubt, dass dies der „zweitwichtigste Vorschlag auf dem Tisch“ ist, gleich nach dem KI-Gesetz der EU.

Am 15. August Ortszeit bestand der umstrittene kalifornische Frontier AI Model Safety Innovation Act (später bekannt als California AI Safety Act SB 1047) schließlich die Prüfung durch den Bewilligungsausschuss des kalifornischen Repräsentantenhauses, nachdem er die einschlägigen Bestimmungen erheblich abgeschwächt hatte.

SB 1047 zielt darauf ab, Cybersicherheitsvorfälle zu verhindern, bei denen große KI-Systeme eine große Anzahl von Menschen töten oder Verluste von mehr als 500 Millionen US-Dollar verursachen, indem Entwickler zur Verantwortung gezogen werden. Nachdem die Prüfung erfolgreich bestanden wurde, bedeutet dies, dass der Gesetzentwurf einen wichtigen Schritt in Richtung eines formellen Gesetzes und einer Verordnung getan hat, und es ist auch ein wichtiger Schritt bei der Überwachung von KI in den Vereinigten Staaten.

Der California AI Safety Act war jedoch umstritten. Professor Li Feifei von der Stanford University, Meta-Chefwissenschaftler Yang Likun und andere glauben, dass der Gesetzentwurf letztendlich die führende Position Kaliforniens und sogar der Vereinigten Staaten auf dem Gebiet der KI schädigen wird. Mehr als 100 Wissenschaftler haben ebenfalls Artikel veröffentlicht, die sich gegen den Gesetzentwurf aussprechen Die Institution a16z hat eine Website eingerichtet, auf der die sechs Fälle des Gesetzentwurfs detailliert beschrieben werden.

Sogar die ehemalige Sprecherin des US-Repräsentantenhauses, Nancy Pelosi, lehnte diesen Gesetzentwurf ab und war der Ansicht, dass das kalifornische KI-Sicherheitsgesetz gute Absichten verfolgt, es aber an vollem Verständnis mangelt. Viele wichtige Wissenschaftler und Führungskräfte von kalifornischen Technologieunternehmen haben ihren Widerstand gegen den Gesetzentwurf zum Ausdruck gebracht Gut.

Der neueste Gegner des kalifornischen KI-Gesetzes ist OpenAI. OpenAI hat diese Woche ein Dokument herausgegeben, in dem es heißt, dass die Gesetzgebung die KI-Innovation beeinträchtigen und möglicherweise „weitreichende und erhebliche“ Auswirkungen auf die Wettbewerbsfähigkeit der Vereinigten Staaten in den Bereichen KI und nationale Sicherheit haben wird.

Bengio sagte jedoch, der California AI Safety Act vermeidet übermäßige Vorschriften und nutze stattdessen die Haftung, um sicherzustellen, dass KI-Unternehmen Sicherheitsvorkehrungen nicht ignorieren, „die ein vernünftiger Experte tun würde“. „Es wird ein Anreiz für Unternehmen geschaffen, damit sie nicht der schlechteste Schüler in der Klasse werden.“

Bengio wies darauf hin, dass die Diskussionen über die KI-Regulierung von Risikokapitalgebern und Unternehmen beeinflusst werden könnten, die von der Technologie profitieren möchten. „Man kann Analogien zum Klimawandel, zu Unternehmen für fossile Brennstoffe usw. ziehen“, sagte er.

„Das ist es nicht, ganz im Gegenteil. Es ist nicht so verbindlich. Es übt keinen großen Einfluss aus. Es heißt nur: Wenn du Schäden in Milliardenhöhe verursachst, bist du dafür verantwortlich.“ Seit Jahrzehnten ist die ganze Rechnung die Ich denke, dass (die Opposition) eher ideologisch ist. Ich mache mir wirklich Sorgen um die Billionen und sogar Billiarden, die Ai einbringen wird „Die University of California, Berkeley und Gründerin des Center for Artificial Intelligence Systems) wird Unternehmen dazu motivieren, sich jeglicher Regulierung zu widersetzen“, sagte Bengio.

Wenn es um Risikomanagement geht, bemerkte Bengio: „Ich habe viele gute Argumente gehört, dass KI, die schlauer ist als wir, sehr gefährlich sein könnte Jeder, der sagt, dass er es weiß, ist zu selbstsicher, weil die Wissenschaft tatsächlich keine Möglichkeit hat, dies nachprüfbar zu beantworten. Aber wenn Sie Agnostiker sind Und wenn Sie über die Politik nachdenken, müssen Sie die Öffentlichkeit vor wirklich schlimmen Dingen schützen. Das ist es, was die Regierung in so vielen anderen Bereichen getan hat.

Bengio betonte immer wieder, dass er nicht damit gerechnet habe, dass Menschen so schnell die sprachliche KI-Technologie beherrschen würden und dass sie zumindest ein ausreichend humanes Niveau erreicht habe.

„Ich halte den Wunsch, bei gefährlichen Dingen schnell Innovationen zu entwickeln, für unklug. Als Forscher in der Biologie entdeckten, dass gefährliche Viren durch sogenannte Gain-of-Function-Forschung hergestellt werden können, beschlossen sie gemeinsam: Nun, wir haben es nicht getan. Lasst uns.“ Bitten Sie die Regierung, Regeln festzulegen, damit Sie ins Gefängnis kommen, wenn Sie dies tun, zumindest wenn es nicht kontrolliert wird. „Ich bin sicher, Sie kennen sich mit synthetischer Kinderpornografie aus, vielleicht nicht so herausfordernd, aber mehr.“ Wichtig ist, dass die gleichen Deepfakes die Gesellschaft verzerren werden. Das Video wird nicht genug sein: Die Fähigkeit aktueller und sogar zukünftiger Systeme, Menschen zum Umdenken zu bewegen In einer neuen Studie aus der Schweiz wurde GPT-4 mit Menschen verglichen, um herauszufinden, wer Menschen überzeugen konnte, die offensichtlich keine Ahnung hatten. Die Person, die mit einem Menschen oder einer Maschine spricht, ändert ihre Meinung über etwas.

Bengio merkte an, dass „wir bei der KI ein ähnliches Vorsorgeprinzip anwenden sollten.“

Blick in die Zukunft,Bengio betonte,Alle Anwendungen der KI-Technologie werden den menschlichen Lebensstil weiterhin auf gesunde Weise verändern.Im Hinblick auf die Biologie wird die KI beispielsweise verstehen, wie der Körper und jede einzelne Zelle funktioniert, was Bereiche wie die Medizin und die Arzneimittelforschung und -entwicklung im Hinblick auf das Klima revolutionieren kann. Sie kann dazu beitragen, bessere Batterien und eine bessere Kohlenstoffabscheidung zu schaffen. und bessere Energiespeicherung.

„Es passiert noch nicht, aber ich denke, das sind großartige Technologieprodukte, die wir mit KI herstellen können. Und übrigens, diese Anwendungen – die meisten davon sind nicht gefährlich. Wir sollten uns also mit diesen Dingen befassen, die der Gesellschaft offensichtlich helfen können.“ „Wir investieren mehr in die Bewältigung unserer Herausforderungen“, sagte Bengio am Ende des Gesprächs.