2024-08-17
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Text: Web3 Sky City·City Lord
SchmidtEin besonderer Schwerpunkt liegt auf den komplexen Faktoren des technologischen Fortschritts, wie der Verbesserung der Rechenleistung, der Entwicklung neuer Algorithmen und dem endlosen Streben des Marktes nach intelligenten Systemen. Er erörtert auch die möglichen Auswirkungen von KI auf Arbeitsmärkte, Datenschutz, Kartellrecht und nationale Sicherheit und gibt Empfehlungen, wie man in diesem sich schnell verändernden Umfeld einen Wettbewerbsvorteil wahren kann.
Der Stadtbesitzer wies ausdrücklich darauf hin, dass seine Rede und seine Position als Schmidt, der lange Zeit im US-Verteidigungsministerium gedient hat, hervorgehoben werden müssen, und ich glaube, dass die Leser sie selbst verstehen können.
Kurzfristige Durchbrüche und weitreichende Auswirkungen der künstlichen Intelligenz：
SchmidtEs wird vorhergesagt, dass künstliche Intelligenz in den nächsten ein bis zwei Jahren wichtige Durchbrüche bringen wird, insbesondere in der Kombination aus Kontextfenstererweiterung, KI-Agenten und Text-to-Operation. Diese technologischen Fortschritte werden es KI-Systemen ermöglichen, komplexe Aufgaben effizienter zu bewältigen, und zwar über ihre derzeitigen Grenzen hinaus. Diese Art von Fortschritt wird nicht auf den technischen Bereich beschränkt sein, sondern tiefgreifende Auswirkungen auf alle Aspekte der Gesellschaft haben, einschließlich Bildung, Gesundheitswesen, Regierung und Wirtschaft. Er betonte, dass die Entwicklung dieser Technologien eine transformative Wirkung haben könnte, die sogar tiefgreifender sein könnte als der Aufstieg der sozialen Medien.
Das Spiel zwischen China und den Vereinigten Staaten im globalen Wettbewerb in Wissenschaft und Technologie：
SchmidtEine detaillierte Analyse des harten Wettbewerbs zwischen den USA und China im Bereich der künstlichen Intelligenz. Er wies darauf hin, dass die Vereinigten Staaten derzeit in Bezug auf Technologie, Talente und Ressourcen führend seien, aber um diesen Vorsprung aufrechtzuerhalten, seien weiterhin hohe Investitionen und internationale Zusammenarbeit erforderlich, insbesondere die Zusammenarbeit mit Verbündeten wie Kanada, um eine nachhaltige Versorgung mit Energie und Ressourcen sicherzustellen. Er betonte, dass die Zukunft der KI nicht nur ein technischer Wettbewerb sei, sondern auch ein strategisches Spiel zwischen Ländern, bei dem es um nationale Sicherheit, wirtschaftliche Wettbewerbsfähigkeit und globale Führung gehe. Schmidt warnte, dass die Vereinigten Staaten ihre Investitionen erhöhen müssen, um Chinas rasanten Aufstieg im Bereich der KI zu bewältigen und seine globale Dominanz in diesem Bereich aufrechtzuerhalten.
Monopol- und Innovationsherausforderungen von Technologieriesen：
Wenn es um die aktuelle Dominanz der Technologiegiganten geht,SchmidtEs wird darauf hingewiesen, dass die Monopolstellung von Unternehmen wie NVIDIA im KI-Bereich von ihren starken technischen Fähigkeiten und Kapitalvorteilen profitiert. Er erwähnte, dass es zwar Konkurrenten auf dem Markt gebe, die Herausforderung des Status dieser Technologiegiganten jedoch enorme Investitionen und technologische Innovationen erfordere. Er äußerte auch Bedenken darüber, wie diese Giganten in Zukunft weiterhin technologische Innovationen fördern werden, und glaubte, dass die kapitalintensive KI-Entwicklung zu grundlegenden Änderungen im Softwareentwicklungsmodell von Open Source zu Closed Source führen und damit das Monopol der Software weiter festigen könnte Riesen.
Die Auswirkungen künstlicher Intelligenz auf Gesellschaft und Arbeitsmarkt：
SchmidtEs werden die möglichen Auswirkungen künstlicher Intelligenz auf die Gesellschaft, die Wirtschaft und den Arbeitsmarkt untersucht. Er glaubt, dass die KI-Technologie zwar einige sich wiederholende Aufgaben ersetzen kann, aber auch die Bedeutung hochqualifizierter Arbeitsplätze erhöhen und die Produktivität der Menschen bei komplexen Aufgaben fördern wird. Er äußerte sich auch besorgt über die soziale Ungleichheit, die künstliche Intelligenz mit sich bringen könnte, und wies darauf hin, dass reiche Länder stärker von KI profitieren würden, während arme Länder möglicherweise auf der Strecke bleiben. Auch,SchmidtFordert eine stärkere Regulierung der KI, um Probleme wie Datenschutz, geistige Eigentumsrechte und die Verbreitung von Fehlinformationen anzugehen.
Gegnerische KI und Sicherheitsherausforderungen：
SchmidtBesonders erwähnt wurde die potenzielle Bedrohung durch gegnerische künstliche Intelligenz und es wurde prognostiziert, dass es in Zukunft möglicherweise speziell entwickelte KI-Systeme geben wird, die zum Angriff und zur Zerstörung anderer KI-Systeme eingesetzt werden. Diese Entwicklung wird neue sicherheitstechnische und ethische Herausforderungen mit sich bringen.SchmidtEs wird empfohlen, dass die wissenschaftliche und technologische Gemeinschaft und die Regierung zusammenarbeiten, um zu untersuchen, wie diese Risiken verhindert werden können, und entsprechende Vorschriften und technische Standards formulieren, um die Sicherheit und Glaubwürdigkeit künstlicher Intelligenz zu gewährleisten. Er erwähnte auch, dass die Forschung in diesem Bereich eine wichtige Richtung für die zukünftige wissenschaftliche und technologische Entwicklung werden wird und möglicherweise mehr Aufmerksamkeit an Universitäten und Forschungseinrichtungen erhalten wird.
Ehemaliger Google-CEO spricht über den globalen KI-Wettbewerb: US-Chips haben seit 10 Jahren einen technologischen Vorsprung, und China ist der wichtigste Konkurrent
=Kompilierte Volltextversion von Web3 Sky City=
Gastprofessor:
Der heutige Gast braucht keine Vorstellung. Ich traf Eric zum ersten Mal vor etwa 25 Jahren, als er als CEO von Novell zur Stanford GSB kam. Seitdem hatte er Schlüsselpositionen bei Google inne, angefangen im Jahr 2001 bis hin zu Schmidt Futures im Jahr 2017. Darüber hinaus hat er auch an vielen anderen Projekten teilgenommen, und Sie können die entsprechenden Informationen überprüfen. Also Eric, wenn ich darf, fange ich damit an.
Zunächst einmal: Wohin wird sich Ihrer Meinung nach die künstliche Intelligenz kurzfristig entwickeln? Ich denke, Sie definieren das als die nächsten ein bis zwei Jahre.
Schmidt:
Die Dinge ändern sich so schnell, dass ich das Gefühl habe, alle sechs Monate eine neue Rede über das Kommende halten zu müssen. Ich habe hier eine Menge Informatikstudenten. Kann jemand dem Rest der Klasse „eine Million“ erklären?ZeichenWas ist „Kontextfenster“? Bitte benennen Sie es und teilen Sie uns mit, was es bewirkt.
Student:Grundsätzlich können Sie eine Million Marker oder eine Million verwendenWortaufforderungen.
Schmidt:
Sie können also eine Frage mit einer Million Wörtern stellen. Anthropic umfasst 200.000 Token, bis zu 1 Million und so weiter. Sie können es sich vorstellenOpenAIHabe ein ähnliches Ziel.
Kann hier jemand eine technische Definition eines KI-Agenten geben? Wieder Informatik.
Student:Ein KI-Agent kann etwas sein, das sich auf eine bestimmte Weise verhält. Möglicherweise ruft er etwas im Internet auf, um in Ihrem Namen Informationen zu finden. In dieser Richtung könnte es viele verschiedene Dinge geben. In einem Prozess passieren alle möglichen Dinge.
Schmidt:Ein Agent ist also etwas, das eine bestimmte Aufgabe ausführt. Eine andere Definition ist, dass es ein istLL.M., Zustand und Gedächtnis. Als nächstes, Informatiker, kann jemand von euch „Text-to-Action“ definieren?
Student:Anstatt Text in mehr Text umzuwandeln, lassen Sie die KI darauf basierend Aktionen auslösen.
Schmidt:
Eine andere Definition ist die Python-Sprache. Ich möchte nie, dass eine Programmiersprache überlebt. Alles in der KI wird in Python erledigt. Gerade ist eine neue Sprache namens Mojo aufgetaucht, und es sieht so aus, als hätten sie das Problem der KI-Programmierung endlich gelöst, aber wir werden sehen, ob sie die Dominanz von Python tatsächlich überleben kann.
Es gibt auch ein technisches Problem. Warum ist NVIDIA 2 Billionen Dollar wert, während andere Unternehmen Probleme haben?
Student:Die technische Antwort ist, dass der meiste Code mit CUDA-Optimierungen ausgeführt werden muss, die derzeit nur von NVIDIA-GPUs unterstützt werden, sodass andere Unternehmen tun und lassen können, was sie wollen, aber maschinelles Lernen wird Ihnen nicht zur Verfügung stehen, es sei denn, sie verfügen über 10 Jahre Erfahrung in der Softwareoptimierung.
Schmidt:
Ich stelle mir CUDA gerne als eine C-Programmiersprache für GPUs vor und fühle mich mit dieser Idee wohl. CUDA wurde 2008 gegründet. Obwohl ich immer gedacht habe, dass es eine schlechte Sprache sei, hat es sich durchgesetzt. Eine weitere erwähnenswerte Erkenntnis: Es gibt eine Reihe von Open-Source-Bibliotheken, die im Vergleich zu keiner anderen Bibliothek in hohem Maße für CUDA optimiert sind. Allen Leuten, die diese Tech-Stacks bauen, fehlt dieser Punkt in der Diskussion völlig. Diese Bibliotheken werden technisch gesehen VLLMs genannt, und es gibt viele ähnliche Bibliotheken, die ebenfalls stark für CUDA optimiert sind, was es für Konkurrenten schwierig macht, sie zu kopieren.
Was bedeutet das alles? Nächstes Jahr werden Sie sehr große Kontextfenster, Agenten und Text-to-Action-Anwendungen sehen. Wenn diese Technologien in großem Maßstab bereitgestellt werden, werden sie enorme Auswirkungen auf die Welt haben, die weit über die Auswirkungen sozialer Medien hinausgehen. Hier ist der Grund: Im Kontextfenster kann man es als Kurzzeitgedächtnis verwenden, und ich war schockiert, wie lang das Kontextfenster war. Technische Gründe haben mit Service und Rechenschwierigkeiten zu tun. Das Interessante am Kurzzeitgedächtnis ist, dass es den Mittelteil vergisst, wenn man Informationen eingibt und eine Frage stellt, zum Beispiel 20 Bücher liest und den Text der Bücher als Abfrage verwendet und dann fragt, worum es darin geht Das menschliche Gehirn funktioniert.
Was Agenten betrifft, gibt es mittlerweile Leute, die LLM-Agenten aufbauen, indem sie Dinge in Bereichen wie Chemie lesen und verstehen, sie dann testen und wieder in ihr Verständnis einbeziehen. Das ist sehr kraftvoll. Der dritte Aspekt ist Text-to-Action. Lassen Sie mich Ihnen ein Beispiel geben: Nehmen wir an, die Regierung versucht, TikTok zu verbieten. Wenn TikTok verboten ist, schlage ich vor, dass Sie Ihrem LLM Folgendes sagen: Kopieren Sie TikTok für mich, geben Sie meine Einstellungen ein, erstellen Sie diese App und veröffentlichen Sie sie innerhalb der nächsten 30 Sekunden und innerhalb einer Stunde, wenn es sich nicht durchgesetzt hat , mach einfach so etwas. Das ist die Reihenfolge. Sie können sehen, wie mächtig das ist.
Wenn Sie aus jeder Sprache einen beliebigen numerischen Befehl übersetzen können, ist das in diesem Szenario im Wesentlichen Python. Stellen Sie sich vor, dass jeder auf dem Planeten seine eigenen Programmierer hätte, die tatsächlich das tun, was sie tun möchten, im Gegensatz zu Programmierern, die nicht wie erforderlich arbeiten. Die Programmierer hier wissen, wovon ich rede. Stellen Sie sich einen nicht arroganten Programmierer vor, der tatsächlich das tut, was Sie wollen, ohne dass Sie dafür einen hohen Preis zahlen müssen. Und der Vorrat an diesen Programmierern ist unbegrenzt.
Professor:Wird das alles in den nächsten ein oder zwei Jahren passieren?
Schmidt:
bald. Ich bin mir sicher, dass die oben genannten drei Dinge in der nächsten Welle gleichzeitig passieren werden. Sie fragen sich also, was sonst noch passieren wird. Ich schwanke alle sechs Monate, wir befinden uns also in einer Ungerade-Gerade-Schwankung. Im Moment scheint die Kluft zwischen Spitzenmodellen (derzeit gibt es nur noch drei) und dem Rest zu wachsen. Vor sechs Monaten war ich davon überzeugt, dass sich die Lücke schließen würde, also habe ich stark in einige kleinere Unternehmen investiert. Allerdings bin ich mir da jetzt nicht mehr so sicher.
Ich führe Gespräche mit einigen großen Unternehmen und sie sagen mir, dass sie 10 Milliarden US-Dollar, 20 Milliarden US-Dollar, 50 Milliarden US-Dollar oder sogar 100 Milliarden US-Dollar benötigen. Das Stargate-Projekt erfordert 100 Milliarden Dollar und ist sehr schwierig. Mein guter Freund Sam Altman glaubt, dass es etwa 300 Milliarden Dollar kosten könnte, vielleicht sogar mehr. Ich machte ihn darauf aufmerksam, dass ich den Energiebedarf berechnet hatte.
Im Interesse einer vollständigen Offenlegung bin ich am Freitag ins Weiße Haus gegangen und habe ihnen gesagt, dass wir mit Kanada beste Freunde sein müssen. Weil die Kanadier wirklich nette Leute sind, haben sie geholfen, künstliche Intelligenz zu erfinden, und sie haben viel Wasserkraft. Weil wir als Land nicht genug Macht haben, um dieses Ziel zu erreichen. Eine weitere Möglichkeit besteht darin, dass arabische Länder das Projekt finanzieren. Ich persönlich mag Araber und verbringe dort viel Zeit, aber sie halten sich möglicherweise nicht an unsere nationalen Sicherheitsregeln. Und Kanada und die Vereinigten Staaten gehören zu den großen Drei, über die wir uns alle einig sind.
In diesen Rechenzentren, die einen Wert von 100 bis 300 Milliarden US-Dollar haben, wird Strom also allmählich zu einer knappen Ressource.
Übrigens, wenn Sie dieser Argumentation folgen, fragen Sie sich vielleicht, warum ich über CUDA und NVIDIA diskutiere? Wenn alle 300 Milliarden US-Dollar an NVIDIA gehen, wissen Sie, was an der Börse zu tun ist. Dies ist jedoch keine Aktienempfehlung und ich bin kein Lizenzgeber.
Professor:
Teilweise, weil wir mehr Chips brauchen werden, aber Intel bekommt viel Geld von der US-Regierung. AMD versucht, in Südkorea eine Fabrik aufzubauen.
Schmidt:
Heben Sie Ihre Hand, wenn eines Ihrer Computergeräte über einen Intel-Chip verfügt. So viel zum Thema Monopol.
Professor:
Aber das ist der Punkt. Früher hatten sie ein Monopol, und jetzt hat NVIDIA ein Monopol. Sind das also Eintrittsbarrieren?
Apropos CUDA: Gibt es noch andere Optionen? Ich habe neulich mit Percy Lange gesprochen. Er wechselt zwischen TPUs und NVIDIA-Chips, je nachdem, worauf er Zugriff hat. Das liegt daran, dass er keine Wahl hat.
Schmidt:
Wenn er unbegrenzte Mittel hätte, würde er sich heute für die B200-Architektur von NVIDIA entscheiden, weil sie schneller ist. Das behaupte ich nicht – Wettbewerb ist eine gute Sache.
Ich hatte ein langes Gespräch mit Lisa Su von AMD. Sie haben etwas gebaut, das die CUDA-Architektur in ihre eigene umwandeln kann, namens Rokam. Es ist noch nicht voll funktionsfähig, aber es wird daran gearbeitet.
Professor:
Sie haben lange bei Google gearbeitet und sie haben erfundenTransformatorArchitektur. Vielen Dank an die tollen Leute dort, wie Peter, Jeff Dean und alle anderen. Derzeit scheint OpenAI die Initiative verloren zu haben. In der letzten Rangliste, die ich gesehen habe, lag Claude von Anthropic ganz oben auf der Liste. Ich fragte Sundar, aber er gab mir keine sehr klare Antwort. Vielleicht haben Sie eine gezieltere oder objektivere Erklärung dafür, was dort vor sich geht.
Schmidt:
Ich bin kein Google-Mitarbeiter mehr. Bei Googles Fokus auf Work-Life-Balance geht es eher darum, die Mitarbeiter früher nach Hause gehen und von zu Hause aus arbeiten zu lassen, als blind um den Sieg zu streben. Im Gegensatz dazu sind Startups erfolgreich, weil ihre Mitarbeiter hart arbeiten. Auch wenn das etwas direkt klingen mag, ist die Realität so: Wenn Sie ein Unternehmen nach dem College gründen und mit anderen Startups konkurrieren möchten, können Sie nicht nur an einem Tag in der Woche Mitarbeiter einstellen.
Der ehemalige CEO von Google beschwerte sich öffentlich darüber, dass die Mitarbeiter „nicht hart genug arbeiten“ und fiel im KI-Wettbewerb zurück, weil sie „nur an einem Tag in der Woche kommen“ und blockierte übrigens auch TikTok.
Professor:In den frühen Tagen von Google galt das Gleiche auch für Microsoft.
Schmidt:
Mittlerweile scheint es so, als hätten Unternehmen in unserer Branche zu lange immer dadurch gewonnen, dass sie wirklich kreativ waren und einen Raum dominierten, anstatt die nächste Transformation vorzunehmen. Dies ist gut dokumentiert. Ich denke, Gründer sind etwas Besonderes und müssen die Kontrolle behalten, obwohl es schwierig sein kann, mit ihnen zusammenzuarbeiten, weil sie großen Druck auf ihre Mitarbeiter ausüben. So sehr uns Elons persönliche Handlungen auch nicht gefallen, schauen Sie sich an, was er von seinen Mitarbeitern bekommt. Ich habe einmal mit ihm zu Abend gegessen und er ist geflogen. Ich war in Montana und er war an diesem Abend um 10 Uhr auf einem Flug zu einem Mitternachtstreffen mit x.ai. Denken Sie darüber nach.
Verschiedene Orte haben unterschiedliche Kulturen. Ich bin beeindruckt von TSMC. Sie hatten die Regel, dass frisch graduierte Doktoranden, gute Physiker, im Keller der Fabrik arbeiten mussten. Können Sie sich vorstellen, dass ein amerikanischer Doktor der Physik dies tun würde? Nicht wahrscheinlich. Es ist eine andere Arbeitsmoral.
Die Genauigkeit, mit der ich arbeite, liegt daran, dass diese Systeme Netzwerkeffekte haben und daher die Zeit von entscheidender Bedeutung ist. Und in den meisten Unternehmen ist Zeit nicht so wichtig, man hat sie in Hülle und Fülle. Coca-Cola und Pepsi-Cola wird es weiterhin geben, der Wettbewerb zwischen ihnen wird weitergehen und alles wird eiskalt sein. Wenn ich mit Telekommunikationsunternehmen zu tun habe, dauert die Unterzeichnung eines Vertrags normalerweise 18 Monate. Es gibt keinen Grund, sich 18 Monate Zeit zu nehmen, um etwas zu tun, es sollte so schnell wie möglich erledigt werden. Wir befinden uns in einer Phase des Wachstums und der Umsatzmaximierung, die aber auch verrückte Ideen erfordert.
Als Microsoft beispielsweise den Deal mit OpenAI abschloss, dachte ich, das sei die dümmste Idee, die ich je gehört habe. Lagern Sie Ihre KI-Führung an OpenAI und Sam und sein Team aus? Das ist verrückt. Das macht niemand bei Microsoft oder anderswo. Heutzutage entwickeln sie sich jedoch zu den wertvollsten Unternehmen, sicherlich in einer ähnlichen Position wie Apple. Apple hat keine gute KI-Lösung, aber es sieht so aus, als hätten sie dafür gesorgt, dass es funktioniert.
Student:
Welche Rolle wird KI im Hinblick auf die nationale Sicherheit oder geopolitische Interessen spielen, insbesondere im Wettbewerb mit China?
Schmidt:
Als Vorsitzender eines Ausschusses für künstliche Intelligenz habe ich mich eingehend damit befasst. Wir haben einen Bericht von rund 752 Seiten verfasst und ihn wie folgt zusammengefasst: Wir sind derzeit in einer Spitzenposition und müssen diesen Vorsprung halten, was erhebliche finanzielle Unterstützung erfordert. Unsere Hauptkunden sind der Senat und das Repräsentantenhaus, was zur Einführung des CHIPS Act und anderer ähnlicher Richtlinien führte.
Wenn sich Spitzenmodelle und einige Open-Source-Modelle weiterentwickeln, können möglicherweise nur wenige Unternehmen in diesem Bereich konkurrieren. Welche Länder verfügen über solche Fähigkeiten? Diese Länder müssen gut finanziert und talentiert sein, über starke Bildungssysteme verfügen und den Willen zum Sieg haben. Die Vereinigten Staaten und China sind zwei der größten Länder. Ob andere Länder teilnehmen können, bin ich mir nicht sicher. Sicher ist jedoch, dass der Wettbewerb zwischen den Vereinigten Staaten und China um die intellektuelle Hegemonie in Zukunft ein großer Kampf sein wird.
Die US-Regierung hat den Export von NVIDIA-Chips nach China grundsätzlich verboten, obwohl sie dies nicht öffentlich zugeben will. Bei Sub-DUV-Chips, bei denen es sich um Sub-5-Nanometer-Chips handelt, verfügen wir über etwa 10 Jahre technologische Vorteile. Mit diesem Vorteil sind wir China mehrere Jahre voraus, sehr zum Missfallen Chinas. Diese Politik wurde von der Trump-Administration entwickelt und von der Biden-Administration unterstützt.
Professor:Wird der Kongress auf Ihren Rat hören und massive Investitionen tätigen? Das CHIPS-Gesetz ist offensichtlich ein Beispiel dafür.
Schmidt:
Darüber hinaus müssen wir auch ein riesiges System künstlicher Intelligenz aufbauen. Ich leite eine informelle, nicht-juristische Ad-hoc-Gruppe gewöhnlicher Brancheninsider. Letztes Jahr plädierten diese Mitglieder für den Gesetzentwurf der Biden-Regierung zur künstlichen Intelligenz, die längste Präsidialrichtlinie in der Geschichte.
Wir haben einmal eine Kernfrage diskutiert: Wie erkennt man Gefahren in einem System, das gelernt hat, aber nicht weiß, was man fragen soll? Mit anderen Worten: Das System hat möglicherweise etwas Schlimmes gelernt, aber Sie wissen nicht, wie Sie danach fragen sollen. Es könnte zum Beispiel gelernt haben, wie man Chemikalien auf eine neue Art und Weise mischt, aber Sie wissen nicht, wie Sie es fragen sollen. Um dieses Problem anzugehen, empfahl unser Memo an die Regierung die Festlegung eines Schwellenwerts, den wir 10 hoch 26 nennen, was ein technisches Berechnungsmaß ist. Oberhalb dieser Schwelle müssen Unternehmen ihre Aktivitäten der Regierung melden. Um sicherzustellen, dass sie unterschiedlich sind, setzt die Europäische Union die 25. Potenz von 10 auf 10. Aber diese Zahlen liegen nah genug beieinander. Ich denke, dass all diese Unterschiede verschwinden werden, weil die bestehende Technologie veraltet sein wird. Der Fachbegriff heißt „gemeinsames Training“, was im Grunde bedeutet, dass die Teile zusammengefügt werden können. Daher sind wir möglicherweise nicht in der Lage, die Menschen vor diesen neuen Dingen zu schützen.
Professor:
Gerüchten zufolge muss OpenAI teilweise aufgrund von Problemen mit dem Stromverbrauch auf diese Weise trainiert werden. Es gibt keinen Ort, an dem sie das tun.
Reden wir über einen echten Krieg. Ich weiß, dass Sie aktiv am Krieg in der Ukraine beteiligt waren, insbesondere im Hinblick auf das Weißstorch-Programm und Ihr Ziel, Panzer im Wert von 5 Millionen Dollar mit Drohnen im Wert von 500 Dollar zu zerstören. Wie verändert sich dadurch die Kriegsführung?
Schmidt:
Ich habe sieben Jahre lang für den Verteidigungsminister gearbeitet und versucht, die Art und Weise zu ändern, wie wir unser Militär führten. Ich mag das Militär nicht besonders, aber es ist sehr teuer und ich wollte sehen, ob ich helfen kann. Ich glaube, ich habe im Grunde versagt. Sie haben mir eine Medaille gegeben, also geben sie wahrscheinlich Medaillen an Verlierer oder was auch immer. Aber meine Selbstkritik ist, dass sich nichts wirklich geändert hat und das amerikanische System nicht zu echten Innovationen führt.
Also beschloss ich, mit Ihrem Freund Sebastian Thrun (der hier Fakultätsmitglied war) und ein paar Stanford-Leuten eine Firma zu gründen. Die Idee besteht im Wesentlichen darin, zwei Dinge zu tun: Künstliche Intelligenz auf komplexe und leistungsstarke Weise in Roboterkriegen einzusetzen und zweitens die Kosten von Robotern zu senken. Jetzt denken Sie vielleicht: Warum sollte ein guter Liberaler wie ich das tun? Die Antwort ist, dass die gesamte Theorie des Militärs aus Panzern, Artillerie und Mörsern besteht und wir sie zerstören können. Wir können die Bestrafung einer Invasion eines Landes (zumindest auf dem Landweg) praktisch unmöglich machen. Es sollte diese Art von Landkrieg beseitigen.
Professor:
Das ist eine sehr interessante Frage. Verschafft es der Verteidigung einen Vorteil gegenüber der Offensive? Können Sie den Unterschied erkennen?
Schmidt:
Da ich das letzte Jahr so gemacht habe, habe ich eine Menge über den Krieg gelernt, die ich eigentlich gar nicht wissen wollte. Eine Sache, die Sie über den Krieg wissen müssen, ist, dass der Angriff immer einen Vorteil hat, weil Sie das Verteidigungssystem immer überwältigen können. Aus verteidigungsstrategischer Sicht wäre es also besser, über eine sehr starke Offensive zu verfügen, die man bei Bedarf einsetzen kann. Das System, das ich und andere aufbauen, wird genau das tun. Aufgrund der Funktionsweise des Systems bin ich jetzt ein lizenzierter Waffenhändler. Ich bin also Informatiker, Geschäftsmann, Waffenhändler. Es tut mir leid, das sagen zu müssen. Ist das ein Fortschritt? Ich habe keine Ahnung. Ich empfehle Ihnen nicht, dies in Ihrer Karriere zu tun. Ich bleibe bei der künstlichen Intelligenz. Aufgrund der Funktionsweise des Gesetzes tun wir dies privat, mit staatlicher Unterstützung, und alles ist legal. Es geht direkt in die Ukraine und dann beginnen sie zu kämpfen. Ohne auf alle Details einzugehen, ist die Situation ziemlich schlimm. Ich denke, dass die Ukraine im Mai oder Juni, wenn die Russen wie erwartet bauen, einen großen Teil ihres Territoriums und damit das ganze Land verlieren wird. Die Situation ist ziemlich schlimm. Wenn Sie Marjorie Taylor Greene kennen, empfehle ich Ihnen, sie aus Ihrer Kontaktliste zu löschen. Weil sie diejenige ist, die verhindert hat, dass Milliarden von Dollar zur Rettung einer wichtigen Demokratie ausgegeben werden.
Professor:
Als nächstes möchte ich eine etwas philosophische Frage diskutieren. Letztes Jahr haben Sie gemeinsam mit Henry Kissinger und Dan Huttenloch einen Artikel über die Natur des Wissens und seine Entwicklung verfasst. Ich habe dieses Thema auch vor ein paar Abenden besprochen. Bis zum Aufkommen der wissenschaftlichen Revolution und der Aufklärung blieb das Verständnis der Menschheit vom Universum größtenteils rätselhaft. In Ihrem Artikel erwähnen Sie, dass die heutigen Modelle so komplex und schwer verständlich geworden sind, dass wir wirklich nicht wissen, was in ihnen vorgeht. Ich zitiere Richard Feynman: „Was ich nicht erschaffen kann, verstehe ich nicht.“ Neulich bin ich auf dieses Zitat gestoßen. Aber jetzt erschaffen die Menschen, was sie können, ohne das Innenleben wirklich zu verstehen. Hat sich die Natur des Wissens in irgendeiner Weise verändert? Müssen wir anfangen, diese Modelle für bare Münze zu nehmen, die sie uns nicht erklären können?
Schmidt:
Ich möchte ein Beispiel eines Teenagers geben. Wenn Sie einen Teenager haben, wissen Sie, dass es sich um Menschen handelt, aber Sie können nicht ganz verstehen, was sie denken. Wir als Gesellschaft haben es jedoch geschafft, uns an die Existenz von Teenagern anzupassen, und irgendwann werden sie daraus erwachsen. Das ist eine ernste Frage. Wir haben vielleicht Wissenssysteme, die wir nicht vollständig beschreiben können, aber wir verstehen ihre Grenzen und die Grenzen dessen, was sie tun können, und das ist wahrscheinlich das Beste, was wir bekommen können. Glauben Sie, dass wir diese Einschränkungen verstehen werden? Wenn uns das gelingt, ist das großartig.
In den wöchentlichen Treffen meiner Gruppe herrscht Konsens darüber, dass es irgendwann eine sogenannte gegnerische KI geben wird, bei der es tatsächlich Unternehmen geben wird, die Sie einstellen und bezahlen, um Ihr KI-System zu zerstören. Genau wie das rote Team. Im Gegensatz zu den menschlichen roten Teams von heute wird es ganze Unternehmen und ganze Branchen von KI-Systemen geben, deren Aufgabe es ist, bestehende KI-Systeme zu stören und Schwachstellen in ihnen zu finden, insbesondere solche, die wir nicht herausfinden können. Das macht für mich Sinn. Es ist auch ein großartiges Programm für Stanford. Wenn Sie einen Doktoranden haben, der herausfinden muss, wie man eines dieser großen Modelle angreift und versteht, was es tut, wird das eine wichtige Fähigkeit sein, um die nächste Generation aufzubauen. Daher ist es sinnvoll, beides zu kombinieren.
Professor:
Beantworten wir nun einige Fragen der Schüler. Hinter mir steht ein Klassenkamerad, bitte sagen Sie Ihren Namen.
Student:
Sie haben bereits erwähnt, und dies passt jetzt zu den Kommentaren, dass KI tatsächlich das tun soll, was Sie von ihr erwarten. Sie haben gerade die gegnerische KI erwähnt, und ich habe mich gefragt, ob Sie das näher erläutern könnten. Abgesehen von der offensichtlichen Steigerung der Rechenleistung scheint es zwar auch leistungsstärkere Modelle zu geben, aber die Frage, wie man sie dazu bringt, das zu tun, was man will, scheint teilweise unbeantwortet zu sein.
Schmidt:
Nun, man muss davon ausgehen, dass das aktuelle Halluzinationsproblem mit der Verbesserung der Technologie usw. abnehmen wird. Ich sage nicht, dass es verschwinden wird. Und dann muss man auch davon ausgehen, dass es einen Wirksamkeitstest gibt, also muss es eine Möglichkeit geben, herauszufinden, ob das Ding erfolgreich war. In dem Beispiel, das ich von einem TikTok-Konkurrenten erwähnt habe, schlage ich nicht vor, die Musik anderer Leute illegal zu stehlen. Was würden Sie tun, wenn Sie Unternehmer im Silicon Valley wären? Ich hoffe, Sie sind alle Unternehmer aus dem Silicon Valley. Wenn Ihr Produkt erfolgreich ist, beauftragen Sie ein Heer von Anwälten, um die Folgen zu bewältigen. Aber wenn niemand Ihr Produkt nutzt, macht es nichts, wenn Sie alles stehlen. Zitieren Sie mich dazu natürlich nicht.
Typischerweise führt Silicon Valley diese Tests durch und bearbeitet Folgefragen. Dies ist gängige Praxis. Ich denke, es wird immer mehr Leistungssysteme und noch bessere Tests und schließlich kontroverse Tests geben, die es in einem Rahmen halten werden. Dieser Fachbegriff wird Chain of Thought Reasoning genannt. Es wird davon ausgegangen, dass Sie in den nächsten Jahren in der Lage sein werden, eine tausendstufige Argumentationskette zu erstellen, genau wie beim Erstellen eines Rezepts. Sie können es ausführen und tatsächlich testen, ob es die richtigen Ergebnisse liefert. So funktioniert das System.
Student:
Insgesamt sind Sie sehr optimistisch, was das Potenzial für Fortschritte in der künstlichen Intelligenz angeht. Ich bin neugierig, was treibt diesen Fortschritt voran? Ist es mehr Rechenleistung? Sind es mehr Daten? Handelt es sich um einen grundlegenden oder tatsächlichen Wandel?
Schmidt:
Die Antwort ist alles oben Genannte. Es ist unglaublich, wie viel Geld investiert wird. Ich habe im Grunde alles investiert, weil ich keine Ahnung hatte, wer gewinnen würde, und weil der Geldbetrag, den ich verfolgte, so riesig war. Ein Grund dafür ist, dass früh Geld verdient wurde und diejenigen, die nicht viel darüber wissen, die KI-Komponente haben müssen. Alles ist jetzt KI-Investitionen und sie können den Unterschied nicht erkennen.
Ich definiere künstliche Intelligenz als ein lernendes System, ein System, das wirklich lernt. Ich denke, das ist einer von ihnen. Der zweite Punkt ist, dass es jetzt einige sehr komplexe neue Algorithmen gibt, die so etwas wie Post-Transformer sind. Ein Freund von mir, ebenfalls ein langjähriger Mitarbeiter, hat eine neue Nicht-Transformer-Architektur erfunden. Eine von mir in Paris finanzierte Gruppe behauptete, dasselbe getan zu haben. Es gibt eine Menge Erfindungen da draußen, und in Stanford wird viel geforscht. Der letzte Punkt ist, dass der Markt davon ausgeht, dass intelligente Erfindungen unbegrenzte Erträge bringen. Nehmen wir an, Sie stecken 50 Milliarden US-Dollar in ein Unternehmen und müssen mit den Informationen viel Geld verdienen, um es zurückzuzahlen. Es könnte zu einer riesigen Investitionsblase kommen, die sich dann von selbst auflösen würde. Das war schon immer so und könnte auch jetzt so sein.
Professor:Sie haben vorhin erwähnt, dass Führungskräfte Distanz zu anderen schaffen.
Schmidt:
Nun gibt es in Frankreich eine Firma namens Mistral, die sehr gute Arbeit leistet. Ich bin offensichtlich ein Investor. Sie haben bereits eine zweite Version hergestellt und ihr drittes Modell wird wahrscheinlich eingestellt, weil es zu teuer ist. Sie brauchen Einnahmen und können ihr Modell nicht kostenlos verschenken. In unserer Branche tobt die Debatte zwischen Open Source und Closed Source. Meine gesamte Karriere basiert auf der Bereitschaft der Menschen, Software auf Open-Source-Art zu teilen. Alles, was ich tue, basiert auf Open Source. Ein Großteil der Grundlagen von Google basiert ebenfalls auf Open Source. Meine Arbeit liegt hauptsächlich im technischen Bereich. Allerdings könnten die enormen Kapitalkosten die Art und Weise, wie Software erstellt wird, grundlegend verändern.
Meiner Ansicht nach würde sich die Produktivität von Softwareprogrammierern mindestens verdoppeln. Es gibt derzeit drei oder vier Softwareunternehmen, die dies versuchen, und ich habe in dieser Zeit in alle von ihnen investiert. Sie alle versuchen, Softwareprogrammierer produktiver zu machen. Ich bin kürzlich auf ein sehr interessantes Unternehmen namens Augment gestoßen. Ich denke oft an Programmierer, die sagen, das sei nicht das Ziel. Unser Ziel sind die 100-köpfigen Software-Programmierteams mit Millionen von Codezeilen, von denen niemand weiß, was los ist. Dies ist eine sehr gute Anwendung künstlicher Intelligenz. Werden sie Geld verdienen? Ich hoffe es, aber es gibt hier viele Probleme.
Student:
Zu Beginn haben Sie erwähnt, dass die Kombination aus Kontextfenstererweiterungen, Proxys und Text-to-Actions unglaubliche Auswirkungen haben würde. Erstens: Warum ist diese Kombination wichtig? Zweitens weiß ich, dass Sie kein Prophet sind und die Zukunft nicht vorhersagen können, aber warum glauben Sie, dass sie außerhalb unserer Vorstellungskraft liegt?
Schmidt:
Ich denke, hauptsächlich, weil Kontextfenster es Ihnen ermöglichen, Aktualitätsprobleme zu lösen. Das Training aktueller Modelle dauert etwa 18 Monate, darunter sechs Monate Vorbereitung, sechs Monate Training und sechs Monate Feinabstimmung, sodass sie immer veraltet sind. Und mit dem Kontextfenster können Sie die neuesten Ereignisse eingeben und Fragen zum Hamas-Israel-Krieg im Kontext stellen, was sehr aussagekräftig und so aktuell wie Google ist.
Im Falle einer Agentur kann ich Ihnen ein Beispiel geben. Ich habe eine Stiftung gegründet, um eine gemeinnützige Organisation finanziell zu unterstützen. Ich weiß nicht viel über Chemie, aber es gibt ein Tool namens ChatCrow, ein System, das auf großen Sprachmodellen basiert und Chemie lernen kann. Sie betreiben das System, um chemische Hypothesen über Proteine zu erstellen, dann werden sie über Nacht im Labor getestet, und das System lernt. Dies ist ein enormer Beschleuniger für Bereiche wie Chemie und Materialwissenschaften. Es handelt sich hierbei um ein Agenturmodell.
Ich denke, wenn es nur viele billige Programmierer gäbe, könnte das Text-to-Action-Konzept verstanden werden. Ich glaube nicht, dass wir verstehen, was passiert, wenn jeder seinen eigenen Programmierer hat. Dies ist auch Ihr Fachgebiet. Ich spreche nicht von einfachen Aufgaben wie dem Ein- und Ausschalten des Lichts. Ich stelle mir ein anderes Beispiel vor: Nehmen wir an, Sie mögen Google nicht, Sie könnten sagen, bauen Sie mir einen Google-Konkurrenten. Ja, Sie können dies persönlich tun. Bauen Sie mir einen Google-Konkurrenten, der das Web durchsucht, die Benutzeroberfläche erstellt, gute Kopien erstellt und diese auf interessante Weise hinzufügtgenerative künstliche Intelligenz. Machen Sie es innerhalb von 30 Sekunden und prüfen Sie, ob es funktioniert. Viele glauben, dass etablierte Unternehmen, darunter auch Google, anfällig für solche Angriffe sind.
Professor:
Werfen wir jetzt einen Blick darauf. Slido hat viele Fragen eingesandt, von denen einige hochgeladen wurden. Letztes Jahr haben wir darüber gesprochen, wie wir verhindern können, dass KI die öffentliche Meinung beeinflusst und Fehlinformationen verbreitet, insbesondere während der bevorstehenden Wahlen.
Schmidt:
Wir müssen sowohl über kurzfristige als auch über langfristige Lösungen nachdenken. Bei den bevorstehenden globalen Wahlen werden die meisten Fehlinformationen in den sozialen Medien erscheinen, und die derzeitigen organisatorischen Fähigkeiten der Social-Media-Unternehmen reichen nicht aus, um diese Informationen wirksam zu überwachen. TikTok zum Beispiel wurde vorgeworfen, eine bestimmte Art von Desinformation zu fördern, obwohl ich dafür keine Beweise habe. Ich glaube, wir stecken in einem Chaos.
Das Land muss kritisches Denken lernen, was für die Vereinigten Staaten eine schwierige Herausforderung darstellen könnte. Nur weil dir jemand etwas sagt, heißt das nicht, dass es wahr ist.
Professor:
Sind wir so weit gegangen, dass niemand mehr glauben wird, was wahr ist? Manche nennen es eine erkenntnistheoretische Krise. Nun sagt Elon Musk, er habe nie etwas getan, aber wie kann man das beweisen?
Schmidt:
Wir können dies am Beispiel von Donald Trump verdeutlichen. Ich denke, wir haben ein Vertrauensproblem in unserer Gesellschaft und die Demokratie könnte daran scheitern. Die größte Bedrohung für die Demokratie sind Fehlinformationen, weil wir darin so gut geworden sind.
Als ich YouTube leitete, bestand das größte Problem darin, dass Leute gefälschte Videos hochluden, was zum Tod von Menschen führte. Wir verfolgen eine No-Tod-Politik und der Versuch, dieses Problem anzugehen, ist schockierend und schrecklich. Dies war vor dem Aufkommen der generativen künstlichen Intelligenz.
Professor:
Ich habe keine gute Antwort, aber es gibt ein technisches Problem, das dies zu mildern scheint, und das ist die Authentifizierung mit öffentlichen Schlüsseln. Warum nicht digitale Signaturen wie SSL verwenden, wenn Joe Biden spricht? Kann eine Berühmtheit, eine Persönlichkeit des öffentlichen Lebens oder eine andere Person einen öffentlichen Schlüssel besitzen?
Schmidt:
Hierbei handelt es sich um eine Form eines öffentlichen Schlüssels, der eine gewisse Gewissheit bietet. Wenn ich beispielsweise meine Kreditkarte an Amazon sende, weiß ich, dass es sich um Amazon handelt.
Ich habe zusammen mit Jonathan Haidt einen Artikel veröffentlicht, der jedoch keine Wirkung hatte. Er ist ein sehr guter Kommunikator, was ich wahrscheinlich nicht bin. Meine Schlussfolgerung ist, dass das System nicht so organisiert ist, wie wir es behaupten. CEOs maximieren häufig den Umsatz, und um dies zu erreichen, maximieren sie das Engagement, und der Weg, das Engagement zu maximieren, besteht darin, die Empörung zu maximieren. Algorithmen entscheiden sich für Wut, weil sie mehr Umsatz generiert, weshalb Menschen dazu neigen, extreme Dinge zu unterstützen. Dies ist ein Problem an allen Fronten und muss angegangen werden.
In einer Demokratie basiert meine Lösung für TikTok auf dem, was wir zuvor privat besprochen haben. Als ich ein Kind war, gab es so etwas wie die Gleichzeitregel. TikTok ist eigentlich keine Social-Media-Plattform, sondern eher eine Form des Fernsehens. Jeder TikTok-Benutzer in den Vereinigten Staaten nutzt die App durchschnittlich 90 Minuten am Tag und erstellt 200 Videos, was eine hohe Nutzung darstellt. Auch wenn die Regierung keine gleichen Zeitregeln durchsetzt, könnte dies eine erwägenswerte Richtung sein, die eine Art Ausgleich erfordert.
Student:
Im ersten geht es um die wirtschaftlichen Auswirkungen auf den Arbeitsmarkt. Die Auswirkungen waren langsamer als ursprünglich erwartet, insbesondere auf dem Arbeitsmarkt. Es gibt auch eine Frage zum Kundendienstpersonal. Denken Sie, dass die Wissenschaft für KI subventioniert werden sollte oder mit großen Unternehmen zusammenarbeiten sollte?
Schmidt:
Ich habe mich stark dafür eingesetzt, dass Universitäten Rechenzentren bauen. Wenn ich Fakultätsmitglied in einer Informatikabteilung wäre, wäre ich frustriert, wenn ich mit Doktoranden keine Algorithmen für die Doktorandenforschung entwickeln könnte, weil ich gezwungen wäre, mit Unternehmen zusammenzuarbeiten. Und diese Unternehmen sind in dieser Hinsicht nicht großzügig genug. Es ist eine schreckliche Situation, dass viele Lehrkräfte und Mitarbeiter viel Zeit damit verbringen, auf Google Cloud-Credits zu warten. Wir wollen, dass die amerikanischen Universitäten dabei erfolgreich sind. Deshalb halte ich es für richtig, sie diese Credits erwerben zu lassen.
Ich würde den echten Experten zuhören, wenn es um die Auswirkungen auf den Arbeitsmarkt geht. Als Amateurökonom glaube ich, dass die Hochschulausbildung und hochqualifizierte Aufgaben eine gute Zukunft haben, weil die Menschen diese Systeme nutzen werden. Ich glaube nicht, dass sich diese Systeme grundlegend von früheren Technologiewellen unterscheiden. Gefährliche Jobs und Jobs, die kein menschliches Urteilsvermögen erfordern, werden ersetzt.
Student:
Über den Übergang vom Text zum Handeln und seine Auswirkungen auf den Informatikunterricht? Meiner Meinung nach sollte sich die Informatikausbildung an die veränderten Zeiten anpassen.
Schmidt:
Ich gehe davon aus, dass Informatiker als Studenten immer einen Programmierer als Kumpel haben werden. Wenn Sie Ihre erste for-Schleife erlernen, gibt es ein Werkzeug, das zu Ihrem natürlichen Begleiter wird. Der Professor erklärt die Konzepte und man wird so miteinbezogen.
Student: Was die Diskussion der Nicht-Transformer-Architektur betrifft, denke ich, dass das Zustandsmodell eine Richtung ist, die diskutiert wird, aber jetzt wird dem Kontext mehr Aufmerksamkeit geschenkt.
Schmidt:
Ich verstehe Mathematik nicht gut genug, bin aber froh, dass dadurch Arbeitsplätze für Mathematiker entstehen, denn die Mathematik ist hier sehr komplex. Grundsätzlich werden diese durchgeführtGefälleabstiegund verschiedene Methoden der Matrixmultiplikation mit dem Ziel, schneller und besser zu sein. Wie Sie wissen, sind Transformer eine systematische Methode zur gleichzeitigen Multiplikation. Hier sind meine Gedanken. Es ist ähnlich, aber die Mathematik ist anders. Mal sehen.
Student:
In Ihrem Papier zur nationalen Sicherheit haben Sie die heutige Situation in China, den Vereinigten Staaten und anderen Ländern erwähnt. Die zehn Länder aus der nächstniedrigeren Gruppe sind entweder Verbündete der USA oder haben das Potenzial, Verbündete der USA zu werden. Ich bin gespannt auf Ihre Meinung zu diesen zehn Ländern. Sie sind so etwas wie Mittelsmänner, keine formellen Verbündeten. Wie wahrscheinlich ist es, dass sie sich den Bemühungen anschließen, unsere Sicherheit zu gewährleisten? Was hält sie vom Beitritt ab?
Schmidt:
Das interessanteste Land ist Indien, da die besten Talente im Bereich der künstlichen Intelligenz aus Indien in die USA kommen. Wir sollten Indien erlauben, einige seiner Top-Talente zu behalten, nicht alle, aber einige. Und sie verfügen nicht über die umfangreichen Schulungsmöglichkeiten und -programme, die wir hier haben. Meiner Meinung nach ist Indien in dieser Hinsicht ein durcheinandergebrachtes Land. Japan und Südkorea sind offensichtlich unsere Lager. Taiwanesische Software ist schrecklich, also wird das nicht funktionieren. Die Hardware ist großartig. Und anderswo auf der Welt gibt es nicht viele andere gute Möglichkeiten. Europa ist wegen Brüssel am Arsch, das ist nichts Neues. Ich habe 10 Jahre lang gegen sie gekämpft. Ich habe sehr hart daran gearbeitet, sie dazu zu bringen, das EU-Gesetz zu ändern. Es gibt immer noch verschiedene Einschränkungen, die es für uns sehr schwierig machen, in Europa zu forschen. Meine französischen Freunde verbringen ihre ganze Zeit damit, gegen Brüssel zu kämpfen. Als persönlicher Freund von mir arbeitet Macron hart daran. Ich denke also, dass Frankreich eine Chance hat. Ich glaube nicht, dass Deutschland kommen wird und andere Länder nicht stark genug sind.
Student:
Ich weiß, dass Sie von Ihrer Ausbildung her ein Ingenieur sind, ich glaube, Sie werden Compiler genannt. Sollten wir angesichts der Fähigkeiten, die diese Modelle Ihrer Meinung nach bieten, trotzdem Zeit damit verbringen, das Programmieren zu lernen?
Schmidt:
Ja, denn letztendlich ist es die Klischeefrage: Warum Englisch lernen, wenn man es sprechen kann? Du wirst besser lernen. Man muss wirklich verstehen, wie diese Systeme funktionieren, und das kann ich nachvollziehen.
Student:
Ich bin gespannt, ob Sie sich mit einem verteilten Setup befasst haben. Ich stelle diese Frage, weil es natürlich schwierig ist, einen großen Cluster zu erstellen, aber MacBooks sind leistungsstark. Es gibt viele kleine Maschinen auf der Welt. Denken Sie also, dass das Falten zu Hause oder etwas Ähnliches für das Training dieser Systeme geeignet wäre?
Schmidt:
Ja, wir haben uns dieses Thema sehr sorgfältig angesehen. Der Algorithmus funktioniert also so, dass Sie eine sehr große Matrix und im Grunde eine Multiplikationsfunktion haben. Betrachten Sie es also als ein Hin und Her. Und diese Systeme sind vollständig durch die Speichergeschwindigkeit der CPU oder GPU begrenzt. Tatsächlich hat die nächste Generation von NVIDIA-Chips alle diese Funktionen in einem einzigen Chip integriert. Die Chips sind mittlerweile so groß, dass sie zusammenkleben. Tatsächlich ist das Gehäuse so empfindlich, dass sowohl das Gehäuse als auch der Chip selbst in einem Reinraum zusammengebaut werden. Die Antwort sieht also so aus, als ob Supercomputer und die Lichtgeschwindigkeit, insbesondere Speicherverbindungen, tatsächlich die Oberhand haben. Ich halte eine Segmentierung großer Sprachmodelle (LLMs) vorerst für unwahrscheinlich.
Professor:
Jeff Dean erwähnte letztes Jahr in einer Rede, dass das Modell in verschiedene Teile unterteilt, separat trainiert und dann kombiniert werden kann.
Schmidt:
Um dies zu erreichen, sind jedoch Dutzende Millionen solcher Modelle erforderlich, und die Geschwindigkeit, mit der Fragen gestellt werden, wird sehr langsam. Er erwähnte, dass dafür acht, zehn oder zwölf Supercomputer nötig wären, aber das entspricht nicht seinem Niveau.
Student:
Was das Thema Datenschutz betrifft, habe ich erfahren, dass die New York Times OpenAI verklagt hat, weil es ihre Arbeit für Schulungen genutzt hat.
Schmidt:
Ich glaube, dass es in Zukunft noch viele ähnliche Klagen geben wird und irgendwann eine Einigung erzielt wird, etwa die Verpflichtung, einen bestimmten Prozentsatz der Einnahmen für die Nutzung bestimmter Werke zu zahlen, wie etwa ASCAP und EMI in der Musikindustrie . Dieses Modell mag etwas veraltet erscheinen, aber ich denke, dass es am Ende so funktionieren wird.
Student:
Im Bereich KI scheint es einige Unternehmen zu geben, die den Markt dominieren und sich mit den größeren Unternehmen überschneiden, auf die sich die Kartellvorschriften konzentrieren.
Schmidt:
Ich war im Laufe meiner Karriere in den Zerschlagungsfall von Microsoft verwickelt, aber dieser war letztendlich erfolglos; ich habe auch hart daran gearbeitet, die Zerschlagung von Google zu verhindern, bin aber auch gescheitert. Daher denke ich, dass der Trend nicht geteilt werden sollte. Solange diese Unternehmen nicht zu Monopolen wie John D. Rockefeller werden, ist ein Eingreifen der Regierung unwahrscheinlich.
Diese großen Unternehmen dominieren, weil nur sie über das Kapital zum Bau von Rechenzentren verfügen. Ich habe Freunde Reed und Mustafa, die beschlossen haben, ihr Unternehmen an Microsoft auszugliedern, weil sie nicht mehrere Dutzend Milliarden Dollar aufbringen konnten. Was die genauen Zahlen angeht, müssen Sie Reed möglicherweise um Auskunft bitten.
Student:
Abschließend frage ich mich, welche Auswirkungen diese Entwicklungen auf Länder haben werden, die nicht an der Entwicklung und Berechnung modernster Modelle beteiligt sind.
Schmidt:
Reiche Länder werden immer reicher, während arme Länder nur ihr Bestes geben können. Dies ist eigentlich ein Spiel für reiche Länder, das enormes Kapital, technisches Talent und starke staatliche Unterstützung erfordert. Weltweit stehen viele Länder vor verschiedenen Problemen, insbesondere wenn die Ressourcen knapp sind. Sie müssen Partner finden und mit anderen zusammenarbeiten, um diese Probleme zu lösen.
Professor:
Ich erinnere mich an das letzte Mal, als wir uns trafenAGI House nimmt an einem Hackathon teil. Ich weiß, dass Sie viel Zeit investieren und sich mit Leidenschaft dafür einsetzen, jungen Menschen dabei zu helfen, Wohlstand zu schaffen. Haben Sie einen Rat für Leute, die im Laufe ihrer Karriere Geschäftspläne für Kurse oder Richtlinienvorschläge oder Forschungsvorschläge schreiben?
Schmidt:
Ich unterrichte einen Kurs zu diesem Thema an einer Business School, und Sie sollten vorbeikommen und zuhören. Ich bin schockiert, wie schnell Sie neue Ideen präsentieren.
Bei einem Hackathon, an dem ich teilgenommen habe, wurde das Gewinnerteam damit beauftragt, eine Drohne zwischen zwei Türmen zu fliegen. Mit Python generierten sie Code in einem virtuellen Drohnenraum und schlossen die Aufgabe im Simulator erfolgreich ab. Ein guter professioneller Programmierer könnte dafür eine oder zwei Wochen brauchen. Ich denke, die Fähigkeit, schnell Prototypen zu erstellen, ist wirklich wichtig, denn ein Teil des Problems, mit dem Unternehmer konfrontiert sind, ist die Geschwindigkeit. Wenn Sie mit diesen Tools nicht innerhalb eines Tages Prototypen erstellen können, müssen Sie es sich noch einmal überlegen, denn genau das tun Ihre Konkurrenten.
Mein wichtigster Rat ist also, dass es in Ordnung ist, einen Geschäftsplan zu schreiben, wenn man über die Gründung eines Unternehmens nachdenkt. Tatsächlich können Sie es von einem Computer schreiben lassen, solange es legal ist. Es ist wichtig, diese Tools zu nutzen, um Ihre Ideen so schnell wie möglich in den Prototypen umzusetzen, denn möglicherweise gibt es jemanden, der das Gleiche in einem anderen Unternehmen, an einer Universität oder an einem Ort tut, an dem Sie noch nicht waren.
Professor:Vielen Dank.
Sammeln und organisieren Sie die neuesten Nachrichteninformationen und stellen Sie sie für alle kostenlos zur Verfügung.
