nouvelles

---

  Nouveau rapport de sagesse

Cette vidéo d'une minute a suscité de nombreux débats sur les réseaux sociaux, d'une part sur la question de savoir si le développement de l'IA allait s'accélérer à ce point, et d'autre part sur le taux de retour de « l'investissement académique ».

Personne ne sait à quoi ressemblera l’avenir. Les pensées de Bostrom ne représentent que sa propre personne, mais elles reflètent la folie et l’anxiété des gens à l’ère de l’IA.

Tout semble s’accélérer. Les gens ont trop peur d’être dévalorisés parce qu’ils prennent du retard, et ils sont trop désireux de saisir l’opportunité de fabriquer de l’or rapidement.

"La première machine super intelligente fut la dernière invention de l'humanité."

C'est la citation la plus célèbre de Bostrom. Cette idée inquiétante vient de son livre « Super Intelligence ».

Ce livre a été nommé best-seller par le New York Times et recommandé par Bill Gates et Musk.

Bostrom a été décrit par le New Yorker comme un « philosophe apocalyptique » et également connu sous le nom de « super cerveau suédois ».

En tant que professeur à l'Université d'Oxford, il possède une formation multidisciplinaire en physique théorique, neurosciences computationnelles, logique, intelligence artificielle et philosophie. Il est l'un des philosophes les plus cités au monde et a dirigé l'Oxford Institute for the Future. de l'Humanité depuis 2005. , jusqu'à la fermeture de l'institut en avril de cette année.

En avril de cette année, Bostrom a déclaré une fois de plus que la superintelligence était la dernière invention que nous devions faire, mais il a ajouté une autre phrase : elle pourrait apparaître dans à peine un an.

Pourquoi ce penseur promeut-il la théorie apparemment dépassée de « l’inutilité de la lecture » ?

Bostrom : Cette révolution de l'IA pourrait se produire dans les cinq à dix prochaines années, mais notre cycle actuel d'investissement à long terme dans le capital humain est de 20 à 30 ans. Il y a de fortes chances que cela ne connaisse pas de retour. Car d’ici là, l’IA nous aura peut-être remplacé dans tous les domaines et le capital humain se sera dévalorisé. C’est un aspect qui pourrait ne plus exister à l’avenir.

Si vous aimez vraiment l'université, allez à l'université, mais si vous vous efforcez simplement d'obtenir un diplôme, je vous suggère de réfléchir sérieusement à la possibilité d'économiser ces 3 à 4 années et de faire simplement ce que vous voulez faire.

De même, un programme de doctorat aux États-Unis peut prendre 5 à 6 ans, ce qui est long. Je pense que dans de nombreux cas, cette période peut être trop longue pour en valoir la peine.

Animateur : Est-ce simplement parce que le rythme du changement s’accélère ?

Bostrom : Oui, car le temps presse probablement.

On peut voir que Bostrom ne conseille pas à tout le monde d'« abandonner massivement l'école », mais dit que si vous considérez les études de doctorat comme un comportement d'investissement, vous n'obtiendrez probablement pas les avantages escomptés, mais vous Je peux toujours considérer les études comme une sorte de plaisir.

Le débat entre les internautes dans la zone de commentaires a été assez passionnant.

Le blogueur qui a transmis cette vidéo a déclaré : « Même si je pense que c'est un peu fou, c'est assez intéressant à imaginer. »

Comme vous pouvez l'imaginer, l'idée prospective selon laquelle « l'investissement universitaire à long terme n'en vaut pas la peine » a suscité l'indignation du public——

"Les enfants, restez à l'école."

En plus d'exprimer directement des valeurs de colère, les internautes ont également avancé différentes raisons d'opposition. Certains pensent que l'AGI imaginé par Bostrom n'arrivera pas si tôt. Il n’est pas sage de parier sa vie sur une prophétie insaisissable.

"Le décrochage est essentiellement un pari en supposant que l'AGI puisse être atteint. L'histoire nous a montré que le progrès est loin d'être aussi simple qu'on le pense."

Quelqu'un a directement réfuté la suggestion d'« abandonner » d'un point de vue plus pragmatique : « Vous pouvez gagner quelque chose en agissant ; vous ne gagnerez certainement rien en ne faisant rien ».

« Dans la plupart des domaines, l’obtention de ces diplômes entraînera de meilleurs résultats que le fait de ne pas les avoir. À mesure que l’IA progresse, seul un petit pourcentage de ces résultats est susceptible d’être inversé. »

"Bien sûr, si c'est vraiment pénible pour vous d'étudier, vous devriez trouver autre chose à faire, que ce soit avec ou sans l'IA."

Si l’on considère les choses non pas du point de vue du « diplôme », mais du point de vue de « l’éducation », la suggestion d’un « abandon scolaire » devient encore plus intenable. Après tout, le processus consistant à recevoir une éducation, à satisfaire sa curiosité et à créer est en soi le reflet de la dignité humaine.

« Que feriez-vous d'autre de tout ce temps libre si vous n'étiez pas à l'école, compte tenu de l'augmentation du revenu de base et de l'espérance de vie ? »

Certaines personnes avancent très calmement un point de vue plus réciproque : même à l'ère de l'IA, les diplômes universitaires ne se déprécieront pas aussi rapidement que le disait Bostrom.

« Les investissements à long terme, comme les diplômes universitaires et les programmes de doctorat, sont importants pour acquérir des connaissances fondamentales et préparer les gens à s’adapter et à innover à mesure que l’IA évolue. »

"L'apprentissage continu garantit un impact durable."

Cependant, il est également important de réfléchir à cette question sous l’angle inverse : alors que l’IA perturbe le marché du travail, quels changements notre système éducatif devrait-il apporter pour s’adapter à son temps ? Les objectifs de formation des étudiants doivent-ils évoluer ?

« Il est temps que les écoles et les universités se demandent : à quoi servent ces systèmes éducatifs si les emplois auxquels les étudiants se préparent sont remplacés par l’IA ?

La vidéo de Bostrom qui a suscité beaucoup de discussions provient d'Impact Theory, une émission animée par Tom Bilyeu.

Pendant une heure et demie, Tom Bilyeu et Nick Bostrom plongent dans les implications éthiques et sociales d'une IA de plus en plus avancée.

Il s’agit notamment de considérations éthiques concernant l’intelligence artificielle, la concentration potentielle du pouvoir, l’automatisation de secteurs clés tels que la police et l’armée, et les « hyper-stimuli » qui pourraient avoir des conséquences considérables sur la société.

De nombreux chercheurs comme Nick Bostrom pensent que l'AGI arrivera bientôt, notamment Ethan Mollick de la Wharton School de l'Université de Pennsylvanie.

Plus tôt cette année, Ethan Mollick a tweeté : « De nombreux informaticiens pensaient que l'AGI à court terme était impossible, mais ils ont changé d'avis. Le délai a été raccourci de 13 ans en un an. »

Parallèlement aux prédictions presque folles de Bostrom sur l'accélération imminente de l'AGI, l'émission a également mentionné son nouveau livre "Deep Utopia" sorti cette année.

Comme le montre le titre du livre, Bostrom est un optimiste technologique. Il a dit que tout ce qui s'est passé au cours des deux derniers siècles a fait de la « dystopie » presque une sorte d'inertie de la pensée, et que les gens ont trop de doutes sur « l'utopie ».

"Les gens qui ont ces visions utopiques de la société, s'ils acquièrent réellement le pouvoir de réaliser ces visions, vont provoquer une cascade de destruction et de souffrance."

Mais Bostrom ne semblait pas y prêter attention. Il ressemblait davantage à une expérience de pensée : comment le monde changera-t-il lorsque de nombreux problèmes seront résolus par la technologie ? Comment les humains percevront-ils la vie et son sens à cette époque ?

Une critique rédigée par le magazine Wired résume peut-être dans une large mesure l'idée centrale du livre :

Deep Utopia ne considère pas un coup dévastateur mais un avenir dans lequel l’humanité développera avec succès des machines superintelligentes et évitera la catastrophe. …Ce livre examine le sens de la vie dans une utopie technologique et se demande si une telle vie pourrait être plutôt vide.

Dans cette conversation, Nick Bostrom a exprimé son point de vue avec force——

« Au lieu d'avoir des gens qui conduisent un camion poubelle tous les matins dans la ville pour ramasser les déchets, vous pourriez avoir un camion poubelle autonome équipé d'un robot Optimus qui pourrait remplir vos poubelles et les ramasser, en faisant tout cela automatiquement. "

"Si vous appréciez le maintien de la tradition, alors il n'y a peut-être pas d'autre moyen de maintenir la tradition que de continuer à laisser les humains faire diverses choses par eux-mêmes."

"Vous pouvez imaginer que lorsque vous disposez de ces esprits numériques, vous pouvez, en quelques années seulement, accélérer les progrès de la recherche médicale, par exemple, peut-être débloquer des traitements pour inverser le processus de vieillissement, etc., et ainsi éviter l'actuel presque inévitable. la souffrance et la mort. »

"S'il est possible, même pour une souris, de prétendre être sensible et d'avoir au moins une forme simple de statut moral, alors je dirais que les systèmes d'intelligence artificielle dont le comportement est à peu près équivalent à celui des souris seraient également des candidats préliminaires au statut moral. .

"Certains des maux de la société moderne peuvent être dus à un manque de certaines pressions ou opportunités de survie qui ont existé tout au long de notre passé évolutif."

"Si vous n'avez rien à faire, alors vous devez trouver autre chose pour donner un sens à votre vie."