les poissons et les moutons proviennent du temple aofei

qubits | compte public qbitai

l’entreprise ne compte que 10 personnes et a levé un financement d’amorçage.1 milliard de dollars américains。

ce genre de chose à couper le souffle ne peut qu'arriverilya sutskeversur le corps, cela semble légèrement "normal".

ilya, à l'heure où les grands mannequins déferlent sur le monde, sa contribution est reconnue comme atteignantchanger le mondeniveau:

il est l'un des trois auteurs d'alexnet. après avoir été débauché chez google avec son mentor hinton, il s'est profondément impliqué dans le projet alphago qui a choqué le monde.

en 2015, il a participé à la fondation d’openai et en a été le scientifique en chef. chatgpt change à nouveau le monde et il est considéré comme l'un des personnages les plus clés derrière cela.

depuis novembre de l’année dernière jusqu’à aujourd’hui, chaque mouvement d’ilya a été mis au premier plan et a attiré l’attention du cercle technologique mondial :

les luttes intestines qu'il a initiées au sein du conseil d'administration d'openai ont révélé un différend sur la voie de développement des grands modèles. après sa séparation complète d'openai en mai de cette année, tout le monde attend sa prochaine initiative entrepreneuriale.

maintenant, la poussière est retombée. ilya lui-même, qui a toujours été discret, a également partagé plus d'informations sur son entreprise ssi et sa propre réflexion sur agi à ce stade.

lors d'un échange avec reuters, ilya a répondu à six questions clés. ci-dessous le texte original :

pourquoi ssi a-t-il été créé ?

nous avons découvert une "grande montagne" un peu différente de mon travail précédent...une fois atteint le sommet de cette montagne, le paradigme change…tout ce que nous savons sur l’intelligence artificielle est sur le point de changer à nouveau.

à ce stade, les efforts de sécurité ultra-intelligents deviendront essentiels.

notre premier produit sera une super intelligence sécurisée.

avant la super intelligence, une ia aussi intelligente que les humains sortira-t-elle ?

je pense que la clé est la suivante : est-ce sûr ? est-ce une force du bien dans le monde ? je pense que lorsque nous ferons cela, le monde changera beaucoup. il est donc assez difficile de donner un plan clair de « ce que nous allons faire » à l’heure actuelle.

ce que je peux vous dire, c’est que le monde va être très différent. la perception du monde extérieur sur ce qui se passe dans le domaine de l’ia va changer radicalement et sera difficile à comprendre. ce sera une conversation plus intense. cela ne dépend peut-être pas uniquement de notre décision.

comment ssi détermine-t-il ce qu’est une intelligence artificielle sûre ?

pour répondre à cette question, nous devons mener des recherches importantes. surtout si vous êtes comme nous et pensez que les choses sont sur le point de beaucoup changer... beaucoup de bonnes idées sont découvertes.

beaucoup de gens réfléchissent aux tests qui doivent être effectués pour l’ia à mesure qu’elle devient plus puissante ? c'est un peu délicat et il y a beaucoup de recherches à faire.

je ne veux pas dire qu’il existe une réponse claire maintenant. mais c'est l'une des choses que nous devons comprendre.

à propos des hypothèses d'échelle et de la sécurité de l'ia

tout le monde parle de « l’hypothèse de mise à l’échelle », mais tout le monde ignore une question : qu’est-ce que nous mettons à l’échelle ?

l’énorme percée dans l’apprentissage profond au cours de la dernière décennie était une formulation spécifique de l’hypothèse d’échelle. mais cela va changer... et à mesure que cela change, les capacités du système augmenteront et les problèmes de sécurité deviendront les plus urgents, et c'est ce à quoi nous devons nous attaquer.

ssi sera-t-il open source ?

actuellement, toutes les entreprises d’ia ne publient pas leur travail principal en open source, et nous non plus. mais je pense qu’en fonction de certains facteurs, il y aura de nombreuses opportunités de travaux de sécurité superintelligents open source. peut-être pas tous, mais certainement certains.

réflexions sur les efforts de recherche en sécurité d’autres sociétés d’ia

en fait, j’ai une très haute opinion de l’industrie. je pense qu’à mesure que les gens continuent de progresser, toutes les entreprises prendront conscience – probablement à différents moments – de la nature des défis auxquels elles sont confrontées. ce n’est donc pas que nous pensons que personne d’autre ne peut le faire, c’est que nous pensons que nous pouvons y contribuer.

a quoi sert un milliard de dollars ?

enfin, ajoutez quelques informations générales en dehors des mots d’ilya.

la nouvelle de ssi a été publiée pour la première fois en juin de cette année. l'objectif est très clair : réaliser ce qu'ilya n'a pas réussi à faire à openai : créer une super intelligence sécurisée.

actuellement, ssi ne compte que 10 employés. après avoir levé des fonds, elle prévoit d'utiliser les fonds pour acheter de la puissance informatique et embaucher les meilleurs talents——

ceux qui sont d’accord avec leurs idées et sont mentalement préparés à ce que l’ia dépasse un jour l’intelligence humaine.

le co-fondateur daniel gross a également révélé qu'ils n'accordent pas trop d'attention aux qualifications et à l'expérience, mais qu'ils passeront des heures à vérifier si les candidats ont un « bon caractère ».

en termes de puissance de calcul, ssi prévoit de coopérer avec les fabricants de cloud et les fabricants de puces. on ne sait pas encore avec quelles entreprises coopérer et comment coopérer.

outre ilya lui-même, les cofondateurs de ssi comprennent daniel gross et daniel levy.

△gauche : daniel gross ; droite : daniel levy

daniel gross est diplômé du département d'informatique de l'université harvard et était auparavant l'un des partenaires de y combinator. il a également fondé ou participé à la fondation de nombreuses entreprises, dont citrus lane, writelatex (rebaptisée plus tard overleaf), etc.

il a été répertorié comme l'une des « personnes les plus influentes dans le domaine de l'intelligence artificielle » par le magazine time 100.

daniel levy est diplômé du département d'informatique de stanford et était auparavant à la tête de l'équipe d'optimisation d'openai.