τα ψάρια και τα πρόβατα προέρχονται από τον ναό aofei

qubits | δημόσιος λογαριασμός qbitai

η εταιρεία αριθμεί μόλις 10 άτομα και έχει συγκεντρώσει χρηματοδότηση.1 δισεκατομμύριο δολάρια ηπα。

αυτού του είδους το απίστευτο πράγμα μπορεί να συμβεί μόνοilya sutskeverστο σώμα φαίνεται ελαφρώς «κανονικό».

ilya, σε μια εποχή που τα μεγάλα μοντέλα σαρώνουν τον κόσμο, η συνεισφορά του αναγνωρίζεται ωςαλλάξει τον κόσμοεπίπεδο:

είναι ένας από τους τρεις συγγραφείς του alexnet μετά την λαθροθηρία του στην google με τον μέντορά του hinton, συμμετείχε βαθιά στο έργο alphago που συγκλόνισε τον κόσμο.

το 2015 συμμετείχε στην ίδρυση του openai και υπηρέτησε ως επικεφαλής επιστήμονας. το chatgpt αλλάζει ξανά τον κόσμο και θεωρείται ένα από τα πιο βασικά πρόσωπα πίσω από αυτό.

από τον νοέμβριο του περασμένου έτους, κάθε κίνηση του ilya έχει ωθηθεί στο προσκήνιο και προσέλκυσε την προσοχή του παγκόσμιου τεχνολογικού κύκλου:

η εσωτερική διαμάχη στο διοικητικό συμβούλιο του openai που ξεκίνησε από τον ίδιο αποκάλυψε μια διαμάχη σχετικά με την πορεία ανάπτυξης μεγάλων μοντέλων αφού χώρισε εντελώς τους δρόμους του με το openai τον μάιο του τρέχοντος έτους, όλοι περιμένουν την επόμενη επιχειρηματική του κίνηση.

τώρα, η σκόνη κατακάθεται. ο ίδιος ο ilya, ο οποίος ήταν πάντα χαμηλών τόνων, μοιράστηκε επίσης περισσότερες πληροφορίες σχετικά με την εταιρεία του ssi και τη δική του σκέψη σχετικά με το agi αυτή τη στιγμή.

σε ανταλλαγή με το reuters, ο ίλια απάντησε σε έξι βασικές ερωτήσεις. ακολουθεί το πρωτότυπο κείμενο:

γιατί δημιουργήθηκε το ssi;

ανακαλύψαμε ένα «μεγάλο βουνό» που είναι λίγο διαφορετικό από την προηγούμενη δουλειά μου...μόλις φτάσετε στην κορυφή αυτού του βουνού, το παράδειγμα αλλάζει…όλα όσα γνωρίζουμε για την τεχνητή νοημοσύνη πρόκειται να αλλάξουν ξανά.

σε εκείνο το σημείο, οι υπερ-έξυπνες προσπάθειες ασφάλειας θα γίνουν κρίσιμες.

το πρώτο μας προϊόν θα είναι μια ασφαλής σούπερ νοημοσύνη.

πριν από τη σούπερ νοημοσύνη, θα κυκλοφορήσει το ai τόσο έξυπνο όσο οι άνθρωποι;

νομίζω ότι το κλειδί είναι: είναι ασφαλές; είναι μια δύναμη για το καλό στον κόσμο; νομίζω ότι όταν το κάνουμε αυτό, ο κόσμος θα αλλάξει πολύ. επομένως, είναι αρκετά δύσκολο να δώσουμε ένα σαφές σχέδιο για το «τι θα κάνουμε» αυτή τη στιγμή.

αυτό που μπορώ να σας πω είναι ότι ο κόσμος θα είναι ένα πολύ διαφορετικό μέρος. η αντίληψη του εξωτερικού κόσμου για το τι συμβαίνει στην τεχνητή νοημοσύνη θα αλλάξει δραματικά και θα είναι δύσκολο να γίνει κατανοητό. αυτή θα είναι μια πιο έντονη συζήτηση. μπορεί να μην εξαρτάται μόνο από την απόφασή μας.

πώς το ssi καθορίζει τι είναι η ασφαλής τεχνητή νοημοσύνη;

για να απαντήσουμε σε αυτό το ερώτημα, πρέπει να διεξαγάγουμε μια σημαντική έρευνα. ειδικά αν είστε σαν εμάς και πιστεύετε ότι τα πράγματα πρόκειται να αλλάξουν πολύ... πολλές υπέροχες ιδέες ανακαλύπτονται.

πολλοί άνθρωποι σκέφτονται τι δοκιμές πρέπει να γίνουν για την τεχνητή νοημοσύνη καθώς γίνεται πιο ισχυρή; είναι λίγο δύσκολο και πρέπει να γίνει πολλή έρευνα.

δεν θέλω να πω ότι υπάρχει ξεκάθαρη απάντηση τώρα. αλλά αυτό είναι ένα από τα πράγματα που πρέπει να καταλάβουμε.

σχετικά με τις υποθέσεις κλίμακας και την ασφάλεια της τεχνητής νοημοσύνης

όλοι μιλούν για την «υπόθεση κλιμάκωσης», αλλά όλοι αγνοούν ένα ερώτημα: τι κλιμακώνουμε;

η τεράστια ανακάλυψη στη βαθιά μάθηση την περασμένη δεκαετία ήταν μια συγκεκριμένη διατύπωση της υπόθεσης της κλίμακας. αλλά θα αλλάξει...και καθώς αλλάζει, οι δυνατότητες του συστήματος θα αυξάνονται και τα ζητήματα ασφάλειας θα γίνονται πιο πιεστικά, και αυτό είναι που πρέπει να αντιμετωπίσουμε.

το ssi θα είναι ανοιχτού κώδικα;

προς το παρόν, όλες οι εταιρείες τεχνητής νοημοσύνης δεν έχουν ανοιχτή πηγή την κύρια εργασία τους, όπως και εμείς. αλλά νομίζω ότι, ανάλογα με ορισμένους παράγοντες, θα υπάρχουν πολλές ευκαιρίες για υπερέξυπνη εργασία ασφαλείας ανοιχτού κώδικα. ίσως όχι όλα, αλλά σίγουρα κάποιοι.

σκέψεις σχετικά με τις ερευνητικές προσπάθειες ασφάλειας άλλων εταιρειών τεχνητής νοημοσύνης

στην πραγματικότητα, έχω πολύ υψηλή γνώμη για τον κλάδο. νομίζω ότι καθώς οι άνθρωποι συνεχίζουν να σημειώνουν πρόοδο, όλες οι εταιρείες θα συνειδητοποιήσουν - πιθανώς σε διαφορετικές χρονικές στιγμές - τη φύση των προκλήσεων που αντιμετωπίζουν. δεν είναι λοιπόν ότι πιστεύουμε ότι κανείς άλλος δεν μπορεί να το κάνει, είναι ότι πιστεύουμε ότι μπορούμε να συνεισφέρουμε.

σε τι χρησιμοποιείται ένα δισεκατομμύριο δολάρια;

τέλος, προσθέστε κάποιες βασικές πληροφορίες έξω από τα λόγια του ilya.

τα νέα του ssi κυκλοφόρησαν για πρώτη φορά τον ιούνιο του τρέχοντος έτους. ο στόχος είναι πολύ ξεκάθαρος.

επί του παρόντος, η ssi έχει μόνο 10 υπαλλήλους αφού συγκεντρώσει κεφάλαια, σχεδιάζει να χρησιμοποιήσει τα κεφάλαια για να αγοράσει υπολογιστική ισχύ και να προσλάβει κορυφαία ταλέντα——

αυτοί που συμφωνούν με τις ιδέες τους και είναι διανοητικά προετοιμασμένοι ότι η τεχνητή νοημοσύνη κάποτε θα ξεπεράσει την ανθρώπινη νοημοσύνη.

ο συνιδρυτής daniel gross αποκάλυψε επίσης ότι δεν δίνουν πολλή σημασία στα προσόντα και την εμπειρία, αλλά θα περάσουν ώρες εξετάζοντας εάν οι υποψήφιοι έχουν «καλό χαρακτήρα».

όσον αφορά την υπολογιστική ισχύ, η ssi σχεδιάζει να συνεργαστεί με κατασκευαστές cloud και εταιρείες τσιπ δεν είναι ακόμη σαφές με ποιες εταιρείες να συνεργαστεί και πώς να συνεργαστεί.

εκτός από τον ίδιο τον ilya, στους συνιδρυτές της ssi περιλαμβάνονται οι daniel gross και daniel levy.

△αριστερά: daniel gross, δεξιά: daniel levy

ο daniel gross αποφοίτησε από το τμήμα επιστήμης υπολογιστών του πανεπιστημίου του χάρβαρντ και προηγουμένως ήταν ένας από τους συνεργάτες της y combinator. επίσης, ίδρυσε ή συμμετείχε στην ίδρυση πολλών εταιρειών, συμπεριλαμβανομένων των citrus lane, writelatex (αργότερα μετονομάστηκε σε overleaf) κ.λπ.

καταγράφηκε ως ένας από τους ανθρώπους με τη μεγαλύτερη επιρροή στην τεχνητή νοημοσύνη από το περιοδικό time 100.

ο daniel levy αποφοίτησε από το τμήμα επιστήμης υπολογιστών του στάνφορντ και ήταν προηγουμένως επικεφαλής της ομάδας βελτιστοποίησης openai.