νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

λαμβάνοντας ως παράδειγμα τη βιομηχανία φωτοβολταϊκών, η amodei πιστεύει ότι ακόμα κι αν μια τεχνολογία γίνει πολύ σημαντική και ευρέως χρησιμοποιηθεί στην αγορά, μπορεί να είναι ακόμα δύσκολο να αποφέρει υψηλά κέρδη σε μία μόνο εταιρεία και η υψηλή εμπορευματοποίηση θα περιορίσει την κερδοφορία της εταιρείας. παρόμοια με τη βιομηχανία φωτοβολταϊκών, το μέγεθος της αγοράς της τεχνολογίας τεχνητής νοημοσύνης μπορεί να είναι πολύ μεγάλο, αλλά μπορεί επίσης να είναι δύσκολο να επωφεληθείτε από αυτήν και το ζήτημα της διανομής κερδών μεταξύ των διαφόρων συμμετεχόντων είναι επίσης πολύ περίπλοκο.

σκληρό ai

συγγραφέας |

συντάκτης |

αυτή την εβδομάδα, ο dario amodei, διευθύνων σύμβουλος και συνιδρυτής της "ai unicorn" anthropic, συμμετείχε στη συνέντευξη και συζήτησε την ανάπτυξη της βιομηχανίας ai, το scaling law κ.λπ.

ο νόμος κλιμάκωσης αναφέρεται κυρίως στο γεγονός ότι καθώς τα δεδομένα και η υπολογιστική ισχύς αυξάνονται, θα αυξάνονται και οι δυνατότητες του μοντέλου.η amodei πιστεύει ότι εάν αυτός ο νόμος συνεχίσει να ισχύει, η τεχνητή νοημοσύνη πιθανότατα θα γίνει πολύ ισχυρή και θα φέρει νέα επιχειρηματικά μοντέλα και τεχνολογικές καινοτομίες.

ωστόσο, τόνισε επίσης ότι αυτός ο νόμος δεν ισχύει πάντα, εάν η απόδοση του μοντέλου δεν μπορεί να βελτιωθεί περαιτέρω σε ορισμένες πτυχές, μπορεί να επηρεαστεί ολόκληρη η βιομηχανία τεχνητής νοημοσύνης.

η amodei επικεντρώθηκε επίσης στη σύγκριση της βιομηχανίας ai με τη βιομηχανία φωτοβολταϊκών. χρησιμοποίησε το παράδειγμα της βιομηχανίας φωτοβολταϊκών για να δείξει ότι ακόμα κι αν μια τεχνολογία γίνει πολύ σημαντική και ευρέως χρησιμοποιούμενη στην αγορά, μπορεί να εξακολουθεί να είναι δύσκολο να αποφέρει υψηλά κέρδη σε μια μεμονωμένη εταιρεία.

αν και η φωτοβολταϊκή τεχνολογία έχει σχεδόν κλονίσει ολόκληρη την ενεργειακή βιομηχανία, η αγορά της είναι εξαιρετικά εμπορευματοποιημένη, έντονα ανταγωνιστική και στερείται σημαντικών αποτελεσμάτων επωνυμίας, επομένως η κερδοφορία κάθε εταιρείας υπόκειται σε ορισμένους περιορισμούς.

παρόμοια με τη βιομηχανία φωτοβολταϊκών, το μέγεθος της αγοράς της τεχνολογίας τεχνητής νοημοσύνης μπορεί να είναι πολύ μεγάλο, αλλά μπορεί επίσης να είναι δύσκολο να επωφεληθείτε από αυτήν. το μοντέλο κέρδους της τεχνητής νοημοσύνης μπορεί να επηρεαστεί από πολλούς παράγοντες, όπως το κόστος υπολογισμού του μοντέλου, το κόστος συμπερασμάτων κ.λπ. η κατανομή του κέρδους μεταξύ παρόχων υλικού, προγραμματιστών μοντέλων και επιπέδων εφαρμογών είναι επίσης αρκετά περίπλοκη και αντιμετωπίζει σημαντικές προκλήσεις.

τα σημεία συζήτησης είναι τα εξής:

1. είναι κάπως δύσκολο να διαχωριστεί πλήρως το scaling law από τα επιχειρηματικά ζητήματα.

2. με την αγορά να είναι τόσο μεγάλη, η αρχική μου απάντηση είναι ότι τα κέρδη θα εισρεύσουν σε όλα αυτά τα μέρη.

3. εάν ο νόμος κλιμάκωσης είναι σωστός, τότε αυτή θα είναι μια πολύ τεράστια αγορά. ακόμα κι αν μόνο το 10% των κερδών πηγαίνει σε ένα συγκεκριμένο τμήμα της εφοδιαστικής αλυσίδας, εξακολουθεί να είναι τεράστιο.

4. εάν χτίζουμε ένα μοντέλο με δεκάδες ή εκατοντάδες δισεκατομμύρια παραμέτρους, μπορεί να μην εμπλέκονται περισσότερες από τέσσερις ή πέντε οντότητες (και ίσως κάποιες κρατικές επιχειρήσεις). έτσι, αυτό που βλέπουμε μπορεί να μοιάζει περισσότερο με ολιγοπώλιο παρά με πλήρες μονοπώλιο ή πλήρη εμπορευματοποίηση.

5. ακόμα κι αν κυκλοφορήσει ένα τέτοιο μοντέλο, το λειτουργικό κόστος ενός τόσο μεγάλου μοντέλου στην εξαγωγή συμπερασμάτων είναι πολύ υψηλό και το μεγαλύτερο μέρος του κόστους αφορά το συμπέρασμα και όχι την εκπαίδευση του μοντέλου. εάν έχετε καλύτερες μεθόδους συλλογιστικής, ακόμη και μόνο μια βελτίωση κατά 10%, 20% ή 30% μπορεί να έχει μεγάλο αντίκτυπο.

6. έχουμε μεγαλύτερα, πιο ισχυρά μοντέλα και πιο γρήγορα, φθηνότερα, λιγότερο έξυπνα μοντέλα μερικοί πελάτες έχουν διαπιστώσει ότι το μεγάλο μοντέλο μπορεί να αναθέσει εργασίες σε μεγάλο αριθμό μικρών μοντέλων και στη συνέχεια να αναφέρει στο μεγάλο μοντέλο για να ολοκληρώσει την εργασία. σμήνος.

7. κανείς δεν πρέπει να πιστεύει ότι το scaling law θα συνεχιστεί για πάντα, είναι απλώς μια εμπειρική παρατήρηση και μπορεί να σταματήσει ανά πάσα στιγμή. τα παρατηρώ εδώ και δέκα χρόνια και η εικασία μου ότι δεν θα σταματήσουν είναι απλώς μια πρόταση 60-40 ή 70-30 με βάση το χρονικό διάστημα που τα παρατηρώ.

8. εάν μπορούμε να χρησιμοποιήσουμε σωστά την τεχνητή νοημοσύνη, μπορεί να αυξήσει την ταχύτητα με την οποία κάνουμε αυτές τις ανακαλύψεις κατά 10 φορές, ίσως και 100 φορές.

το πλήρες κείμενο της συνέντευξης έχει ως εξής, με κάποιο περιεχόμενο να έχει διαγραφεί:

01

η google δεν κατάφερε να γίνει το bell labs της εποχής της τεχνητής νοημοσύνης

noah smith:

σε αυτό το οικονομικό podcast προτιμάμε να μιλάμε για οικονομικά και όχι για καθαρά τεχνικά πράγματα. λοιπόν, είναι η google τα bell labs της εποχής της τεχνητής νοημοσύνης;

έκαναν έρευνα για τη σύγχρονη βαθιά μάθηση και τους transformers και ούτω καθεξής, αλλά δεν κατάφεραν πραγματικά να την εμπορευματοποιήσουν, όπως η bell labs. χρηματοδότησαν την έρευνα με μονοπωλιακά χρήματα, και στη συνέχεια ενδιαφέροντες άνθρωποι σαν εσάς δούλεψαν εκεί και μετά έφυγαν για να ξεκινήσουν εταιρείες, όπως οι άνθρωποι της fairchild στα bell labs. πιστεύετε ότι αυτή είναι η κατάλληλη μεταφορά;

dario amodei:

αν και τίποτα δεν είναι τέλεια αναλογία, σίγουρα πιστεύω ότι υπάρχει κάποια αλήθεια σε αυτό. πολλοί το θεώρησαν ως συνέχεια μιας ακαδημαϊκής καριέρας, πολύ παρόμοιο με το βιομηχανικό περιβάλλον στα bell labs, εκτός από το ότι η google διέθετε περισσότερους πόρους για να πετύχει τους στόχους της. ως εκ τούτου, πολλά έργα μελετώνται. το transformer είναι μια από τις βασικές εφευρέσεις που οδηγούν σε αυτό το πεδίο και είναι μόνο ένα από τα περίπου εκατό έργα που ερευνώνται.

εάν ήσασταν στην κορυφή του οργανισμού, δεν θα μπορούσατε να τον ξεχωρίσετε εύλογα από τα 99 άλλα έργα υπό ανάπτυξη. είναι σαν εκατό λουλούδια να ανθίζουν και να ανταγωνίζονται μεταξύ τους. νομίζω ότι τότε πρότεινα για πρώτη φορά τον νόμο περί κλιμάκωσης, ο οποίος είναι ότι πρέπει να κλιμακώσουμε και να ενσωματώσουμε αυτές τις καινοτομίες σε κλίμακα.

θεωρητικά, η google είναι το καλύτερο μέρος για να γίνει αυτό, έχει το μεγαλύτερο σύμπλεγμα στον κόσμο με τόνους ταλαντούχων μηχανικών και όλα τα απαραίτητα στοιχεία.ωστόσο, η google είναι οργανωμένη για αναζήτηση και δεν νομίζω ότι είναι απαραίτητα για να συνδυάζει όλα αυτά τα κομμάτια και να κλιμακώνει μαζικά κάτι εντελώς διαφορετικό από αυτό που ήταν πριν.

noah smith:

ακριβώς όπως η bell labs δεν δημιουργήθηκε για να εφεύρει υπολογιστές και να δώσει σε όλους έναν υπολογιστή, δημιουργήθηκε για να καλωδιώσει τους πάντες.

dario amodei:

ναι, είναι εταιρεία τηλεφωνίας. επομένως, δεν μπορώ να μιλήσω για λογαριασμό της google, αλλά προφανώς τώρα, εκτός από το ότι εφευρίσκουν όλα αυτά τα καταπληκτικά πράγματα, είναι μία από τις τέσσερις κορυφαίες εταιρείες με μοντέλα αιχμής που είναι και οι συνεργάτες μας και οι ανταγωνιστές μας. ξέρω πολλούς ανθρώπους εκεί που είναι πολύ έξυπνοι.

αλλά νομίζω ότι έχετε δίκιο, θα υπάρξει μια στιγμή που θα μπορούσαν να είναι ο μοναδικός κυρίαρχος παίκτης εάν μπορούν να συνδυάσουν αυτά τα στοιχεία με τον σωστό τρόπο. αλλά για οποιονδήποτε λόγο, τα πράγματα δεν πήγαν προς αυτή την κατεύθυνση.

02

νόμος κλιμάκωσης:

καθώς το μέγεθος των δεδομένων αυξάνεται, το μοντέλο γίνεται πιο ισχυρό

noah smith:

αυτό φέρνει ένα άλλο ερώτημα που σκεφτόμαστε. στην πραγματικότητα, η ιδέα να μιλήσουμε μαζί σας προήλθε από κάτι που συζητούσαμε σε ένα άλλο podcast όπου βασικά μιλούσαμε για τα οικονομικά των επιχειρήσεων στο διαδίκτυο και στη συνέχεια κάποιος έφερε μερικές απαισιόδοξες απόψεις για την επιχείρηση ai, αμφισβητώντας πόσα ai υπάρχουν πραγματικά οικονομικές τάφροι.

προφανώς, αυτό σχετίζεται στενά με την anthropic και άλλες εταιρείες που ονομάζουμε startup, αλλά είναι ήδη αρκετά μεγάλες.λοιπόν, πείτε μας τη γνώμη σας για τις οικονομικές τάφρους των εταιρειών ai.

dario amodei:

θα έλεγα ότι θα χωρίσω αυτή την ερώτηση σε δύο κλάδους λίγο. νομίζω ότι είναι δύσκολο να διαχωρίσουμε πλήρως το scaling law από τα επιχειρηματικά ζητήματα. ας εξετάσουμε λοιπόν την περίπτωση όπου ο νόμος κλιμάκωσης έχει κάποια πολύ ισχυρή μορφή και, στη συνέχεια, ας εξετάσουμε τις περιπτώσεις όπου μπορεί να ισχύει εν μέρει ή καθόλου. αν αυτό έχει πολύ ισχυρή μορφή, η κατάσταση μοιάζει με αυτό:

τώρα έχετε εκπαιδεύσει ένα μοντέλο με 100 εκατομμύρια παραμέτρους και οι δυνατότητές του είναι αντίστοιχες με αυτές ενός καλού πρωτοετούς φοιτητή.

μετά εκπαιδεύεις ένα μοντέλο με ένα δισεκατομμύριο παραμέτρους, που ισοδυναμεί με την ικανότητα ενός καλού προπτυχιακού φοιτητή.

έχετε εκπαιδεύσει ένα μοντέλο με δεκάδες δισεκατομμύρια παραμέτρους και οι δυνατότητές του είναι ισοδύναμες με εκείνες ενός κορυφαίου μεταπτυχιακού φοιτητή.

όταν εκπαιδεύεις ένα μοντέλο με εκατοντάδες δισεκατομμύρια παραμέτρους, οι δυνατότητές του είναι ισοδύναμες με έναν νικητή του βραβείου νόμπελ.

και μετά βάζεις αυτό το μοντέλο σε λειτουργία και βασικά εξυπηρετείς τους πάντες, και γίνεται συνάδελφός σου, γίνεται προσωπικός σου βοηθός, βοηθά στην εθνική ασφάλεια, βοηθά στη βιολογική έρευνα.

νομίζω ότι σε αυτόν τον κόσμο, αυτό το σύστημα και τα προϊόντα που βασίζονται σε αυτό θα καταλάβουν ένα μεγάλο μερίδιο της οικονομίας. το ερώτημα που παραμένει είναι πού θα πάνε τα έσοδα; θα ρέει προς τη nvidia, σε εταιρείες τεχνητής νοημοσύνης ή σε μεταγενέστερες εφαρμογές; καθώς η αγορά είναι τόσο τεράστια, η αρχική μου απάντηση είναι:τα οφέλη ρέουν σε όλα αυτά τα μέρη.

03

το μέλλον της τεχνητής νοημοσύνης θα είναι παρόμοιο με τη βιομηχανία φωτοβολταϊκών

noah smith:

αλλά σκεφτείτε την ηλιακή, η ηλιακή ενέργεια θα είναι σαφώς πολύ σημαντική. όσο περισσότερη ενέργεια χρειαζόμαστε, τόσο πιο διαδεδομένη θα γίνεται η χρήση της ηλιακής ενέργειας. ωστόσο, είναι δύσκολο να πούμε ποια εταιρεία ηλιακής ενέργειας έχει πολλά κέρδη. η ηλιακή ενέργεια είναι ένα πολύ εμπορευματοποιημένο προϊόν, και παρόλο που υπάρχει μεγάλη καινοτομία σε αυτό, δεν υπάρχει αποτέλεσμα της επωνυμίας, δεν υπάρχει αποτέλεσμα δικτύου και δεν υπάρχει αποτέλεσμα κλειδώματος , και αυτό το ένα τα πράγματα αλλάζουν τον κόσμο μπροστά στα μάτια μας.

επομένως, δεν είμαι απολύτως βέβαιος ότι μόνο και μόνο επειδή όλα θα εκτιναχθούν σαν ηλιακή αυτή τη στιγμή, αυτό θα οδηγήσει αναγκαστικά σε κέρδη για την εταιρεία. αλλά σίγουρα είμαι ανοιχτός στο ενδεχόμενο. απλώς θέλω να ξέρω,ποια πιστεύετε ότι είναι η πηγή; γιατί είναι διαφορετική η ανάπτυξη της τεχνητής νοημοσύνης;

dario amodei:

ηλιακή ενέργεια; νομίζω ότι υπάρχουν δύο σημεία εδώ, γιατί νομίζω ότι αυτό είναι ένα σημαντικό ερώτημα στους περισσότερους κόσμους. ίσως λέω απλώς, εάν ο νόμος κλιμάκωσης είναι σωστός, αυτή θα είναι μια πολύ τεράστια αγορά. ακόμα κι αν μόνο το 10% των κερδών πηγαίνει σε ένα συγκεκριμένο τμήμα της εφοδιαστικής αλυσίδας, εξακολουθεί να είναι τεράστιο.

καθώς μεγαλώνετε την πίτα, γίνεται η πιο ενδιαφέρουσα ερώτηση, αν και εκείνοι που αποφασίζουν πώς να διανείμουν τα χαρτονομίσματα του δολαρίου σίγουρα θα ανησυχούν πολύ για το πού πηγαίνει ένα τρισεκατομμύριο. αλλά ας επιστρέψουμε στην ερώτησή σας, γιατί νομίζω ότι είναι σημαντικό σε όλο τον κόσμο.η ουσία του θέματος είναι πόσο μεγάλη είναι η «πίτα» που χωρίζετε.

πρώτον, από την πλευρά του μοντέλου, εξαρτάται από τον νόμο κλιμάκωσης. αν κατασκευάζαμε ένα μοντέλο με δεκάδες ή εκατοντάδες δισεκατομμύρια παραμέτρους, πιθανότατα δεν θα εμπλέκονταν περισσότερες από τέσσερις ή πέντε οντότητες (και ίσως κάποιες κρατικές επιχειρήσεις). έτσι, αυτό που βλέπουμε μπορεί να μοιάζει περισσότερο με ολιγοπώλιο παρά με πλήρες μονοπώλιο ή πλήρη εμπορευματοποίηση.

υποθέτω ότι μια ερώτηση εδώ είναι, πρόκειται κανείς να κυκλοφορήσει ένα μοντέλο ανοιχτού κώδικα που έχει ένα δισεκατομμύριο ή 10 δισεκατομμύρια παραμέτρους; είμαι δύσπιστος, ακόμα κι αν κυκλοφορήσει ένα τέτοιο μοντέλο, το λειτουργικό κόστος ενός τόσο μεγάλου μοντέλου στο συμπέρασμα είναι πολύ υψηλό, με το μεγαλύτερο μέρος του κόστους να αφορά το συμπέρασμα και όχι την εκπαίδευση μοντέλων. εάν έχετε καλύτερες μεθόδους συλλογιστικής, ακόμη και μόνο μια βελτίωση κατά 10%, 20% ή 30% μπορεί να έχει μεγάλο αντίκτυπο. τα οικονομικά είναι λίγο περίεργα, είναι ένα τεράστιο πάγιο κόστος που πρέπει να αποσβέσεις, αλλά υπάρχει επίσης ένα μοναδιαίο κόστος συλλογιστικής, και κάτω από αυτή την υπόθεση, που έχει αναπτυχθεί αρκετά ευρέως, η διαφορά μπορεί να είναι τεράστια. δεν είμαι σίγουρος πώς θα γίνει αυτό.

noah smith:

αυτό είναι στην πραγματικότητα παρόμοιο με τα οικονομικά της βαριάς βιομηχανίας, όπως το πώς κατασκευάζεται ο χάλυβας.

dario amodei:

ναι, λίγο. είναι ενδιαφέρον ότι το άλλο πράγμα που θα έλεγα είναι ότι μέσα σε αυτά τα μοντέλα, αρχίσαμε να βλέπουμε τα μοντέλα να έχουν διαφορετικές προσωπικότητες. επομένως, η εμπορευματοποίηση είναι μια πιθανότητα, αλλά ακόμη και σε ένα ολιγοπώλιο ο τρόπος με τον οποίο αναπτύσσονται ορισμένα μοντέλα θα μπορούσε να εμπορευματοποιηθεί, αν και δεν είμαι σίγουρος.

αλλά μια δύναμη που εργάζεται ενάντια σε αυτήν την άποψη είναι: γεια σου, έφτιαξα ένα μοντέλο που ήταν καλό στον προγραμματισμό, εσύ έφτιαξες ένα μοντέλο που ήταν καλό στη δημιουργική γραφή και ένα τρίτο άτομο έφτιαξε ένα μοντέλο που ήταν καλό στην ψυχαγωγία. αυτές είναι επιλογές και μόλις αρχίσετε να κάνετε αυτές τις επιλογές, αρχίζετε να χτίζετε υποδομές γύρω από αυτές, κάτι που φαίνεται να δημιουργεί τις προϋποθέσεις για κάποιο επίπεδο διαφοροποίησης.

μια άλλη πιθανή πηγή διαφοροποίησης είναι τα προϊόντα που κατασκευάζονται σε μοντέλα.θεωρητικά, μπορείτε να διαχωρίσετε το επίπεδο μοντέλου από το επίπεδο προϊόντος, στην πράξη είναι αλληλένδετα και η εργασία σε οργανισμούς μπορεί να είναι δύσκολη. έτσι, ενώ υπάρχει μια κοινή λογική όσον αφορά τα μοντέλα, με πολλές εταιρείες να κινούνται προς την ίδια κατεύθυνση, προσθέτοντας πολυτροπικές δυνατότητες για να κάνουν τα μοντέλα πιο έξυπνα και να κάνουν τα συμπεράσματα πιο γρήγορα, τα προϊόντα είναι τόσο διαφορετικά.

αν κοιτάξετε αυτό το έργο "artifacts" που κάναμε, είναι ένας τρόπος οπτικοποίησης του μοντέλου που γράφει κώδικα σε πραγματικό χρόνο. το κάνουμε αυτό, το openai έχει τη δική του προσέγγιση και η google έχει τη δική του προσέγγιση. νομίζω ότι αυτή είναι επίσης μια από τις πηγές διαφοροποίησης μεταξύ των εταιρειών.

είδαμε ότι τα οικονομικά της πώλησης εφαρμογών, ακόμη και σχετικά λεπτών, γίνονται όλο και πιο παχιά με βάση το μοντέλο.

erik torenberg:

εάν ισχύει ο νόμος για την κλιμάκωση και τα πράγματα γίνονται τόσο μεγάλα όσο νομίζουμε, περιμένετε να κρατικοποιηθούν κάποια στιγμή αυτές οι εταιρείες; ή τι πιστεύεις;

dario amodei:

μπορούμε να το χωρίσουμε σε δύο καταστάσεις: η μία είναι ότι ο νόμος κλιμάκωσης είναι σωστός και η άλλη είναι ότι ο νόμος κλιμάκωσης είναι λάθος. αν είναι λάθος, τότε αυτή είναι απλώς μια τεχνολογία που, όπως το διαδίκτυο ή η ηλιακή ενέργεια, μπορεί να είναι πιο σημαντική από τις περισσότερες, αλλά όχι πρωτόγνωρη. με βάση την τρέχουσα εξέλιξη δεν νομίζω ότι θα κρατικοποιηθεί.

αν είναι σωστό, τα μοντέλα που κατασκευάζουμε είναι τόσο καλά όσο οι βραβευμένοι με νόμπελ βιολόγοι και οι κορυφαίοι κωδικοποιητές του κλάδου ή ακόμα καλύτερα. δεν είμαι σίγουρος αν πρόκειται να είναι πραγματικά εθνικοποίηση, θα ανησυχούμε πολύ για το αν οι αντίπαλοί μας μπορούν να συμβαδίσουν μαζί μας ή αν μπορούμε να τους αναπτύξουμε τόσο γρήγορα όσο και οι αντίπαλοί μας.

04

νόμος κλιμάκωσης

επηρεάστε την τεχνητή νοημοσύνη για τη δημιουργία νέων επιχειρηματικών μοντέλων

noah smith:

έχω μια ερώτηση σχετικά με τον αντίκτυπο της τεχνητής νοημοσύνης στα επιχειρηματικά μοντέλα. ξέρετε την ιστορία του ηλεκτρισμού, βασικά στην αρχή όταν πήραν ρεύμα, οι κατασκευαστές προσπάθησαν να αποσυναρμολογήσουν τις γεννήτριες ατμού τους και οι γεννήτριες είχαν απώλειες. στη συνέχεια, κάποιος ανακάλυψε ότι μπορούσες να τρέξεις ηλεκτρική ενέργεια σε πολλούς σταθμούς εργασίας παράλληλα, κάτι που άλλαξε τον τρόπο λειτουργίας της κατασκευής, αντί για μια μεγάλη γραμμή συναρμολόγησης, μετατράπηκε σε πολλούς μικρούς σταθμούς εργασίας, γεγονός που οδήγησε σε τεράστια κέρδη παραγωγικότητας για δεκαετίες.

πάντα υποψιαζόμουν ότι η τεχνητή νοημοσύνη είναι παρόμοια. νομίζω ότι το διαδίκτυο είναι παρόμοιο,το ai είναι παρόμοιο στο ότι στην αρχή όλοι φαίνεται να πιστεύουν ότι το ai είναι ένα άτομο. κάποιος στην πραγματικότητα συνέκρινε τον αριθμό της τεχνητής νοημοσύνης με τον αριθμό των ανθρώπινων υπαλλήλων, κάτι που δεν έχει νόημα για μένα γιατί δεν μπορεί να αναλυθεί σε μεμονωμένα άτομα.

θα μπορούσατε να δημιουργήσετε ένα σύστημα που να βασίζεται σε διακομιστή μεσολάβησης για να μιμηθεί αυτήν την προσέγγιση, αλλά γιατί; βλέπω ότι όλοι σκέφτονται ότι η τεχνητή νοημοσύνη αντικαθιστά απευθείας τους ανθρώπους και το επιχείρημά μου είναι ότι αυτό είναι το πρώτο στάδιο, όπως ακριβώς η ηλεκτρική ενέργεια που αντικαθιστά απευθείας τους λέβητες ατμού δεν είναι καλή ιδέα. νομίζω ότι οι άνθρωποι θα είναι λίγο απογοητευμένοι γιατί υπάρχουν μόνο λίγες περιπτώσεις όπου αυτή η άμεση αντικατάσταση ανθρώπου λειτουργεί, όπως η εξυπηρέτηση πελατών και κάποια άλλα καλά καθορισμένα πράγματα.

αλλά νομίζω ότι υπάρχουν μόνο λίγες περιπτώσεις όπου αυτή η άμεση αντικατάσταση των ανθρώπων θα λειτουργήσει, και τότε θα ζήσουμε την έκρηξη του κύκλου διαφημιστικής εκστρατείας της gartner.

ορισμένοι δημιουργικοί επιχειρηματίες θα έλεγαν ότι δεν χρησιμοποιούμε απλώς την τεχνητή νοημοσύνη ως αντικατάσταση του ανθρώπου, αλλά τη χρησιμοποιούμε για να δημιουργήσουμε νέα επιχειρηματικά μοντέλα. τότε θα δούμε μια περίοδο άνθησης αναζωπύρωσης, αυτή είναι η πρόβλεψή μου. οι προβλέψεις μου από την gartner, είμαι τρελός;

dario amodei:

οπότε νομίζω ότι είναι ένα μείγμα από κάποια πράγματα με τα οποία συμφωνώ και κάποια πράγματα με τα οποία μπορεί να μην συμφωνώ. καταρχήν συμφωνώ βασικά ότι αν παγώσεις την ποιότητα του τρέχοντος μοντέλου όλα όσα λες είναι σωστά. κάτι παρόμοιο παρατηρούμε βασικά στις επιχειρήσεις. παρέχουμε μοντέλα με τα οποία μπορείτε να μιλήσετε, αλλά και να πουλήσετε μοντέλα μέσω ενός api σε πολλούς πελάτες. οι άνθρωποι πέρασαν πολύ χρόνο για να βρουν πώς να χρησιμοποιήσουν καλύτερα μοντέλα.

υπάρχουν πολλές ερωτήσεις σχετικά με την αξιοπιστία του μοντέλου και νομίζω ότι αυτό προκαλεί κάποια ανησυχία, όπως ένα μοντέλο που δίνει τη σωστή απάντηση στο 95% των φορών, αλλά όχι στο 5% των περιπτώσεων, πώς εντοπίζετε αυτές τις καταστάσεις και πώς χειρισμός χειρισμού σφαλμάτων πολύ σημαντικό. αυτό είναι πολύ διαφορετικό από το να είναι χρήσιμο στη θεωρία και από το να είναι χρήσιμο στην πράξη.

είχαμε από νωρίς μια δυνατότητα που θα επέτρεπε στο μοντέλο να γράψει κάποιο κώδικα και, στη συνέχεια, θα μπορούσατε να επικολλήσετε τον κώδικα σε έναν μεταγλωττιστή ή διερμηνέα για να φτιάξετε ένα βιντεοπαιχνίδι javascript και αν κάτι δεν πήγαινε καλά, θα μπορούσατε να επιστρέψετε στο μοντέλο και να το διορθώσετε. βλέπουμε επίσης μεγάλα μοντέλα να συντονίζουν μικρά μοντέλα, κάτι που είναι πολύ διαφορετικό από την ιδέα ότι ένα μοντέλο είναι άτομο.

έχουμε μεγαλύτερα, πιο ισχυρά μοντέλα και πιο γρήγορα, φθηνότερα, λιγότερο έξυπνα μοντέλα και ορισμένοι πελάτες έχουν διαπιστώσει ότι το μεγάλο μοντέλο μπορεί να κατανείμει εργασίες σε μεγάλο αριθμό μικρών μοντέλων, τα οποία στη συνέχεια αναφέρουν στο μεγάλο μοντέλο για να ολοκληρώσουν την εργασία σαν σμήνος.

επίσης, διερευνούμε τους καλύτερους τρόπους χρήσης μοντέλων, τα οποία γίνονται πιο έξυπνα και καλύτερα στην επίλυση αυτών των προβλημάτων. έτσι, τελικά, επανέρχεται στο αν ο νόμος κλιμάκωσης είναι εδώ για να μείνει. αν συνεχίσουν, θα είναι μια διαδικασία όπως περιγράφεις. αν σταματούσαν, η καινοτομία θα σταματούσε και η διαδικασία που περιγράφετε θα τελείωνε.

κανείς δεν πρέπει να πιστεύει ότι ο νόμος της κλιμάκωσης θα συνεχιστεί για πάντα, είναι απλώς μια εμπειρική παρατήρηση και μπορεί να σταματήσει ανά πάσα στιγμή. τα παρατηρώ εδώ και δέκα χρόνια και η εικασία μου ότι δεν θα σταματήσουν είναι απλώς μια πρόταση 60-40 ή 70-30 με βάση το χρονικό διάστημα που τα παρατηρώ.

erik torenberg:

τι θα άλλαζε τη γνώμη σας; τι θα άλλαζε τις πιθανότητες σας εκεί;

dario amodei:

νομίζω ότι, πρώτα απ' όλα, αν απλώς εκπαιδεύσουμε ένα μοντέλο και μετά δοκιμάσουμε το επόμενο μοντέλο κλίμακας, τα αποτελέσματα είναι πολύ άσχημα. προσπαθήσαμε μερικές φορές να διορθώσουμε το πρόβλημα και πάλι δεν λειτούργησε και ήμουν σαν, ω, υποθέτω ότι αυτή η τάση σταματά.

εάν υπάρχει πρόβλημα με την εξάντληση δεδομένων και δεν μπορούμε να δημιουργήσουμε αρκετά συνθετικά δεδομένα για να συνεχίσουμε αυτή τη διαδικασία, τότε κάποια στιγμή θα έλεγα, γεια, αυτό φαίνεται πραγματικά δύσκολο, τουλάχιστον αυτή η τάση θα σταματήσει, ίσως σταματήσει, αλλά μπορεί να μην σταματήσει. εξακολουθώ να υποθέτω ότι αυτά τα πράγματα δεν πρόκειται να συμβούν, αλλά ξέρετε, είναι ένα πολύ περίπλοκο ζήτημα.

05

η τεχνητή νοημοσύνη θα μπορούσε να επιταχύνει τις βιολογικές ανακαλύψεις 100 φορές

συμπίεση του χρόνου της προόδου του αιώνα

noah smith:

εάν το σημείο συμφόρησης των πόρων τεχνητής νοημοσύνης βρίσκεται περισσότερο στην υπολογιστική ισχύ παρά στην ενέργεια, τότε θα έχουμε περισσότερα συγκριτικά πλεονεκτήματα στη χρήση της τεχνητής νοημοσύνης. συμφωνείτε βασικά με αυτήν την άποψη;

dario amodei:

ναι, νομίζω ότι είναι λογικό. εννοείς, για να χρησιμοποιήσω μια ελαφρώς γελοία μεταφορά,εάν οι ai είναι σαν τους cybermen και η διαδικασία δημιουργίας και αναπαραγωγής τους μοιάζει πολύ με τους ανθρώπους, τότε είμαστε σε μπελάδες.αλλά αν είναι απλώς ένα σύμπλεγμα διακομιστών κάπου με εντελώς διαφορετικές εισόδους, τότε είμαστε εντάξει.

δεν το έχω σκεφτεί σε βάθος, αλλά φαίνεται να είναι λογικό με την πρώτη ματιά. εάν βρισκόμασταν σε μια κατάσταση όπου η τεχνητή νοημοσύνη αναμόρφωσε τον κόσμο και η οικονομική δομή είχε αλλάξει, τότε μπορεί να μιλούσαμε για κάτι διαφορετικό. αλλά αν εξακολουθούν να ισχύουν οι συνήθεις κανόνες της οικονομίας, και νομίζω ότι θα ισχύουν για λίγο, τότε ακούγεται πολύ λογικό.

noah smith:

αλλά η άλλη ερώτησή μου είναι, είναι απαραίτητο να εξετάσουμε έναν κόσμο ακραίας αφθονίας; η τεχνητή νοημοσύνη είναι τόσο ισχυρή που μας δίνει εκπληκτική βιολογία και κατασκευή, κάνοντας όλα όσα θέλουμε δέκα φορές, εκατό φορές καλύτερα, κ.λπ.

dario amodei:

νομίζω ότι πραγματικά υποτιμούμε τις δυνατότητες της τεχνητής νοημοσύνης στη βιολογία. πριν από δέκα χρόνια, όταν ήμουν σε αυτόν τον τομέα, η στάση ήταν ότι η ποιότητα των δεδομένων που λάβαμε από τη βιολογία ήταν αμφισβητήσιμη, ο όγκος των δεδομένων που μπορούσαμε να λάβουμε ήταν περιορισμένος και τα πειράματα συχνά διαταράσσονταν. φυσικά, περισσότερες αναλύσεις δεδομένων, μεγάλα δεδομένα και τεχνητή νοημοσύνη είναι καλές, αλλά στην καλύτερη περίπτωση θα έχουν υποστηρικτικό ρόλο. ίσως με την έλευση του alpha fold, αυτό να αλλάξει.

αλλά η άποψή μου είναι ότι τα μοντέλα ai μπορούν να λειτουργήσουν ως βιολόγοι ή συν-βιολόγοι. αν σκεφτούμε την πραγματικά προηγμένη βιολογία, είναι σαν να είναι πραγματικά δυσανάλογα πολλές τεχνολογίες που τροφοδοτούν τα πάντα. για παράδειγμα, η αλληλουχία του γονιδιώματος, η ικανότητα ανάγνωσης του γονιδιώματος, είναι το θεμέλιο της σύγχρονης βιολογίας. η πιο πρόσφατη τεχνολογία crispr είναι η δυνατότητα επεξεργασίας του γονιδιώματος. εάν μπορούμε να χρησιμοποιήσουμε σωστά την τεχνητή νοημοσύνη, μπορεί να αυξήσει την ταχύτητα με την οποία κάνουμε αυτές τις ανακαλύψεις κατά 10 φορές, ίσως και 100 φορές.

πάρτε για παράδειγμα το crispr, το οποίο συναρμολογήθηκε από το βακτηριακό ανοσοποιητικό σύστημα και χρειάστηκε 30 χρόνια για να εφευρεθεί. νομίζω ότι αν μπορέσουμε να αυξήσουμε σημαντικά τον ρυθμό με τον οποίο γίνονται αυτές οι ανακαλύψεις, θα αυξήσουμε επίσης σημαντικά τον ρυθμό με τον οποίο μπορούν να θεραπευτούν οι ασθένειες.

η σκέψη μου είναι, μπορούμε να συμπιέσουμε την πρόοδο στον 21ο αιώνα; μπορούμε να κάνουμε όλη τη βιολογική πρόοδο στον 21ο αιώνα χρησιμοποιώντας την τεχνητή νοημοσύνη για να την επιταχύνουμε κατά 10;αν σκεφτείτε όλη την πρόοδο που έχουμε κάνει στη βιολογία τον 20ό αιώνα και στη συνέχεια τη συμπιέσετε σε πέντε έως δέκα χρόνια, για μένα, αυτή είναι η καλή πλευρά. νομίζω ότι αυτό μπορεί να είναι αλήθεια. θα μπορούσαμε να θεραπεύσουμε ασθένειες που μας ταλαιπωρούν εδώ και χιλιετίες, οι οποίες, φυσικά, θα αύξαναν δραματικά την παραγωγικότητα, θα διεύρυναν την οικονομική πίτα και θα επέκτειναν τη διάρκεια ζωής του ανθρώπου.