νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Ειδήσεις για την εφαρμογή Titanium Media στις 24 Αυγούστου,Ο Yoshua Bengio, ένας Καναδός επιστήμονας υπολογιστών γνωστός ως «Νονός της τεχνητής νοημοσύνης», πρωτοπόρος στην τεχνολογία βαθιάς μάθησης και νικητής του βραβείου Turing 2018, δήλωσε δημόσια ότι με την κυκλοφορία του ChatGPT, ο χρόνος για τους κινδύνους της τεχνολογίας AI έχει συμπιεστεί. .Δυστυχώς, δεν μπορούμε να χρησιμοποιήσουμε δέκα χρόνια για να λύσουμε ζητήματα κινδύνου τεχνητής νοημοσύνης και εποπτείας πολιτικής, αλλά μικρότερο χρόνο, επομένως η βιομηχανία πρέπει να δράσει τώρα για να επιταχύνει την εφαρμογή των πολιτικών ασφάλειας της τεχνητής νοημοσύνης.

«Χρειάζεται πολύς χρόνος για να δημιουργηθεί πολιτική, χρειάζονται χρόνια διαφωνιών για να επιλυθούν, μια τέτοια νομοθεσία χρειάζεται χρόνια για να θεσπιστεί, υπάρχουν διαδικασίες που πρέπει να τεθούν σε εφαρμογή, χρειάζονται χρόνια για να γίνει πραγματικά αυτό σωστά», Bengio είπε στο Bloomberg Τώρα ανησυχείτε ότι μπορεί να μην υπάρχει πολύς χρόνος για να το «κάνετε σωστά».Και το χειρότερο είναι ότι οι κίνδυνοι της τεχνητής νοημοσύνης δεν είναι μόνο ένα ρυθμιστικό ζήτημα, είναι μια διεθνής συνθήκη και πρέπει να λύσουμε αυτό το πρόβλημα σε παγκόσμια κλίμακα.

Αναφέρεται ότι ο Bengio γεννήθηκε στο Παρίσι και μεγάλωσε στον Καναδά Τώρα ζει στο Μόντρεαλ του Καναδά και εργάζεται ως καθηγητής στο Τμήμα Επιστήμης Υπολογιστών και Υπολογιστών στο Πανεπιστήμιο του Μόντρεαλ. Έλαβε το διδακτορικό του στην Επιστήμη Υπολογιστών από το Πανεπιστήμιο McGill στον Καναδά το 1991. Οι κύριοι τομείς έρευνας του Bengio είναι η βαθιά εκμάθηση και η επεξεργασία φυσικής γλώσσας.

Στα περισσότερα από 30 χρόνια ερευνητικής του σταδιοδρομίας βαθιάς μάθησης, ο Bengio έχει δημοσιεύσει περισσότερες από 300 ακαδημαϊκές εργασίες και έχει αναφερθεί περισσότερες από 138.000 φορές. Ο Ng Enda είπε κάποτε ότι οι πολλές θεωρητικές μελέτες του Bengio τον έχουν εμπνεύσει πολύ.

Το 2018, αυτός, ο «Πατέρας των Νευρωνικών Δικτύων» Τζέφρι Χίντον και ο «Πατέρας των Συνελικτικών Δικτύων» Γιαν ΛεΚούν κέρδισαν το «Βραβείο Turing» για την πρωτοπορία στη θεωρία της τεχνολογίας βαθιάς μάθησης η βιομηχανία AI "Big Three", "Big Three of Deep Learning", "Three Godfathers of AI".

Ο Bengio, ένας από τους «Τρεις Γίγαντες της βαθιάς μάθησης», είχε επισημάνει κάποτε ότι ο όρος AI γίνεται κατάχρηση Στην πραγματικότητα, δεν υπάρχει ακόμα μια έξυπνη οντότητα συγκρίσιμη με την ανθρώπινη νοημοσύνη. Φυσικά, εξακολουθεί να αγαπά την AI ως τεχνολογία.

Ο Bengio είπε ότι πριν από την εμφάνιση του ChatGPT στα τέλη του 2022, πίστευε ότι οι πραγματικοί κίνδυνοι AI δεν θα εμφανίζονταν για τουλάχιστον δεκαετίες από την ανάπτυξη μιας τεχνολογίας που θα μπορούσε να ανταγωνιστεί τους ανθρώπους Ενώ η τεχνολογία AI είναι ακόμα «δεκαετίες μακριά», υποθέτει ότι μπορούμε να «απορρίψουμε τα οφέλη της τεχνητής νοημοσύνης» για χρόνια πριν αντιμετωπίσουμε τους κινδύνους.

Αλλά τώρα, η κυκλοφορία του ChatGPT έχει αλλάξει εντελώς γνώμη. Δεν ήταν πια τόσο σίγουρος. Οι υποθέσεις του σχετικά με την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης —και τις πιθανές απειλές που θέτει η τεχνολογία στην κοινωνία—Ανατράπηκε αφού το OpenAI κυκλοφόρησε το ChatGPT στα τέλη του 2022, επειδή έφτασε η τεχνολογία AI σε ανθρώπινο επίπεδο.

«Άλλαξα εντελώς γνώμη αφού επιτέλους είχαμε μηχανές που μπορούσαν να μας μιλήσουν (ChatGPT)», είπε ο Bengio «Τώρα έχουμε μηχανές τεχνητής νοημοσύνης που μπορούν να καταλάβουν τη γλώσσα. Δεν νομίζω ότι κανείς το περίμενε αυτό, ούτε καν οι άνθρωποι που κατασκεύαζαν αυτά τα συστήματα -σε επίπεδο νοημοσύνης, είναι δύσκολο να προβλέψουμε τι θα συμβεί - αν θα καταλήξουμε με κάτι πραγματικά, πολύ καλό ή κάτι πραγματικά, πολύ κακό, και πώς θα ανταποκριθούμε σε αυτό .»

Αφού το ChatGPT πυροδότησε μια παγκόσμια συζήτηση σχετικά με τους κινδύνους της τεχνητής νοημοσύνης, ο Bengio άρχισε να αφιερώνει περισσότερη ενέργεια στην υποστήριξη της ρύθμισης της τεχνητής νοημοσύνης και μαζί με τον συνάδελφο ακαδημαϊκό και πρωτοπόρο της τεχνητής νοημοσύνης Geoffrey Hinton, υποστήριξε δημόσια ένα αμφιλεγόμενο νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης στην Καλιφόρνια SB1047, το οποίο ο νόμος θα καθιστούν τις εταιρείες υπεύθυνες για καταστροφικές βλάβες που προκαλούνται από τα μοντέλα τεχνητής νοημοσύνης τους χωρίς να λαμβάνουν προφυλάξεις ασφαλείας.

Ο Bengio πιστεύει ότι αυτή είναι η «δεύτερη πιο σημαντική πρόταση στο τραπέζι», δεύτερη μόνο μετά το νομοσχέδιο της ΕΕ για την τεχνητή νοημοσύνη.

Στις 15 Αυγούστου, τοπική ώρα, ο αμφιλεγόμενος νόμος καινοτομίας για το μοντέλο τεχνητής νοημοσύνης της Καλιφόρνια (αργότερα γνωστός ως California AI Safety Act SB 1047) πέρασε τελικά την αναθεώρηση της Επιτροπής Πιστώσεων της Βουλής των Αντιπροσώπων της Καλιφόρνια αφού αποδυνάμωσε σημαντικά τις σχετικές διατάξεις.

Το SB 1047 στοχεύει στην πρόληψη περιστατικών κυβερνοασφάλειας στα οποία συστήματα τεχνητής νοημοσύνης μεγάλης κλίμακας σκοτώνουν μεγάλο αριθμό ανθρώπων ή προκαλούν απώλειες άνω των 500 εκατομμυρίων δολαρίων, καθιστώντας υπεύθυνους τους προγραμματιστές. Μετά την επιτυχή έγκριση της αναθεώρησης, αυτό σημαίνει ότι το νομοσχέδιο έχει κάνει ένα σημαντικό βήμα για να γίνει επίσημος νόμος και κανονισμός και είναι επίσης ένα σημαντικό βήμα στην εποπτεία της τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες.

Ωστόσο, ο νόμος για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια ήταν αμφιλεγόμενος. Ο καθηγητής του Πανεπιστημίου Stanford, Li Feifei, ο επικεφαλής επιστήμονας της Meta, Yang Likun και άλλοι πιστεύουν ότι το νομοσχέδιο θα βλάψει τελικά την Καλιφόρνια και ακόμη και την ηγετική θέση των Ηνωμένων Πολιτειών στον τομέα της τεχνητής νοημοσύνης Το ίδρυμα a16z έχει δημιουργήσει έναν ιστότοπο για να αναφέρει λεπτομερώς τις έξι περιπτώσεις του νομοσχεδίου.

Ακόμη και η πρώην πρόεδρος της Βουλής των ΗΠΑ, Νάνσι Πελόζι, εξέδωσε μια δήλωση που αντιτίθεται σε αυτό το νομοσχέδιο, πιστεύοντας ότι το νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια έχει καλές προθέσεις, αλλά δεν κατανοεί πλήρως το νομοσχέδιο καλός.

Το τελευταίο που αντιτάχθηκε στο νομοσχέδιο AI της Καλιφόρνια είναι το OpenAI. Το OpenAI εξέδωσε έγγραφο αυτή την εβδομάδα δηλώνοντας ότι η νομοθεσία θα βλάψει την καινοτομία της τεχνητής νοημοσύνης και μπορεί να έχει «ευρεία και σημαντική» επίδραση στην ανταγωνιστικότητα των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη και την εθνική ασφάλεια.

Ο Bengio, ωστόσο, είπε ότι ο νόμος για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια αποφεύγει να είναι υπερβολικά δεσμευτικός και αντίθετα χρησιμοποιεί την ευθύνη για να διασφαλίσει ότι οι εταιρείες τεχνητής νοημοσύνης δεν αγνοούν τις προφυλάξεις ασφαλείας "που θα έκανε ένας λογικός ειδικός". «Θα δημιουργήσει ένα κίνητρο για τις εταιρείες ώστε να μην γίνουν ο χειρότερος μαθητής στην τάξη».

Ο Bengio σημείωσε ότι οι συζητήσεις γύρω από τη ρύθμιση της τεχνητής νοημοσύνης θα μπορούσαν να επηρεαστούν από τους venture capitalists και τις εταιρείες που θέλουν να επωφεληθούν από την τεχνολογία. «Μπορείτε να κάνετε αναλογίες με την κλιματική αλλαγή, τις εταιρείες ορυκτών καυσίμων και ούτω καθεξής», είπε.

"Δεν είναι αυτό, είναι ακριβώς το αντίθετο. Δεν είναι τόσο δεσμευτικό. Δεν ασκεί μεγάλη επιρροή. Απλώς λέει: Αν προκαλέσεις ζημιά δισεκατομμυρίων δολαρίων, είσαι υπεύθυνος. Για δεκαετίες, ολόκληρος ο υπολογισμός Το πεδίο ήταν κάπως ανεξέλεγκτο οποιουδήποτε είδους Νομίζω ότι (η αντιπολίτευση) είναι πιο ιδεολογική το Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϋ και ιδρυτής του Κέντρου Συστημάτων Τεχνητής Νοημοσύνης) θα παρακινήσει τις εταιρείες να αντιταχθούν σε οποιονδήποτε κανονισμό», δήλωσε ο Bengio.

Όσον αφορά τη διαχείριση κινδύνου, ο Bengio σημείωσε, «Θεωρώ τον εαυτό μου δύσπιστο για τον κίνδυνο, έχω ακούσει πολλά καλά επιχειρήματα ότι η τεχνητή νοημοσύνη που είναι πιο έξυπνη από εμάς μπορεί να είναι πολύ επικίνδυνη Χρησιμοποιείται από τους ανθρώπους με τρόπους που είναι εξαιρετικά επικίνδυνοι για τη δημοκρατία Και σκέφτεστε την πολιτική, πρέπει να προστατεύσετε το κοινό από πολύ άσχημα πράγματα. Αυτό κάνει η κυβέρνηση σε τόσους άλλους τομείς.

Ο Bengio τόνισε επανειλημμένα ότι δεν περίμενε από τους ανθρώπους να κυριαρχήσουν τόσο γρήγορα στην τεχνολογία συνομιλίας φωνής AI και ότι έχει φτάσει τουλάχιστον σε ένα αρκετά ανθρώπινο επίπεδο.

"Πιστεύω ότι η επιθυμία να καινοτομήσουμε γρήγορα σε επικίνδυνα πράγματα δεν είναι σοφή. Στη βιολογία, όταν οι ερευνητές ανακάλυψαν ότι οι επικίνδυνοι ιοί μπορούσαν να δημιουργηθούν μέσω της λεγόμενης έρευνας κέρδους λειτουργίας, αποφάσισαν συλλογικά, καλά, δεν το κάναμε. Ας Ζητήστε από την κυβέρνηση να θέσει κανόνες ώστε αν το κάνετε αυτό, τουλάχιστον αν δεν ελέγχεται, να πάτε στη φυλακή», είπε ο Bengio. «Είμαι σίγουρος ότι γνωρίζετε τη συνθετική παιδική πορνογραφία, ίσως όχι τόσο προκλητική, αλλά περισσότερο Είναι σημαντικό ότι τα ίδια deepfakes θα διαστρεβλώσουν την κοινωνία. , μια νέα μελέτη από την Ελβετία συνέκρινε το GPT-4 με ανθρώπους για να δει ποιος θα μπορούσε να πείσει τους ανθρώπους που σαφώς δεν είχαν ιδέα Το άτομο που μιλάει με έναν άνθρωπο ή μια μηχανή αλλάζει γνώμη για κάτι.

Ο Bengio σημείωσε ότι «θα πρέπει να υιοθετήσουμε μια παρόμοια προληπτική συμπεριφορά όσον αφορά την τεχνητή νοημοσύνη».

Κοιτάζοντας το μέλλον,Ο Bengio τόνισε,Όλες οι εφαρμογές τεχνολογίας AI θα εξακολουθήσουν να αλλάζουν τον ανθρώπινο τρόπο ζωής με υγιείς τρόπους.Για παράδειγμα, όσον αφορά τη βιολογία, η τεχνητή νοημοσύνη θα κατανοήσει πώς λειτουργεί το σώμα και πώς λειτουργεί κάθε κύτταρο, κάτι που μπορεί να φέρει επανάσταση σε τομείς όπως η ιατρική και η έρευνα και ανάπτυξη φαρμάκων από την άποψη του κλίματος, μπορεί να βοηθήσει στη δημιουργία καλύτερων μπαταριών, καλύτερη δέσμευση άνθρακα. και καλύτερη αποθήκευση ενέργειας.

"Δεν έχει συμβεί ακόμα, αλλά νομίζω ότι αυτά είναι εξαιρετικά προϊόντα τεχνολογίας που μπορούμε να φτιάξουμε με την τεχνητή νοημοσύνη. Και παρεμπιπτόντως, αυτές οι εφαρμογές - οι περισσότερες από αυτές δεν είναι επικίνδυνες. Επομένως, θα πρέπει να εξετάσουμε αυτά τα πράγματα που προφανώς μπορούν να βοηθήσουν την κοινωνία επενδύοντας περισσότερο στην αντιμετώπιση των προκλήσεών του», είπε ο Bengio στο τέλος της συνομιλίας.