νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

επιμέλεια: εκδοτικό τμήμα υζ

[εισαγωγή στη νέα σοφία]καλή γιορτή! μόλις τώρα, ο κυβερνήτης της καλιφόρνια ανακοίνωσε ότι θα ασκούσε βέτο στο νομοσχέδιο περιορισμού της τεχνητής νοημοσύνης της καλιφόρνια. ο λεκούν, η λι φεϊφέι και ο νγκ έντα έσπευσαν να το πουν συγκινημένοι και πανηγύρισαν με τα μέτωπα και τα χέρια τους. οι bengio και hinton, οι οποίοι υποστηρίζουν σθεναρά το νομοσχέδιο, παρέμειναν σιωπηλοί. το openai, η google και το meta έχουν γλιτώσει από την καταστροφή.

βαρύς!

νωρίς σήμερα το πρωί, ο κυβερνήτης της καλιφόρνια gavin newsom ανακοίνωσε επίσημα ότι θα ασκήσει βέτο στο νομοσχέδιο sb-1047!

για τους προγραμματιστές σε όλο τον κόσμο, η ακύρωση του λογαριασμού sb-1047 σημαίνει ότι τα μοντέλα ανοιχτού κώδικα μεγάλων κατασκευαστών όπως η meta και η google θα συνεχίσουν να είναι ξανά διαθέσιμα.

αυτή η απόφαση μπορούμε να πούμε ότι είναι ευρέως αναμενόμενη. μεγάλα ονόματα στον κύκλο της τεχνητής νοημοσύνης έσπευσαν να το πουν ο ένας στον άλλο ενθουσιασμένοι και οι ng enda, lecun και li feifei, που έπαιξαν ισχυρό ρόλο στην αντιπολίτευση, ήταν ιδιαίτερα χαρούμενοι.

τι σημαίνει το βέτο του κυβερνήτη της καλιφόρνια;

ο λογαριασμός sb-1047 είναι πραγματικά το τέλος του.

το «διαβόητο» sb-1047 ορίζει ότι το sb 1047 θα αποτρέψει τα συστήματα τεχνητής νοημοσύνης από το να προκαλούν μαζικές απώλειες ή να προκαλούν περιστατικά κυβερνοασφάλειας που κοστίζουν περισσότερα από 500 εκατομμύρια δολάρια, καθιστώντας υπεύθυνους τους προγραμματιστές.

μόλις κυκλοφόρησε η είδηση, προκάλεσε τεράστια αντίδραση από τον ακαδημαϊκό κόσμο και τη βιομηχανία.

ξέρετε, 32 από τις 50 κορυφαίες εταιρείες genai στον κόσμο εδρεύουν στην καλιφόρνια και διαδραματίζουν βασικό ρόλο στον καθορισμό του μέλλοντος της τεχνητής νοημοσύνης.

σύμφωνα με ένα δελτίο τύπου από το γραφείο της καλιφόρνια, ο gavin υπέγραψε 18 νομοσχέδια genai τον περασμένο μήνα, αλλά άσκησε βέτο μόνο στο sb-1047.

τις τελευταίες 30 ημέρες, ο κυβερνήτης υπέγραψε μια σειρά νομοσχεδίων για την καταπολέμηση του deepfake περιεχομένου, την προστασία των δικαιωμάτων ψηφιακής εικόνας των καλλιτεχνών και πολλά άλλα

αυτό το νομοσχέδιο έχει καλές προθέσεις, αλλά στην πράξη έχει κάποια σοβαρά προβλήματα.

«δεν νομίζω ότι αυτός είναι ο καλύτερος τρόπος για να προστατεύσουμε το κοινό από τις πραγματικές απειλές που θέτει η τεχνητή νοημοσύνη», είπε.

το sb-1047 δεν λαμβάνει υπόψη εάν το σύστημα ai αναπτύσσεται σε περιβάλλον υψηλού κινδύνου, περιλαμβάνει κρίσιμες αποφάσεις ή χρησιμοποιεί ευαίσθητα δεδομένα. αντίθετα, το νομοσχέδιο εφαρμόζει αυστηρά πρότυπα στην πιο βασική λειτουργία της ανάπτυξης συστημάτων μεγάλων μοντέλων.

στη διαδικασία της απόρριψης του sb-1047, ο ρόλος της νονάς του ai li feifei δεν μπορεί να αγνοηθεί.

η καθηγήτρια του στάνφορντ, λι φεϊφέι, είπε με χαρά ότι ήταν βαθιά τιμή που συνεργάστηκε με το stanfordhai για να ανοίξει το δρόμο για υπεύθυνη διακυβέρνηση ai στην καλιφόρνια.

ο γκουρού της τεχνητής νοημοσύνης andrew ng ευχαρίστησε επίσης τη li feifei για τη δημόσια αντίθεσή της στο sb-1047, λέγοντας ότι οι προσπάθειές της μπορούν να προωθήσουν πιο ορθολογικές πολιτικές τεχνητής νοημοσύνης για την προστασία της έρευνας και της καινοτομίας.

μόλις πριν από λίγες ημέρες, όταν το νομοσχέδιο sb-1047 επρόκειτο να οριστικοποιηθεί, ο ng και ο lecun εξακολουθούσαν να ζητούν και να δρομολογούν ψηφοφορίες, φοβούμενοι ότι μόλις ψηφιστεί, η τεχνητή νοημοσύνη ανοιχτού κώδικα και ολόκληρο το οικοσύστημα ai θα είχαν ανατριχιαστικό αποτέλεσμα.

σήμερα, εταιρείες τεχνητής νοημοσύνης σε όλη την καλιφόρνια αναπνέουν επιτέλους έναν αναστεναγμό ανακούφισης.

επιστολή βέτο του κυβερνήτη: δεν έχει υπογραφεί

"με το παρόν επιστρέφω το νομοσχέδιο 1047 της γερουσίας χωρίς την υπογραφή μου."

στην επιστολή, ο κυβερνήτης αναγνώρισε ότι το sb-1047 υπερεκτιμά την απειλή που συνιστά η ανάπτυξη της τεχνητής νοημοσύνης.

επιπλέον, εστιάζοντας μόνο στα πιο ακριβά μοντέλα μεγάλης κλίμακας, το νομοσχέδιο δίνει στην πραγματικότητα στο κοινό μια «ψευδή αίσθηση ασφάλειας».

επισημαίνει ότι ακόμη και μικρότερα ιδιόκτητα μοντέλα μπορεί να είναι εξίσου επικίνδυνα.

εν ολίγοις, η ρύθμιση του νομοσχεδίου για την τεχνητή νοημοσύνη έρχεται σε βάρος του «περιορισμού της καινοτομίας που ωφελεί το δημόσιο συμφέρον».

ο κυβερνήτης είπε ότι το νομοσχέδιο εφαρμόζει τα αυστηρότερα πρότυπα για τις πιο βασικές λειτουργίες, κάτι που δεν είναι ο καλύτερος τρόπος για την προστασία του κοινού από τις απειλές της τεχνολογίας ai.

η καλύτερη λύση είναι ένα σχέδιο που δεν βασίζεται σε ανάλυση εμπειρικών τροχιών ανάπτυξης συστημάτων και δυνατοτήτων τεχνητής νοημοσύνης.

το αφεντικό της ai το μισεί

αυτό το τέλος μπορεί να περιγραφεί ως ένα πολύ ικανοποιητικό τέλος για τους περισσότερους ανθρώπους εκτός από τον bengio και τον hinton.

όταν πρόκειται για το sb-1047, πολλοί μεγάλοι το μισούν.

όλη η ιστορία είναι αυτή.

πέρυσι, ο κυβερνήτης της καλιφόρνια υπέγραψε εκτελεστικό διάταγμα που τονίζει ότι η καλιφόρνια πρέπει να είναι πιο συνετή απέναντι στο genai και να κάνει την τεχνητή νοημοσύνη πιο ηθική, διαφανή και αξιόπιστη.

τον φεβρουάριο του τρέχοντος έτους, η καλιφόρνια συνέταξε απευθείας ένα νομοσχέδιο που ονομάζεται "sb-1047 frontier ai large model safety innovation act", ο οποίος παρέχει πιο συγκεκριμένους κανονισμούς για την ασφαλή και διαφανή χρήση μεγάλων μοντέλων.

ωστόσο, υπάρχουν πολλά παράλογα περιεχόμενα σε αυτό, που απλώς πνίγουν ορισμένες εταιρείες με το όνομά τους.

μοντέλα που κοστίζουν περισσότερα από 100 εκατομμύρια πρέπει να αποτραπούν από το να προκαλούν "σημαντική βλάβη"

για παράδειγμα, υπάρχει ένας κανονισμός που ορίζει ότι εάν ένα μεγάλο μοντέλο του οποίου το κόστος ανάπτυξης και εκπαίδευσης υπερβαίνει τα 100 εκατομμύρια δολάρια ηπα και του οποίου οι λειτουργίες κινητής υποδιαστολής υπερβαίνουν τις 10^26 φορές χρησιμοποιείται από κάποιον για να κάνει παράνομα πράγματα αφού είναι ανοιχτού κώδικα, ο προγραμματιστής του μοντέλου θα τιμωρηθεί επίσης αυστηρά.

πρέπει να γνωρίζετε ότι το μοντέλο llama 3 της meta, το μοντέλο gemma της google κ.λπ. πληρούν όλα αυτήν την προϋπόθεση.

αυτή η διάταξη είναι προφανώς εξαιρετικά αμφιλεγόμενη.

για παράδειγμα, εάν κάποιος παραβιάσει ένα σύστημα αυτόνομης οδήγησης και προκαλέσει ατύχημα, θα λογοδοτήσει και η εταιρεία που ανέπτυξε το σύστημα;

σύμφωνα με το νομοσχέδιο, οι προγραμματιστές υποχρεούνται να αξιολογούν τα παράγωγα των μοντέλων τους και να αποτρέπουν οποιαδήποτε ζημιά μπορεί να προκαλέσουν, συμπεριλαμβανομένης της περίπτωσης εάν οι πελάτες τελειοποιήσουν τα μοντέλα, διαφορετικά τροποποιήσουν τα μοντέλα (jailbreak) ή τα συνδυάσουν με άλλο λογισμικό.

ωστόσο, μόλις κυκλοφορήσει το λογισμικό ανοιχτού κώδικα, οι χρήστες μπορούν να κάνουν λήψη του μοντέλου απευθείας στις προσωπικές τους συσκευές, επομένως οι προγραμματιστές δεν έχουν τρόπο να γνωρίζουν τις συγκεκριμένες λειτουργίες άλλων προγραμματιστών ή πελατών.

επιπλέον, υπάρχουν πολλοί ασαφείς ορισμοί στο νομοσχέδιο.

για παράδειγμα, οι «κρίσιμοι τραυματισμοί» σε μοντέλα τεχνητής νοημοσύνης περιγράφονται ως τεράστιες απώλειες, απώλειες που ξεπερνούν τα 500 εκατομμύρια δολάρια ή άλλοι «εξίσου σοβαροί» τραυματισμοί, αλλά υπό ποιες συνθήκες θα λογοδοτήσουν οι προγραμματιστές; τι ευθύνες υπάρχουν;

το νομοσχέδιο σιωπά ως προς αυτό.

επιπλέον, ο λογαριασμός ισχύει για μοντέλα τεχνητής νοημοσύνης που ξοδεύουν περισσότερα από 100 εκατομμύρια δολάρια για εκπαίδευση ή προγραμματιστές που ξοδεύουν περισσότερα από 10 εκατομμύρια δολάρια για να βελτιώσουν τα υπάρχοντα μοντέλα, γεγονός που θέτει πολλές μικρές εταιρείες τεχνολογίας στο πεδίο της επίθεσης.

το sb-1047 έχει επίσης ορισμένες παράλογες διατάξεις. για παράδειγμα, εάν μια εταιρεία ανοίξει το μοντέλο της σε άλλες χώρες, πρέπει να υποβάλει όλα τα στοιχεία πελάτη, συμπεριλαμβανομένης της ταυτότητας του πελάτη, του αριθμού πιστωτικής κάρτας, του αριθμού λογαριασμού κ.λπ.

οι προγραμματιστές πρέπει επίσης να δημιουργήσουν διαδικασίες δοκιμών που αντιμετωπίζουν τους κινδύνους μοντέλων τεχνητής νοημοσύνης και πρέπει να προσλαμβάνουν ελεγκτές τρίτων ετησίως για να αξιολογούν τις πρακτικές ασφάλειας τεχνητής νοημοσύνης τους.

για αυτά τα προϊόντα τεχνητής νοημοσύνης που έχουν κατασκευαστεί με βάση μοντέλα, πρέπει να αναπτυχθούν αντίστοιχα πρωτόκολλα ασφαλείας για την αποφυγή κατάχρησης, συμπεριλαμβανομένου ενός κουμπιού "διακοπή έκτακτης ανάγκης" που κλείνει ολόκληρο το μοντέλο τεχνητής νοημοσύνης.

ο μπιλ επικρίθηκε γιατί έκανε τα στραβά μάτια στους πραγματικούς κινδύνους

περισσότεροι επικριτές πιστεύουν ότι αυτό το νομοσχέδιο είναι πολύ αβάσιμο.

όχι μόνο θα εμποδίσει την καινοτομία της τεχνητής νοημοσύνης, αλλά δεν θα βοηθήσει στην ασφάλεια του σημερινού ai.

αυτό που είναι ακόμα πιο ειρωνικό είναι ότι το νομοσχέδιο χρησιμοποιεί έναν λεγόμενο «διακόπτη έκτακτης ανάγκης» για να αποτρέψει το τέλος του κόσμου, αλλά κλείνει το μάτι σε υπάρχοντες κινδύνους ασφαλείας, όπως deepfakes και ψευδείς πληροφορίες.

αν και οι μεταγενέστερες τροπολογίες διατυπώθηκαν πιο χαλαρά, μειώνοντας την εξουσία της κυβέρνησης της καλιφόρνια να θέτει υπόλογα τα εργαστήρια τεχνητής νοημοσύνης.

αλλά ακόμα κι έτσι, το sb-1047 θα έχει σημαντικό αντίκτυπο σε μεγάλους κατασκευαστές όπως το openai, το meta και την google.

για ορισμένες νεοσύστατες επιχειρήσεις, αυτό το πλήγμα μπορεί να είναι ακόμη και καταστροφικό.

τώρα που η σκόνη έχει κατασταλάξει, τόσο οι μεγάλες εταιρείες όσο και οι μικρές νεοφυείς επιχειρήσεις μπορούν να αναπνεύσουν ανακούφιση.

ο γίγαντας τούρινγκ διαλύεται

το sb-1047 προκάλεσε ακόμη και τη "διάσπαση" των μεγάλων τριών του turing για αυτό.

τα μεγάλα αφεντικά που εκπροσωπούνται από τους lecun, li feifei και ng enda έχουν αντιταχθεί δημόσια και δυσαρεστηθεί πολλές φορές.

ο lecun αντέγραψε ακόμη και το αρχικό μήνυμα που χρησιμοποίησε όταν ζήτησε μορατόριουμ στην έρευνα για την τεχνητή νοημοσύνη - παρακαλούμε να αναστείλετε τη νομοθεσία για την τεχνητή νοημοσύνη για έξι μήνες!

οι άλλοι δύο από τους μεγάλους τρεις του τούρινγκ, ο yoshua bengio και ο geoffrey hinton, παραδόξως υποστήριξαν σθεναρά την ψήφιση αυτού του νομοσχεδίου.

νομίζω μάλιστα ότι οι τρέχοντες όροι είναι λίγο πολύ χαλαροί.

ως ανώτεροι ερευνητές τεχνολογίας και πολιτικής τεχνητής νοημοσύνης, γράφουμε για να εκφράσουμε την ισχυρή υποστήριξή μας στο νομοσχέδιο 1047 της γερουσίας της καλιφόρνια.

το sb 1047 περιγράφει τις βασικές απαιτήσεις για αποτελεσματική ρύθμιση αυτής της τεχνολογίας. δεν εφαρμόζει σύστημα αδειοδότησης, δεν απαιτεί από τις εταιρείες να λάβουν άδεια από κυβερνητικούς φορείς πριν από την εκπαίδευση ή την ανάπτυξη μοντέλων, βασίζεται σε εταιρείες για την αξιολόγηση των κινδύνων από μόνες τους και δεν θεωρεί τις εταιρείες αυστηρά υπεύθυνες ακόμη και σε περίπτωση καταστροφής.

πρόκειται για μια σχετικά επιεική νομοθεσία σε σχέση με την κλίμακα των κινδύνων που αντιμετωπίζουμε.

η αναίρεση των βασικών μέτρων του νομοσχεδίου θα ήταν ένα ιστορικό λάθος - ένα λάθος που θα γίνει ακόμη πιο εμφανές σε ένα χρόνο καθώς θα κυκλοφορήσει η επόμενη γενιά ισχυρότερων συστημάτων τεχνητής νοημοσύνης.

αλλά ο bengio και ο hinton προφανώς δεν είναι mainstream.

συνοπτικά, οι θέσεις διαφόρων τεχνολογικών κολοσσών και μεγάλων βολών είναι οι εξής.