νέα

(Πηγή εικόνας: εικόνα που δημιουργήθηκε με AI)

Στις 16 Αυγούστου, ώρα Πεκίνου, ο αμφιλεγόμενος Νόμος Καινοτομίας Μοντέλου Ασφάλειας Τεχνητής Νοημοσύνης της Καλιφόρνια (αργότερα γνωστός ως νόμος για την ασφάλεια τεχνητής νοημοσύνης της Καλιφόρνια SB 1047) πέρασε τελικά την αναθεώρηση της Επιτροπής Πιστώσεων της Βουλής των Αντιπροσώπων της Καλιφόρνια αφού αποδυνάμωσε σημαντικά τις σχετικές διατάξεις.

Η ομάδα του γερουσιαστή της Καλιφόρνια Wiener είπε στο TechCrunch ότι το νομοσχέδιο πρόσθεσε πολλές τροπολογίες που προτάθηκαν από την εταιρεία AI Anthropic και άλλους αντιπάλους και τελικά πέρασε από την Επιτροπή Πιστώσεων της Καλιφόρνια, κάνοντας ένα σημαντικό βήμα προς το να γίνει νόμος, που περιελάμβανε αρκετές βασικές αλλαγές.

"Δεχθήκαμε το προτεινόμενο σύνολο πολύ λογικών τροποποιήσεων και πιστεύω ότι αντιμετωπίσαμε τις βασικές ανησυχίες που εκφράστηκαν από την Anthropic και πολλούς άλλους στον κλάδο", δήλωσε ο γερουσιαστής Wiener σε δήλωση. «Αυτές οι τροποποιήσεις βασίζονται στις προηγούμενες σημαντικές αλλαγές μου στο SB 1047 για να καλύψουν τις μοναδικές ανάγκες της κοινότητας ανοιχτού κώδικα, η οποία είναι μια σημαντική πηγή καινοτομίας».

Το SB 1047 εξακολουθεί να στοχεύει στην αποτροπή περιστατικών κυβερνοασφάλειας στα οποία συστήματα τεχνητής νοημοσύνης μεγάλης κλίμακας σκοτώνουν μεγάλο αριθμό ανθρώπων ή προκαλούν απώλειες άνω των 500 εκατομμυρίων δολαρίων, καθιστώντας υπεύθυνους τους προγραμματιστές. Ωστόσο, το νομοσχέδιο δίνει τώρα στην κυβέρνηση της Καλιφόρνια λιγότερη εξουσία να θέτει υπόλογα τα εργαστήρια τεχνητής νοημοσύνης. Στο δίλημμα των ρυθμιστικών δυσκολιών σε εθνικό επίπεδο, αυτό έχει γίνει ένα σημαντικό βήμα στη ρύθμιση της τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες.

Ωστόσο, ορισμένοι άνθρωποι στον κλάδο της τεχνητής νοημοσύνης, όπως ο Li Feifei και ο Yang Likun πιστεύουν ότι αυτό θα βλάψει τελικά την Καλιφόρνια και ακόμη και την ηγετική θέση των Ηνωμένων Πολιτειών στον τομέα της AI. Εκατοντάδες επιχειρηματίες υπέγραψαν μια επιστολή αντίθεσης που συντάχθηκε από τη θερμοκοιτίδα YC και περισσότεροι από 100 ακαδημαϊκοί στην Καλιφόρνια εξέδωσαν επίσης μια επιστολή κατά του νομοσχεδίου. Επί του παρόντος, πολλά νομοσχέδια για την τεχνητή νοημοσύνη συζητούνται σε όλες τις Ηνωμένες Πολιτείες, αλλά ο Νόμος για την Ασφάλεια του Μοντέλου Συνοριακής Τεχνητής Νοημοσύνης της Καλιφόρνια έχει γίνει ένας από τους πιο αμφιλεγόμενους.

Για τις εγχώριες επιχειρήσεις, το νομοσχέδιο απαιτεί από τους παρόχους υπηρεσιών cloud να συλλέγουν πληροφορίες πελατών, διευθύνσεις IP, μεθόδους πληρωμής και άλλες πληροφορίες, γεγονός που διευκολύνει το έργο ιχνηλασιμότητας των ρυθμιστικών αρχών. Εάν οι επόμενοι έλεγχοι γίνουν περαιτέρω αυστηρότεροι, αυτό μπορεί να γίνει ένας ρυθμιστικός κίνδυνος που αντιμετωπίζουν ορισμένες κινεζικές εταιρείες τεχνητής νοημοσύνης που χρησιμοποιούν υπερπόντια υπολογιστική ισχύ για εκπαίδευση.

Τώρα λοιπόν που ψηφίστηκε το νομοσχέδιο για την τεχνητή νοημοσύνη της Καλιφόρνια, τι αντίκτυπο θα έχει στην κινεζική και αμερικανική βιομηχανία τεχνητής νοημοσύνης; Μέσα TitaniumAGIΤαξινομήστε έξι ερωτήσεις και απαντήσεις για να εξηγήσετε αυτό το νομοσχέδιο και μερικές από τις πληροφορίες πίσω από αυτό.

1. Ποιοι είναι οι νέοι περιορισμοί του νόμου για την τεχνητή νοημοσύνη της Καλιφόρνια; Ποια είναι η κύρια λειτουργία του;

Ο λογαριασμός AI της Καλιφόρνια, SB 1047, επιδιώκει να αποτρέψει τη χρήση μεγάλων μοντέλων τεχνητής νοημοσύνης για να προκαλέσουν «σοβαρή βλάβη» στους ανθρώπους.

Το νομοσχέδιο παραθέτει παραδείγματα «σοβαρής βλάβης». Για παράδειγμα, κακοί ηθοποιοί χρησιμοποίησαν μοντέλα τεχνητής νοημοσύνης για να κατασκευάσουν όπλα που προκάλεσαν τεράστιες απώλειες ή ανέθεσαν σε μοντέλα τεχνητής νοημοσύνης να ενορχηστρώσουν κυβερνοεπιθέσεις που προκάλεσαν ζημιά άνω των 500 εκατομμυρίων δολαρίων (σε σύγκριση μεCrowdStrike Η διαταραχή εκτιμήθηκε ότι κόστισε περισσότερα από 5 δισεκατομμύρια δολάρια). Το νομοσχέδιο απαιτεί από τους προγραμματιστές (δηλαδή, τις εταιρείες που αναπτύσσουν μοντέλα) να εφαρμόζουν κατάλληλα πρωτόκολλα ασφαλείας για την πρόληψη τέτοιων συνεπειών.

Οι κανόνες του SB 1047 ισχύουν μόνο για τα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης στον κόσμο: μοντέλα που κοστίζουν τουλάχιστον 100 εκατομμύρια δολάρια και χρησιμοποιούν 10^26 FLOPS κατά τη διάρκεια της εκπαίδευσης – αυτό είναι τεράστιος όγκος υπολογιστών, αλλά OpenAI Ο Διευθύνων Σύμβουλος Sam Altman είπε ότι το GPT-4 θα κοστίσει περίπου τόσο πολύ για την εκπαίδευση. Αυτά τα όρια μπορούν να αυξηθούν ανάλογα με τις ανάγκες.

Επί του παρόντος, λίγες εταιρείες έχουν αναπτύξει δημόσια προϊόντα τεχνητής νοημοσύνης αρκετά μεγάλα ώστε να ικανοποιούν αυτές τις απαιτήσεις, αλλά οι τεχνολογικοί γίγαντες όπως το OpenAI, η Google και η Microsoft ενδέχεται να το κάνουν σύντομα. Τα μοντέλα τεχνητής νοημοσύνης - ουσιαστικά μεγάλες στατιστικές μηχανές που εντοπίζουν και προβλέπουν μοτίβα στα δεδομένα - γενικά γίνονται πιο ακριβή καθώς κλιμακώνονται και πολλοί αναμένουν ότι αυτή η τάση θα συνεχιστεί. Ο Mark Zuckerberg είπε πρόσφατα ότι η επόμενη γενιά του Meta's Llama θα απαιτήσει 10 φορές περισσότερη υπολογιστική ισχύ, γεγονός που θα το έκανε να υπόκειται στο SB 1047.

Πιο συγκεκριμένα, το νομοσχέδιο δεν επιτρέπει πλέον στον Γενικό Εισαγγελέα της Καλιφόρνια να μηνύσει εταιρείες πληροφοριών τεχνητής νοημοσύνης για αμέλεια μέτρα ασφαλείας πριν συμβεί ένα συμβάν καταστροφής. Αυτό προτείνει η Anthropic.

Αντίθετα, ο γενικός εισαγγελέας της Καλιφόρνια μπορεί να ζητήσει ασφαλιστικά μέτρα, απαιτώντας από μια εταιρεία να σταματήσει μια επιχείρηση που θεωρεί επικίνδυνη και θα μπορούσε να μηνύσει τους προγραμματιστές τεχνητής νοημοσύνης εάν ένα μοντέλο τεχνητής νοημοσύνης προκαλέσει ένα καταστροφικό γεγονός.

2. Ποιος θα εφαρμόσει το νομοσχέδιο; Πώς να εκτελέσετε;

Το νέο νομοσχέδιο για την τεχνητή νοημοσύνη της Καλιφόρνια ανακοίνωσε ότι δεν θα υπάρχει πλέον υπηρεσία Frontier Model Department (FMD). Ωστόσο, το νομοσχέδιο εξακολουθεί να ιδρύει την Επιτροπή Μοντέλου Συνόρων - τον πυρήνα του αφθώδους πυρετού - και την τοποθετεί στους υπάρχοντες κυβερνητικούς φορείς λειτουργίας. Μάλιστα, η επιτροπή είναι πλέον μεγαλύτερη, με εννέα άτομα αντί για πέντε. Το Συμβούλιο Μοντέλων Συνόρων θα εξακολουθεί να ορίζει υπολογιστικά κατώφλια για καλυμμένα μοντέλα, να εκδίδει οδηγίες για την ασφάλεια και να εκδίδει κανονισμούς για τους ελεγκτές.

Η μεγαλύτερη προσαρμογή στο αναθεωρημένο νομοσχέδιο είναι ότι ο Γενικός Εισαγγελέας της Καλιφόρνια δεν επιτρέπεται πλέον να μηνύσει εταιρείες τεχνητής νοημοσύνης για παραμέληση ζητημάτων ασφάλειας πριν συμβεί ένα καταστροφικό γεγονός. Το αρχικό νομοσχέδιο ορίζει ότι εφόσον οι ελεγκτές διαπιστώνουν ότι εταιρείες τεχνητής νοημοσύνης έχουν παράνομες δραστηριότητες σε καθημερινές δραστηριότητες, οι εταιρείες ενδέχεται να διωχθούν. Αυτό σηματοδοτεί μια μετατόπιση της ρυθμιστικής εστίασης του νομοσχεδίου στην πραγματική βλάβη και θα μειώσει επίσης την πίεση συμμόρφωσης στις εταιρείες.

Τέλος, το νομοσχέδιο παρέχει επίσης προστασία από τους καταγγέλλοντες για τους υπαλλήλους μιας εταιρείας μοντελοποίησης εάν επιχειρήσουν να αποκαλύψουν πληροφορίες σχετικά με μη ασφαλή μοντέλα τεχνητής νοημοσύνης στον Γενικό Εισαγγελέα της Καλιφόρνια.

Οι περισσότερες εταιρείες τεχνολογίας των ΗΠΑ και νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης δραστηριοποιούνται στην Καλιφόρνια και θα υπόκεινται στο νομοσχέδιο. Συγκεκριμένα, αυτό το νομοσχέδιο εστιάζει σε «μοντέλα αιχμής AI» Μόνο οι προγραμματιστές των οποίων το κόστος υπολογιστικής ισχύος υπερβαίνει τα 100 εκατομμύρια δολάρια σε μοντέλα εκπαίδευσης. Στο μέλλον, το Llama 4 και το GPT-5 μπορεί να είναι οι κύριοι ρυθμιστικοί του στόχοι.

3. Πώς τιμωρούνται οι παράνομες πράξεις; Πρόστιμα που ξεκινούν από 10 εκατομμύρια δολάρια μπορεί να οδηγήσουν σε κλείσιμο ή διαγραφή του μοντέλου

Το νομοσχέδιο δείχνει ότι οι επικεφαλής τεχνολογίας των εταιρειών ανάπτυξης μοντέλων πρέπει να υποβάλλουν ετήσιες πιστοποιήσεις στο FMD που αξιολογούν τους πιθανούς κινδύνους των μοντέλων τεχνητής νοημοσύνης τους, την αποτελεσματικότητα των πρωτοκόλλων ασφαλείας τους και μια περιγραφή του τρόπου με τον οποίο η εταιρεία συμμορφώνεται με το SB 1047. Παρόμοια με τις ειδοποιήσεις παραβίασης, εάν συμβεί ένα "συμβάν ασφαλείας AI", οι προγραμματιστές πρέπει να το αναφέρουν στο FMD εντός 72 ωρών αφότου λάβουν γνώση του συμβάντος.

Το SB 1047 επιτρέπει στον Γενικό Εισαγγελέα της Καλιφόρνια να ασκήσει αστικές αγωγές εναντίον προγραμματιστών εάν δεν συμμορφωθούν με οποιαδήποτε από αυτές τις διατάξεις. Για ένα μοντέλο που κόστισε 100 εκατομμύρια δολάρια για την εκπαίδευση, το πρόστιμο θα μπορούσε να φτάσει τα 10 εκατομμύρια δολάρια για μια πρώτη παράβαση και έως και τα 30 εκατομμύρια δολάρια για τις επόμενες παραβιάσεις. Καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο ακριβά, τα ποσοστά ποινής θα αυξάνονται.

Μόλις σημειωθούν παραβιάσεις, οι εταιρείες ενδέχεται να αντιμετωπίσουν πρόστιμα που κυμαίνονται από 10 εκατομμύρια δολάρια έως 30 εκατομμύρια δολάρια ΗΠΑ και το ποσό αυτό θα αυξάνεται καθώς αυξάνεται το κόστος της εκπαίδευσης μοντέλων.

Επιπλέον, εάν οι προγραμματιστές μοντέλων και οι χειριστές συμπλεγμάτων υπολογιστών δεν συμμορφωθούν με τους παραπάνω κανονισμούς και προκαλέσουν τεράστια ζημιά, εάν διαπιστωθεί ότι πράγματι έχει συμβεί παράνομη συμπεριφορά, το δικαστήριο μπορεί να επιβάλει τις ακόλουθες κυρώσεις:

1. Για παράνομες πράξεις το 2026 και μετά θα τιμωρούνται οι φορείς που παραβιάζουν για πρώτη φορά τη νομοθεσίαcloud computingΤο πρόστιμο είναι εντός του 10% του μέσου κόστους του μοντέλου εντός του πεδίου εφαρμογής της εκπαίδευσης της αγοράς Για επακόλουθες παραβιάσεις, το ποσό του προστίμου δεν θα υπερβαίνει το 30% αυτού του κόστους (υπολογισμένο με βάση το όριο των 100 εκατομμυρίων δολαρίων ΗΠΑ που ορίζεται για το μοντέλο εντός του πεδίου εφαρμογής). στο νομοσχέδιο, το πρόστιμο για την πρώτη παράβαση είναι τουλάχιστον 10 εκατομμύρια δολάρια ΗΠΑ).

2. Το δικαστήριο μπορεί επίσης να κηρύξει διαταγή, συμπεριλαμβανομένης, ενδεικτικά, της τροποποίησης, του πλήρους τερματισμού ή της διαγραφής όλων των παραγώγων που ελέγχονται από το μοντέλο εντός του πεδίου εφαρμογής και τους προγραμματιστές του.

Ωστόσο, οι κυρώσεις για την τροποποίηση, το κλείσιμο και τη διαγραφή ενός μοντέλου εντός πεδίου μπορούν να χρησιμοποιηθούν μόνο εάν προκαλεί θάνατο άλλου ατόμου, σοβαρό προσωπικό τραυματισμό, υλικές ζημιές ή σοβαρή απειλή για τη δημόσια ασφάλεια.

4. Ποιοι αντιτίθενται στο νομοσχέδιο; Γιατί αντίρρηση;

Το νομοσχέδιο πέρασε από το νομοθετικό σώμα της Καλιφόρνια με σχετική ευκολία, παρά την έντονη αντίθεση από αμερικανούς νομοθέτες, εξέχοντες ερευνητές τεχνητής νοημοσύνης, μεγάλες εταιρείες τεχνολογίας και επιχειρηματίες κεφαλαίων επιχειρηματικού κινδύνου. Οι τροποποιήσεις θα μπορούσαν να κατευνάσουν τους αντιπάλους του SB 1047 και να δώσουν στον κυβερνήτη Newsom ένα λιγότερο αμφιλεγόμενο νομοσχέδιο που θα μπορούσε να υπογράψει σε νόμο χωρίς να χάσει την υποστήριξη από τον κλάδο της τεχνητής νοημοσύνης.

Σήμερα, όλο και περισσότεροι άνθρωποι της τεχνολογίας αντιτίθενται στο νομοσχέδιο της Καλιφόρνια για την τεχνητή νοημοσύνη.

Η Anthropic είπε ότι εξετάζει τις αλλαγές στο SB 1047 πριν λάβει μια απόφαση. Δεν υιοθετήθηκαν όλες οι προηγούμενες προτάσεις αναθεώρησης της εταιρείας από τον γερουσιαστή Wiener.

Η γνωστή εταιρεία επιχειρηματικών κεφαλαίων a16z κατέγραψε στον επίσημο ιστότοπό της τις «6 αμαρτίες» στον Νόμο για την Ασφάλεια της Τεχνητής Νοημοσύνης της Καλιφόρνια:

1. Αυτό το νομοσχέδιο θα έχει ανατριχιαστικό αποτέλεσμα στις επενδύσεις και την ανάπτυξη της τεχνητής νοημοσύνης στην Καλιφόρνια.

2. Το νομοσχέδιο τιμωρεί τους προγραμματιστές/προγραμματιστές με βάση ασαφή αποτελέσματα. Δεν υπάρχουν ακόμη σχετικά τεστ.

3. Οι ασαφείς ορισμοί του νομοσχεδίου σε συνδυασμό με την αυστηρή νομική ευθύνη δημιουργούν σημαντική αβεβαιότητα και οικονομικό κίνδυνο για τους προγραμματιστές τεχνητής νοημοσύνης και τους ιδιοκτήτες επιχειρήσεων.

4. Το νομοσχέδιο θα μπορούσε να αναγκάσει την έρευνα για την τεχνητή νοημοσύνη υπόγεια και να κάνει ακούσια τα συστήματα τεχνητής νοημοσύνης λιγότερο ασφαλή.

5. Αυτό το νομοσχέδιο δημιουργεί ένα συστημικό μειονέκτημα για προγραμματιστές ανοιχτού κώδικα και startup, που βρίσκονται στο επίκεντρο της καινοτομίας και των μικρών επιχειρήσεων στην Καλιφόρνια.

6. Αυτό το νομοσχέδιο αναστέλλει την έρευνα και την καινοτομία τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες και παρέχει ευκαιρίες σε χώρες όπως η Κίνα να ξεπεράσουν τις Ηνωμένες Πολιτείες στην τεχνητή νοημοσύνη.

Ο Andreessen Horowitz, ιδρυτικός εταίρος της a16z, πιστεύει ότι αν και το νομοσχέδιο για την τεχνητή νοημοσύνη της Καλιφόρνια είναι καλοπροαίρετο, μπορεί να αποδυναμώσει την τεχνολογική βιομηχανία των ΗΠΑ λόγω παραπληροφόρησης, ακριβώς όταν το μέλλον της τεχνολογίας βρίσκεται σε ένα κρίσιμο σταυροδρόμι. Οι Ηνωμένες Πολιτείες χρειάζονται οι ηγέτες να αναγνωρίσουν ότι τώρα είναι μια κρίσιμη στιγμή για έξυπνη και ενοποιημένη ρυθμιστική δράση για την τεχνητή νοημοσύνη.

Η καθηγήτρια του Πανεπιστημίου Στάνφορντ Li Feifei δημοσίευσε ένα άρθρο στον ιστότοπο του περιοδικού Fortune, εξηγώντας λεπτομερώς τους λόγους της αντίθεσής της Περιορίζει τις εργασίες ανάπτυξης ανοιχτού κώδικα, αποδυναμώνει την έρευνα της τεχνητής νοημοσύνης στον ακαδημαϊκό κόσμο και τον δημόσιο τομέα, αποτρέποντας δυνητικά τους ακαδημαϊκούς από το να λαμβάνουν περισσότερη χρηματοδότηση και δεν αντιμετωπίζει τις πιθανές βλάβες που προκαλούνται από την πρόοδο της τεχνητής νοημοσύνης.

Επιπλέον, εκατοντάδες startups που υποστηρίζονται από το YC incubator πιστεύουν από κοινού ότι αυτό το νομοσχέδιο μπορεί να έχει τέσσερις αρνητικές επιπτώσεις στη βιομηχανία και στο οικοσύστημα των προγραμματιστών:

1. Το νομοσχέδιο θα πρέπει να τιμωρεί τους καταχραστές εργαλείων, όχι τους προγραμματιστές. Συχνά είναι δύσκολο για τους προγραμματιστές να προβλέψουν τις πιθανές εφαρμογές των μοντέλων και οι προγραμματιστές μπορεί να πάνε στη φυλακή λόγω του εγκλήματος της ψευδορκίας.

2. Τα ρυθμιστικά κατώτατα όρια δεν μπορούν να αποτυπώσουν επαρκώς τη δυναμική της τεχνολογικής ανάπτυξης. Οι εταιρείες που δεν ανήκουν στην Καλιφόρνια θα μπορούν να αναπτύσσουν πιο ελεύθερα τεχνολογία AI, κάτι που μπορεί να επηρεάσει την καινοτομία στην Καλιφόρνια.

3. Το "Kill Switch" (αναφέρεται στην ικανότητα των προγραμματιστών να απενεργοποιούν μοντέλα) μπορεί να απαγορεύσει την ανάπτυξη τεχνητής νοημοσύνης ανοιχτού κώδικα και να εμποδίσει τη συνεργασία και τη διαφάνεια ανοιχτού κώδικα.

4. Η γλώσσα του νομοσχεδίου είναι ασαφής και μπορεί να ερμηνεύεται αυθαίρετα από τους δικαστές.

Ο Yann LeCun, επικεφαλής επιστήμονας της Meta και νικητής του βραβείου Turing 2018, ήταν επίσης αντίθετος με αυτό το νομοσχέδιο. η πλατφόρμα μπορεί να χρειαστεί να φέρει ευθύνη.

Ο Andrew Ng, επισκέπτης καθηγητής στο Τμήμα Επιστήμης Υπολογιστών και στο Τμήμα Ηλεκτρολόγων Μηχανικών στο Πανεπιστήμιο του Στάνφορντ, έγραψε ότι το νομοσχέδιο SB-1047 της Καλιφόρνια θα καταπνίξει την ανάπτυξη μεγάλων μοντέλων ανοιχτού κώδικα. Το νομοσχέδιο θα πρέπει να ρυθμίζει τις εφαρμογές τεχνητής νοημοσύνης και όχι τα ίδια τα μεγάλα μοντέλα.

Είναι ακόμα συγκλονισμένος από την τεράστια ζημιά που προκάλεσε ο προτεινόμενος λογαριασμός SB 1047 της Καλιφόρνια σε μεγάλα μοντέλα ανοιχτού κώδικα. Αυτό το νομοσχέδιο κάνει ένα σοβαρό και θεμελιώδες λάθος Αυτό που πρέπει να ρυθμιστεί είναι τα παραγωγικά προϊόντα τεχνητής νοημοσύνης που αναπτύχθηκαν μέσω μεγάλων μοντέλων και όχι από τα ίδια τα μεγάλα μοντέλα ανοιχτού κώδικα.

Ο Ng πιστεύει επίσης ότι το SB 1047 απαιτεί από τους προγραμματιστές να προστατεύουν μεγάλα μοντέλα ανοιχτού κώδικα από κακή χρήση, τροποποίηση και ανάπτυξη παράνομων παραγώγων προϊόντων τεχνητής νοημοσύνης. Ωστόσο, ο τρόπος με τον οποίο οι προγραμματιστές θα πρέπει να προστατεύουν και να ορίζουν αυτές τις συμπεριφορές είναι ακόμα πολύ ασαφές και δεν υπάρχει λεπτομερής ρύθμιση.

Ως εκ τούτου, ο Andrew Ng καλεί όλους να μποϊκοτάρουν το νομοσχέδιο SB 1047. Πιστεύει ότι εάν ψηφιστεί, θα έχει καταστροφικό πλήγμα στην καινοτομία μεγάλων μοντέλων ανοιχτού κώδικα και ταυτόχρονα, η Καλιφόρνια θα χάσει το κίνητρο για. Καινοτομία AI.

5. Ποιος υποστηρίζει το νομοσχέδιο; Γιατί υποστήριξη;

Σε σχέση με την αντιπολίτευση, υπάρχουν επί του παρόντος ορισμένοι επαγγελματίες της τεχνολογίας που υποστηρίζουν το νομοσχέδιο της Καλιφόρνια για την τεχνητή νοημοσύνη.

Μεταξύ αυτών, αν και ο κυβερνήτης της Καλιφόρνια Newsom δεν έχει σχολιάσει δημόσια το SB 1047, έχει εκφράσει προηγουμένως τη δέσμευσή του στην καινοτομία της τεχνητής νοημοσύνης στην Καλιφόρνια.

Ταυτόχρονα, ο νικητής του βραβείου Turing και «Νονός της Τεχνητής Νοημοσύνης» Geoffrey Hinton, ο νικητής του βραβείου Turing Yoshua Bengio, ο καθηγητής της Νομικής Σχολής του Χάρβαρντ Lawrence Lessig ) και ο Stuart Russell, συγγραφέας του δημοφιλούς εγχειριδίου AI «Artificial Intelligence: A Modern Approach» και καθηγητής στο Πανεπιστήμιο της Καλιφόρνια, στο Μπέρκλεϋ, έγραψε από κοινού στο νομοθετικό σώμα της Καλιφόρνια για να εκφράσουν την υποστήριξή τους στον νόμο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια "Ισχυρή υποστήριξη".

Οι τέσσερις μελετητές σημείωσαν ότι ανησυχούν βαθιά για τους κινδύνους της τεχνητής νοημοσύνης και ότι ο νόμος για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια είναι η ελάχιστη απαίτηση για την αποτελεσματική ρύθμιση της τεχνολογίας. "Το νομοσχέδιο δεν έχει σύστημα αδειοδότησης και δεν απαιτεί από τις εταιρείες να λάβουν άδεια από κυβερνητικούς φορείς πριν από την εκπαίδευση ή την ανάπτυξη μοντέλων. Βασίζεται στην αυτοαξιολόγηση κινδύνου των εταιρειών και δεν θεωρεί τις εταιρείες αυστηρά υπεύθυνες ακόμη και σε περίπτωση καταστροφής. Σχετικό Ο κίνδυνος είναι ότι πρόκειται για μια πολύ χαλαρή νομοθεσία Η επόμενη γενιά θα είναι πιο αυστηρή Αυτό το σφάλμα θα γίνει πιο εμφανές όταν κυκλοφορήσουν ισχυρά συστήματα AI».

«Πριν από σαράντα χρόνια, όταν έκανα προπόνηση ChatGPT Όταν επρόκειτο για τις πρώτες εκδόσεις των αλγορίθμων AI πίσω από τα εργαλεία, κανείς, συμπεριλαμβανομένου του εαυτού μου, δεν θα είχε προβλέψει ότι η τεχνητή νοημοσύνη θα έκανε τόσο μεγάλη πρόοδο. Τα ισχυρά συστήματα AI υπόσχονται απίστευτα, αλλά οι κίνδυνοι είναι επίσης πολύ πραγματικοί και θα πρέπει να ληφθούν πολύ σοβαρά υπόψη. Το SB 1047 ακολουθεί μια πολύ έξυπνη προσέγγιση για την εξισορρόπηση αυτών των ανησυχιών. Παραμένω παθιασμένος με τις δυνατότητες της τεχνητής νοημοσύνης να σώσει ζωές βελτιώνοντας την επιστήμη και την ιατρική, αλλά πρέπει να αναπτύξουμε πραγματικά ισχυρή νομοθεσία για την αντιμετώπιση των κινδύνων. Η Καλιφόρνια είναι το σημείο εκκίνησης αυτής της τεχνολογίας επειδή είναι εκεί που απογειώθηκε. είπε ο Χίντον.

Οι τέσσερις μελετητές τόνισαν επίσης στην επιστολή ότι ανεξάρτητα από το αν αυτοί οι κίνδυνοι είναι αβάσιμοι ή πραγματικοί, τα ενδιαφερόμενα μέρη πρέπει να φέρουν την ευθύνη για τον μετριασμό των κινδύνων. «Ως ομάδα εμπειρογνωμόνων που κατανοούν καλύτερα αυτά τα συστήματα», πιστεύουν ότι αυτοί οι κίνδυνοι είναι πιθανοί και αρκετά σημαντικοί ώστε να είναι απαραίτητες οι δοκιμές ασφαλείας και οι προφυλάξεις κοινής λογικής.

Ο γερουσιαστής της Καλιφόρνια Scott Wiener, συντάκτης του νομοσχεδίου, είπε ότι το SB 1047 στοχεύει να μάθει από προηγούμενες αποτυχίες της πολιτικής απορρήτου των μέσων κοινωνικής δικτύωσης και δεδομένων και να κρατήσει τους πολίτες ασφαλείς πριν να είναι πολύ αργά.

«Η στάση μας απέναντι στην τεχνολογία είναι να περιμένουμε να συμβεί το κακό και μετά να μην κάνουμε τίποτα για αυτό», είπε ο Wiener. "Δεν περιμένουμε να συμβεί κάτι κακό. Θέλουμε να δράσουμε πριν συμβεί".

• Οι προγραμματιστές δεν θα πάνε φυλακή επειδή απέτυχαν να προβλέψουν τους κινδύνους του μοντέλου. Πρώτον, οι νεοφυείς προγραμματιστές και οι ακαδημαϊκοί δεν χρειάζεται να ανησυχούν, καθώς ο λογαριασμός δεν ισχύει για αυτούς. Δεύτερον, η ρήτρα ψευδορκίας στο νομοσχέδιο θα τεθεί σε ισχύ μόνο όταν ο προγραμματιστής κάνει "εν γνώσει του" μια ψευδή δήλωση και η ακούσια εσφαλμένη εκτίμηση των δυνατοτήτων του μοντέλου δεν θα ενεργοποιήσει τη ρήτρα ψευδορκίας (αυτή η ρήτρα έχει διαγραφεί στη σημερινή τροπολογία).

• Το νομοσχέδιο δεν δημιουργεί εντελώς νέες ευθύνες. Σύμφωνα με την υφιστάμενη νομοθεσία, τόσο οι προγραμματιστές μοντέλων όσο και οι μεμονωμένοι προγραμματιστές ενδέχεται να μηνυθούν εάν ένα μοντέλο προκαλεί βλάβη, και ισχύει για μοντέλα όλων των ικανοτήτων και όλα τα τραυματισμένα άτομα μπορούν να μηνύσουν. Το νέο νομοσχέδιο της Καλιφόρνια όχι μόνο περιορίζει το πεδίο εφαρμογής της ρύθμισης, αλλά περιορίζει επίσης το δικαίωμα μήνυσης σε δύο οντότητες, τον γενικό εισαγγελέα της Καλιφόρνια και το συμβούλιο εργασίας.

• Το νομοσχέδιο δεν θα καταπνίξει την καινοτομία στην Καλιφόρνια. Αυτό το νομοσχέδιο ισχύει για όλες τις εταιρείες που δραστηριοποιούνται στην Καλιφόρνια Ακόμη και αν μεταφέρουν την έδρα τους εκτός Καλιφόρνια, θα πρέπει να συμμορφώνονται με τους σχετικούς κανονισμούς (Σημείωση Zhixi: Η Καλιφόρνια είναι η πέμπτη μεγαλύτερη οικονομία στον κόσμο με βάση το ΑΕΠ και διαθέτει πλήρες τεχνολογικό οικοσύστημα. εταιρείες Είναι δύσκολο να αποσυνδεθεί κανείς από την Καλιφόρνια). Όταν η Καλιφόρνια ψήφισε νόμους περί απορρήτου δεδομένων και νόμους για την προστασία του περιβάλλοντος, πολλοί άνθρωποι ισχυρίστηκαν ότι αυτό θα εμπόδιζε την καινοτομία, αλλά το γεγονός είναι ότι η Καλιφόρνια εξακολουθεί να πρωτοστατεί στην καινοτομία.

• Οι διακόπτες Kill και οι απαιτήσεις αξιολόγησης ασφαλείας δεν θα εμποδίσουν την ανάπτυξη AI ανοιχτού κώδικα. Το νομοσχέδιο έχει πλέον αναθεωρηθεί και ενισχύει την προστασία της τεχνητής νοημοσύνης ανοιχτού κώδικα. Η απαίτηση για τερματισμό έκτακτης ανάγκης μοντέλου στο νομοσχέδιο ισχύει μόνο για μοντέλα υπό τον έλεγχο του προγραμματιστή, εξαιρουμένων των μη ελεγχόμενων μοντέλων ανοιχτού κώδικα. Το νομοσχέδιο δημιουργεί επίσης μια νέα συμβουλευτική επιτροπή για να υποστηρίξει και να υποστηρίξει ασφαλείς και αξιόπιστες προσπάθειες ανάπτυξης τεχνητής νοημοσύνης ανοιχτού κώδικα.

Σύμφωνα με το νομοσχέδιο, ακόμα κι αν μια εταιρεία εκπαίδευε ένα μοντέλο 100 εκατομμυρίων δολαρίων στο Τέξας ή τη Γαλλία, θα προστατεύεται από το SB 1047 εφόσον δραστηριοποιείται στην Καλιφόρνια. Ο Wiener είπε ότι το Κογκρέσο "δεν έχει εκπονήσει σχεδόν καμία νομοθεσία για την τεχνολογία τα τελευταία 25 χρόνια", επομένως πιστεύει ότι η Καλιφόρνια πρέπει να δημιουργήσει το προηγούμενο εδώ.

Ο Dan Hendrycks, διευθυντής του Κέντρου για την Ασφάλεια της Τεχνητής Νοημοσύνης, δήλωσε: «Αυτό το νομοσχέδιο είναι προς το μακροπρόθεσμο συμφέρον της Καλιφόρνια και της βιομηχανίας των ΗΠΑ, επειδή τα μεγάλα περιστατικά ασφάλειας μπορεί να είναι το μεγαλύτερο εμπόδιο για περαιτέρω ανάπτυξη».

Αρκετοί πρώην υπάλληλοι του OpenAI υποστήριξαν επίσης το νομοσχέδιο, συμπεριλαμβανομένου του Daniel Kokotajlo, ο οποίος εγκατέλειψε οικειοθελώς τις επιλογές του OpenAI με αντάλλαγμα το δικαίωμα να ασκεί ελεύθερα κριτική στην εταιρεία. Πιστεύει ότι οι ισχυρισμοί των επικριτών του νομοσχεδίου ότι η πρόοδος της τεχνητής νοημοσύνης θα σταματήσει πιθανότατα δεν θα συμβούν.

Ο Simon Last, ο ιδρυτής του Notion, ενός μονόκερου τεχνητής νοημοσύνης αξίας δεκάδων δισεκατομμυρίων δολαρίων, έγραψε ένα άρθρο λέγοντας ότι υποστηρίζει το νομοσχέδιο και πιστεύει ότι όταν οι νόμοι τεχνητής νοημοσύνης σε ομοσπονδιακό επίπεδο είναι δύσκολο να εφαρμοστούν, η Καλιφόρνια, ως τεχνολογικό κέντρο στην Οι Ηνωμένες Πολιτείες, ακόμη και ο κόσμος, βαρύνονται με σημαντικές ευθύνες. Πιστεύει ότι η επίβλεψη των μοντέλων όχι μόνο θα βελτιώσει την ασφάλειά τους, αλλά θα διευκολύνει και τις νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης που χτίζουν προϊόντα σε βασικά μοντέλα, γεγονός που θα μειώσει την επιβάρυνση των μικρομεσαίων επιχειρήσεων.

«Ο στόχος του SB 1047 είναι - και ήταν πάντα - να βελτιώσει την ασφάλεια της τεχνητής νοημοσύνης, επιτρέποντας παράλληλα σε ολόκληρο το οικοσύστημα να καινοτομεί», δήλωσε ο Nathan Calvin, ανώτερος σύμβουλος πολιτικής στο Center for AI Safety Action Fund στόχος».

6. Πώς να αναπτυχθεί στη συνέχεια;

Το SB 1047 θα πάει τώρα στη Συνέλευση της Καλιφόρνια για τελική ψηφοφορία. Εάν το νομοσχέδιο περάσει από τη Συνέλευση, θα πρέπει να πάει πίσω στη Γερουσία της Καλιφόρνια για ψήφιση λόγω των τελευταίων τροπολογιών. Εάν το νομοσχέδιο ψηφιστεί ταυτόχρονα, θα σταλεί στο γραφείο του κυβερνήτη της Καλιφόρνια Γκάβιν Νιούσομ, ο οποίος θα λάβει την τελική απόφαση για το αν θα υπογράψει το νομοσχέδιο έως τα τέλη Αυγούστου.

Ο Wiener είπε ότι δεν έχει μιλήσει στο Newsom για το νομοσχέδιο και δεν ξέρει πού βρίσκεται.