νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

έξυπνα πράγματα
Συγγραφέας Chen Junda
EditPanken

Ο Zhidongxi ανέφερε στις 16 Αυγούστου ότι μόλις τώρα, ο αμφιλεγόμενος «Frontier AI Model Safety Innovation Act» (αργότερα γνωστός ως California AI Safety Act) ανακοινώθηκε τοαποδυναμώθηκε σημαντικάΑργότερα, πέρασε με επιτυχία την αναθεώρηση της Επιτροπής Πιστώσεων της Βουλής των Αντιπροσώπων της Καλιφόρνια.Ρύθμιση νομικών δυσκολιών σε εθνικό επίπεδοΕν μέσω του διλήμματος, αυτό έχει γίνει ένα σημαντικό βήμα για τις Ηνωμένες Πολιτείες όσον αφορά τη ρύθμιση της τεχνητής νοημοσύνης, ωστόσο, ορισμένοι άνθρωποι στην τεχνολογική κοινότητα πιστεύουν ότι αυτόΘα βλάψει τελικά την Καλιφόρνια και ακόμη και την ηγετική θέση των Ηνωμένων Πολιτειών στον τομέα της τεχνητής νοημοσύνης.

Η μεγαλύτερη προσαρμογή στο τροποποιημένο νομοσχέδιο είναι αυτήδεν επιτρέπεται πλέονΟ γενικός εισαγγελέας της Καλιφόρνια μήνυσε εταιρείες τεχνητής νοημοσύνης επειδή αγνόησαν ζητήματα ασφάλειας πριν συμβεί ένα καταστροφικό γεγονός. Το αρχικό νομοσχέδιο ορίζει ότι εφόσον οι ελεγκτές διαπιστώνουν ότι εταιρείες τεχνητής νοημοσύνης έχουν παράνομες δραστηριότητες σε καθημερινές δραστηριότητες, οι εταιρείες ενδέχεται να διωχθούν. Αυτό σηματοδοτεί το νομοσχέδιοΗ ρυθμιστική εστίαση μετατοπίζεται στην πραγματική βλάβη, θα επίσηςΜειώστε την πίεση συμμόρφωσης στις επιχειρήσεις.

Οι περισσότερες εταιρείες τεχνολογίας των ΗΠΑ και νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης δραστηριοποιούνται στην Καλιφόρνια.θα υπόκεινται στον Νόμο.Συγκεκριμένα, το παρόν νομοσχέδιο επικεντρώνεται κυρίως σε «Μοντέλα τεχνητής νοημοσύνης αιχμής"Μόνο οι προγραμματιστές των οποίων το κόστος υπολογιστικής ισχύος για μοντέλα εκπαίδευσης υπερβαίνει τα 100 εκατομμύρια δολάρια ΗΠΑ θα αντιμετωπίσουν ρυθμιστικές απαιτήσεις. Τα υπάρχοντα μοντέλα δεν εμπίπτουν στο πεδίο της επίβλεψης. Στο μέλλονΤο Llama 4 και το GPT-5 μπορεί να είναι οι κύριοι ρυθμιστικοί του στόχοι.

Για εγχώριες επιχειρήσεις, εάν εκτελείτε μόνο μικρορύθμιση και άλλες λειτουργίες βάσει ανοιχτού κώδικα, υπάρχει μεγάλη πιθανότητα να μην συμπεριληφθεί στο πεδίο της επίβλεψης. Ωστόσο, το νομοσχέδιο απαιτεί από τους παρόχους υπηρεσιών cloud να συλλέγουν πληροφορίες πελατών, διευθύνσεις IP, μεθόδους πληρωμής και άλλες πληροφορίες, γεγονός που διευκολύνει το έργο ιχνηλασιμότητας των ρυθμιστικών αρχών. Εάν οι έλεγχοι είναι πιο αυστηροί, αυτό μπορεί να γίνειΡυθμιστικοί κίνδυνοι που αντιμετωπίζουν ορισμένες κινεζικές εταιρείες τεχνητής νοημοσύνης που χρησιμοποιούν υπερπόντια υπολογιστική ισχύ για εκπαίδευση.

Οι επιχειρήσεις που εμπίπτουν στο πεδίο της εποπτείας θα πρέπειλαμβάνουν προληπτικά μέτραΓια να αποφύγετε την κατάχρηση μοντέλου, πρέπει επίσης να έχετεμοντέλο διακοπής λειτουργίας έκτακτης ανάγκηςικανότητα. Επιπλέον, απαιτείται να υποβάλλουν δημόσια δήλωση στην οποία περιγράφονται οι πρακτικές ασφαλείας τους. Το νομοσχέδιο εισάγει «Ετήσια επιθεώρηση», οι προγραμματιστές υποχρεούνται να προσλαμβάνουν ανεξάρτητους ελεγκτές για να αξιολογούν τη συμμόρφωση ετησίως.

Μόλις συμβούν παράνομες δραστηριότητες, οι εταιρείες ενδέχεται να αντιμετωπίσουνπου κυμαίνονται από 10 εκατομμύρια δολάρια έως 30 εκατομμύρια δολάρια ΗΠΑΑυτό το ποσό θα αυξάνεται καθώς αυξάνεται το κόστος της εκπαίδευσης μοντέλων.

Ο κύκλος της AI χωρίστηκε σε δύο στρατόπεδα και υπήρξε έντονη συζήτηση.

Νικητής του βραβείου Turing 2018Τζέφρι Χίντον(Τζέφρι Χίντον) καιΤζόσουα Μπέντζιο(Yoshua Bengio) εξέφρασε την υποστήριξή του και πίστευε ότι ο νόμος για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια είναι ένας αποτελεσματικός κανονισμός της τεχνολογίας AI.Ελάχιστες απαιτήσεις”。

Εκατοντάδες επιχειρηματίες υπέγραψανΘερμοκοιτίδα YCΠερισσότεροι από 100 ακαδημαϊκοί στην Καλιφόρνια έγραψαν επίσης επιστολές αντίθεσης.Ίδρυμα επιχειρηματικού κεφαλαίου a16zΔημιουργήστε έναν ιστότοπο ειδικά για να περιγράφετε λεπτομερώς τα έξι εγκλήματα του νόμου, καθηγητή του Πανεπιστημίου ΣτάνφορντΛι ΦεϊφέιΕιδικά αναρτήθηκε στο Twitter για να καταδικάσει, το κύριο σημείο είναι ότι αυτό το νομοσχέδιο θα εμποδίσει τις επενδύσεις και την ανάπτυξη της τεχνητής νοημοσύνης της Καλιφόρνια,Βλάπτει σημαντικά το οικοσύστημα ανοιχτού κώδικα, δεν αντιμετωπίζει τους σημαντικούς κινδύνους που επιφέρει η τεχνητή νοημοσύνη.

Ωστόσο, ο γερουσιαστής της πολιτείας της Καλιφόρνια Scott Wiener, ο συγγραφέας του νομοσχεδίου κανονισμού για την τεχνητή νοημοσύνη της Καλιφόρνια, διέψευσε ορισμένες επικρίσεις για το νομοσχέδιο, λέγοντας ότι το a16z και το YCδιαστρεβλώνουν σκόπιμα τα γεγονότα, αυτό το νομοσχέδιο αποτελεί βελτιστοποίηση εντός του υπάρχοντος νομικού πλαισίου, βελτιώνει την καταλληλότητα της εποπτείας, δεν θα βάλει στη φυλακή μεγάλο αριθμό προγραμματιστών και δεν θα βλάψει την καινοτομία και την τεχνητή νοημοσύνη ανοιχτού κώδικα.

Η Zhixixi συγκέντρωσε μεγάλο όγκο πληροφοριών και συνόψισε το συγκεκριμένο περιεχόμενο και τις σχετικές συζητήσεις αυτού του νομοσχεδίου στις ακόλουθες πέντε ερωτήσεις και απαντήσεις:

1. Ποιο είναι το πεδίο εφαρμογής; Τα περισσότερα υπάρχοντα μοντέλα δεν ισχύουν και το Llama 4 και το GPT-5 ενδέχεται να περιλαμβάνονται στο πεδίο της επίβλεψης

Προκειμένου να επιτευχθεί αποτελεσματική εποπτεία, αυτό το νομοσχέδιο σχεδίαζε αρχικά να δημιουργήσει ένα «Τμήμα Προτύπων Συνόρων (FMD)» για την εφαρμογή των σχετικών κανονισμών. Με τις σημερινές αναθεωρήσεις, αυτό το τμήμα μετατρέπεται σε μια εννεαμελή επιτροπή εντός της κυβερνητικής υπηρεσίας της Καλιφόρνια, η οποία περιλαμβάνει εκπροσώπους από τη βιομηχανία της τεχνητής νοημοσύνης, την κοινότητα ανοιχτού κώδικα και τον ακαδημαϊκό κόσμο και διορίζεται από τον Κυβερνήτη και το Νομοθετικό Σώμα της Καλιφόρνια. Το Συμβούλιο Μοντέλων Συνόρων θα εξακολουθεί να ορίζει υπολογιστικά κατώφλια για καλυμμένα μοντέλα, να εκδίδει οδηγίες για την ασφάλεια και να εκδίδει κανονισμούς για τους ελεγκτές.

Ως ένα από τα κέντρα ανάπτυξης τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες και ακόμη και στον κόσμο, η Καλιφόρνια έχει προσελκύσει μεγάλο αριθμό εταιρειών τεχνητής νοημοσύνης Περισσότερες από 30 από τις 50 κορυφαίες εταιρείες τεχνητής νοημοσύνης στο περιοδικό Forbes το 2024 δραστηριοποιούνται στην Καλιφόρνια. Σύμφωνα με αυτό το νομοσχέδιο, όλοι πρέπει να συμμορφώνονται με τις σχετικές διατάξεις του νόμου για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια. Ωστόσο, το πραγματικό πεδίο εφαρμογής αυτής της πράξης θα περιοριστεί σημαντικά από τις δυνατότητες του μοντέλου.Ίσως μόνο οι κορυφαίοι παίκτες στον χώρο του μεγάλου μοντέλου θα ρυθμιστούν από αυτό το νομοσχέδιο τα επόμενα χρόνια.

▲ Στιγμιότυπο οθόνης μέρους του νομοσχεδίου κανονισμού για την τεχνητή νοημοσύνη της Καλιφόρνια (Πηγή: Επίσημος ιστότοπος της Γερουσίας της Καλιφόρνια)

Αυτό το νομοσχέδιο θα αξιολογήσει εάν ένα μοντέλο πρέπει να συμπεριληφθεί στο ρυθμιστικό πεδίο με βάση την υπολογιστική ισχύ και το κόστος υπολογιστικής ισχύος που χρησιμοποιείται στην εκπαίδευση μοντέλων, δηλαδή να ταξινομηθεί ως "Καλυμμένο μοντέλοΟι σχετικοί κανονισμοί μπορούν να συνοψιστούν στα ακόλουθα δύο σημεία:

1. Χρήση πριν από την 1η Ιανουαρίου 202710^26και περισσότερες πράξεις ακέραιου αριθμού ή κινητής υποδιαστολής (100 εκατομμύρια δολάρια με βάση τη μέση τιμή αγοράς της υπολογιστικής ισχύος) ή χρήση3*10^25Το μοντέλο που λαμβάνεται μετά τη λεπτομέρεια του μοντέλου εντός εμβέλειας με την υπολογιστική ισχύ θα αναφέρεται ως μοντέλο εντός εμβέλειας.

2. Μετά την 1η Ιανουαρίου 2027, τα παραπάνω πρότυπα θα εφαρμοστούν από την California’sΡυθμιστής μοντέλου αιχμήςΚάντε μια αξιολόγηση. Εάν το τμήμα τροποποιήσει το όριο υπολογιστικής ισχύος, το νέο πρότυπο θα επικρατήσει εάν το τμήμα αποφασίσει ότι δεν χρειάζεται τροποποίηση, το αρχικό πρότυπο θα συνεχίσει να χρησιμοποιείται. Επιπλέον, μετά το 2026, τα 100 εκατομμύρια δολάρια στο αρχικό πρότυπο θα πρέπειΠροσαρμόστε ανάλογα για να λάβετε υπόψη τον πληθωρισμό.

Ποιο λοιπόν από τα μοντέλα που κυκλοφόρησαν τώρα θα συμπεριληφθεί σε αυτή τη γκάμα; Υπάρχουν πολλοί τρόποι για να υπολογίσετε την υπολογιστική ισχύ που χρησιμοποιείται στην εκπαίδευση μοντέλων όταν την υπολόγισε κατά προσέγγιση σε ένα έγγραφο.

FLOPS=6ND

(όπου N είναι ο αριθμός των παραμέτρων και D είναι ο αριθμός των διακριτικών)

Χρησιμοποιώντας αυτήν τη μέθοδο υπολογισμού και τα δεδομένα μοντέλων ανοιχτού κώδικα, μπορούμε να εκτιμήσουμε χονδρικά το επίπεδο υπολογιστικής ισχύος που χρησιμοποιείται αυτήν τη στιγμή από τα μοντέλα:

Λάμα 3 70Β

Έχει 70 δισεκατομμύρια παραμέτρους και χρησιμοποιεί δεδομένα εκπαίδευσης κουπονιών 15Τ κατά τη διάρκεια της εκπαίδευσης, επομένως η υπολογιστική ισχύς που χρησιμοποιείται είναι περίπου:

6*70B*15T= 6,3*10^24 FLOPS

Λάμα 3,1 405Β

Έχει 405 δισεκατομμύρια παραμέτρους και χρησιμοποιεί δεδομένα εκπαίδευσης κουπονιών 15,6 T κατά τη διάρκεια της εκπαίδευσης, επομένως η υπολογιστική ισχύς που χρησιμοποιείται είναι περίπου:

6*405B*15,6T=3,79*10^25 FLOPS

▲ Πληροφορίες σχετικά με το Llama 3.1 405B (Πηγή: Hugging Face)

Αυτή η μέθοδος υπολογισμού είναι σχετικά πρόχειρη και μπορεί να διαφέρει πολύ από την πραγματική κατάσταση, αλλά εξακολουθεί να έχει σημασία αναφοράς. Σύμφωνα με αυτό το αποτέλεσμα,Το Llama 3.1 405B, ο βασιλιάς των μοντέλων ανοιχτού κώδικα, δεν θα περιλαμβάνεται επί του παρόντος ως μοντέλο εντός του πεδίου εφαρμογής του νομοσχεδίου., ένα μοντέλο θα αναφέρεται ως μοντέλο εντός εμβέλειας μόνο εάν χρησιμοποιεί 2,6 φορές την υπολογιστική ισχύ του Llama 3.1 405B.

Αυτά τα δεδομένα μπορούν επίσης να υποστηριχθούν από τη δήλωση σε μια ανοιχτή επιστολή ως απάντηση στη διαμάχη σχετικά με το νομοσχέδιο από τον γερουσιαστή της πολιτείας της Καλιφόρνια Γουίλιαμ Γουίλσον, ο συντάκτης αυτού του νομοσχεδίου, έγραψε στην επιστολή, «Στο μοντέλο που κυκλοφόρησε επί του παρόντος.Κανένα μοντέλο δεν έχει φτάσει το όριο υπολογιστικής ισχύος των 10^26 FLOP”。

Για μεγάλο χρονικό διάστημα στο μέλλον, η συντριπτική πλειοψηφία των μικρομεσαίων εταιρειών ανάπτυξης μοντέλων και των ανεξάρτητων προγραμματιστών ενδέχεται να μην χρειάζεται να ανησυχούν για την επίβλεψη αυτού του νομοσχεδίου. Σύμφωνα με το όριο υπολογιστικής ισχύος και το όριο κεφαλαίου του νομοσχεδίου, τα κύρια ρυθμιστικά του αντικείμενα είναι όπως π.OpenAI, Meta, GoogleΤέτοιοι σημαντικοί παίκτες στον τομέα της AI καιΚορυφαίες νεοφυείς επιχειρήσεις που έχουν λάβει μεγάλα ποσά επενδύσεων.

Σύμφωνα με τη δημόσια δήλωση του Διευθύνοντος Συμβούλου του OpenAI, Sam Altman, το κόστος εκπαίδευσης του GPT-4 είναι περίπου 100 εκατομμύρια δολάρια ΗΠΑ. Δεν είναι σαφές εάν αυτό το κόστος περιλαμβάνει επενδύσεις εκτός από την υπολογιστική ισχύ. Εάν κυκλοφορήσουν το GPT-5 ή άλλα μεταγενέστερα μοντέλα OpenAI, ενδέχεται να ρυθμίζονται από αυτόν τον νόμο. Ο διευθύνων σύμβουλος της Meta, Mark Zuckerburg, έχει υπολογίσει ότι το Llama 4 θα απαιτεί περίπου 10 φορές την υπολογιστική ισχύ από το Llama 3.1, που σημαίνειΤο Llama 4 θα πρέπει να είναι ένα από τα λίγα μοντέλα ανοιχτού κώδικα που θα αναφέρονται ως μοντέλο εμβέλειας στο μέλλον.

2. Ποιες είναι οι ευθύνες των επιχειρήσεων; Οι προγραμματιστές πρέπει να διεξάγουν "ετήσιες επιθεωρήσεις", να αποτρέπουν προληπτικά την κατάχρηση και να τους εξοπλίζουν με "διακόπτες σκοτώματος"

Σύμφωνα με τις σχετικές διατάξεις του παρόντος νόμου,Κατασκευαστής μοντέλων σειράςΚυρίως υπεύθυνος για τις ακόλουθες αρμοδιότητες:

1. Εφαρμογήδιαχείριση, τεχνολογία και φυσικήΤριπλή προστασία ασφαλείας για την αποτροπή μοντέλων εντός πεδίου και παραγώγων μοντέλων εντός πεδίου που ελέγχονται από προγραμματιστέςΜη εξουσιοδοτημένη πρόσβαση, κακή χρήση ή τροποποίηση μετά την εκπαίδευση。

2、Αποκτήστε τη δυνατότητα να τερματίζετε πλήρως τα μοντέλα εγκαίρως.

3. Το αρχικό νομοσχέδιο ορίζει ότι οι προγραμματιστές μοντέλων πρέπει να υπογράψουν μια ανεξάρτητη συμφωνία ασφάλειας για να εξασφαλίσουνΔεν θα αναπτυχθούν μοντέλα και παράγωγα που έχουν τον κίνδυνο να προκαλέσουν σοβαρή βλάβη (όπως επιθέσεις στον κυβερνοχώρο που προκαλούν απώλειες άνω των 500 εκατομμυρίων δολαρίων ΗΠΑ, που προκαλούν θάνατο ή σοβαρό προσωπικό τραυματισμό κ.λπ.).Εάν υπάρχουν ψευδείς πληροφορίες στη συμφωνία, θα τιμωρηθεί με την ποινή της ψευδορκίας.

τροποποιημένο νομοσχέδιοΑυτό αποδυναμώνει σε μεγάλο βαθμό τη νομική αποτελεσματικότητα αυτής της συμφωνίας Επί του παρόντος, οι προγραμματιστές μοντέλων χρειάζεται μόνο να υποβάλλουν δημόσιες δηλώσεις που περιγράφουν τις πρακτικές ασφαλείας τους.Ωστόσο, αυτή η διάταξη δεν επιβάλλει πλέον καμία ποινική ευθύνη και οι σχετικές οντότητες θα διώκονται μόνο μετά από καταστροφική βλάβη.

4. Εάν το μοντέλο και τα παράγωγά του εντός του πεδίου εφαρμογής ενδέχεται να προκαλέσουν ή να βοηθήσουν στην πρόκληση σοβαρού τραυματισμού, ο προγραμματιστής δεν θα το χρησιμοποιήσει για εμπορικούς ή δημόσιους σκοπούς από μόνος του, ούτε μπορεί να το παρέχει σε άλλους για εμπορική ή δημόσια χρήση.

5. Από την 1η Ιανουαρίου 2028, οι προγραμματιστές μοντέλων εντός του πεδίου εφαρμογής θα πρέπειΠροσλάβετε 1 τρίτο ελεγκτή κάθε χρόνο, για τη διεξαγωγή λεπτομερούς και αντικειμενικής αξιολόγησης της συμμόρφωσης του προγραμματιστή με τις απαιτήσεις του Νόμου, αναφοράς παραβιάσεων και υποδείξεων για αναθεώρηση.

6、Το αναθεωρημένο νομοσχέδιο προσθέτει ασφάλειες για τη βελτίωση του μοντέλου ανοιχτού κώδικα.Το νομοσχέδιο ορίζει ρητά ότι εάν οι προγραμματιστές ξοδέψουν χρήματα για να βελτιώσουν τα μοντέλα εντός πεδίουΛιγότερο από 10 εκατομμύρια δολάρια ΗΠΑ, δεν θα αναγνωριστεί ως ο προγραμματιστής του βελτιωμένου μοντέλου και την ευθύνη θα εξακολουθεί να φέρει ο προγραμματιστής του αρχικού μοντέλου.

Επιπλέον, αυτό το νομοσχέδιο ορίζει ότι οι υπηρεσίες cloud όπως το Amazon Cloud Services (AWS) και το Microsoft AzureΥποχρεώσεις παρόχων υπηρεσιών cloud. Όταν παρέχουν στους πελάτες υπολογιστική ισχύ επαρκή για την εκπαίδευση μοντέλων σε εύρος, οι πάροχοι υπηρεσιών cloud θα πρέπει να είναι προετοιμασμένοι να:

1. Λάβετε τις βασικές πληροφορίες ταυτότητας του πελάτη και τους επιχειρηματικούς σκοπούς, συμπεριλαμβανομένωνΤαυτότητα πελάτη, διεύθυνση IP, τρόπος πληρωμής και πηγήκαι τα λοιπά. Οι σχετικές εργασίες συμμόρφωσης θα πρέπει να αφήνουν ίχνη και τα αρχεία θα πρέπει να διατηρούνται για 7 χρόνια.

2. Αξιολογήστε εάν ο πελάτης σκοπεύει πράγματι να χρησιμοποιήσει την υπολογιστική ισχύ για να εκπαιδεύσει το μοντέλο εντός πεδίου.

3、Η δυνατότητα τερματισμού των υπολογιστικών πόρων που χρησιμοποιούνται από τους χρήστες κατά την εκπαίδευση ή τη λειτουργία μοντέλων.

Οι προγραμματιστές και οι πάροχοι υπηρεσιών cloud μοντέλων εντός πεδίου θα πρέπει επίσης να παρέχουνΔιαφανής, ενιαίος και δημόσιος τιμοκατάλογος, και βεβαιωθείτε ότι κατά τη διαδικασία τιμολόγησης και πρόσβασηςΚαμία διάκριση ή αντιανταγωνιστική συμπεριφορά. αλλάΔημόσιοι φορείς, ακαδημαϊκά ιδρύματα και μη εμπορικοί ερευνητέςΜπορείτε να απολαύσετε δωρεάν ή με έκπτωση δικαιώματα χρήσης. Ορισμένοι πάροχοι υπηρεσιών cloud θα χρησιμοποιήσουν εκπτώσεις τιμών για να προσελκύσουν ή να υποστηρίξουν συγκεκριμένες εταιρείες ανάπτυξης τεχνητής νοημοσύνης.

Το νομοσχέδιο ορίζει ότι όταν οι προγραμματιστές μαθαίνουν ότι έχει συμβεί ένα περιστατικό ασφαλείας σε ένα μοντέλο,Σχετικά περιστατικά θα πρέπει να αναφέρονται στις ρυθμιστικές αρχές εντός 72 ωρών. Επιπλέον, οι προγραμματιστές θα πρέπει επίσης να διασφαλίζουν ότι ένα μοντέλο ή τα παράγωγά του χρησιμοποιούνται για εμπορικούς ή δημόσιους σκοπούς.Εντός 30 ημερών, υποβάλετε δήλωση συμμόρφωσης για αυτό το μοντέλο. Επιπλέον, όσοι καταγγέλλουν παραπτώματαΟι «Whistleblowers» θα προστατεύονται από το νόμο, μια εταιρεία ή οργανισμός δεν μπορεί να αποτρέψει ή να εκδικήσει τους υπαλλήλους που αποκαλύπτουν ανάρμοστη συμπεριφορά.

3. Πώς τιμωρούνται οι παράνομες πράξεις; Πρόστιμα που ξεκινούν από 10 εκατομμύρια δολάρια μπορεί να οδηγήσουν σε κλείσιμο ή διαγραφή του μοντέλου

Εάν οι προγραμματιστές μοντέλων και οι χειριστές συμπλεγμάτων υπολογιστών δεν συμμορφωθούν με τους παραπάνω κανονισμούς και προκαλέσουν μεγάλη ζημιά, ο Γενικός Εισαγγελέας της Καλιφόρνια και η Επιτροπή Εργασίας θα έχουν την εξουσία να διώξουν τις σχετικές οντότητες. Εάν διαπιστωθεί ότι έχει συμβεί παράνομη συμπεριφορά, το δικαστήριο μπορεί να επιβάλει τις ακόλουθες κυρώσεις:

1. Για παραβάσεις το 2026 και αργότερα, οι οντότητες που παραβιάζουν τη νομοθεσία για πρώτη φορά θα επιβάλλονται πρόστιμο εντός του 10% του μέσου κόστους του μοντέλου εντός του πεδίου εφαρμογής εκπαίδευσης της αγοράς υπολογιστικού νέφους υπερβαίνει το 30% αυτού του κόστους (με βάση τον υπολογισμό του ορίου των 100 εκατομμυρίων δολαρίων που ορίζεται στον λογαριασμό για μοντέλα εντός πεδίου,Το πρόστιμο για μια πρώτη παράβαση είναι τουλάχιστον 10 εκατομμύρια δολάρια）。

2. Το δικαστήριο μπορεί επίσης να κηρύξει ασφαλιστικά μέτρα,Συμπεριλαμβανομένου, αλλά χωρίς περιορισμό, τροποποίησης, πλήρους κλεισίματος ή διαγραφής όλων των παραγώγων που ελέγχονται από το μοντέλο εντός πεδίου και τους προγραμματιστές του.

Ωστόσο, η ποινή για την τροποποίηση, το κλείσιμο και τη διαγραφή μοντέλων εντός πεδίου ισχύει μόνο εάν προκαλούνΘάνατος άλλων, σοβαρός τραυματισμός, υλικές ζημιές ή σοβαρή απειλή για τη δημόσια ασφάλειαμπορεί να χρησιμοποιηθεί μόνο όταν.

4. Ποιοι αντιτίθενται στο νομοσχέδιο; Η a16z και η YC πρωτοστάτησαν στην έναρξη μιας επίθεσης δημοσιότητας, ο Li Feifei και ο Yang Likun έστειλαν ερωτήσεις στο Twitter

Οι τεχνολογικοί γίγαντες της Silicon Valley, ένας μεγάλος αριθμός startups και επενδυτικών ιδρυμάτων έχουν εκφράσει έντονες αμφιβολίες και δυσαρέσκεια με το νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια.Μία από τις πιο δυνατές φωνές είναι η a16z, μια γνωστή εταιρεία επιχειρηματικών κεφαλαίων στη Silicon Valley.Η a16z διαθέτει πλούσιο επενδυτικό χαρτοφυλάκιο στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων ώριμων κορυφαίων εταιρειών τεχνητής νοημοσύνης, όπως η OpenAI και η Mistral AI, καθώς και ανερχόμενα αστέρια όπως η World Labs που ιδρύθηκε πρόσφατα από τον καθηγητή του Πανεπιστημίου Στάνφορντ, Li Feifei. Αυτές οι εταιρείες έχουν μεγαλύτερες κλίμακες και ποσά χρηματοδότησης,Τα μοντέλα που αναπτύσσουν και τελειοποιούν ενδέχεται να υπάγονται στο ρυθμιστικό πεδίο.

▲Μερικές από τις αντιρρήσεις του a16z (Πηγή: stopsb1047.com)

Η a16z ανέλαβε την πρωτοβουλία να πληρώσει για την κατασκευή ενός ιστότοπου και να παρέχει στους επισκέπτες ένα πρότυπο για επιστολές ένστασης, το οποίο μπορεί να σταλεί απευθείας με απλή επεξεργασία στον ιστότοπο. Ο a16z απαριθμεί επίσης σε αυτόν τον ιστότοπο τις «6 αμαρτίες» σύμφωνα με την άποψή του για τον νόμο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια:

1. Αυτό το νομοσχέδιο θα έχει ανατριχιαστικό αποτέλεσμα στις επενδύσεις και την ανάπτυξη της τεχνητής νοημοσύνης στην Καλιφόρνια.

2. Το νομοσχέδιο τιμωρεί τους προγραμματιστές/προγραμματιστές με βάση ασαφή αποτελέσματα. Δεν υπάρχουν ακόμη σχετικά τεστ.

3. Οι ασαφείς ορισμοί του νομοσχεδίου και οι αυστηρές νομικές ευθύνες έχουν επιφέρει τεράστια αβεβαιότητα και οικονομικούς κινδύνους στους προγραμματιστές τεχνητής νοημοσύνης και στους ιδιοκτήτες επιχειρήσεων.

4. Αυτό το νομοσχέδιο μπορεί να αναγκάσει την έρευνα τεχνητής νοημοσύνης υπόγεια και να μειώσει ακούσια την ασφάλεια των συστημάτων τεχνητής νοημοσύνης.

5. Αυτό το νομοσχέδιο δημιουργεί ένα συστημικό μειονέκτημα για προγραμματιστές ανοιχτού κώδικα και startup, που βρίσκονται στο επίκεντρο της καινοτομίας και των μικρών επιχειρήσεων στην Καλιφόρνια.

6. Αυτό το νομοσχέδιο αναστέλλει την έρευνα και την καινοτομία τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες και παρέχει ευκαιρίες σε χώρες όπως η Κίνα να ξεπεράσουν τις Ηνωμένες Πολιτείες στην τεχνητή νοημοσύνη.

Οι ιδρυτές πολλών εταιρειών που επενδύουν στο a16z εξέφρασαν επίσης την αντίθεσή τους στον νόμο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια. Η Λι Φεϊφέι δημοσίευσε ένα άρθρο στην ιστοσελίδα του περιοδικού Fortune εξηγώντας λεπτομερώς τους λόγους της αντίθεσής της, πιστεύοντας ότι υπάρχουν τέσσερα κύρια προβλήματα με αυτό το νομοσχέδιο:

1. Η υπερβολική τιμωρία των προγραμματιστών μπορεί να καταπνίξει την καινοτομία.

2. Το "kill switch" θα περιορίσει τις εργασίες ανάπτυξης ανοιχτού κώδικα και θα καταστρέψει την κοινότητα ανοιχτού κώδικα.

3. Αποδυνάμωση της έρευνας για την τεχνητή νοημοσύνη στον ακαδημαϊκό και τον δημόσιο τομέα και μπορεί επίσης να εμποδίσει τους ακαδημαϊκούς να λαμβάνουν περισσότερη χρηματοδότηση.

4. Δεν αντιμετωπίζει την πιθανή ζημιά που προκαλείται από την πρόοδο της τεχνητής νοημοσύνης, όπως μεροληψία ή ψεύτικα.

▲ Ο Λι Φεϊφέι αντιτίθεται στο νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια (Πηγή: X Platform)

Ωστόσο, πολλοί χρήστες του Διαδικτύου στην περιοχή σχολίων δεν αγόρασαν αυτή τη δήλωση. Κάλεσαν τον Li Feifei να αποκαλύψει τη σχέση ενδιαφέροντός του με το a16z.

▲ Μερικοί χρήστες του Διαδικτύου αμφισβήτησαν την ουδετερότητα του Li Feifei (Πηγή: X Platform)

Ως το πιο γνωστό και με επιρροή θερμοκοιτίδα στις Ηνωμένες Πολιτείες, το YC είναι το λίκνο πολλών startups AI.Η τρέχουσα κύρια τοποθεσία λειτουργίας τους είναι στην Καλιφόρνια.Από τις 260 νεοφυείς επιχειρήσεις στη χειμερινή παρτίδα του YC 2024, περισσότερες από τις μισές σχετίζονται με την τεχνητή νοημοσύνη. Η YC πιστεύει επίσης ότι αυτό το νομοσχέδιο μπορεί να έχει αρνητικό αντίκτυπο στη βιομηχανία και στο οικοσύστημα των προγραμματιστών:

1、Το νομοσχέδιο θα πρέπει να τιμωρεί τους καταχραστές εργαλείων, όχι τους προγραμματιστές.Συχνά είναι δύσκολο για τους προγραμματιστές να προβλέψουν τις πιθανές εφαρμογές των μοντέλων και οι προγραμματιστές μπορεί να πάνε στη φυλακή για ψευδορκία.

2. Τα ρυθμιστικά κατώτατα όρια δεν μπορούν να αποτυπώσουν πλήρως τη δυναμική της τεχνολογικής ανάπτυξης. Οι εταιρείες που δεν ανήκουν στην Καλιφόρνια θα μπορούν να αναπτύσσουν πιο ελεύθερα τεχνολογία AI, κάτι που μπορεί να επηρεάσει την καινοτομία στην Καλιφόρνια.

3. Το "Kill Switch (αναφέρεται στην ικανότητα των προγραμματιστών να απενεργοποιούν μοντέλα)" μπορεί να απαγορεύσει την ανάπτυξη AI ανοιχτού κώδικα και να εμποδίσει τη συνεργασία και τη διαφάνεια ανοιχτού κώδικα.

4. Η έκφραση του νομοσχεδίου είναι σχετικά ασαφής.Είναι πιθανό να ερμηνευτεί κατά βούληση από τον δικαστή.。

Η δήλωση της YC έλαβε κοινή υποστήριξη από εκατοντάδες startups. Η YC πραγματοποίησε επίσης μια σειρά από συνέδρια σχετικά με τη ρύθμιση της τεχνητής νοημοσύνης στην Καλιφόρνια, επιτρέποντας στις δύο πλευρές να επικοινωνήσουν.

Ο Yann LeCun, επικεφαλής επιστήμονας του Meta και νικητής του βραβείου Turing 2018, αντιτάχθηκε επίσης σε αυτό το νομοσχέδιοΡήτρες από κοινού και πολλαπλών ευθυνών.Ανησυχεί ότι οι πλατφόρμες ανοιχτού κώδικα θα μπορούσαν να θεωρηθούν υπεύθυνες εάν αποτύχουν να αξιολογήσουν με ακρίβεια τους κινδύνους των μοντέλων στο πεδίο εφαρμογής.

Ως ο πιο σημαντικός παίκτης στον τομέα των μοντέλων τεχνητής νοημοσύνης ανοιχτού κώδικα σήμερα, η Meta Corporation έγραψε σε επιστολή αντιπολίτευσης ότι αυτό το νομοσχέδιο αναγκάζει τους προγραμματιστές ανοιχτού κώδικα να φέρουν μεγάλους νομικούς κινδύνους όταν είναι ανοιχτός κώδικας, επειδή οι απαιτήσεις για τη διασφάλιση της ασφάλειας του μοντέλου δεν είναι ρεαλιστικές . Συνιστούν στους νομοθέτες της Καλιφόρνια να αναφέρονται σε σχετικούς νόμους σε άλλες χώρες και περιοχές.Όπως οι απαιτήσεις για διαφάνεια και «δοκιμές κόκκινων ομάδων» στον νόμο της ΕΕ για την τεχνητή νοημοσύνη. Η Microsoft, η Google και η OpenAI σχολίασαν επίσης αρνητικά το νομοσχέδιο.

Η Anthropic, μια startup τεχνητής νοημοσύνης με μοναδική «δομή B Corporation», είναι μια από τις πολλές φωνές που αντιτίθενται σε αυτό το νομοσχέδιο, ωστόσο, σε αντίθεση με άλλες εταιρείες, δεν προσπαθούν να αποτρέψουν την ψήφιση του νομοσχεδίου, αλλά συμμετέχουν στην τροποποίηση του νομοσχεδίου. , δίνοντας Το νομοθετικό σώμα έγραψε μια επιστολή που περιγράφει λεπτομερώς τις προτάσεις τους για βελτιώσεις. Συνολικά, η Anthropic πιστεύει ότιΤο νομοσχέδιο θα πρέπει να μετατοπιστεί από την «επιβολή πριν από βλάβη» σε «αποτροπή βάσει αποτελεσμάτων». Θέλουν επίσης οι κανονισμοί να είναι πιο αυστηροί, να επικεντρώνονται στην ασφάλεια της τεχνητής νοημοσύνης αιχμής και να αποφεύγουν την επικάλυψη των ομοσπονδιακών απαιτήσεων.

5. Ποιος υποστηρίζει το νομοσχέδιο; Ο Hinton Bengio γράφει επιστολή υποστήριξης, ο γερουσιαστής κατηγορεί τον a16z για διάδοση φημών

Αν και το νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια αντιμετώπισε διαμάχη αμέσως μόλις προτάθηκε, πολλοί μελετητές και γνώστες του κλάδου υποστηρίζουν μια τέτοια ρύθμιση. Στις 7 Αυγούστου, τη στιγμή που αυτό το νομοσχέδιο αντιμετώπισε για άλλη μια φορά ένα κύμα κριτικής, ο νικητής του βραβείου Turing και «Νονός της AI»Τζέφρι Χίντον(Geoffrey Hinton), γνωστός μελετητής AI, νικητής του βραβείου TuringΤζόσουα Μπέντζιο(Yoshua Bengio), ειδικός στον κυβερνοχώρο, καθηγητής στη Νομική Σχολή του ΧάρβαρντΛόρενς Λέσιγκ(Lawrence Lessig) και συγγραφέας του δημοφιλούς εγχειριδίου AI "Artificial Intelligence: A Modern Approach" και καθηγητής στο Πανεπιστήμιο της Καλιφόρνια στο ΜπέρκλεϋΣτιούαρτ Ράσελ(Στιούαρτ Ράσελ) έγραψε από κοινού στο Νομοθετικό Σώμα της Καλιφόρνια για να εκφράσουν την «ισχυρή υποστήριξή τους» στον νόμο περί ασφάλειας τεχνητής νοημοσύνης της Καλιφόρνια.

▲ Τέσσερις γνωστοί μελετητές έγραψαν μια επιστολή υποστηρίζοντας τον νόμο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια (Πηγή: safesecureai)

Οι τέσσερις ακαδημαϊκοί δήλωσαν ότι ανησυχούν βαθιά για τους κινδύνους της τεχνητής νοημοσύνης και ότι ο νόμος για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια είναι η ελάχιστη απαίτηση για την αποτελεσματική ρύθμιση της τεχνολογίας, έγραψαν:

Το νομοσχέδιο δεν έχει σύστημα αδειοδότησης και δεν απαιτεί από τις εταιρείες να λαμβάνουν άδεια από κυβερνητικούς φορείς πριν από την εκπαίδευση ή την ανάπτυξη μοντέλων. Βασίζεται στην αυτοαξιολόγηση κινδύνου μιας εταιρείας και δεν θεωρεί τις εταιρείες αυστηρά υπεύθυνες ακόμη και σε περίπτωση καταστροφής.

Σε σχέση με τους κινδύνους που αντιμετωπίζουμε,Πρόκειται για μια πολύ χαλαρή νομοθεσία. Οι ισχύοντες νόμοι που διέπουν την τεχνητή νοημοσύνη δεν είναι τόσο αυστηροί όσο αυτοί που ρυθμίζουν τα καταστήματα σάντουιτς και η κατάργηση αυτού του θεμελιώδους μέτρου θα ήτανιστορικό λάθος——Ένα χρόνο αργότερα, όταν κυκλοφορήσει η επόμενη γενιά πιο ισχυρών συστημάτων τεχνητής νοημοσύνης, αυτό το σφάλμα θα γίνει ακόμη πιο προφανές.

Το τόνισαν επίσηςΕίτε αυτοί οι κίνδυνοι είναι αβάσιμοι είτε πραγματικοί,, όλα τα ενδιαφερόμενα μέρη πρέπει να φέρουν την ευθύνη του μετριασμού των κινδύνων. «Ως ομάδα ειδικών που γνωρίζουν καλύτερα αυτά τα συστήματα», πιστεύουν ότι αυτοί οι κίνδυνοι είναι πιθανοί και αρκετά σημαντικοί που πρέπει να τους αντιμετωπίσουμε.Δοκιμές ασφαλείας και προφυλάξεις κοινής λογικής。

Τέσσερις ειδικοί ανέφεραν επίσης το πρόσφατο σκάνδαλο ασφάλειας της Boeing. Πιστεύουν ότι τα αεροσκάφη, τα φάρμακα και άλλες πολύπλοκες τεχνολογίες έχουν γίνει πολύ ασφαλή και αξιόπιστα, γεγονός που είναι αποτέλεσμα των κοινών προσπαθειών του κλάδου και της κυβέρνησης.Όταν οι ρυθμιστικές αρχές χαλαρώνουν τους κανόνες και επιτρέπουν την αυτορρύθμιση, προκύπτουν προβλήματα όπως η Boeing, τα οποία είναι εξαιρετικά τρομακτικά για το κοινό και τον κλάδο.

Αυτή η επιστολή υποστήριξης υποστηρίχθηκε από πολλούς χρήστες του Διαδικτύου, αλλά μερικοί άνθρωποι πίστευαν ότι ο Hinton και ο Bengio δεν συμμετέχουν πλέον σε εργασίες πρώτης γραμμής.Επομένως, δεν έχουν λόγο σε σχετικά θέματα.

Αρκετοί πρώην υπάλληλοι του OpenAI υποστήριξαν επίσης το νομοσχέδιο, συμπεριλαμβανομένου του Daniel Kokotajlo, ο οποίος εγκατέλειψε οικειοθελώς τις επιλογές του OpenAI με αντάλλαγμα το δικαίωμα να ασκεί ελεύθερα κριτική στην εταιρεία. Πιστεύει ότι οι ισχυρισμοί των επικριτών του νομοσχεδίου ότι η πρόοδος της τεχνητής νοημοσύνης θα σταματήσει πιθανότατα δεν θα συμβούν.

▲Σχετικές παρατηρήσεις του Kokotayolo (Πηγή: X Platform)

Ο Simon Last, ιδρυτής του Notion, ενός εργαλείου παραγωγικότητας τεχνητής νοημοσύνης μονόκερος αξίας δεκάδων δισεκατομμυρίων δολαρίων, είναιΒιομηχανίαΜερικοί υποστηρικτές του νομοσχεδίου για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια. Έγραψε ένα άρθρο στους Los Angeles Times, ένα από τα τοπικά μέσα ενημέρωσης με τη μεγαλύτερη επιρροή στην Καλιφόρνια, για να υποστηρίξει το νομοσχέδιο, λέγοντας ότι όταν οι νόμοι τεχνητής νοημοσύνης σε ομοσπονδιακό επίπεδο είναι δύσκολο να εφαρμοστούν,Ως τεχνολογικό κέντρο στις Ηνωμένες Πολιτείες και ακόμη και στον κόσμο, η Καλιφόρνια φέρει σημαντικές ευθύνες. Πιστεύει ότι η επίβλεψη των μοντέλων όχι μόνο βελτιώνει την ασφάλειά τους, αλλά διευκολύνει και τις startups με τεχνητή νοημοσύνη που κατασκευάζουν προϊόντα βασισμένα σε βασικά μοντέλα.Αυτό θα μειώσει την επιβάρυνση των μικρομεσαίων επιχειρήσεων。

Επιπλέον, πιστεύει επίσης ότι είναι λάθος να τονίζεται ότι «η ρύθμιση πρέπει να επικεντρώνεται στις επιβλαβείς χρήσεις της τεχνητής νοημοσύνης και στην ακατάλληλη συμπεριφορά των χρηστών, παρά στην υποκείμενη τεχνολογία». Επειδή το πρώτο έχει χαρακτηριστεί ως παράνομο σε νόμους σε όλα τα επίπεδα, το νέο νομοσχέδιο της Καλιφόρνια παρέχει τον σκοπόΛείπουν πτυχές του προηγούμενου κανονισμού: Αποτρέψτε πιθανή βλάβη.

Αφού το YC και το a16z ξεκίνησαν μια εκστρατεία δημοσιότητας, ο γερουσιαστής της πολιτείας της Καλιφόρνια Wei Shangao, ο κύριος συγγραφέας του νόμου για την ασφάλεια τεχνητής νοημοσύνης της Καλιφόρνια, εξέδωσε μια μακρά επιστολή ως απάντηση στις σχετικές καταγγελίες, λέγοντας ότι πολλές από τις δηλώσεις αυτών των δύο οργανισμών για την Καλιφόρνια Ο νόμος AI Safety Act ήταν ανακριβής, και ορισμένοι ισχυρισμοί είναι "προκλητικές παραμορφώσεις των γεγονότων", όπως το νομοσχέδιο θα έστελνε προγραμματιστές που αποτυγχάνουν να εκτιμήσουν με ακρίβεια τους κινδύνους του μοντέλου στη φυλακή ή να απαγορεύσουν τις εκδόσεις ανοιχτού κώδικα.

▲ Η απάντηση του Wei Shangao στο YC και το a16z (Πηγή: safesecureai)

Στις αρχές του 2023, ο Wei Shangao άρχισε να επικοινωνεί με την YC, αλλά είπε ότι ακόμα δεν έχει λάβει λεπτομερή σχόλια από την YC σχετικά με τον τρόπο βελτίωσης του λογαριασμού. Η a16z συμμετείχε καθυστερημένα στη νομοθετική διαδικασία και δεν έχει προτείνει μέχρι στιγμής ουσιαστικές τροποποιήσεις.

Σε αυτή την επιστολή, ο Wei Shangao απάντησε σε πολλές βασικές ανησυχίες των αντιπάλων του νομοσχεδίου:

1、Οι προγραμματιστές δεν θα πάνε φυλακή επειδή απέτυχαν να προβλέψουν τους κινδύνους του μοντέλου.Πρώτον, οι νεοφυείς προγραμματιστές και οι ακαδημαϊκοί δεν χρειάζεται να ανησυχούν, καθώς ο λογαριασμός δεν ισχύει για αυτούς. Δεύτερον, η ρήτρα ψευδορκίας στο νομοσχέδιο ισχύει μόνο για προγραμματιστές"επίτηδες"Εφαρμόζεται μόνο εάν γίνει μια ψευδής δήλωση και οι ακούσιες εσφαλμένες εκτιμήσεις σχετικά με τις δυνατότητες ενός μοντέλου δεν θα ενεργοποιήσουν τη ρήτρα ψευδορκίας (η οποία έχει αφαιρεθεί από τις σημερινές τροποποιήσεις).

2、Το νομοσχέδιο δεν δημιουργεί εντελώς νέες ευθύνες.Σύμφωνα με την ισχύουσα νομοθεσία, τόσο οι προγραμματιστές μοντέλων όσο και οι μεμονωμένοι προγραμματιστές ενδέχεται να μηνυθούν εάν ένα μοντέλο προκαλεί βλάβη, και ισχύει για μοντέλα όλων των ικανοτήτων και όλα τα τραυματισμένα άτομα μπορούν να μηνύσουν. Το νέο νομοσχέδιο της Καλιφόρνια όχι μόνοΠεριορίζει το εύρος της εποπτείας, και περιορίζει επίσης το δικαίωμα μήνυσης σεΓενικός Εισαγγελέας της Καλιφόρνιακαιεργατικό συμβούλιοκαι στις δύο οντότητες.

3、Το νομοσχέδιο δεν θα καταπνίξει την καινοτομία στην Καλιφόρνια.Αυτό το νομοσχέδιο ισχύει για όλες τις εταιρείες που δραστηριοποιούνται στην Καλιφόρνια Ακόμη και αν μεταφέρουν την έδρα τους εκτός Καλιφόρνια, θα πρέπει να συμμορφώνονται με τους σχετικούς κανονισμούς (Σημείωση Zhixi: Η Καλιφόρνια είναι η πέμπτη μεγαλύτερη οικονομία στον κόσμο με βάση το ΑΕΠ και διαθέτει πλήρες τεχνολογικό οικοσύστημα. εταιρείες Είναι δύσκολο να αποσυνδεθεί κανείς από την Καλιφόρνια). Όταν η Καλιφόρνια ψήφισε νόμους περί απορρήτου δεδομένων και νόμους για την προστασία του περιβάλλοντος, πολλοί άνθρωποι ισχυρίστηκαν ότι αυτό θα εμπόδιζε την καινοτομία, αλλά το γεγονός είναι ότι η Καλιφόρνια εξακολουθεί να πρωτοστατεί στην καινοτομία.

4、Οι διακόπτες Kill και οι απαιτήσεις αξιολόγησης ασφαλείας δεν θα εμποδίσουν την ανάπτυξη τεχνητής νοημοσύνης ανοιχτού κώδικα.Το νομοσχέδιο έχει πλέον αναθεωρηθεί και ενισχύει την προστασία της τεχνητής νοημοσύνης ανοιχτού κώδικα. Η απαίτηση για τερματισμό έκτακτης ανάγκης μοντέλου στο νομοσχέδιο ισχύει μόνο για μοντέλα υπό τον έλεγχο του προγραμματιστή, εξαιρουμένων των μη ελεγχόμενων μοντέλων ανοιχτού κώδικα. Το νομοσχέδιο δημιουργεί επίσης μια νέα συμβουλευτική επιτροπή για να υποστηρίξει και να υποστηρίξει ασφαλείς και αξιόπιστες προσπάθειες ανάπτυξης τεχνητής νοημοσύνης ανοιχτού κώδικα.

Ο Wei Shangao παρείχε επίσης ένα «τεμπέλικο πακέτο» για τους ανθρώπους που ανησυχούν για αυτό το νομοσχέδιο, συνοψίζοντας 6 βασικά σημεία του νομοσχεδίου (δείτε την παρακάτω εικόνα).
▲Βασικά σημεία του νομοσχεδίου (Πηγή: safesecureai)

Συμπέρασμα: Η Καλιφόρνια έκανε ένα σημαντικό βήμα και το μέλλον του νομοσχεδίου είναι ασαφές

Αν και το νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης της Καλιφόρνια αντιτίθεται από μεγάλο αριθμό εμπειρογνωμόνων του κλάδου, τα αποτελέσματα από ορισμένους οργανισμούς δημοσκοπήσεων δείχνουν ότι οι κάτοικοι της Καλιφόρνια έχουν γενικά μια θετική στάση απέναντι σε αυτό το νομοσχέδιο.

Όταν επιτύχει επίσημα, μπορεί να αντιμετωπίσει προκλήσεις στο δικαστήριο από αποφασιστικούς αντιπάλους όπως το a16z. Αυτό θα έθετε το νομοσχέδιο σε αναμονή μέχρι να αποφανθεί το Ανώτατο Δικαστήριο των ΗΠΑ.

Πρόσφατα, το Ανώτατο Δικαστήριο των ΗΠΑ ανέτρεψε το «Δόγμα Chevron» που διήρκεσε σχεδόν 40 χρόνια και υποστήριξε τη φωνή των ρυθμιστικών φορέων. Αυτή η αρχή απαιτεί από τους δικαστές να αναμένουν την ερμηνεία των νομικών διατάξεων από τις κυβερνητικές ρυθμιστικές αρχές όταν οι νομικές διατάξεις είναι ασαφείς. Η κατάργηση αυτής της αρχής αντικατοπτρίζει τη συνολική συντηρητική στάση του σημερινού Ανώτατου Δικαστηρίου των ΗΠΑ έναντι της τεχνολογικής νομοθεσίας.