νέα

αναφορά μηχανικής καρδιάς

επιμέλεια: zhang qian

η αρχική πρόθεση είναι καλή, αλλά η προσέγγιση παραμένει ανοιχτή σε αμφισβήτηση.

μόλις τώρα, το sb 1047, το οποίο συζητήθηκε για περισσότερο από μισό χρόνο, έφτασε επιτέλους στο τέλος του: ο κυβερνήτης της καλιφόρνια gavin newsom άσκησε βέτο στο νομοσχέδιο.

η πλήρης ονομασία του sb 1047 είναι "safe and secure innovation for frontier artificial intelligence act", ο οποίος στοχεύει στη θέσπιση σαφών προτύπων ασφαλείας για μοντέλα τεχνητής νοημοσύνης υψηλού κινδύνου ώστε να αποφευχθεί η κατάχρησή τους ή η πρόκληση καταστροφής.

συγκεκριμένα, το νομοσχέδιο επιδιώκει να ρυθμίσει την τεχνητή νοημοσύνη σε επίπεδο μοντέλου, με εφαρμογή σε μοντέλα που έχουν εκπαιδευτεί πάνω από ορισμένα υπολογιστικά όρια και όρια κόστους. ωστόσο, εάν υπολογιστούν αυστηρά σύμφωνα με τους προβλεπόμενους υπολογισμούς και όρια κόστους, όλα τα κύρια μοντέλα μεγάλης κλίμακας στην αγορά θα θεωρηθούν "δυνητικά επικίνδυνα". επιπλέον, το νομοσχέδιο απαιτεί από την εταιρεία ανάπτυξης που βρίσκεται πίσω από το μοντέλο να φέρει νομική ευθύνη για τη μεταγενέστερη χρήση ή τροποποίηση του μοντέλου της, η οποία πιστεύεται ότι έχει «ψυχρό αποτέλεσμα» στην κυκλοφορία μοντέλων ανοιχτού κώδικα.

σύνδεσμος λογαριασμού: https://leginfo.legislature.ca.gov/faces/billtextclient.xhtml?bill_id=202320240sb1047

το νομοσχέδιο τέθηκε σε ισχύ τον φεβρουάριο του τρέχοντος έτουςγερουσίαπροτάθηκε και έκτοτε είναι αμφιλεγόμενο. li feifei, yann lecun,andrew ngόλοι είναι αντίθετοι. πριν από λίγο καιρό, ο λι φεϊφέι έγραψε προσωπικά ένα άρθρο εξηγώντας τις πολλές αρνητικές επιπτώσεις που μπορεί να επιφέρει το νομοσχέδιο. δεκάδες δάσκαλοι και φοιτητές στο πανεπιστήμιο της καλιφόρνια υπέγραψαν επίσης μια κοινή επιστολή για να αντιταχθούν σε αυτό το νομοσχέδιο (βλ. "ο λι φεϊφέι έγραψε προσωπικά ένα άρθρο και δεκάδες επιστήμονες υπέγραψαν κοινή επιστολή για να αντιταχθούν στον νόμο περιορισμού της τεχνητής νοημοσύνης της καλιφόρνια"). ωστόσο, υπάρχουν επίσης πολλοί άνθρωποι που υποστηρίζουν το νομοσχέδιο, όπως ο musk, ο hinton και ο bengio. πριν κατατεθεί το νομοσχέδιο στον κυβερνήτη της καλιφόρνια, υπήρξαν πολλές έντονες συζητήσεις μεταξύ των δύο πλευρών.

τώρα, όλα έχουν τακτοποιηθεί. στη δήλωσή του για το βέτο, ο κυβερνήτης newsom ανέφερε πολλούς παράγοντες που επηρέασαν την απόφασή του, συμπεριλαμβανομένου του αντίκτυπου που θα είχε το νομοσχέδιο.όλα συμπεριλαμβάνονταιτο βάρος για τις εταιρείες, η ηγεσία της καλιφόρνια στον τομέα και η κριτική ότι το νομοσχέδιο μπορεί να είναι πολύ ευρύ.

μετά τη δημοσιοποίηση της είδησης, ο yann lecun εξέφρασε την ευγνωμοσύνη του στον κυβερνήτη της καλιφόρνια εκ μέρους της κοινότητας ανοιχτού κώδικα.

ο ng επιβεβαίωσε τις προσπάθειες του yann lecun να εξηγήσει τις αδυναμίες του νομοσχεδίου στο κοινό.

ωστόσο, μερικοί άνθρωποι είναι χαρούμενοι και άλλοι ανησυχούν - ο γερουσιαστής της καλιφόρνια scott wiener, ο χορηγός του νομοσχεδίου, δήλωσε ότι ήταν πολύ απογοητευμένος με τα αποτελέσματα. σε μια ανάρτησή του έγραψε ότι το βέτο «είναι μια οπισθοδρόμηση για όποιον πιστεύει στην επίβλεψη μεγάλων εταιρειών που λαμβάνουν κρίσιμες αποφάσεις που επηρεάζουν τη δημόσια ασφάλεια και ευημερία και το «μέλλον του πλανήτη μας».

να σημειωθεί ότι η απόρριψη του sb 1047 δεν σημαίνει ότι η καλιφόρνια κλείνει τα μάτια σε θέματα ασφάλειας ai, όπως ανέφερε στη δήλωσή του ο κυβερνήτης newsom. ταυτόχρονα, ανακοίνωσε επίσης ότι ο λι φεϊφέι και άλλοι θα βοηθήσουν την καλιφόρνια να διαμορφώσει υπεύθυνα προστατευτικά μέτρα για την ανάπτυξη της γενετικής τεχνητής νοημοσύνης.

κυβερνήτης καλιφόρνιας: το sb 1047 έχει πολλά προβλήματα

όσον αφορά το sb 1047, ο κυβερνήτης της καλιφόρνια newsom έχει τον τελευταίο λόγο. γιατί να ασκήσει βέτο στο νομοσχέδιο; μια δήλωση έδωσε την απάντηση.

σύνδεσμος δήλωσης: https://www.gov.ca.gov/wp-content/uploads/2024/09/sb-1047-veto-message.pdf

απόσπασμα της δήλωσης έχει ως εξής:

η καλιφόρνια φιλοξενεί 32 από τις 50 κορυφαίες εταιρείες al στον κόσμο, πρωτοπόρους σημαντικών τεχνολογικών προόδων στη σύγχρονη ιστορία. είμαστε πρωτοπόροι σε αυτόν τον τομέα λόγω των ερευνητικών και εκπαιδευτικών ιδρυμάτων μας, του διαφορετικού και με κίνητρο του εργατικού δυναμικού μας και της ελεύθερας καλλιέργειάς μας ελεύθερων ιδεών. ως μελλοντικός διευθυντής και καινοτόμος, αναλαμβάνω την ευθύνη μου να ρυθμίζω σοβαρά αυτόν τον κλάδο.

το sb 1047 διογκώνει τη συζήτηση για τις πιθανές απειλές από την ανάπτυξη του αλ. το κλειδί στη συζήτηση είναι εάν το όριο για τη ρύθμιση πρέπει να βασίζεται στο κόστος και τον αριθμό των υπολογισμών που απαιτούνται για την ανάπτυξη ενός μοντέλου al ή εάν ο πραγματικός κίνδυνος του συστήματος πρέπει να αξιολογηθεί χωρίς να ληφθούν υπόψη αυτοί οι παράγοντες. αυτή η παγκόσμια συζήτηση έρχεται καθώς οι δυνατότητες της al συνεχίζουν να επεκτείνονται με ανησυχητικό ρυθμό. ταυτόχρονα, οι στρατηγικές και οι λύσεις για την αντιμετώπιση του κινδύνου καταστροφικών κινδύνων εξελίσσονται με ταχείς ρυθμούς.

εστιάζοντας μόνο στα πιο ακριβά και μεγαλύτερα μοντέλα, το sb 1047 δημιουργεί ένα ρυθμιστικό πλαίσιο που θα μπορούσε να δώσει στο κοινό μια ψευδή αίσθηση ασφάλειας σχετικά με τον έλεγχο αυτής της ταχέως εξελισσόμενης τεχνολογίας. τα μικρότερα, εξειδικευμένα μοντέλα μπορεί να είναι εξίσου επικίνδυνα ή ακόμα πιο επικίνδυνα από τα μοντέλα που στοχεύει το sb 1047.

η προσαρμοστικότητα είναι ζωτικής σημασίας, καθώς αγωνιζόμαστε ενάντια στο χρόνο για να ρυθμίσουμε μια τεχνολογία που είναι ακόμα στα σπάργανα. αυτό απαιτεί μια λεπτή ισορροπία. ενώ το sb 1047 έχει καλές προθέσεις, δεν λαμβάνει υπόψη εάν τα συστήματα τεχνητής νοημοσύνης αναπτύσσονται σε περιβάλλοντα υψηλού κινδύνου, περιλαμβάνουν κρίσιμες αποφάσεις ή χρησιμοποιούν ευαίσθητα δεδομένα. αντίθετα, το νομοσχέδιο επιβάλλει αυστηρά πρότυπα ακόμη και στις πιο βασικές λειτουργίες — εφόσον αυτές αναπτύσσονται σε μεγάλα συστήματα. δεν νομίζω ότι αυτός είναι ο καλύτερος τρόπος προστασίας του κοινού από τις πραγματικές απειλές αυτής της τεχνολογίας.

συμφωνώ με τον συγγραφέα ότι δεν μπορούμε να περιμένουμε μέχρι να συμβεί μια μεγάλη καταστροφή για να αναλάβουμε δράση για την προστασία του κοινού. η καλιφόρνια δεν θα αποποιηθεί τις ευθύνες της. πρέπει να υιοθετηθούν πρωτόκολλα ασφαλείας. θα πρέπει να εφαρμοστούν προληπτικές διασφαλίσεις και πρέπει να υπάρχουν σαφείς και εφαρμόσιμες συνέπειες για τους κακούς παράγοντες. αυτό με το οποίο διαφωνώ, ωστόσο, είναι ότι για να διατηρηθεί το κοινό ασφαλές, πρέπει να αρκεστούμε σε μια λύση χωρίς εμπειρική ανάλυση τροχιάς των συστημάτων και των δυνατοτήτων της τεχνητής νοημοσύνης. τελικά, κάθε πλαίσιο που ρυθμίζει αποτελεσματικά την τεχνητή νοημοσύνη πρέπει να συμβαδίζει με την ίδια την τεχνολογία.

για όσους λένε ότι δεν λύνουμε το πρόβλημα ή ότι η καλιφόρνια δεν έχει κανένα ρόλο στη ρύθμιση του πιθανού αντίκτυπου αυτής της τεχνολογίας στην εθνική ασφάλεια, διαφωνώ. η λήψη αυτής της προσέγγισης μόνο στην καλιφόρνια μπορεί να έχει νόημα, ειδικά ελλείψει ομοσπονδιακής δράσης από το κογκρέσο, αλλά πρέπει να βασίζεται σε εμπειρικά στοιχεία και επιστήμη.

το ινστιτούτο ασφάλειας τεχνητής νοημοσύνης των ηπα, μέρος του εθνικού ινστιτούτου επιστήμης και τεχνολογίας, αναπτύσσει καθοδήγηση κινδύνου εθνικής ασφάλειας που βασίζεται σε μεθόδους που βασίζονται σε στοιχεία για την προστασία από σαφείς κινδύνους για τη δημόσια ασφάλεια.

σύμφωνα με ένα εκτελεστικό διάταγμα που εξέδωσα τον σεπτέμβριο του 2023, οι υπηρεσίες σε όλη τη διοίκησή μου διενεργούν αναλύσεις κινδύνου πιθανών απειλών και τρωτών σημείων στη χρήση της τεχνητής νοημοσύνης στην υποδομή ζωτικής σημασίας της καλιφόρνια.

αυτά είναι μερικά μόνο παραδείγματα της δουλειάς που κάνουμε, με επικεφαλής ειδικούς, για να εισαγάγουμε πρακτικές διαχείρισης κινδύνου ai στους υπεύθυνους χάραξης πολιτικής που έχουν τις ρίζες τους στην επιστήμη και τα γεγονότα.

μέσα από αυτές τις προσπάθειες, έχω υπογράψει περισσότερα από δώδεκα νομοσχέδια τις τελευταίες 30 ημέρες για τη ρύθμιση συγκεκριμένων και γνωστών κινδύνων που ενέχει η τεχνητή νοημοσύνη.

πάνω από δώδεκα νομοσχέδια υπογράφηκαν σε 30 ημέρες, η εντατική πρωτοβουλία για την ασφάλεια της τεχνητής νοημοσύνης της καλιφόρνια

στη δήλωση, ο newsom ανέφερε ότι υπέγραψε πάνω από δώδεκα λογαριασμούς σε 30 ημέρες. αυτά τα νομοσχέδια καλύπτουν ένα ευρύ φάσμα θεμάτων, συμπεριλαμβανομένης της καταστολής του ρητού περιεχομένου deepfake, της απαίτησης προσθήκης υδατογραφημάτων σε περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, της προστασίας των ψηφιακών πορτρέτων των καλλιτεχνών, των πνευματικών δικαιωμάτων των φωνών ή των ομοιωμάτων των νεκρών μορφών, του απορρήτου των καταναλωτών και της εξερεύνησης του αντίκτυπο της ενσωμάτωσης της τεχνητής νοημοσύνης στη διδασκαλία και σε πολλές άλλες πτυχές.

σύνδεσμος στη λίστα λογαριασμών: https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/

σε απάντηση στην έλλειψη επιστημονικής ανάλυσης στην αξιολόγηση των κινδύνων τεχνητής νοημοσύνης του sb 1047, ο κυβερνήτης ανακοίνωσε ότι ζήτησε από τους κορυφαίους εμπειρογνώμονες τεχνητής νοημοσύνης στον κόσμο να βοηθήσουν την καλιφόρνια να αναπτύξει εφικτά προστατευτικά κιγκλιδώματα για την ανάπτυξη γενετικής τεχνητής νοημοσύνης.

εκτός από τον li feifei, ο tino cuéllar, μέλος της επιτροπής της εθνικής ακαδημίας επιστημών για τον κοινωνικό και ηθικό αντίκτυπο της υπολογιστικής έρευνας, και η jennifer tour chayes, κοσμήτορας της σχολής πληροφορικής, επιστήμης δεδομένων και κοινωνίας στο πανεπιστήμιο της καλιφόρνια, berkeley, είναι επίσης μέλη του προγράμματος.

η εργασία τους επικεντρώνεται στην εμπειρική, βασισμένη στην επιστήμη ανάλυση τροχιάς μοντέλων αιχμής και των δυνατοτήτων και των συνακόλουθων κινδύνων τους. αυτό το έργο έχει πολύ δρόμο μπροστά του.

参考链接：https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/