Η πολιτεία της Καλιφόρνιας, η βάση των αμερικανικών τεχνολογικών κολοσσών, όπως οι Google, Meta, OpenAI (ChatGPT) και Anthropic, έθεσε τη Δευτέρα, σε ισχύ σημαντικό νόμο ρύθμισης της τεχνητής νοημοσύνης (ΤΝ, αγγλικά AI), έναν χρόνο μετά την απόρριψη κειμένου που είχε κριθεί πολύ δυσμενές για την καινοτομία.
Ο Δημοκρατικός κυβερνήτης της Γκάβιν Νιούσομ ανακοίνωσε ότι επικύρωσε τον νόμο SB 53, με το επιχείρημα ότι βρήκε μια ισορροπία «που βοηθά την πολιτεία της Καλιφόρνιας να ενθαρρύνει την καινοτομία προστατεύοντας ταυτοχρόνως τη δημόσια ασφάλεια».
Ο νόμος αυτός ανακοινώνεται την ώρα που δεκάδες δισεκατομμύρια δολάρια επενδύσεων στην ΤΝ συρρέουν στην Σίλικον Βάλεϊ, όπου αυξάνονται παράλληλα οι ανησυχίες για τις πιθανές παρεκκλίσεις των πιο προηγμένων μοντέλων.
Από τον νόμο αυτόν προβλέπονται υποχρεώσεις διαφάνειας για τις επιχειρήσεις που αναπτύσσουν τα πιο περίπλοκα μοντέλα της τεχνητής νοημοσύνης. Αυτές υποχρεώνονται να δημοσιοποιούν τα πρωτόκολλά τους ασφαλείας, να αναφέρουν τα σοβαρά περιστατικά σε λιγότερο από 15 ημέρες και να προστατεύουν τους μάρτυρες δημοσίου συμφέροντος.
Ο νόμος, υποχρεώνει επίσης τις επιχειρήσεις να αναφέρουν τις επικίνδυνες παραπλανητικές συμπεριφορές της ΤΝ στη διάρκεια των δοκιμών.
Για παράδειγμα, αν ένα μοντέλο ψεύδεται όσον αφορά την επάρκεια των ελέγχων που αποσκοπούν να το εμποδίσουν να συμβάλει στην κατασκευή βιολογικών ή πυρηνικών όπλων, αυτοί που το αναπτύσσουν οφείλουν να αποκαλύψουν το περιστατικό εφόσον αυξάνει σημαντικά τους κινδύνους πρόκλησης βλαβών.
«Οι αναφορές των ίδιων των επιχειρήσεων τεχνολογίας αιχμής της ΤΝ αποκαλύπτουν ανησυχητικές προόδους σε όλες τις κατηγορίες απειλών», υπογράμμιζε τον Ιούνιο το think tank που συνέστησε ο κυβερνήτης για τη βελτίωση του κειμένου υπό την αιγίδα γνωστών εμπειρογνωμόνων, μεταξύ των οποίων η Φέι-Φέι Λι του πανεπιστημίου Στάνφορντ, γνωστή και ως η «νονά της ΤΝ».
Ο Δημοκρατικός Γερουσιαστής της Καλιφόρνιας Σκοτ Βίνερ, που είναι αυτός που συνέταξε τον νόμο, είχε δει το προηγούμενό του σχέδιο νόμου να απορρίπτεται την τελευταία στιγμή πέρυσι με βέτο του κυβερνήτη.
Το πρώτο κείμενό του είχε διχάσει βαθιά την Σίλικον Βάλεϊ, κατηγορούμενο από ορισμένα ηγετικά στελέχη της ότι εγκυμονεί τον κίνδυνο να τραπούν σε φυγή οι καινοτόμοι ήδη από την αρχή της «επανάστασης της ΤΝ».
Σύμφωνα με τον γερουσιαστή Βίνερ, ο νόμος του έχει επίσης το πλεονέκτημα ότι τα πρωτόκολλα ασφαλείας δημοσιοποιούνται, ενώ το κείμενο αναφοράς της Ευρωπαϊκής Ένωσης, αν και είναι ασφαλώς πιο δεσμευτικό, περιορίζει τη διαβίβασή τους στις αρχές.
Πριν από την επικύρωση του κειμένου, πολλοί κολοσσοί της ΤΝ στην Καλιφόρνια, μεταξύ των οποίων οι Meta, Google, OpenAI και Anthropic (μοντέλο Claude) είχαν εκουσίως δεσμευτεί για τη διεξαγωγή δοκιμών ασφαλείας και για τη δημιουργία ισχυρών πρωτοκόλλων. Ο νέος νόμος κωδικοποιεί και επεκτείνει τις δεσμεύσεις αυτές.

(με πληροφορίες από ΑΠΕ -ΜΠΕ / photo: pixabay)