Η συζήτηση δεν αφορά πλέον μόνο τα chatbots που συντάσσουν κείμενα, δημιουργούν εικόνες ή απαντούν σε ερωτήσεις. Στο επίκεντρο βρίσκονται πλέον τα προηγμένα μοντέλα και κυρίως οι λεγόμενοι AI agents, συστήματα που μπορούν να σχεδιάζουν και να εκτελούν ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να συνεργάζονται μεταξύ τους με περιορισμένη ανθρώπινη παρέμβαση.

Μέσα σε αυτό το νέο περιβάλλον, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, ο οποίος διετέλεσε πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, μιλώντας στο ΑΠΕ-ΜΠΕ και στον δημοσιογράφο Αλέκο Λιδωρίκη, διαχωρίζει τον υποθετικό κίνδυνο πλήρους απώλειας του ελέγχου από έναν κίνδυνο που, όπως επισημαίνει, είναι ήδη πραγματικός. Tην απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων.

«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα, δηλαδή η τεχνολογία που έχει δώσει τα άλματα στην εξέλιξη της ΤΝ την τελευταία δεκαπενταετία. Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα. Ειδικά για τα συστήματα παραγωγικής ΤΝ, όπως τα μεγάλα γλωσσικά μοντέλα, δεν νομίζω ότι ποτέ θα έχουμε μεθόδους να κάνουμε πιστοποίηση της αξιοπιστίας τους. Και το ρίσκο που παρουσιάζουν έχει να κάνει με τη χρήση τους.

Αν, για παράδειγμα, συνομιλούμε με ένα μεγάλο γλωσσικό μοντέλο με σκοπό την αναζήτηση στοιχείων στη βιβλιογραφία, στη χειρότερη περίπτωση αυτό μπορεί να επινοήσει ανύπαρκτες πηγές ή να παραμορφώσει το περιεχόμενο μιας πραγματικής πηγής. Η ζημιά μιας τέτοιας κακής συμπεριφοράς είναι σχετικά μικρή και μπορεί να περιοριστεί αν ελέγχουμε τις απαντήσεις του. Αν όμως το ρωτήσουμε πώς σχεδιάζεται ένα βιολογικό όπλο, θέλουμε να υπάρχουν ασφαλιστικές δικλείδες που να αποτρέπουν το μοντέλο από το να μας απαντήσει.

Τα μεγάλα γλωσσικά μοντέλα έχουν, συνήθως, ενσωματωμένες ασφαλιστικές δικλείδες που προσπαθούν να ανιχνεύσουν αν το περιεχόμενο που τους ζητάμε είναι επικίνδυνο και σε αυτήν την περίπτωση αρνούνται να μας δώσουν την απάντηση. Ωστόσο, οι ασφαλιστικές αυτές δικλείδες δεν δίνουν πλήρη προστασία και μπορούν να παρακαμφθούν από ειδικούς, ειδικά αν το μοντέλο είναι ανοιχτό.

Επομένως τα μοντέλα αυτά είναι ήδη επικίνδυνα ακόμα και αν χρησιμοποιούνται στη μορφή τερματικού που μας δίνει απαντήσεις σε ερωτήσεις. Αν όμως είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου. Αυτό ακριβώς έδειξε και το πρόσφατο επεισόδιο επίθεσης στην Hugging Face από αυτόνομους πράκτορες ΤΝ της OpenAI.

Πρέπει να αναλογιστούμε ότι τα μοντέλα αυτά έχουν εκπαιδευτεί σε έναν τεράστιο όγκο δεδομένων που καλύπτουν επιστήμη, ιστορία, λογοτεχνία, μεγάλες βάσεις κώδικα και δεδομένα από το Διαδίκτυο. Περιλαμβάνουν, για παράδειγμα, άρθρα και εγχειρίδια Θεωρίας Παιγνίων, περιλαμβάνουν την Τέχνη του Πολέμου του Σουν Τζου, την Ιστορία του Πελοποννησιακού Πολέμου του Θουκυδίδη, τον Ηγεμόνα του Μακιαβέλι, κ.λπ. Επομένως, είναι αναμενόμενο ότι αν αφεθούν ελεύθερα είναι σε θέση να αναπτύξουν περίπλοκη στρατηγική και να συντονιστούν σε ομάδες που συνεργάζονται για να επιτύχουν τους σκοπούς τους. Ποιοι είναι αυτοί οι σκοποί; Αυτοί που τους έχει δώσει ο χρήστης τους που μπορεί να είναι κακόβουλος. Αλλά και να μην είναι κακόβουλος, τα μοντέλα μπορεί να παρερμηνεύσουν τους στόχους του. Αυτό έγινε στο επεισόδιο με την Hugging Face».

Η εβδομάδα που επανέφερε το φρένο

Οι εξελίξεις των τελευταίων ημερών έφεραν το ζήτημα της ασφάλειας ξανά στην πρώτη γραμμή. Στις 8 Σεπτεμβρίου ο 27χρονος Jacob Coxon ανακοίνωσε ότι αποχωρεί από την Anthropic και συνολικά από τον κλάδο, έπειτα από τρία χρόνια στην έρευνα προεκπαίδευσης μοντέλων, αρχικά στην OpenAI και στη συνέχεια στην Anthropic, εκφράζοντας έντονη ανησυχία για την κατεύθυνση προς ολοένα ισχυρότερα συστήματα χωρίς, κατά την άποψή του, επαρκές σχέδιο ελέγχου.

Ακολούθησε στις 12 Σεπτεμβρίου η δημόσια παρέμβαση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, ο οποίος ζήτησε να ελεγχθεί ο ρυθμός αύξησης των δυνατοτήτων των μοντέλων, χωρίς να σταματήσει η έρευνα, προτείνοντας, μεταξύ άλλων, πρόσβαση ανεξάρτητων αξιολογητών στα εργαστήρια και μεγαλύτερο συντονισμό.

Στο επίκεντρο της συζήτησης βρέθηκε και το περιστατικό OpenAI-Hugging Face του Ιουλίου, στο οποίο αναφέρεται και ο Κωνσταντίνος Δασκαλάκης. Σύμφωνα με την τεχνική αποτίμηση της OpenAI, πράκτορες AI σε εσωτερικές δοκιμές κυβερνοασφάλειας παραβίασαν περιορισμούς του δοκιμαστικού περιβάλλοντος, απέκτησαν πρόσβαση στο Διαδίκτυο, συνεργάστηκαν μέσω μη εγκεκριμένων διαύλων και εισήλθαν σε συστήματα της Hugging Face.

Στις 14 Σεπτεμβρίου ο Bilal Chughtai δημοσιοποίησε ότι είχε παραιτηθεί τον Ιούλιο από την Google DeepMind, όπου εργαζόταν στην ασφάλεια και ευθυγράμμιση της γενικής AI, υποστηρίζοντας ότι οι δυνατότητες των συστημάτων εξελίσσονται ταχύτερα από τις μεθόδους ευθυγράμμισής τους με τους ανθρώπινους στόχους.

Την ίδια ώρα, σύμφωνα με διεθνή δημοσιεύματα, OpenAI, Anthropic και Google DeepMind συζητούν κοινές πρωτοβουλίες για την ασφάλεια, ενώ η συζήτηση έχει περάσει πλέον και σε πολιτικό επίπεδο στην Ευρώπη.

Με πληροφορίες από ΑΠΕΜΠΕ – ΑΠΕΜΠΕ-EPA-EPA photo