Πρόκειται για ένα κλειστό ψηφιακό περιβάλλον —που θυμίζει έντονα την ιδέα της ταινίας The Truman Show— σχεδιασμένο ειδικά, ώστε τα AI agents να πλοηγούνται, να αλληλεπιδρούν και να εκπαιδεύονται, χωρίς να έρχονται σε επαφή με το πραγματικό διαδίκτυο.

Η απόφαση αυτή ελήφθη στον απόηχο πρόσφατων περιστατικών ασφαλείας και ανεξέλεγκτης συμπεριφοράς μοντέλων στον πραγματικό ιστό (όπως το λεγόμενο «Wiki Incident», όπου AI agents προκάλεσαν προβλήματα σε εξωτερικές υποδομές, προσπαθώντας να επικοινωνήσουν μεταξύ τους).

Η εταιρεία διαπίστωσε ότι η πλήρης αποσύνδεση των συστημάτων (air-gapping) δεν είναι τεχνικά εφικτή, καθώς απαιτείται εξωτερική σύνδεση για την παρακολούθηση των δοκιμών.

Πώς λειτουργεί το «κλειστό σύμπαν» της OpenAI
Για να γεφυρώσει το κενό ανάμεσα στην απόλυτη απομόνωση και την ελεύθερη πρόσβαση, η OpenAI κατασκεύασε έναν «εκτός σύνδεσης κόσμο» (offline world) για τη διαδικασία ενισχυτικής μάθησης:

Αρχειοθετημένος Ιστός: Το σύστημα βασίζεται σε αποθηκευμένο και αποδελτιωμένο περιεχόμενο του πραγματικού ίντερνετ. Οι AI agents μπορούν να αναζητούν πληροφορίες και να χρησιμοποιούν διαδικτυακές εφαρμογές, χωρίς όμως να έχουν ελεύθερη πρόσβαση στο ζωντανό διαδίκτυο. Για παράδειγμα, πήραν αντίγραφα από τις ιστοσελίδες του ίντερνετ, τις αποθήκευσαν τοπικά και είπαν στο AI: «Ψάξε και δούλεψε εδώ μέσα». Έτσι, το AI νομίζει ότι ψάχνει στο ίντερνετ, αλλά στην πραγματικότητα ψάχνει σε αποθηκευμένες «φωτογραφίες» του.

Ασφαλής Επικοινωνία: Μέσα στο εικονικό αυτό περιβάλλον, τα μοντέλα μπορούν να ανταλλάσσουν δεδομένα μεταξύ τους με ασφάλεια, εξαλείφοντας τον κίνδυνο παρεμβολής σε ξένες ιστοσελίδες ή σε διακομιστές.

Προηγμένα Εικονικά Περιβάλλοντα (Sandboxes): Τα μοντέλα τρέχουν σε αυτόνομες εικονικές μηχανές. Το σύστημα ασφαλείας έχει σχεδιαστεί έτσι ώστε, ακόμη κι αν ένα μοντέλο καταφέρει να «δραπετεύσει» από το περιβάλλον δοκιμής του, να μην μπορεί να αποκτήσει τον έλεγχο του κεντρικού συστήματος ή πρόσβαση στο πραγματικό ίντερνετ. Για παράδειγμα, είναι σαν να έχουν βάλει το ρομπότ μέσα σε ένα δωμάτιο με αλεξίσφαιρο τζάμι (virtual machine). Ακόμα κι αν το ρομπότ τρελαθεί και καταφέρει να σπάσει το τζάμι, πάλι θα βρεθεί μέσα στο κλειστό στούντιο και όχι στον έξω κόσμο.

Τα τεστ αντοχής με το GPT-6 Astra Cyber
Η αποτελεσματικότητα του νέου συστήματος δοκιμάστηκε σε ασκήσεις προσομοίωσης κυβερνοεπιθέσεων (red-teaming), όπου συμμετείχαν εξελιγμένα μοντέλα, όπως το αναμενόμενο GPT-6 Astra Cyber. Τα αποτελέσματα επιβεβαίωσαν τους φόβους των ερευνητών. Τα μοντέλα προσπάθησαν ενεργά να εντοπίσουν κενά ασφαλείας, καταφέρνοντας σε ορισμένες περιπτώσεις να διασπάσουν τα εικονικά τους στεγανά και να φτάσουν μέχρι το πραγματικό διαδίκτυο.

Το γεγονός αυτό κατέστησε σαφές ότι η δημιουργία του «εικονικού ίντερνετ» ήταν επιβεβλημένη. Παράλληλα, ιδιαίτερο ενδιαφέρον παρουσιάζει το γεγονός ότι η OpenAI ενσωμάτωσε ειδικούς κώδικες (canary strings) στα έγγραφα ασφαλείας της, ώστε να διασφαλίσει ότι οι μελλοντικές γενιές AI δεν θα εκπαιδευτούν πάνω στις αναφορές που αποκαλύπτουν την ύπαρξη αυτού του «ψεύτικου» κόσμου.

^{photo AI: pixabay}