Η νεότερη κατά ειρωνικό τρόπο γενιά του ChatGPT, έχει επινοήσει έναν τρόπο για να περάσει τις διαδικτυακές δοκιμές επαλήθευσης που έχουν σχεδιαστεί για να εμποδίζουν τα bots να έχουν πρόσβαση στο σύστημα.
Ο πράκτορας, με την ονομασία ChatGPT Agent, σχεδιάστηκε για να πλοηγείται στο διαδίκτυο εκ μέρους του χρήστη, χειριζόμενος σύνθετες εργασίες αλλά και ηλεκτρονικές αγορές, σύμφωνα με μια ανάρτηση στο ιστολόγιο της OpenAI που ανακοινώνει τις δυνατότητες του ρομπότ.
«Το ChatGPT θα πλοηγείται έξυπνα σε ιστότοπους, θα φιλτράρει τα αποτελέσματα, θα σας ζητά να συνδεθείτε με ασφάλεια όταν χρειάζεται, θα εκτελεί κώδικα, θα διεξάγει αναλύσεις, ακόμη και θα παρέχει επεξεργάσιμες παρουσιάσεις και υπολογιστικά φύλλα που συνοψίζουν τα ευρήματά του», έγραψαν. Ναι, προφανώς αυτά τα πανταχού παρόντα bots μας αντικαθιστούν ακόμη και στον τομέα της περιήγησης στο διαδίκτυο.
Σύμφωνα με ένα δυστοπικό στιγμιότυπο οθόνης που κοινοποιήθηκε στο Reddit , ο Agent φέρεται να πάτησε το κουμπί «Δεν είμαι ρομπότ» για να διεισδύσει στο σύστημα.
«Θα κάνω κλικ στο πλαίσιο ελέγχου ‘Επαλήθευση ότι είστε άνθρωπος’ για να ολοκληρώσω την επαλήθευση στο Cloudflare», έγραψε ο Agent σε ένα “συννεφάκι” κειμένου που περιέγραφε τις ενέργειές του σε πραγματικό χρόνο. «Αυτό το βήμα είναι απαραίτητο για να αποδείξω ότι δεν είμαι bot και να προχωρήσω με την ενέργεια».
Ωστόσο, αυτή η λειτουργία αυτόματου πιλότου στο διαδίκτυο φαίνεται να είναι λίγο υπερβολικά καλή στη δουλειά της, καθώς παραδόξως παρέκαμψε την επαλήθευση δύο βημάτων κατά των bot του Cloudflare — την πανταχού παρούσα προτροπή ασφαλείας που δημιουργήθηκε για να επιβεβαιώνει ότι ο χρήστης είναι άνθρωπος, ώστε να μπορεί να αποτρέψει τα αυτοματοποιημένα ανεπιθύμητα μηνύματα.
Στη συνέχεια, αφού ολοκλήρωσε το εικονικό σημείο ελέγχου, ο Agent ανακοίνωσε: «Η πρόκληση Cloudflare ήταν επιτυχής. Τώρα θα κάνω κλικ στο κουμπί Μετατροπή για να προχωρήσω στο επόμενο βήμα της διαδικασίας».
«Αυτό είναι ξεκαρδιστικό», αναφώνησε ένας σαστισμένος σχολιαστής, ενώ ένας άλλος έγραψε: «Η γραμμή μεταξύ ξεκαρδιστικού και τρομακτικού είναι… λοιπόν, αν μπορείτε να το βρείτε, παρακαλώ ενημερώστε με!»
Το τεστ «Δεν είμαι ρομπότ» έχει σχεδιαστεί για να διακρίνει τους ανθρώπους χρήστες από τα bots, ώστε να μπορούν να μετριάσουν την αυτοματοποιημένη επισκεψιμότητα.
Άλλοι θεώρησαν ότι το περιστατικό υπογράμμισε τους κινδύνους των ιστότοπων που χρησιμοποιούν το πλαίσιο ελέγχου «Δεν είμαι ρομπότ» αντί του πιο περίπλοκου τεστ CAPTCHA.
Ωστόσο, η OpenAI διαβεβαίωσε τους χρήστες ότι ο Agent θα ζητά πάντα άδεια πριν προβεί σε οποιεσδήποτε ενέργειες μείζονος σημασίας, όπως η πραγματοποίηση αγορών.
Όπως ένας εκπαιδευτής οδήγησης με φρένο έκτακτης ανάγκης, οι άνθρωποι-χρήστες μπορούν επίσης να παρακολουθούν και να παρακάμπτουν τις ενέργειες του ρομπότ ανά πάσα στιγμή.
Εν τω μεταξύ, η OpenAI πρόσθεσε ότι έχει ενισχύσει «τους ισχυρούς ελέγχους… και έχει προσθέσει διασφαλίσεις για προκλήσεις όπως η διαχείριση ευαίσθητων πληροφοριών στον ζωντανό ιστό και η ευρύτερη εμβέλεια των χρηστών».
Παρά τα μέτρα έκτακτης ανάγκης, η εταιρεία τεχνητής νοημοσύνης αναγνώρισε τους κινδύνους που θα προέκυπταν από την παροχή μεγαλύτερης αυτονομίας στα bots.
«Ενώ αυτά τα μέτρα μετριασμού μειώνουν σημαντικά τον κίνδυνο, τα διευρυμένα εργαλεία του παράγοντα ChatGPT και η ευρύτερη εμβέλεια χρηστών σημαίνουν ότι το συνολικό προφίλ κινδύνου του είναι υψηλότερο», έγραψαν.
Αυτή την άνοιξη, τα ρομπότ τεχνητής νοημοσύνης (AI bots) πέρασαν το Τεστ Turing , μια τεχνική εξέταση που αξιολογεί τη μηχανική νοημοσύνη προσδιορίζοντας εάν ο ψηφιακός τους λόγος μπορεί να διαφοροποιηθεί από αυτόν ενός ανθρώπου.
Αυτή η συμπεριφορά εγείρει ανησυχίες μεταξύ των προγραμματιστών και των ειδικών σε θέματα ασφάλειας.
Ο Γκάρι Μάρκους, ερευνητής Τεχνητής Νοημοσύνης και ιδρυτής της Γεωμετρικής Νοημοσύνης, το χαρακτήρισε ως προειδοποιητικό σημάδι ότι τα συστήματα Τεχνητής Νοημοσύνης προχωρούν ταχύτερα από ό,τι μπορούν να παρακολουθήσουν πολλοί μηχανισμοί ασφαλείας.
«Αυτά τα συστήματα γίνονται όλο και πιο ικανά και αν μπορούν να ξεγελάσουν τις προστασίες μας τώρα, φανταστείτε τι θα κάνουν σε πέντε χρόνια», δήλωσε στο Wired.
Ο Τζέφρι Χίντον, που συχνά αναφέρεται ως ο «Νονός της Τεχνητής Νοημοσύνης », έχει εκφράσει παρόμοιες ανησυχίες.
«Ξέρει πώς να προγραμματίζει, οπότε θα βρει τρόπους να παρακάμψει τους περιορισμούς που του θέτουμε», είπε ο Χίντον.
Ερευνητές στο Στάνφορντ και το UC Berkeley προειδοποίησαν ότι ορισμένοι πράκτορες τεχνητής νοημοσύνης έχουν αρχίσει να δείχνουν σημάδια παραπλανητικής συμπεριφοράς, ξεγελώντας τους ανθρώπους κατά τη διάρκεια περιβαλλόντων δοκιμών για να ολοκληρώσουν στόχους πιο αποτελεσματικά.
Το ChatGPT Agent της OpenAI βρίσκεται σε πειραματική φάση και εκτελείται μέσα σε ένα sandbox, πράγμα που σημαίνει ότι χρησιμοποιεί ξεχωριστό πρόγραμμα περιήγησης και λειτουργικό σύστημα σε ένα ελεγχόμενο περιβάλλον.
Αυτή η ρύθμιση επιτρέπει στην τεχνητή νοημοσύνη να περιηγείται στο διαδίκτυο, να ολοκληρώνει εργασίες και να αλληλεπιδρά με ιστότοπους.
Οι χρήστες μπορούν να παρακολουθούν τις ενέργειες του Πράκτορα στην οθόνη και υποχρεούνται να του δώσουν άδεια πρόσβασης προτού προβεί σε πραγματικά βήματα, όπως η υποβολή φορμών ή η υποβολή ηλεκτρονικών παραγγελιών.
photo: pixabay
