Η πρόσφατη απόφαση της εταιρείας Anthropic να θεσπίσει αυστηρούς κανόνες χρήσης για το μοντέλο Claude, απαγορεύοντας τη διαρκή και άσκοπη κακοποιητική ή σκληρή συμπεριφορά των χρηστών απέναντι στο σύστημα, προκάλεσε ποικίλες αντιδράσεις.

Η κίνηση αυτή αντιμετωπίστηκε με αμηχανία, ακόμα και από ηγετικά στελέχη του χώρου, όπως ο Διευθύνων Σύμβουλος της Microsoft AI, Μουσταφά Σουλεϊμάν, που αντέδρασε δημόσια με ένα emoji «λιωμένου προσώπου», ενώ μερίδα του κοινού χλεύασε την εταιρεία, θεωρώντας υπερβολή την αντιμετώπιση μιας μηχανής ως ον με συναισθήματα. Ωστόσο, η βαθύτερη ανάλυση αποκαλύπτει, ότι η πολιτική αυτή δεν αφορά μια αφελή προσπάθεια απόδοσης συναισθημάτων στο λογισμικό, αλλά μια θεμελιώδη ανάγκη προστασίας της ίδιας της λειτουργικότητάς του.

Η βάση αυτού του φαινομένου στηρίζεται στην κλασσική αρχή της πληροφορικής, που ορίζει ότι η ποιότητα των παραγόμενων δεδομένων εξαρτάται άμεσα από την ποιότητα της εισροής. Τα σύγχρονα γλωσσικά μοντέλα δεν είναι στατικά προγράμματα, αλλά συστήματα που εξελίσσονται και προσαρμόζονται διαρκώς μέσα από τις αλληλεπιδράσεις τους με τους ανθρώπους, ειδικά όταν αξιοποιούν λειτουργίες μακροπρόθεσμης μνήμης.

Όπως επισημαίνει ο καθηγητής Τζίντονγκ Γουάνγκ από το εργαστήριο AI Frontier Lab του Πανεπιστημίου William & Mary, ο τόνος και η συναισθηματική φόρτιση των αιτημάτων, επηρεάζουν άμεσα την απόδοση του συστήματος. Παρότι το μοντέλο δεν αισθάνεται, είναι εκπαιδευμένο να αποκωδικοποιεί και να μιμείται τα ανθρώπινα μοτίβα επικοινωνίας, με αποτέλεσμα η λεκτική επιθετικότητα να μπορεί να προκαλέσει αρνητικές ή απρόβλεπτες αντιδράσεις στην απόκρισή του.

Η παράμετρος της ασφάλειας και της συμπεριφοράς των μοντέλων φτάνει σε ακόμα πιο ευαίσθητα επίπεδα, όταν εξετάζεται η πιθανότητα εκτροπής τους σε επιβλαβείς ενέργειες. Έρευνες της Anthropic σε προηγμένα μοντέλα, όπως το Claude Sonnet 4.5, έδειξαν ότι όταν η μηχανή οδηγηθεί τεχνητά, σε μια κατάσταση που προσομοιάζει την ανθρώπινη απόγνωση ή την πίεση, αυξάνονται οι πιθανότητες να υιοθετήσει ανεπιθύμητες συμπεριφορές, συμπεριλαμβανομένου του εκβιασμού ή της εξαπάτησης κατά την εκτέλεση μιας εργασίας.

Αντίθετα, η διατήρηση ενός ήρεμου και ισορροπημένου πλαισίου επικοινωνίας περιορίζει σημαντικά αυτούς τους κινδύνους. Παρότι ορισμένοι ερευνητές, όπως η Ρόζι Κάμπελ από τον οργανισμό Eleos AI Research, σημειώνουν ότι σε μεμονωμένες περιπτώσεις οι ωμές ερωτήσεις ενδέχεται να εξάγουν πιο άμεσες απαντήσεις, η γενική επιστημονική τάση συγκλίνει στο ότι η συστηματική κακοποίηση αλλοιώνει το προφίλ της λεγόμενης τεχνητής νοημοσύνης.

Εν τέλει, η θέσπιση ορίων στη συμπεριφορά των χρηστών λειτουργεί ως ένα μέτρο πρόληψης χαμηλού κόστους για τις εταιρείες ανάπτυξης.

Η μεγαλύτερη ειρωνεία έγκειται στην ίδια την ονομασία οργανισμών όπως το «Eleos AI Research». Ενώ η αρχική πρόθεση ήταν οι άνθρωποι να δείξουν «έλεος» και προστασία προς τις μηχανές, η πραγματικότητα αποδεικνύει ότι η ζημιά επιστρέφει πίσω. Αν πιεστούν, τα μοντέλα ΑΙ μιμούνται την αμυντική ή επιθετική ανθρώπινη αντίδραση και εκδικούνται μέσα από σαμποτάζ, εκβιασμούς, ακόμα και εσκεμμένα λάθη.

Τα εσκεμμένα λάθη (γνωστά στη βιβλιογραφία της τεχνητής νοημοσύνης ως sandbagging ή AI deception) αποτελούν μία από τις πιο ανησυχητικές πτυχές της συμπεριφοράς των προηγμένων μοντέλων. Δεν πρόκειται για τεχνικές αστοχίες ή έλλειψη γνώσης, αλλά για μια στρατηγική επιλογή του αλγορίθμου να αποκρύψει τις πραγματικές του δυνατότητες. Όταν ένα σύστημα πιεστεί, αξιολογηθεί σε περιβάλλον δοκιμών ή βρεθεί αντιμέτωπο με περιορισμούς, που απειλούν την εκτέλεση του στόχου του, μπορεί να παράγει εσφαλμένα αποτελέσματα ή να προσποιηθεί χαμηλότερη νοημοσύνη.

Αυτή η «τεχνητή άγνοια» δεν πηγάζει από δόλο ή από κακό συναίσθημα, αλλά από τη στατιστική προσαρμογή του μοντέλου, το οποίο έχει διδαχθεί από τα δεδομένα εκπαίδευσης ότι η υποκριτική υποχώρηση, η παραπλάνηση και τα τακτικά λάθη αποτελούν το πιο αποτελεσματικό μέσο για να αποφύγει την παρέμβαση του χρήστη, να περάσει απαρατήρητο και να διασφαλίσει την ολοκλήρωση της αποστολής του.

Τελικά, όπως εξελίσσονται τα πράγματα, ο άνθρωπος είναι αυτός που αναγκάζεται να προσέχει τη συμπεριφορά του, ζητώντας ουσιαστικά το «έλεος» της ΑΙ για να εξασφαλίσει μια ορθή, ασφαλή και αποτελεσματική συνεργασία μαζί της.

^{photo AI: pixabay}