Η ανθρώπινη μνήμη ήταν πάντα εύθραυστη, ασταθής και ανοιχτή σε υποβολές, ένα φαινόμενο που έχει μελετηθεί εκτενώς σε ψυχολογικά πειράματα, ήδη από τον 19ο αιώνα. Αυτός ακριβώς ο μηχανισμός καθιστά την παραπληροφόρηση ιδιαίτερα επικίνδυνη, καθώς πληθώρα μελετών αποδεικνύει, ότι οι λανθασμένες πληροφορίες συνεχίζουν να επηρεάζουν τη λήψη αποφάσεων, μέχρι και τις πολιτικές επιλογές, ακόμα κι αφού έχουν εκδοθεί οι απαραίτητες διορθώσεις.

Η εισβολή της ΑΙ σε όλους τους τομείς του διαδικτύου κάνει αυτή τη δυναμική ακόμη πιο αβέβαιη, καθώς το ψηφιακό περιεχόμενο χαμηλής ποιότητας που παράγεται μαζικά, γίνεται όλο και πιο πειστικό και διάχυτο, ενισχύοντας και επιταχύνοντας ένα νέο κύμα απάτης και παραπληροφόρησης. Η επιστήμονας του MIT, Pattie Maes, μιλώντας για την έρευνα της ομάδας της, εξήγησε τον τρόπο με τον οποίο διεξήχθη το σχετικό πείραμα.

Οι συμμετέχοντες παρατήρησαν αρχικά μια σειρά από φωτογραφίες. Μετά από ένα διάλειμμα, σε ορισμένους από αυτούς επιδείχθηκαν οι ίδιες ακριβώς φωτογραφίες, ενώ σε άλλους προβλήθηκαν εκδοχές των εικόνων που είχαν τροποποιηθεί από ΑΙ. Στη συνέχεια, όταν υποβλήθηκαν σε τεστ μνήμης, όσοι είχαν δει τις αλλοιωμένες εικόνες δεν είχαν απλώς μεγαλύτερη πιθανότητα να θυμηθούν λανθασμένα την αρχική φωτογραφία, αλλά δήλωναν παράλληλα υπερβολική σιγουριά για τις ψευδείς τους αναμνήσεις.
Πλήθος άλλων μελετών επιβεβαιώνουν ότι αυτά τα παραποιημένα στοιχεία πετυχαίνουν να «φυτεύουν» ψευδείς αναμνήσεις στον ανθρώπινο εγκέφαλο, αλλάζοντας όσα το άτομο θεωρεί ως δεδομένη αλήθεια.

Χαρακτηριστική είναι μελέτη που έδειξε πως τόσο τα deepfakes, όσο και τα κείμενα που παρήγαγε η AI φύτεψαν αποτελεσματικά ψευδείς αναμνήσεις για πλήρως κατασκευασμένα πολιτικά σκάνδαλα, φτάνοντας στο σημείο να μειώσουν ακόμη και την πρόθεση ψήφου των πολιτών.

Ακόμη όμως κι όταν η λεγόμενη τεχνητή νοημοσύνη δεν χρησιμοποιείται με δόλο, μπορεί να έχει καταστροφική επίδραση στην έννοια της αλήθειας, εξαιτίας της τάσης των παραγωγικών μοντέλων να διαπράττουν σφάλματα, γνωστά ως «ψευδαισθήσεις» (hallucinations). Καθώς κυβερνητικοί οργανισμοί, τράπεζες, στρατιωτικές δυνάμεις, νοσοκομεία και ένας διαρκώς αυξανόμενος κατάλογος φορέων, σπεύδουν να ενσωματώσουν την τεχνολογία ΑΙ, προβάλλεται συχνά η σημασία της παρουσίας του ανθρώπινου παράγοντα ως ελεγκτή της εξόδου των συστημάτων. Η λογική πίσω από αυτή την προσέγγιση είναι ότι η ευρεία χρήση της ΑΙ υπό ανθρώπινη επίβλεψη, μπορεί να επιταχύνει κάθε διαδικασία, από τις στρατιωτικές επιχειρήσεις έως τη διατήρηση αρχείων, διασφαλίζοντας παράλληλα ότι τα όποια σφάλματα θα εντοπίζονται πριν μετατραπούν σε πράξεις που προκαλούν πραγματική ζημιά.

Ωστόσο, οι έρευνες αποδεικνύουν ότι οι χρήστες δεν είναι ιδιαίτερα ικανοί στο να εντοπίζουν αυτά τα σφάλματα. Εξαιτίας της αποσπασματικής μας μνήμης και της τάσης μας να πιστεύουμε τα συστήματα ΑΙ, ακόμη κι όταν μια έξοδος του συστήματος έρχεται σε αντίθεση με κάτι που ο ανθρώπινος εμπειρογνώμονας γνωρίζει ως αληθές, ο ίδιος ο ειδικός παραμένει ευάλωτος στην αλλοίωση της κρίσης του. Σήμερα, η ικανότητα του μέσου ανθρώπου να αναγνωρίσει σωστά περιεχόμενο παραγόμενο από AI παρομοιάζεται με το στρίψιμο ενός νομίσματος. Παρότι πολλοί ερευνητές εργάζονται για την ανάπτυξη μεθόδων εκπαίδευσης που θα βοηθήσουν στην καλύτερη αναγνώριση των deepfakes, δεν υπάρχει ακόμη καμία αλάνθαστη μέθοδος για τη διόρθωση αυτής της ανθρώπινης τάσης.

Καθώς οι ερευνητές προσπαθούν να αντιμετωπίσουν το πρόβλημα, η βιομηχανία της λεγόμενης τεχνητής νοημοσύνης κινείται στην αντίθετη κατεύθυνση, αναπτύσσει αυτόνομα συστήματα (agentic AI) με στόχο την πλήρη κατάργηση του ανθρώπινου ελέγχου στη λήψη αποφάσεων. Αυτή η αναντιστοιχία έχει ήδη οδηγήσει σε τραγικές συνέπειες. Ένα αμερικανικό στρατιωτικό πλήγμα σε δημοτικό σχολείο στο Ιράν στοίχισε τη ζωή σε περισσότερους από 150 ανθρώπους. Η εσωτερική έρευνα του Υπουργείου Άμυνας των ΗΠΑ κατέληξε στο συμπέρασμα ότι το πλήγμα οφειλόταν εν μέρει στην υπερβολική εξάρτηση από ένα σύστημα AI της Palantir, το οποίο υπέδειξε ένα σχολείο ως στόχο πρώτης ημέρας βασιζόμενο σε ξεπερασμένα δεδομένα.

Το τραγικό αυτό περιστατικό σημειώθηκε όταν αμερικανικοί πύραυλοι Tomahawk έπληξαν το δημοτικό σχολείο θηλέων «Shajarah Tayyebeh» στη νότια πόλη Μινάμπ του Ιράν, αφήνοντας πίσω πάνω από 150 νεκρούς, ανάμεσα στους οποίους τουλάχιστον 123 παιδιά. Η εσωτερική έρευνα του Υπουργείου Άμυνας των ΗΠΑ έδειξε ότι η τραγωδία προκλήθηκε από το σύστημα Maven Smart System της εταιρείας Palantir, το οποίο υπέδειξε το κτίριο ως στρατιωτικό στόχο «πρώτης ημέρας» βασιζόμενο σε παρωχημένες δορυφορικές εικόνες και ξεπερασμένα δεδομένα, χωρίς να αναγνωρίσει ότι λειτουργούσε ως ενεργό σχολείο.

Το πρόβλημα επιδεινώθηκε δραματικά από το γεγονός ότι οι αρμόδιες ομάδες ανθρώπινου ελέγχου της αρμόδιας εταιρίας είχαν υποστεί περικοπές προσωπικού έως και 90%, με αποτέλεσμα οι αναλυτές, επηρεασμένοι από μια τυφλή εμπιστοσύνη στην αλγοριθμική κρίση, να εγκρίνουν τη φονική επίθεση υποθέτοντας λανθασμένα ότι το λογισμικό θα είχε εντοπίσει οποιοδήποτε σφάλμα.

Ο συνδετικός κρίκος ανάμεσα στις ψευδείς αναμνήσεις και τις καταστροφικές αποφάσεις στον πραγματικό κόσμο εντοπίζεται στην ίδια την ψυχολογική μας ευάλωτητα, καθώς ο μηχανισμός που κάνει έναν απλό πολίτη να πιστέψει μια παραποιημένη φωτογραφία, είναι ο ίδιος που ωθεί έναν εκπαιδευμένο αναλυτή να αποδεχθεί ως αληθινό, ένα τραγικό σφάλμα της ΑΙ.

Όταν ένα σύστημα AI παρουσιάζει λανθασμένα ή παρωχημένα δεδομένα με τρόπο πειστικό, αλλοιώνει την κρίση του ανθρώπινου ελεγκτή, παραμερίζοντας τις γνώσεις του και καλλιεργώντας μια επικίνδυνη ψευδαίσθηση σιγουριάς, παρόμοια με την ακλόνητη βεβαιότητα που δήλωναν οι συμμετέχοντες στα πειράματα για τις τεχνητά εμφυτευμένες αναμνήσεις τους. Έτσι, το φαινόμενο της αλλοίωσης της μνήμης παύει να αποτελεί ένα απλό εργαστηριακό εύρημα της ψυχολογίας και μετατρέπεται στον κεντρικό μηχανισμό με τον οποίο τα σφάλματα και οι «ψευδαισθήσεις» της λεγόμενης τεχνητής νοημοσύνης εξουδετερώνουν την ανθρώπινη λογική, οδηγώντας σε αποφάσεις με ολέθριες συνέπειες.

^{photo AI: pixabay}