Ο «Χ» είναι ένας πράκτορας Τεχνητής Νοημοσύνης (AI agent), που έχει ενεργοποιηθεί σε μια μικρή επιχείρηση. Εργάζεται ακούραστα: θα εντοπίσει αυτόνομα πιθανούς πελάτες και νέες αγορές, θα κλείσει ραντεβού με προμηθευτές, θα στείλει μηνύματα ηλεκτρονικού ταχυδρομείου «κομμένα και ραμμένα» στα μέτρα του κάθε πελάτη και θα συντάξει συμβόλαια, τα οποία οι άνθρωποι στην επιχείρηση θα μπορούν να ελέγξουν πριν τις υπογραφές. Αν ο «Χ» είχε εγκατασταθεί σε ένα σύστημα υγείας θα ήταν εξίσου αποτελεσματικός: θα μπορούσε -μεταξύ άλλων- να κλείσει ραντεβού για εξετάσεις, να ενημερώσει τον ασθενή τι πρέπει να κάνει πριν βρεθεί στο εξεταστήριο ή να εντοπίσει ανακολουθίες σε ιατρικά αρχεία.
Οι πράκτορες ΤΝ, δηλαδή συστήματα που μπορούν να αναλάβουν αυτόνομα δράση, αποτελούν έναν από τους πιο κομβικούς μετασχηματισμούς της τεχνολογίας και είναι ήδη πραγματικότητα, όπως επισήμανε σήμερα, από τη Θεσσαλονίκη, η Αλίκη Φοινικοπούλου, επικεφαλής της παγκόσμιας ομάδας Public Policy της εταιρείας Salesforce, μιας εκ των κορυφαίων εταιρειών λογισμικού παγκοσμίως, μιλώντας στο 13ο Τechnology Forum, στη συνδιοργάνωση του οποίου μετέχει το ΑΠΕ-ΜΠΕ.
«Το κρίσιμο ερώτημα δεν είναι πότε θα ξεκινήσει η επανάσταση των AI agents, αλλά αν είμαστε έτοιμοι να διαμορφώσουμε με σωστό τρόπο την εποχή της “πρακτορειακής ΤΝ” και να την αξιοποιήσουμε στο έπακρο» υπογράμμισε.
Τι (δεν) είναι ο πράκτορας ΤΝ
Σε τι διαφέρει όμως ένας AI agent από ένα Μεγάλο Γλωσσικό Μοντέλο ΤΝ (LLM), όπως τα ChatGPT, Claude και Gemini; Όπως εξήγησε η κα Φοινικοπούλου, ο πράκτορας ΤΝ δεν είναι απλώς ένα έξυπνο chatbot: «Τα LLMs ανταποκρίνονται σε δικές μας οδηγίες και στη βάση τους παραμένουν ένα στατικό εργαλείο: εμείς ρωτάμε, αυτά απαντούν, εμείς δίνουμε οδηγία, αυτά παράγουν περιεχόμενο. Ενας πράκτορας ΤΝ όμως, δεν περιμένει παθητικά να ερωτηθεί. Διαθέτει δυνατότητα “συλλογισμού”, σχεδιάζει, αναλαμβάνει δράση, αλληλεπιδρά με συστήματα, αντλεί δεδομένα από διάφορες πηγές και μπορεί όλο αυτό να το κάνει για λογαριασμό ενός ιδιώτη, μιας επιχείρησης ή ενός άλλου ΑΙ agent» εξήγησε.
Πρόσθεσε ότι περνάμε από την περίοδο που η ΤΝ είναι μια πολύ καλή μηχανή αναζήτησης, στην εποχή που γίνεται ένας πραγματικός ψηφιακός συνεργάτης, που μπορεί να εκτελέσει ολοκληρωμένες εργασίες από την αρχή μέχρι το τέλος. Μάλιστα, σε επίπεδο κυβερνητικών λειτουργιών υπάρχει σχετικά υψηλή ετοιμότητα για την ενσωμάτωση τέτοιων συστημάτων.
«Πρόσφατα το Παγκόσμιο Οικονομικό Φόρουμ αξιολόγησε 70 βασικές κυβερνητικές λειτουργίες και βρήκε ότι το 50% αυτών είναι ήδη έτοιμες για την υιοθέτηση πρακτορειακής ΤΝ, με εξαιρετικά υψηλή προοπτική για αύξηση παραγωγικότητας και ικανοποίηση του πολίτη» γνωστοποίησε, επισημαίνοντας ότι η πρακτορειακή ΤΝ θα μπορούσε να καλύψει και κενά στην αγορά εργασίας, σε μια περίοδο δημογραφικής κρίσης, με στόχο όχι να αντικαταστήσει τον άνθρωπο, αλλά να πολλαπλασιάσει την παραγωγικότητά του. Κατά την ίδια, η αύξηση παραγωγικότητας μπορεί να φτάσει στο 30% ή ακόμη υψηλότερα.
Τίποτα δεν λειτουργεί χωρίς εμπιστοσύνη
Κατά την κα Φοινικοπούλου, παρότι η τεχνολογία αυτή έχει τη δυνατότητα να αλλάξει τον τρόπο που ζούμε και εργαζόμαστε, είναι πολύ βασικό να προσδιοριστεί με ποιους όρους θα γίνει αυτό και ποιες είναι οι δικλείδες ασφαλείας, δεδομένου ότι «τίποτα δεν λειτουργεί χωρίς εμπιστοσύνη».
Στην περίπτωση των agents, εξήγησε, το θέμα της εμπιστοσύνης είναι ακόμη πιο περίπλοκο. Κι αυτό διότι ενώ στα Μεγάλα Γλωσσικά Μοντέλα ο άνθρωπος μπορεί ανά πάσα στιγμή να αξιολογήσει μια απάντηση, οι πράκτορες ΤΝ μπορούν να διεκπεραιώσουν αυτόνομα τόσο μεγάλο όγκο διαδικασιών και καθηκόντων, που είναι εξαιρετικά δύσκολο να προλάβει ο άνθρωπος να εξετάσει το αποτέλεσμα σε κάθε βήμα -δεδομένου, μεταξύ άλλων, ότι έτσι θα ακυρωνόταν το ίδιο το όφελος από τη λειτουργία των agents.
Στο σκηνικό αυτό, για να εμπεδωθεί εμπιστοσύνη χρειάζεται ανάληψη δράσης σε τρία πεδία: πρώτον, στην ευθύνη και το λογοδοσία (να είναι ξεκάθαρο ποιος έχει την ευθύνη, όταν ο agent «κάνει του κεφαλιού του» και μπορεί να προξενήσει ζημία).
Δεύτερον, στην ουσιαστική ανθρώπινη εποπτεία. Στο πεδίο αυτό υπάρχουν νομοθετικά εργαλεία, όπως ο γενικός κανονισμός της ΕΕ για την ΤΝ (AI Act), αλλά δεν είναι ρεαλιστικό να περιμένουμε ότι ένας άνθρωπος θα προλαβαίνει να εγκρίνει το κάθε βήμα ενός agent. «Θα πρέπει να επαναπροσδιορίσουμε τι σημαίνει ανθρώπινη εποπτεία, ώστε ο άνθρωπος να μην μικροδιαχειρίζεται, αλλά να είναι ο επόπτης του αποτελέσματος, όταν διακυβεύεται μια κρίσιμη απόφαση» είπε.
Και τρίτον, χρειάζεται ανάληψη δράσης ως προς τα δεδομένα και την ιδιωτικότητα. Προκειμένου να λειτουργήσουν σωστά, οι AI agents χρειάζονται πρόσβαση σε μεγάλο όγκο δεδομένων καλής ποιότητας κι αυτό θέτει τη διακυβέρνηση των data στο επίκεντρο: σε ποια δεδομένα πρέπει να έχει πρόσβαση ο agent, πόσο καιρό μπορεί να τα διατηρήσει και ποιος μπορεί να τα δει; Και σε αυτή την περίπτωση υπάρχουν εργαλεία σε επίπεδο EE (όπως ο κανονισμός GDPR), αλλά το βασικό είναι η εφαρμογή στην πράξη.
Πώς επιτυγχάνεται στην πράξη η εμπιστοσύνη
Όπως εξήγησε η κα Φοινικοπούλου, η πλατφόρμα «Agentforce» της Salesforce, διαθέτει το λεγόμενο «trust layer», ήτοι μια ενδιάμεση υποδομή που μεσολαβεί ανάμεσα στον ΑΙ Agent, τα δεδομένα της επιχείρησης και τα εξωτερικά μοντέλα ΤΝ που χρησιμοποιεί ο agent.
«Αυτό λειτουργεί σαν διαρκής ψηφιακός φρουρός, που υποχρεώνει τους πράκτορες ΤΝ να απαντούν βασισμένοι μόνο σε εγγυημένες πηγές δεδομένων, ώστε να μειώνονται οι παραισθήσεις της ΤΝ (σ.σ. η τάση της να παραθέτει αληθοφανώς εντελώς ψευδή πληροφορία), επιβάλλει μηδενική διακράτηση δεδομένων από τα LLMs και κρατάει πλήρες ιστορικό για κάθε μεμονωμένη αλληλεπίδραση του agent. Αυτό το σύστημα είναι μια απάντηση στο πώς μετατρέπουμε την εμπιστοσύνη σε κάτι μετρήσιμο» τόνισε.
Οι ευκαιρίες της ΤΝ δεν θα κατανεμηθούν ισομερώς
Κατά την κα Φοινικοπούλου, εξ ορισμού, η ευκαιρία που προσφέρει η ΤΝ δεν θα κατανεμηθεί ισομερώς. Δεν είναι όμως αναγκαστικά και οι πλουσιότερες χώρες αυτές με τη μεγαλύτερη ετοιμότητα. «Εκδώσαμε πέρυσι τον πρώτο παγκόσμιο δείκτη ετοιμότητας για την ΤΝ και είδαμε πως οι χώρες που σημειώνουν υψηλότερες επιδόσεις δεν είναι αναγκαστικά οι μεγάλες ή πλούσιες, αλλά όσες οικοδόμησαν τις κατάλληλες συνθήκες» είπε.
Για τις κατάλληλες συνθήκες, τέσσερις πυλώνες είναι κρίσιμοι: υποδομές -όπου η Ελλάδα έχει σημειώσει πρόοδο- σωστά δομημένα δεδομένα, πλαίσιο διακυβέρνησης και δεξιότητες. Κάθε οργανισμός χρειάζεται ξεκάθαρη πολιτική υιοθέτησης της ΤΝ, καθώς η απουσία διακυβέρνησης παραμένει από τα μεγαλύτερα εμπόδια. Η Ελλάδα βρίσκεται σε καλό δρόμο, καθώς διαθέτει εργατικό δυναμικό, ισχυρό τομέα υπηρεσιών και βαθιά ενσωμάτωση στο ευρωπαϊκό ψηφιακό πλαίσιο._
ΑΠΕ-ΜΠΕ-Αλεξάνδρα Γούτα/photo: pixabay
