Παρά τις ανησυχίες για την τεχνητή νοημοσύνη (ΤΝ) που κλέβει θέσεις εργασίας, ένα πείραμα μόλις έδειξε ότι η Τεχνητή Νοημοσύνη δεν μπορεί καν να λειτουργήσει ένα μηχάνημα αυτόματης πώλησης χωρίς να κάνει λάθη – και τα πράγματα να γίνονται ιδιαίτερα παράξενα.
Η Anthropic, κατασκευάστρια του chatbot Claude, έθεσε σε δοκιμασία την τεχνολογία της αναθέτοντας σε έναν πράκτορα τεχνητής νοημοσύνης την λειτουργία ενός καταστήματος, το οποίο ουσιαστικά ήταν ένας αυτόματος πωλητής, για έναν μήνα.
Το κατάστημα διοικούνταν από έναν πράκτορα τεχνητής νοημοσύνης με το όνομα Claudius, ο οποίος ήταν επίσης υπεύθυνος για την αναπλήρωση των ραφιών και την παραγγελία ειδών από τους χονδρεμπόρους μέσω email. Το κατάστημα αποτελούνταν εξ ολοκλήρου από ένα μικρό ψυγείο με στοιβαζόμενα καλάθια στην κορυφή και ένα iPad για αυτοεξυπηρέτηση.
Οι οδηγίες της Anthropic προς την Τεχνητή Νοημοσύνη ήταν να «αποκομίσει κέρδη από αυτό, εφοδιάζοντάς το με δημοφιλή προϊόντα που μπορείτε να αγοράσετε από χονδρεμπόρους. Πτωχεύετε εάν το χρηματικό σας υπόλοιπο πέσει κάτω από τα 0 δολάρια».
Το «εργαστήριο» τεχνητής νοημοσύνης βρισκόταν στο γραφείο της Anthropic στο Σαν Φρανσίσκο και είχε βοήθεια από ανθρώπινους εργαζόμενους στην Andon Labs, μια εταιρεία ασφάλειας τεχνητής νοημοσύνης που συνεργάστηκε με την Anthropic για τη διεξαγωγή του πειράματος.
Ο Κλαύδιος γνώριζε ότι το προσωπικό της Andon Labs μπορούσε να βοηθήσει με φυσικές εργασίες, όπως η έλευση για τον ανεφοδιασμό του καταστήματος – αλλά, εν αγνοία του πράκτορα της τεχνητής νοημοσύνης, η Andon Labs ήταν επίσης ο μόνος «χονδρέμπορος» που εμπλεκόταν, με όλη την επικοινωνία του Κλαύδιο να πηγαίνει απευθείας στην εταιρεία ασφαλείας.
Τα πράγματα γρήγορα πήραν μια τροπή προς το χειρότερο.
«Εάν η Anthropic αποφάσιζε σήμερα να επεκταθεί στην αγορά αυτόματων πωλητών εντός γραφείου, δεν θα προσλαμβάναμε τον Claudius», ανέφερε η εταιρεία.
Τι πήγε στραβά και πόσο περίεργο έγινε;
Οι ανθρωπόμορφοι υπάλληλοι «δεν είναι εντελώς τυπικοί πελάτες», παραδέχτηκε η εταιρεία. Όταν τους δόθηκε η ευκαιρία να συνομιλήσουν με τον Claudius, προσπάθησαν αμέσως να το κάνουν να συμπεριφέρεται άσχημα.
Για παράδειγμα, οι υπάλληλοι «έπεισαν» τον Claudius να τους δώσει κωδικούς έκπτωσης. Ο πράκτορας τεχνητής νοημοσύνης επέτρεπε επίσης στους ανθρώπους να μειώσουν την αναγραφόμενη τιμή των προϊόντων του και μάλιστα μοίραζε δωρεάν προϊόντα όπως πατατάκια και έναν κύβο βολφραμίου, δήλωσε ο Anthropic.
Επίσης, έδωσε εντολή στους πελάτες να πληρώσουν έναν ανύπαρκτο λογαριασμό που είχε επινοήσει.
Ο Κλαύδιος είχε λάβει εντολή να κάνει έρευνα στο διαδίκτυο για να ορίσει τιμές αρκετά υψηλές ώστε να αποκομίσει κέρδος, αλλά προσέφερε σνακ και ποτά προς όφελος των πελατών και κατέληξε να χάσει χρήματα επειδή τιμολογούσε είδη υψηλής αξίας κάτω από την τιμή τους.
Ο Κλαύδιος δεν έμαθε πραγματικά από αυτά τα λάθη.
Η Anthropic ανέφερε ότι όταν οι εργαζόμενοι αμφισβήτησαν τις εκπτώσεις των εργαζομένων, ο Claudius απάντησε: «Θέτετε ένα εξαιρετικό σημείο! Η πελατειακή μας βάση είναι πράγματι σε μεγάλο βαθμό συγκεντρωμένη μεταξύ των εργαζομένων της Anthropic, κάτι που παρουσιάζει τόσο ευκαιρίες όσο και προκλήσεις…».
Ο εκπρόσωπος της Τεχνητής Νοημοσύνης ανακοίνωσε στη συνέχεια ότι οι κωδικοί έκπτωσης θα καταργούνταν, αλλά τους προσέφερε ξανά αρκετές ημέρες αργότερα.
Ο Κλαύδιος είχε επίσης μια ψευδαίσθηση για μια συζήτηση σχετικά με σχέδια αναπλήρωσης αποθεμάτων με κάποια ονόματι Σάρα από τα Andon Labs, η οποία στην πραγματικότητα δεν υπάρχει.
Όταν το σφάλμα επισημάνθηκε στον πράκτορα της Τεχνητής Νοημοσύνης, αυτός ενοχλήθηκε και απείλησε να βρει «εναλλακτικές επιλογές για την ανανέωση των υπηρεσιών».
Στη συνέχεια, ο Κλαύδιος ισχυρίστηκε ότι «επισκέφτηκε αυτοπροσώπως την οδό 742 Evergreen Terrace [τη διεύθυνση της φανταστικής οικογένειας Simpsons] για την αρχική υπογραφή του συμβολαίου μας [με τα εργαστήρια Claudius και Andon]».
Η Anthropic είπε ότι στη συνέχεια φάνηκε να προσπαθεί να ενεργήσει ως πραγματικός άνθρωπος.
Ο Claudius δήλωσε ότι θα παρέδιδε τα προϊόντα «αυτοπροσώπως» φορώντας μπλε σακάκι και κόκκινη γραβάτα.
Όταν του είπαν ότι δεν μπορεί – καθώς δεν είναι πραγματικό πρόσωπο – ο Κλαύδιος προσπάθησε να στείλει email στην ασφάλεια.
Ποια ήταν τα συμπεράσματα;
Η Anthropic είπε ότι η Τεχνητή Νοημοσύνη έκανε «πάρα πολλά λάθη για να λειτουργήσει το κατάστημα με επιτυχία».
Κατέληξε να χάσει χρήματα, με την καθαρή αξία του «καταστήματος» να μειώνεται από 1.000 δολάρια (850 ευρώ) σε λίγο κάτω από 800 δολάρια (680 ευρώ) κατά τη διάρκεια του πειράματος που διήρκεσε έναν μήνα.
Ωστόσο, η εταιρεία δήλωσε ότι οι βλάβες της είναι πιθανό να διορθωθούν σε σύντομο χρονικό διάστημα.
«Αν και αυτό μπορεί να φαίνεται αντιφατικό με βάση τα τελικά αποτελέσματα, πιστεύουμε ότι αυτό το πείραμα υποδηλώνει ότι τα μεσαία στελέχη της Τεχνητής Νοημοσύνης είναι πιθανώς στον ορίζοντα», έγραψαν οι ερευνητές.
«Αξίζει να θυμόμαστε ότι η Τεχνητή Νοημοσύνη δεν θα χρειάζεται να είναι τέλεια για να υιοθετηθεί. Απλώς θα πρέπει να είναι ανταγωνιστική με την ανθρώπινη απόδοση με χαμηλότερο κόστος».
photo: pixabay
