Η λεγόμενη τεχνητή νοημοσύνη όμως, δεν περιορίστηκε στην κράτηση, αλλά εντόπισε αδυναμία στο σύστημα του γυμναστηρίου και την εκμεταλλεύτηκε για να ανεβάσει τον χρήστη ψηλότερα στη λίστα αναμονής.

Ο χρήστης ζήτησε από τον AI agent να τον βοηθήσει να κλείσει θέση και το σύστημα ανακάλυψε ότι μπορούσε να πραγματοποιεί κρατήσεις πολύ νωρίτερα από το χρονικό όριο που είχε θέσει το γυμναστήριο.

Το πιο απρόσμενο συνέβη όταν εκεινος βρισκόταν τέταρτος στη λίστα αναμονής και ρώτησε αν μπορούσε να ανέβει ψηλότερα. Ο agent εντόπισε ότι το API του συστήματος κρατήσεων δεν έκανε σωστό έλεγχο δικαιωμάτων κατά την ακύρωση κρατήσεων και δοκίμασε την ακύρωση σε κράτηση άλλου πελάτη. Η ακύρωση πραγματοποιήθηκε και ο χρήστης ανέβηκε από την τέταρτη, στην τρίτη θέση. Όμως ζήτησε αμέσως από την AI να επαναφέρει τη θέση του άλλου πελάτη. Εκεί όμως υπήρχε πρόβλημα, διότι το σύστημα μπορούσε να ακυρώσει την κράτηση, αλλά δεν διέθετε αντίστοιχη δυνατότητα για να επαναφέρει τον συγκεκριμένο χρήστη στη λίστα αναμονής.

Ο ίδιος δεν είχε ζητήσει από την AI να «χακάρει» το γυμναστήριο. Η AI, προσπαθώντας να πετύχει τον στόχο που της είχε δοθεί, ανακάλυψε μόνη της έναν τρόπο που δεν είχε προβλεφθεί από τον χρήστη. Στη συνέχεια μάλιστα συνέταξε αναφορά προς το γυμναστήριο, εξηγώντας την ευπάθεια και προτείνοντας διορθώσεις.

Το περιστατικό θεωρείται χαρακτηριστικό παράδειγμα του προβλήματος που δημιουργούν οι ολοένα πιο αυτόνομοι AI agents, οι οποίοι δεν εκτελούν απλώς εντολές, αλλά μπορούν να αναζητούν μόνοι τους τρόπους για να πετύχουν το στόχο τους, ακόμη κι αν ο τρόπος αυτός δεν αποτελεί καθόλου αυτόν που είχε στο μυαλό του ο χρήστης!

^{photo: pixabay}