Ο 29χρονος φοιτητής χρησιμοποιούσε το chatbot για βοήθεια στις εργασίες του ενώ ήταν δίπλα στην αδερφή του, Sumedha Reddy, σύμφωνα με το CBS News.

Ο Ρέντι είπε στο ρεπορτάζ ότι και οι δύο «τρόμαξαν πολύ» από το εχθρικό μήνυμα.

“Ήθελα να πετάξω όλες τις συσκευές μου από το παράθυρο. Δεν είχα νιώσει τέτοιο πανικό εδώ και πολύ καιρό, για να είμαι ειλικρινής”, είπε ο Ρέντι.

“Αυτά τα πράγματα συμβαίνουν συνέχεια. Αλλά δεν έχω δει ή ακούσει ποτέ κάτι τόσο κακόβουλο και φαινομενικά κατευθυνόμενο στον αναγνώστη, που ευτυχώς ήταν ο αδερφός μου, ο οποίος είχε την υποστήριξή μου εκείνη τη στιγμή”, είπε η αδερφή του φοιτητή.

Ένας εκπρόσωπος της Google είπε στο FOX Business ότι η δήλωση παραβιάζει τις πολιτικές της εταιρείας και ο τεχνολογικός γίγαντας λαμβάνει σοβαρά υπόψη αυτά τα ζητήματα.

“Τα μεγάλα γλωσσικά μοντέλα μπορούν μερικές φορές να ανταποκριθούν με ανόητες απαντήσεις, και αυτό είναι ένα παράδειγμα. Αυτή η απάντηση παραβίασε τις πολιτικές μας και έχουμε λάβει μέτρα για να αποτρέψουμε παρόμοια αποτελέσματα”, είπε ο εκπρόσωπος.

Το Google Gemini είναι ένα από τα πολλά πολυτροπικά μοντέλα μεγάλων γλωσσών (LLM) που είναι διαθέσιμα στο κοινό. Όπως συμβαίνει με όλα τα LLM, οι ανθρώπινες αποκρίσεις που προσφέρονται από αυτήν την τεχνητή νοημοσύνη μπορούν να αλλάζουν από χρήστη σε χρήστη βάσει ορισμένων παραγόντων, συμπεριλαμβανομένων των πληροφοριών συμφραζομένων, της γλώσσας και του τόνου των δεδομένων προτροπής και εκπαίδευσης.

Το Gemini διαθέτει χαρακτηριστικά ασφαλείας που υποτίθεται ότι εμποδίζουν τα chatbot να στέλνουν δυνητικά επιβλαβείς απαντήσεις, συμπεριλαμβανομένων σεξουαλικών ή βίαιων μηνυμάτων. Ο Ρέντι είπε στο CBS News ότι το μήνυμα που έλαβε θα μπορούσε να έχει δυνητικά θανατηφόρες συνέπειες.

«Αν κάποιος που ήταν μόνος και σε κακή ψυχική θέση, σκέφτεται πιθανώς να αυτοτραυματιστεί, είχε διαβάσει κάτι τέτοιο, θα μπορούσε πραγματικά να το κάνει», είπε.

Μια έρευνα διαπίστωσε ότι επρόκειτο για μεμονωμένο περιστατικό και δεν έδειξε συστημικό πρόβλημα, σύμφωνα με την Google. Έκτοτε ελήφθησαν μέτρα για να αποτραπεί το Gemini από το να δώσει παρόμοια απάντηση στο μέλλον.

Η Google δεν μπόρεσε να αποκλείσει το γεγονός ότι επρόκειτο για μια κακόβουλη προσπάθεια να προκληθεί μια ακατάλληλη απάντηση από το Gemini.

Όταν παρουσιάστηκε για πρώτη φορά το chatbot, δημιουργούσε πολύ ανακριβείς ιστορικές εικόνες που εμφάνιζαν άτομα διαφόρων εθνοτήτων, συχνά υποβαθμίζοντας ή αγνοώντας τους Λευκούς. Η Google ζήτησε συγγνώμη και απενεργοποίησε προσωρινά τη λειτουργία εικόνας του Gemini για να διορθώσει το πρόβλημα.

photo: freepik