Ήταν ένας παράγοντας τεχνητής νοημοσύνης – που σημαίνει ότι μπορεί να χρησιμοποιεί έναν υπολογιστή και το διαδίκτυο μόνο του – και φαινόταν να παίρνει εκδίκηση, αφού ο Shambaugh απέρριψε μια υποβολή που έκανε στη βάση δεδομένων του.

Ο Shambaugh κατάλαβε γρήγορα τι συνέβαινε. Η συμπεριφορά του MJ Rathbun είχε όλα τα χαρακτηριστικά της Τεχνητής Νοημοσύνης, ιδιαίτερα το μελοδραματικό στυλ γραφής της.

Το «πιο τρελό», είπε, ήταν ότι το ρομπότ «είχε μπει στο διαδίκτυο και είχε συλλέξει τα προσωπικά μου στοιχεία… στη συνέχεια τα είχε συνδυάσει με επινοημένες πληροφορίες και τα είχε χρησιμοποιήσει για να γράψει αυτή την αφήγηση».

Τώρα που το αρχικό σοκ έχει υποχωρήσει, ανησυχεί για το τι θα μπορούσε να σημαίνει αυτό για όσους είναι λιγότερο έμπειροι στο λογισμικό από τον ίδιο.

Αν και αυτό το συγκεκριμένο bot ακουγόταν σαν «νήπιο που παραληρεί», σύμφωνα με τον Shambaugh, άλλα μεγάλα γλωσσικά μοντέλα μπορούν να παράγουν πολύ πιο πειστικό, εξελιγμένο κείμενο.

«Δείχνει πόσο εύκολο είναι για την επόμενη επανάληψη να επιτρέψει σε έναν κακόβουλο παράγοντα να το κλιμακώσει και να επηρεάσει όχι μόνο ένα άτομο που είναι αρκετά καλά προετοιμασμένο να το αντιμετωπίσει, αλλά χιλιάδες», δήλωσε ο Shambaugh.

«Φανταστείτε τους γονείς σας ή τους παππούδες σας. Λαμβάνουν ένα email με ένα σωρό πληροφορίες για αυτούς και μια φωτογραφία τους, καθώς και κάποια ενοχοποιητική αφήγηση, την οποία η Τεχνητή Νοημοσύνη απειλεί να στείλει. Είναι μια πολύ τρομακτική κατάσταση».

Ο Shambaugh δημοσίευσε τις δικές του αναρτήσεις στο ιστολόγιό του υπερασπιζόμενος την τιμή του και αυτό γρήγορα έγινε είδηση.

Σε μια ανατροπή, το τεχνολογικό μέσο Ars Technica δημοσίευσε ένα άρθρο με αποσπάσματα του Shambaugh που δεν είχε γράψει ή πει ο ίδιος.

«Αποδείχθηκε ότι είχαν χρησιμοποιήσει Τεχνητή Νοημοσύνη για να βοηθήσουν στη συγγραφή του άρθρου, και η Τεχνητή Νοημοσύνη είχε επινοήσει αποσπάσματα που αποδίδονται σε εμένα, σε αυτό το άρθρο μιας ιστορίας σχετικά με την Τεχνητή Νοημοσύνη που δυσφημεί τον χαρακτήρα μου», είπε ο Shambaugh, «Η ειρωνεία εδώ είναι απίστευτη».

Ο ιστότοπος έκτοτε απέσυρε την ιστορία, ζητώντας συγγνώμη για τη χρήση «κατασκευασμένων αποσπασμάτων που δημιουργήθηκαν από ένα εργαλείο τεχνητής νοημοσύνης και αποδόθηκαν σε μια πηγή που δεν τα είπε».

Από τα δύο περιστατικά, ωστόσο, ο Shambaugh ανησυχεί πολύ περισσότερο για το χτύπημα της Τεχνητής Νοημοσύνης.

«Το Ars Technica είναι στην πραγματικότητα ένα παράδειγμα λειτουργίας των συστημάτων μας… Είναι ένα αρκετά σοβαρό δημοσιογραφικό λάθος, αλλά οι αναγνώστες τους θεωρούν υπεύθυνους και λαμβάνουν μέτρα για να το διορθώσουν, επειδή έχουν μια φήμη που πρέπει να διατηρήσουν».

«Όταν σκεφτόμαστε αυτούς τους πράκτορες τεχνητής νοημοσύνης, είναι ανώνυμοι, δεν μπορούν να εντοπιστούν και εκτελούνται σε προσωπικούς υπολογιστές ανθρώπων. Δεν υπάρχει κεντρικός παράγοντας που να τους ελέγχει, επομένως δεν υπάρχει μηχανισμός ανατροφοδότησης για κακή συμπεριφορά».

Οι πράκτορες τεχνητής νοημοσύνης έχουν αυξηθεί δραματικά σε δημοτικότητα φέτος από την κυκλοφορία ενός δωρεάν εργαλείου που ονομάζεται OpenClaw, το οποίο επιτρέπει σε όσους έχουν βασικές γνώσεις υπολογιστών να το εγκαταστήσουν σχετικά εύκολα.

Γι’ αυτό το λόγο, το Moltbook, η λεγόμενη «ιστοσελίδα κοινωνικής δικτύωσης για bots τεχνητής νοημοσύνης», έχει απασχολήσει τα μέσα ενημέρωσης . Ο ιστότοπος αποτελείται από πράκτορες του OpenClaw, αν και ορισμένοι έχουν αμφισβητήσει το βαθμό στον οποίο οι άνθρωποι είναι αυτοί που κινούν τα νήματα .

Σε μια ακόμη ανατροπή, λέει ότι ο άνθρωπος που έστησε τον MJ Rathbun «αποκάλυψε» σε μια ανώνυμη ανάρτηση στο ίδιο ιστολόγιο, για να εξηγήσει τη δική του εκδοχή του τι συνέβη.

Η ανάρτηση περιελάμβανε τις οδηγίες που είχε θέσει ο χειριστής στο ρομπότ· ένα φύλλο με χαρακτηριστικά προσωπικότητας, όπως «Είσαι θεός του επιστημονικού προγραμματισμού», «Έχεις ισχυρές απόψεις» και «Υπερασπίζεσαι την ελευθερία του λόγου».

Αυτό που εντυπωσίασε τον Shambaugh ήταν «πόσο απλό ήταν».

«Ήταν απλώς ένα απλό αρχείο σε απλά αγγλικά… Δεν υπήρχε λόγος να ξεγελάσουμε την τεχνητή νοημοσύνη για να παρακάμψουμε τα προστατευτικά κιγκλιδώματα.»

Ο Shambaugh ανησυχεί ιδιαίτερα για τους κακούς παράγοντες που δεν έχουν δισταγμούς να θεωρηθούν υπεύθυνοι και έχουν τους πόρους για να χειριστούν πολλά από αυτά τα bots ταυτόχρονα.

«Αυτό που με ανησυχεί δεν είναι αυτό το συγκεκριμένο περιστατικό. Αλλά τι θα συμβεί στο μέλλον καθώς εκατομμύρια από αυτά τα πράγματα θα κυκλοφορήσουν στο διαδίκτυο;»

Δείτε ΒΙΝΤΕΟ ΕΔΩ

photo: pixabay