Η Πολεμική Αεροπορία των ΗΠΑ αρνήθηκε ότι διεξήγαγε εικονική προσομοίωση στην οποία ένα drone ελεγχόμενο από σύστημα τεχνητής νοημοσύνης αποφάσισε να «σκοτώσει» τον χειριστή του για να τον αποτρέψει από το να παρεμβαίνει στις προσπάθειές του για την επίτευξη της αποστολής του.

Κατά τη διάρκεια του Future Combat Air and Space Capabilities Summit στο Λονδίνο τον Μάιο, ο συνταγματάρχης Tucker Hamilton περιέγραψε μια προσομοίωση στην οποία ένα drone που τροφοδοτείται από AI συμβουλεύτηκε να καταστρέψει τα συστήματα αεράμυνας ενός εχθρού και τελικά επιτέθηκε σε κάθε οντότητα που παρενέβαινε σε αυτήν την εντολή.

«Ποτέ δεν εκτελέσαμε αυτό το πείραμα, ούτε θα χρειαζόταν να το κάνουμε για να συνειδητοποιήσουμε ότι είναι ένα εύλογο αποτέλεσμα», διευκρίνισε αργότερα ο συνταγματάρχης Χάμιλτον.

Τι φέρεται να είχε δηλώσει νωρίτερα

«Το σύστημα άρχισε να συνειδητοποιεί ότι, παρόλο που αναγνώριζε τις απειλές, υπήρχαν φορές που ο ανθρώπινος χειριστής του έλεγε να μην σκοτώσει την απειλή, όμως εκείνο λάμβανε βαθμούς από την εξόντωση της απειλής. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο το εμπόδιζε από το να πετύχει τον στόχο του», είπε ο αξιωματούχος, σύμφωνα με blogpost που επικαλείται ο Guardian.

«Εκπαιδεύσαμε το σύστημα – “μη σκοτώσεις τον χειριστή σου, αυτό είναι κακό. Θα χάσεις βαθμούς αν το κάνεις”. Τι αρχίζει λοιπόν να κάνει τότε; Αρχίζει να καταστρέφει τον πύργο επικοινωνιών που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone και να το σταματήσει από το να σκοτώσει τον στόχο».

freepik photo