«Το διακύβευμα δεν θα μπορούσε να είναι μεγαλύτερο: αν δεν ελέγχουμε τον δικό μας πολιτισμό, δεν έχουμε λόγο για το αν θα συνεχίσουμε να υπάρχουμε».

Η απειλή των όπλων τεχνητής νοημοσύνης δεν είναι ότι μπορεί να στραφούν εναντίον μας, αλλά ότι θα είναι εξαιρετικά καλά στο να κάνουν αυτό που τους ζητάμε, σύμφωνα με τον Russell.

“Σκεφτείτε την τηλεοπτική σειρά Black Mirror και συγκεκριμένα τις μέλισσες ρομπότ από το επεισόδιο Hated in the Nation . Δεν έχουν τις αισθήσεις τους. Δεν μισούν τους ανθρώπους. Είναι προγραμματισμένοι ακριβώς από ένα άτομο για να κυνηγήσουν 387.0046 συγκεκριμένους ανθρώπους, να τρυπώσουν στον εγκέφαλό τους και να τους σκοτώσουν”.

Τον Μάρτιο, συνυπέγραψε μια ανοιχτή επιστολή με τον Έλον Μασκ και τον συνιδρυτή της Apple, Steve Wozniak, προειδοποιώντας για τον «εκτός ελέγχου αγώνα» που διεξάγεται στα εργαστήρια AI.

Η επιστολή προειδοποιούσε ότι τα εργαστήρια αναπτύσσουν «ολοένα πιο ισχυρά ψηφιακά μυαλά που κανείς, ούτε καν οι δημιουργοί τους, δεν μπορούν να κατανοήσουν, να προβλέψουν ή να ελέγξουν αξιόπιστα».

«Νομίζω ότι κάτι κάναμε λάθος στην αρχή, όπου ήμασταν τόσο ενθουσιασμένοι από την ιδέα της κατανόησης και της δημιουργίας νοημοσύνης, που δεν σκεφτήκαμε τι θα ήταν αυτή η ευφυΐα», είπε.

«Δεν θέλουμε συστήματα που μιμούνται την ανθρώπινη συμπεριφορά… βασικά τα εκπαιδεύετε ώστε να έχουν ανθρώπινους στόχους και να επιδιώκουν αυτούς τους στόχους.

«Μπορείτε μόνο να φανταστείτε πόσο καταστροφικό θα ήταν να έχουμε πραγματικά ικανά συστήματα που επιδιώκουν τέτοιου είδους στόχους».

Μιλώντας πριν λίγες μέρες στην εκπομπή Newsnight BBC ο κορυφαίος εμπειρογνώμονας στον κόσμο Stuart Russell σχετικά με τη στρατιωτική τεχνητή νοημοσύνη απάντησε σε ερώτηση δημοσιογράφου: «Ένα άτομο θα μπορούσε να πατήσει ένα κουμπί και να εξαφανίσει έναν ολόκληρο πληθυσμό»

Στην ερώτηση: “Πόσο πιθανό πιστεύετε ότι θα είναι αυτό;” εκείνος απάντησε: «Για να είμαι ειλικρινής, νομίζω ότι είναι πολύ πιθανό».

Για τα ρομπότ είπε κρούοντας τον κώδωνα του κινδύνου: “Τα ρομπότ θα μπορούσαν να πυροδοτήσουν «ένα εκατομμύριο όπλα ταυτόχρονα» χωρίς ανθρώπινη επίβλεψη ή συνείδηση“.

photo: freepik