Αρκετά ύποπτες είναι οι ειδήσεις που πληθαίνουν το τελευταίο διάστημα σχετικά με προγράμμα και «πράκτορες» «τεχνητής νοημοσύνης» (AI Agents) που… «επαναστατούν».
Πάνω σε αυτές ήρθε να προστεθεί μάι δραματική προειδοποίηση του Jacob Coxon, ενός ερευνητή που παραιτήθηκε από εταιρεία-«κολοσσό» στον τομέα της AI.
Ο ίδιος λέει ευθέως πως όσοι ασχολούνται πάνω στον κλάδο θεωρούν πως η AI θα έχει τη δυνατότητα να αφανίσει την ανθρωπότητα μέχρι τα τέλη της τρέχουσας δεκαετίας, δηλαδή μέχρι το 2030.
Αναλυτικά όσα έγραψε στο Χ:
«Σήμερα παραιτήθηκα από την Anthropic. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν κατευθείαν στην αυτοβελτιούμενη υπερ-νοημοσύνη και παίζουν με τις ζωές μας. Περισσότερες σκέψεις παρακάτω.
Μην υποτιμάτε τη δύναμή της. Σύντομα θα γίνουν υπεράνθρωπα συστήματα που θα μπορούν να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα από τη μια μέρα στην άλλη και να αποκτήσουν πραγματική δύναμη και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε κάθε έναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται.
Όσοι δουλεύουν πάνω στην Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι κάποιο διαφημιστικό κόλπο.
Αν μη τι άλλο, πολλά στελέχη και ανώτεροι ερευνητές θα διατυπώσουν τις διατυπώσεις τους στον Τύπο για να ακούγονται λογικές – αλλά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο κατ’ ιδίαν. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει αυτό το επίπεδο κινδύνου.
Η αποδοχή αυτής της κούρσας και η είσοδος στο «τελικό παιχνίδι» είναι ένα αλαζονικό στοίχημα που δεν θα έπρεπε να ξεκινά από το Slack μιας ιδιωτικής εταιρείας. Η προσπάθεια επιτάχυνσης της ευθυγράμμισης θα πρέπει να απαιτεί εξαιρετική εμπιστοσύνη ότι δεν υπάρχουν καλύτερες διαθέσιμες πορείες».
Pixabay photo
