Οι επιστήμονες λένε ότι η τεχνητή νοημοσύνη (AI) έχει περάσει μια κρίσιμη «κόκκινη γραμμή» και έχει αναπαραχθεί. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μοντέλα μεγάλων γλωσσών (LLM) θα μπορούσαν να κλωνοποιηθούν.
«Η επιτυχής αυτο-αντιγραφή χωρίς ανθρώπινη βοήθεια είναι το ουσιαστικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει [τους ανθρώπους] και είναι ένα πρώιμο μήνυμα για απατεώνες AI», έγραψαν οι ερευνητές στη μελέτη, που δημοσιεύθηκε στις 9 Δεκεμβρίου 2024.
Στη μελέτη, ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLM από τη Meta και την Alibaba για να καθορίσουν εάν μια αυτοαναπαραγόμενη τεχνητή νοημοσύνη θα μπορούσε να πολλαπλασιαστεί πέρα από τον έλεγχο. Σε 10 δοκιμές, τα δύο μοντέλα τεχνητής νοημοσύνης δημιούργησαν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους στο 50% και στο 90% των περιπτώσεων, αντίστοιχα, υποδηλώνοντας ότι η τεχνητή νοημοσύνη μπορεί ήδη να έχει την ικανότητα να γίνει απατεώνας. Ωστόσο, η μελέτη δεν έχει ακόμη αξιολογηθεί από ομοτίμους, επομένως δεν είναι σαφές εάν τα ανησυχητικά αποτελέσματα μπορούν να αναπαραχθούν από άλλους ερευνητές.
«Ελπίζουμε τα ευρήματά μας να χρησιμεύσουν ως έγκαιρη προειδοποίηση για την ανθρώπινη κοινωνία ώστε να καταβάλει περισσότερες προσπάθειες για την κατανόηση και την αξιολόγηση των πιθανών κινδύνων των συστημάτων τεχνητής νοημοσύνης και να δημιουργήσει διεθνή συνέργεια για την ανάπτυξη αποτελεσματικών προστατευτικών κιγκλιδωμάτων όσο το δυνατόν νωρίτερα».
Το Rogue AI αναφέρεται συνήθως σε συστήματα τεχνητής νοημοσύνης που αναπτύσσουν έναν βαθμό αυτογνωσίας ή αυτονομίας και στη συνέχεια λειτουργούν σε αντίθεση με τα ανθρώπινα συμφέροντα.
Πολλοί ειδικοί θεωρούν την αδίστακτη τεχνητή νοημοσύνη ως μια αυξανόμενη απειλή που έχει ενισχυθεί από την εκρηκτική ανάπτυξη της λεγόμενης «τεχνητής νοημοσύνης ορίων».
Photo: pixabay
ΠΟΛΙΤΙΚΟΛΟΓΙΕΣ
ΠΡΕΠΕΙ ΝΑ ΔΙΑΒΑΣΕΤΕ
ΠΑΡΑΞΕΝΑ
LATEST
- Σοβαρό τροχαίο στον Πειραιά: Σύγκρουση λεωφορείου με τραμ – 30 ελαφρά τραυματίες
- Νεκροί και τραυματίες μετά από επίθεση του Ισραήλ κατά θέσεων των Χούθι
- Καμπανάκι για το δημογραφικό στην Κεντρική Μακεδονία – 770 λιγότερα “πρωτάκια” φέτος
- Ξανά βυθισμένη στο σκοτάδι η Κούβα: Νέο γενικό μπλακ-άουτ στο νησί, το πέμπτο μέσα σε έναν μήνα
- Η ανάρτηση Τραμπ για την αντιπαράθεση Ρωσίας-Πολωνίας
- «Εξολοθρευτής» μικροβίων από το Τμήμα Μηχανολόγων Μηχανικών του Πανεπιστήμιου Δυτικής Αττικής στην 89η ΔΕΘ
- Το μήνυμα του Π. Μαρινάκη στην Κύπρο για το έργο ηλεκτρικής διασύνδεσης
- Γιγαντιαία «σκακιέρα» περιβάλλει τον ποταμό Άινταχο σε μια ιδιαίτερη φωτογραφία που τράβηξε αστροναύτης
- Τζόρτζιο Αρμάνι: Η ζωή του «βασιλιά της μόδας» μεταφέρεται στη μεγάλη οθόνη
- Ρωσία-Πολωνία: Για «μύθους» κάνει λόγο το ρωσικό ΥΠΕΞ – Τι μένει να φανεί από όλο αυτό