GES 2023 – Α.Ι.: “Μπορεί να υπάρχουν αλγόριθμοι “black box” που δεν γνωρίζουμε τι ακριβώς κάνουν και πώς το κάνουν”

Τι μεταδίδει το ΑΠΕ-ΜΠΕ:

Πολύ αισιόδοξος για το μέλλον, ως προς την πορεία που ακολουθεί η Τεχνητή Νοημοσύνη (ΤΝ) και τις αμέτρητες ευκαιρίες που μπορεί δυνητικά να προσφέρει στην ανθρωπότητα τα επόμενα χρόνια, εφόσον υιοθετηθεί σωστά από όσο το δυνατόν περισσότερους ανθρώπους, επιχειρήσεις και οργανισμούς, εμφανίστηκε ο Ντάνιελ Κάστρο (Daniel Castro), αντιπρόεδρος του Ιδρύματος Τεχνολογίας της Πληροφορίας και Καινοτομίας (ITIF) και διευθυντής του Κέντρου Καινοτομίας των Δεδομένων στις ΗΠΑ.

Μιλώντας στο συνέδριο GES 2023 του Ελληνοαμερικανικού Επιμελητηρίου, ο κ.Κάστρο αναφέρθηκε ωστόσο και στην ανάγκη της επίβλεψης ορισμένων προϊόντων και υπηρεσιών της ΤΝ προτού καν βγουν στην αγορά και της επαρκούς ρύθμισης.

«Δεν γνωρίζουμε τι επιφυλάσσει το μέλλον, αλλά γνωρίζουμε ότι η τεχνολογία αυτή θα συνεχίσει να βελτιώνεται πάρα πολύ σημαντικά. Γιατί ρυθμίζουμε την ΤΝ, ενώ δεν ρυθμίζουμε τα περισσότερα λογισμικά; Η βασική λογική της ρύθμισης είναι σχετική με τη φύση της ΤΝ. Μπορεί να υπάρχουν για παράδειγμα αλγόριθμοι “black box”, που δεν γνωρίζουμε τι ακριβώς κάνουν και πώς το κάνουν, δεδομένου ότι είναι εκπαιδευμένοι μέσω Μηχανικής Μάθησης. Δηλαδή ο/η προγραμματιστής δεν δίνει οδηγίες, αλλά απλά τροφοδοτεί με δεδομένα και δεν υπάρχει ορατότητα σχετικά με το πώς ακριβώς λειτουργεί το μοντέλο» εξήγησε.

Πρόσθεσε πως στο σκηνικό αυτό, ίσως είναι απαραίτητο να υπάρχει σε ορισμένες περιπτώσεις επίβλεψη προϊόντων και υπηρεσιών ΤΝ, πριν βγουν στην αγορά. «Νομίζω όμως πως πρέπει η προσοχή ως προς την επίβλεψη να δοθεί σε περιπτώσεις υψηλού κινδύνου, όπου προκαλείται πιθανώς ζημία που θα είναι ανεπανόρθωτη» διευκρίνισε και πρόσθεσε ότι, μιλώντας για ρύθμιση της ΤΝ, αυτό που πρέπει να προσέξουμε ιδιαίτερα είναι μη δοθεί έδαφος για προκαταλήψεις υπέρ ή κατά των ανθρώπων.

«Σε ένα σύστημα ΤΝ που λαμβάνει αποφάσεις, σε έναν υπολογιστή που εγκρίνει ή απορρίπτει δάνεια, η ρύθμιση που απαιτείται θα πρέπει να είναι πάνω- κάτω η ίδια, να ισχύουν τα ίδια κριτήρια και κανονισμοί με όσα ισχύουν όταν τις αποφάσεις τις λαμβάνει ένας άνθρωπος. Μπορούμε, για παράδειγμα, να έχουμε πίνακες με συγκεκριμένα πράγματα που πρέπει να ελεγχθούν, προτού ένα προϊόν ή υπηρεσία λανσαριστεί στην αγορά» είπε.

Πρόσθεσε ακόμα ότι η έμφαση χρειάζεται να δοθεί στη ρύθμιση τομέων, όχι τεχνολογιών, καθώς παρότι τα θεμέλια αυτής της τεχνολογίας είναι παρεμφερή σε όλες τις περιπτώσεις, οι εφαρμογές της μπορούν να είναι πολύ διαφορετικές, ανάλογα με τη χρήση τους και τον σκοπό της. Πχ, η χρήση της ΤΝ στον τομέα της υγείας ή σε εκείνον των μεταφορών χρήζει διαφορετική ρύθμιση, βασισμένη πάντα στην εμπειρογνωμοσύνη ειδικών ανά τομέα.

Η «μυωπία» της Τεχνητής Νοημοσύνης

«Από τα πιο σημαντικά πράγματα είναι επίσης να αποφύγουμε την επονομαζόμενη “μυωπία” της ΤΝ, όταν δηλαδή βλέπουμε ένα πρόβλημα, συνειδητοποιούμε ότι η ΤΝ ίσως έχει κάποια σύνδεση με αυτό και προσπαθούμε να αναπτύξουμε κανόνες μόνο για την ΤΝ. Π.χ., στις ΗΠΑ, στην ποινική δικαιοσύνη και σε θέματα που άπτονται της χρήσης τεχνολογίας για να αποφασιστεί ποιος θα συλληφθεί και ποιος όχι, (…) πολλές φορές μπορεί να προκύψουν λανθασμένες συλλήψεις. Χρειάζεται λοιπόν να διαπιστώνουμε κατά πόσο έγινε χρήση της τεχνολογίας στη λήψη αποφάσεων» υπογράμμισε.

Όταν μιλάμε για μια νέα τεχνολογία, η οικοδόμηση της εμπιστοσύνης προς αυτή, από πλευράς των καταναλωτών, είναι απαραίτητη. Πώς μπορεί να οικοδομηθεί η εμπιστοσύνη προς την ΤΝ;

Κατά τον κ.Κάστρο, η ρύθμιση βελτιώνει την εμπιστοσύνη. Αυτό επιβεβαιώνεται βάσει διάφορων ερευνών που έχουν γίνει και εξετάζουν τον αντίκτυπο της ρύθμισης στην εμπιστοσύνη -με εξαίρεση την περίπτωση της εφαρμογής του GDPR (Γενικού Κανονισμού για την Προστασία των Δεδομένων), όπου η εμπιστοσύνη μειώθηκε, σύμφωνα πάντα με τον κ.Κάστρο, ο οποίος επισήμανε ακόμα ότι η εμπιστοσύνη πολλές φορές χάνεται, γιατί πολλοί άνθρωποι χρησιμοποιούν την τεχνολογία με λανθασμένο τρόπο. «Γι’ αυτό και πρέπει να διασφαλιστεί ότι θα έχουμε εκπαίδευση των καταναλωτών ως προς τη σωστή χρήση της ΤΝ» τόνισε.

Το “συναρπαστικό” πρόβλημα των πνευματικών δικαιωμάτων

Ως δύσκολο, αλλά ταυτόχρονα συναρπαστικό πρόβλημα χαρακτήρισε o κ. Κάστρο το θέμα των πνευματικών δικαιωμάτων στην εποχή της δημιουργικής ΤΝ (Generative AI). Στο θέμα αυτό γίνεται, όπως είπε, σύγκλιση υφιστάμενων και νέων τεχνολογιών. «Στις αρχές της εποχής του Ιντερνετ πάρα πολλοί άνθρωποι χρησιμοποιούσαν πληροφορίες προστατευόμενες από πνευματικά δικαιώματα on line. Στη συνέχεια όμως, δημιουργήθηκαν νόμοι για να αποτραπεί αυτό. Με την ΤΝ πιστεύω ότι τα πράγματα είναι λίγο διαφορετικά, διότι η συγκεκριμένη τεχνολογία δεν έχει να κάνει μόνο με πρόσβαση σε περιεχόμενο ή με το να κάνεις αντιγραφή ενός αποσπάσματος» είπε.

Τι είναι διαφορετικό; Ότι με την ΤΝ και ιδίως τη δημιουργική ΤΝ, ο άνθρωπος μπορεί να εμπνευστεί από ένα ήδη υπάρχον πνευματικό προϊόν, για να δημιουργήσει κάτι δικό του, που ενδέχεται να έχει παρόμοια χαρακτηριστικά. «Σήμερα δεν υπάρχει κανένας περιορισμός, βάσει του νόμου πνευματικών δικαιωμάτων, ώστε να μην επιτρέπεται στα άτομα να διαβάζουν όλα τα βιβλία σε μια βιβλιοθήκη ή να βλέπουν όλα τα έργα σε ένα μουσείο και στη συνέχεια να δημιουργούν κάτι δικό τους, που μπορεί να είναι παρόμοιο με αυτό που είδαν ή διάβασαν. Αυτό που δεν επιτρέπεται στη συγκεκριμένη εποχή είναι να αντιγράφουμε αυτούσιες τις ιδέες κάποιου άλλου. Νομίζω πως είναι πάρα πολύ σημαντικό να επιτρέψουμε στους ανθρώπους αυτή την άντληση έμπνευσης από το Ιντερνετ, να επιτρέψουμε το data crawling* που έτσι και αλλιώς είναι νόμιμο, και να επικεντρώσουμε στο τελικό αποτέλεσμα. Όταν υπάρχει ένα αποτέλεσμα που όντως παραβιάζει τα δικαιώματα ενός καλλιτέχνη, όταν χρησιμοποιείται η ίδια ακριβώς εικόνα ή κείμενο, σε αυτό πρέπει να επικεντρωθούμε και για αυτό ο νόμος περί Πνευματικών Δικαιωμάτων πρέπει να ενισχυθεί» εκτίμησε ο κ.Κάστρο, ο οποίος έκανε ιδιαίτερη μνεία και στην ανάγκη να διασφαλιστεί ότι τα μοντέλα ΤΝ που αναπτύσσονται αντιπροσωπεύουν διαφορετικές κοινότητες και πολιτισμούς και εκπαιδεύονται με βάση καλά (και διαφοροποιημένα) σετ δεδομένων.

Αυξάνεται το ενδιαφέρον των Ελλήνων για την ΤΝ

Από την πλευρά της, η συντονίστρια της συζήτησης, Ευγενία Μπόζου, επικεφαλής κυβερνητικών υποθέσεων και δημόσιας πολιτικής της Google για τις αγορές της Ελλάδας, της Κύπρου και της Μάλτας, επισήμανε ότι το ενδιαφέρον των Ελλήνων για την ΤΝ βαίνει διαρκώς αυξανόμενο: «Πριν τέσσερις ημέρες γιορτάσαμε 15 χρόνια παρουσίας Google στην Ελλάδα και με αυτή την αφορμή κάναμε μια έρευνα και είδαμε ότι μόνο το 2023, βάσει των αναζητήσεων στο Διαδίκτυο, το ενδιαφέρον των Ελλήνων για την ΤΝ αυξήθηκε κατά 270% και στη δεκαετία κατά 1000%. Μπαίνουμε παγκοσμίως σε μια νέα κρίσιμη περίοδο για ΤΝ και οι επιλογές που θα κάνουμε σήμερα είτε είμαστε κυβερνήσεις είτε βιομηχανίες είτε Κοινωνία των Πολιτών θα διαμορφώσουν την πορεία προς το μέλλον. Χρειάζεται να δημιουργηθεί μια νέα ατζέντα, που ελπίζουμε ότι θα βρίθει ευκαιριών για την αγορά εργασίας, τη δημόσια υγεία και την παγκόσμια ανάπτυξη» υπογράμμισε και πρόσθεσε ότι «η ΤΝ είναι πολύ σημαντική για να μη τη ρυθμίσεις και παραείναι σημαντική για να μη τη ρυθμίσεις σωστά».

(ΑΠΕ-ΜΠΕ / photo: pixabay)

ΠΟΛΙΤΙΚΟΛΟΓΙΕΣ

ΠΡΕΠΕΙ ΝΑ ΔΙΑΒΑΣΕΤΕ

Κύρια Θέματα

ΕΥΚΑΙΡΙΕΣ ΑΓΟΡΩΝ

Κάθε μέρα μαζί