«Πόλεμος» στην ομάδα ηθικής τεχνητής νοημοσύνης της Google

Η Google απέλυσε την Παρασκευή τη Μάργκαρετ Μίτσελ, ιδρύτρια και πρώην επικεφαλής της ομάδας ηθικής τεχνητής νοημοσύνης (ΑΙ) της εταιρείας, σε μια εξέλιξη που φαίνεται να δίνει νέα διάσταση στην αντιπαράθεση που φαίνεται να είναι σε εξέλιξη στο εσωτερικό της εταιρείας περί ακαδημαϊκών ελευθεριών και ποικιλομορφίας από την αποπομπής της Τίμνιτ Γκέμπρου, άλλης μιας ερευνήτριας ηθικής τεχνητής νοημοσύνης, τον Δεκέμβριο.

Η Μίτσελ ανακοίνωσε την εξέλιξη μέσω tweet, ενώ η Google, επιβεβαιώνοντας την απόλυση της Μίτσελ, τόνισε σε σχετική δήλωση στο TechCrunch πως «μετά τη διεξαγωγή έρευνας πάνω στη συμπεριφορά αυτής της μάνατζερ, επιβεβαιώσαμε ότι υπήρξαν πολλαπλές παραβιάσεις του κώδικα συμπεριφοράς μας, καθώς και των πολιτικών ασφαλείας μας, που περιελάμβαναν την εξαγωγή εμπιστευτικών, ευαίσθητων επιχειρηματικών εγγράφων και προσωπικών δεδομένων άλλων εργαζομένων».

Τον Ιανουάριο η Google είχε μπλοκάρει την εταιρική πρόσβαση της Μίτσελ επειδή, σύμφωνα με το Axios, φερόταν να έχει χρησιμοποιήσει αυτοματοποιημένα scripts για να βρει παραδείγματα άδικης μεταχείρισης της Τίμνιτ Γκέμπρου. Η Γκέμπρου ισχυρίζεται πως απολύθηκε από τη Google, ενώ η Google επιμένει πως παραιτήθηκε.

Νωρίτερα μέσα στον μήνα η Μίτσελ είχε δημοσιεύσει το email που λέει ότι είχε στείλει στην ομάδα του γραφείου Τύπου της εταιρείας την ημέρα που της κόπηκε η πρόσβαση στο εταιρικό email. Το email μιλούσε για την αποπομπή της Γκέμπρου και πώς φαινόταν να «τροφοδοτείται από τις ίδιες βάσεις ρατσισμού και σεξισμού που τα συστήματα τεχνητής νοημοσύνης μας, όταν είναι στα λάθος χέρια, τείνουν να συσσωρεύουν».

Η Μίτσελ, μεταξύ άλλων, υποστήριζε πως το πώς η Γκέμπρου απολύθηκε «δεν ήταν εντάξει», το τι ειπώθηκε για αυτό «δεν ήταν εντάξει» και «το περιβάλλον που οδήγησε σε αυτό δεν ήταν και δεν είναι εντάξει…αντιμετωπίστηκε ανάρμοστα, με μεγάλη έλλειψη σεβασμού, και της αξίζει μια συγγνώμη».

Η θέση της Google είναι πως η Μίτσελ μετακίνησε έγγραφα εκτός της εταιρείας. Σημειώνεται πως και οι δύο γυναίκες απαιτούσαν μεγαλύτερη ποικιλομορφία (diversity) στη Google και εξέφραζαν προβληματισμούς περί φερόμενης λογοκρισίας εντός της εταιρείας.

Η Γκέμπρου, ερευνήτρια ηθικής τεχνητής νοημοσύνης, λέει πως απολύθηκε στα τέλη του προηγούμενου έτους αφού έστειλε ένα εσωτερικό email που κατηγορούσε τη Google πως «καταπνίγει τις περιθωριοποιημένες φωνές». Ωστόσο η Google λέει πως ήταν η ίδια που έφυγε από την εταιρεία.

Όπως γράφει το BBC, ήταν μια εκ των συντελεστών ενός επιστημονικού άρθρου για το οποίο ισχυρίζεται πως της ζητήθηκε να ανακαλέσει. Το άρθρο εκείνο υποδείκνυε προβλήματα στην τεχνολογία γλώσσας τεχνητής νοημοσύνης, περιλαμβανομένου ενός συστήματος που είχε φτιάξει η Google. Μετά από μια συνάντηση για το εν λόγω άρθρο, έστειλε email σε μια εσωτερική ομάδα ονόματι «Brain Women and Allies», επικρίνοντας την απόφαση.

Η Γκέμπρου έστειλε email στη διοίκηση παρουσιάζοντας κάποιους όρους για την απόσυρση του ονόματός της από το άρθρο, και αν δεν τηρούνταν, θα «εξέταζε μια τελική ημερομηνία» για τη δουλειά της. Σύμφωνα με τη Γκέμπρου, η Google απάντησε πως «σεβόμαστε την απόφασή σας να φύγετε από τη Google…και δεχόμαστε την παραίτησή σας».

Η υπόθεση αυτή έχει προκαλέσει αναβρασμό στην επιστημονική κοινότητα ως προς την ηθική διάσταση της διεξαγωγής επιστημονικής έρευνας σε μεγάλες εταιρείες τεχνολογίας. Εκατοντάδες συνάδελφοι της Γκέμπρου υπέγραψαν επιστολή στήριξης προς την ίδια, και ο διευθύνων σύμβουλος της εταιρείας, Σούνταρ Πιτσάι, εξέφρασε τη λύπη του για τον τρόπο με τον οποίο η ερευνήτρια έφυγε από τη Google.

Σημειώνεται πως η Γκέμπρου είχε γίνει γνωστή επειδή είχε αποκαλύψει την ύπαρξη προκατάληψης σε συστήματα ανάλυσης προσώπου. Η ίδια και η Μίτσελ είχαν ηγηθεί της ομάδας ηθικής τεχνητής νοημοσύνης της Google για περίπου δύο χρόνια.

Από Ναυτεμπορική