Σήμερα, όμως, εμφανίζεται κι ένα διαφορετικό πρόβλημα.

Η Τεχνητή Νοημοσύνη μπορεί να βρίσκεται ήδη στην είσοδο της αγοράς εργασίας, αποφασίζοντας ποιοι υποψήφιοι θα προχωρήσουν και ποιοι θα αποκλειστούν, πριν καν μιλήσουν με έναν άνθρωπο.

Η χρήση αυτοματοποιημένων συστημάτων στις προσλήψεις αυξάνεται. Τα εργαλεία αυτά μπορούν να διαβάζουν βιογραφικά, να αναζητούν συγκεκριμένες δεξιότητες και εμπειρίες, να κατατάσσουν υποψηφίους, να πραγματοποιούν αρχικές αξιολογήσεις ή ακόμη και να αναλύουν βιντεοσυνεντεύξεις. Η αμερικανική Επιτροπή Ίσων Ευκαιριών Απασχόλησης (EEOC) έχει επισημάνει, ότι τέτοιες τεχνολογίες χρησιμοποιούνται ήδη, σε διαφορετικά στάδια της διαδικασίας πρόσληψης.

Όταν το βιογραφικό δεν φτάνει ποτέ στον υπεύθυνο προσλήψεων
Το πρώτο φίλτρο μπορεί να είναι ένας αλγόριθμος. Ένα σύστημα μπορεί να αναζητήσει λέξεις-κλειδιά, τίτλους θέσεων, χρόνια εμπειρίας, σπουδές ή άλλες πληροφορίες που θεωρεί σημαντικές για έναν συγκεκριμένο ρόλο. Στη συνέχεια μπορεί να δημιουργήσει μια λίστα υποψηφίων που θα εξετάσει ο υπεύθυνος προσλήψεων. Το πρόβλημα είναι ότι ένας άνθρωπος μπορεί να μην εξετάσει ποτέ τα βιογραφικά που έμειναν εκτός της λίστας. Έτσι, η απόρριψη δεν έρχεται απαραίτητα με ένα ξεκάθαρο «όχι». Μπορεί απλώς να μην υπάρξει ποτέ τηλεφώνημα, email ή πρόσκληση για συνέντευξη.

Η AI μπορεί να επαναλάβει ανθρώπινες προκαταλήψεις
Η Τεχνητή Νοημοσύνη παρουσιάζεται συχνά ως πιο αντικειμενική από έναν άνθρωπο. Όμως ένας αλγόριθμος μαθαίνει από δεδομένα και πρότυπα. Αν τα δεδομένα του παρελθόντος περιέχουν ανισότητες ή προκαταλήψεις, υπάρχει κίνδυνος αυτές να αναπαραχθούν. Η EEOC έχει προειδοποιήσει ότι τα συστήματα AI μπορούν, υπό ορισμένες συνθήκες, να οδηγήσουν σε παράνομες διακρίσεις, μεταξύ άλλων λόγω φύλου, ηλικίας ή αναπηρίας.

Ένα χαρακτηριστικό παράδειγμα, από τα προηγούμενα χρόνια, ήταν ένα πειραματικό εργαλείο μιας μεγάλης εταιρίας ηλεκτρονικών αγορών για την αξιολόγηση βιογραφικών. Το σύστημα είχε εκπαιδευτεί σε παλαιότερα δεδομένα προσλήψεων και διαπιστώθηκε ότι υποβάθμιζε βιογραφικά που περιείχαν ενδείξεις ότι ο υποψήφιος ήταν γυναίκα. Το εργαλείο εγκαταλείφθηκε. Η περίπτωση αυτή έγινε χαρακτηριστικό παράδειγμα του κινδύνου που υπάρχει, όταν ένα σύστημα μαθαίνει από δεδομένα που ήδη περιέχουν ανισορροπίες.

Δεν χρειάζεται καν να υπάρχει πρόθεση
Το πιο δύσκολο κομμάτι είναι ότι η προκατάληψη δεν χρειάζεται να έχει προγραμματιστεί σκόπιμα. Ένα σύστημα μπορεί να θεωρήσει ότι ορισμένα χαρακτηριστικά, συνδέονται στατιστικά με επιτυχημένους εργαζομένους και να χρησιμοποιήσει αυτές τις συσχετίσεις για να προβλέψει ποιος είναι καταλληλότερος. Όμως η συσχέτιση δεν σημαίνει απαραίτητα αιτία. Για παράδειγμα, ένα βιογραφικό μπορεί να περιέχει συγκεκριμένο τίτλο σπουδών ή να παρουσιάζει μια συγκεκριμένη επαγγελματική διαδρομή, επειδή αυτό ήταν συνηθισμένο στους εργαζομένους που είχαν επιτυχία στο παρελθόν. Αυτό δεν σημαίνει ότι όποιος δεν έχει το ίδιο υπόβαθρο, δεν μπορεί να είναι εξίσου καλός στη δουλειά. Η ίδια η EEOC έχει επισημάνει τους κινδύνους από τη χρήση τέτοιων συσχετίσεων ως κριτηρίων επιλογής.

Και υπάρχει ένα ακόμη πρόβλημα: Η διαφάνεια
Όταν ένας άνθρωπος απορρίπτει έναν υποψήφιο, θεωρητικά μπορεί να εξηγήσει την απόφασή του. Με ένα σύνθετο αυτοματοποιημένο σύστημα, η εικόνα μπορεί να είναι πολύ πιο δύσκολη. Ο υποψήφιος μπορεί να μην γνωρίζει ποια στοιχεία του βιογραφικού του αξιολογήθηκαν, ποια δεδομένα χρησιμοποιήθηκαν ή γιατί ένας άλλος υποψήφιος βρέθηκε υψηλότερα στη λίστα.
Αυτός είναι και ένας από τους λόγους για τους οποίους η χρήση AI στις προσλήψεις έχει αρχίσει να προκαλεί έντονο ενδιαφέρον από ρυθμιστικές αρχές και νομοθέτες.

Στη Νέα Υόρκη, για παράδειγμα, υπάρχουν συγκεκριμένες απαιτήσεις για ορισμένα αυτοματοποιημένα εργαλεία που χρησιμοποιούνται στις αποφάσεις απασχόλησης, συμπεριλαμβανομένων ελέγχων για πιθανές διακρίσεις και ενημέρωσης των υποψηφίων.

Η Τεχνητή Νοημοσύνη μπορεί πράγματι να βοηθήσει έναν υπεύθυνο ανθρώπινου δυναμικού να διαχειριστεί εκατοντάδες ή χιλιάδες αιτήσεις. Μπορεί να αναλάβει επαναλαμβανόμενες εργασίες και να εξοικονομήσει χρόνο. Το κρίσιμο ερώτημα είναι, ποιος παίρνει την τελική απόφαση.

Μία προσέγγιση που κερδίζει έδαφος είναι η AI να λειτουργεί ως εργαλείο υποστήριξης και όχι ως ο τελικός «κριτής». Δηλαδή, να βοηθά τον άνθρωπο να οργανώσει τις πληροφορίες, ενώ η τελική αξιολόγηση να παραμένει υπό ανθρώπινο έλεγχο. Αυτό είναι ιδιαίτερα σημαντικό όταν μια απόφαση μπορεί να επηρεάσει καθοριστικά τη ζωή κάποιου.

Η συζήτηση για την AI και την εργασία αλλάζει. Ο φόβος δεν αφορά πλέον μόνο, το αν μια μηχανή μπορεί να κάνει τη δουλειά ενός ανθρώπου. Αφορά και κάτι πιο αθόρυβο, αν ένας αλγόριθμος μπορεί να αποφασίσει ποιος άνθρωπος θα πάρει την ευκαιρία να κάνει τη δουλειά.

^{photo: AΠΕ-ΜΠΕ- EPA-EPA}