της Alina Tugend*
Ένα από τα πιο προκλητικά διλήμματα που αντιμετωπίζουν οι επιχειρήσεις και οι κυβερνήσεις είναι το πώς θα δημιουργηθούν θέσεις εργασίας για περισσότερους -διαφορετικούς μεταξύ τους- ανθρώπους και πώς θα χρησιμοποιηθεί η τεχνητή νοημοσύνη (A.I.) με ηθικό τρόπο.
Ενώ τα δύο αυτά θέματα μπορεί να φαίνεται ότι έχουν λίγα κοινά στοιχεία, εκτός από το ότι είναι σύνθετα, αλληλεπικαλύπτονται. Πρόσφατα, για παράδειγμα, σύμφωνα με την ειδησεογραφία, το Amazon έπαψε να χρησιμοποιεί μια μέθοδο προσλήψεων που βασιζόταν στην τεχνητή νοημοσύνη, γιατί έδειχνε προτίμηση στους άντρες.
Αυτά τα θέματα ήταν το αντικείμενο δύο ξεχωριστών ομάδων εργασίας στο συνέδριο του DealBook στο Lincoln Center της Νέας Υόρκης, την 1η Νοεμβρίου 2018. Κάθε ομάδα αποτελούνταν από 10-12 ειδικούς και leaders εταιρειών και κατέληξε σε κάποιες γενικές γραμμές και σημεία προσοχής, οι οποίες στη συνέχεια ανακοινώθηκαν στο συνέδριο και θα μπορούν να φτάσουν στις εταιρείες και σε άλλους οργανισμούς για περαιτέρω συζήτηση και διερεύνηση.
Τεχνητή νοημοσύνη
Οι εταιρείες πρέπει να έχουν υπόψη τους και να αναγνωρίζουν ότι οι αλγόριθμοι δεν είναι ουδέτεροι, αλλά έχουν δημιουργηθεί από ανθρώπους με προκαταλήψεις και πεποιθήσεις. Έτσι, πρέπει να καταβάλουν κάθε προσπάθεια ώστε να εξαλείψουν αυτές τις προκαταλήψεις. Είναι πάρα πολύ εύκολο να υποθέσουμε ότι η τεχνολογία έχει μια αντικειμενικότητα που οι άνθρωποι δεν έχουν.
Ωστόσο, η αλήθεια είναι ότι «η τεχνητή νοημοσύνη, η βαθιά μηχανική μάθηση (Σ.τ.Μ. oι μηχανές που μπορούν και μαθαίνουν) και γενικά οι αλγόριθμοι δεν σχεδιάζονται από κανέναν άλλον, παρά από εμάς, τους ανθρώπους», είπε ο Dipayan Ghosh, συνεργάτης στο Κέντρο Shorenstein για τα media και την πολιτική στο Harvard Kennedy School.
«Η A.I. δέχεται δεδομένα και σπεύδει να βγάλει συμπεράσματα και να πάρει αποφάσεις για τον κόσμο», είπε. Αυτά τα συμπεράσματα θα περιλαμβάνουν ανεπίγνωστες προκαταλήψεις, εκτός αν οι άνθρωποι είναι πρόθυμοι να τις αναγνωρίσουν και να επενδύσουν χρόνο και χρήμα για να τις απομακρύνουν.
Η Frida Polli, συνιδρύτρια και διευθύνουσα σύμβουλος στην Pymetrics, η οποία χρησιμοποιεί την τεχνητή νοημοσύνη για να εντοπίσει και να προσλάβει εργαζόμενους για λογαριασμό εταιρειών, έδειξε πώς μπορούν να ανακύψουν και πώς μπορούν να εξαφανιστούν οι προκαταλήψεις.
Οι αλγόριθμοι που χρησιμοποιούνται στην τεχνητή νοημοσύνη δημιουργούνται με τη χρήση «εκπαιδευτικών δεδομένων» (training data -δεδομένα που «διδάσκουν» τον αλγόριθμο, ώστε το μοντέλο να είναι πιο αποδοτικό). Αν σε αυτά τα εκπαιδευτικά δεδομένα υπάρχει υπερεκπροσώπηση κάποιου φύλου ή κάποιας εθνικότητας, τα χαρακτηριστικά αυτής της ομάδας μπορεί να είναι υπερτονισμένα.
Για να αντιμετωπιστεί το πρόβλημα, ανέφερε, η εταιρεία της δοκίμασε έναν αλγόριθμο σε μια ομάδα αναφοράς που αποτελούνταν από διαφορετικά φύλα και εθνικότητες, ώστε να ελέγξει για την ύπαρξη τυχόν προκαταλήψεων. Αν προκύπτει ανισορροπία από το τεστ -για παράδειγμα αν προκύπτει ότι οι καλύτεροι εργαζόμενοι θα είναι πολύ περισσότερο άνδρες ή λευκοί απ’ ό,τι γυναίκες ή μέλη άλλων φυλών- «τότε μπορούμε να ξαναδούμε τα κριτήρια στάθμισης», που αλλάζουν τον αλγόριθμο.
Οι τεχνολογικές εταιρείες μπορούν και θα πρέπει να βοηθήσουν την κυβέρνηση -και ιδιαίτερα τον στρατό- να αναπτύξει και να χρησιμοποιήσει την τεχνητή νοημοσύνη, αλλά αυτό πρέπει να γίνει με επιμέλεια και προσοχή.
Ένα από τα πρώτα θέματα που ανέκυψαν κατά τη διάρκεια του διαλόγου στο συνέδριο ήταν η απόφαση που ανακοίνωσε η Microsoft να διεκδικήσει ένα συμβόλαιο «υπολογιστικού νέφους» (cloud computing) με το αμερικανικό Πεντάγωνο, ύψους 10 δισ. δολ. Αυτό συνέβη αφότου η Google ανακοίνωσε ότι αποσύρεται από τον διαγωνισμό και ενημέρωσε τον στρατό ότι δεν θα παρέχει προϊόντα τεχνητής νοημοσύνης για να φτιαχτούν πιο ακριβή drones ή για να ανταγωνιστούν οι ΗΠΑ την Κίνα στη δημιουργία οπλικών συστημάτων.
«Ο δημόσιος διάλογος για το πότε και πώς πρέπει να μοιράζεσαι τεχνολογία με την κυβέρνηση και συγκεκριμένα για το αν πρέπει οι εταιρείες να μοιράζονται τεχνολογία με τον στρατό, είναι σε εξέλιξη», είπε η Peggy Johnson, εκτελεστική αντιπρόεδρος του τμήματος Business Development της Microsoft.
Το μεγαλύτερο μέρος της ομάδας συμφώνησε ότι οι συνεργασίες μεταξύ τεχνολογικών εταιρειών και της κυβέρνησης σε θέματα τεχνητής νοημοσύνης μπορεί να είναι επωφελείς, αλλά ο Serkan Pianino, ιδρυτής και Διευθύνων Σύμβουλος της Spell, μιας εταιρείας που φτιάχνει εργαλεία για παρόχους τεχνολογίας τεχνητής νοημοσύνης, είπε ότι πρέπει να υπάρχουν όρια.
«Η αυτοματοποίηση της διαδικασίας για τη χρήση θανάσιμης οπλικής ισχύος είναι κάτι που δεν θα ένιωθα άνετα να κάνω, με δεδομένο το πόσο λίγα γνωρίζουμε για το τι συμβαίνει με τους αλγόριθμους στην τεχνητή νοημοσύνη», είπε.
Η τεχνητή νοημοσύνη απαιτεί διαφάνεια στο εσωτερικό των εταιρειών που τη δημιουργούν και τη χρησιμοποιούν, αλλά και διαφάνεια προς το κοινό.
Ο ενδοεταιρικός διάλογος για τα πιθανά επίμαχα θέματα που σχετίζονται με την τεχνητή νοημοσύνη -όπως στην περίπτωση της Microsoft- είναι μια μορφή διαφάνειας. Ο Dennis Crowley, συνιδρυτής και εκτελεστικός πρόεδρος της Foursquare, ανέφερε ότι στην εταιρεία του γίνονταν πολλές συζητήσεις όταν έπρεπε να ληφθούν επιχειρηματικές αποφάσεις που μπορεί να είχαν ηθικές επιπτώσεις.
«Κάποιες φορές έχουμε την ευκαιρία να κάνουμε πιο πολύ κακό παρά καλό και αυτό είναι κάτι που πρέπει να το εξετάσουμε», είπε. Ένα παράδειγμα, ανέφερε, ήταν το αν η εταιρεία του θα συνεργαστεί με αλυσίδες fast food που έθεταν ως target group τους χρήστες κάνναβης, στις περιοχές όπου είναι νόμιμη. Δεν είχε ξαναγίνει.
«Αυτό ήταν οριακό, οπότε πήγαμε στην επιτροπή ηθικής», είπε ο κ. Crowley. Στο τέλος, «Αποφασίσαμε να κάνουμε την καμπάνια. Ήταν νόμιμο και έξυπνο και μια καλή χρήση της τεχνολογίας γύρω από μια κατηγορία στην οποία δεν υπάρχει πολλή διαφήμιση».
Ο Cordell Schachter, ο επικεφαλής τεχνολογίας στο Τμήμα Μεταφορών της Νέας Υόρκης, σημείωσε ότι η διαφάνεια θα ήταν πολύ σημαντική σε εκείνους που θα δημιουργήσουν το μελλοντικό σύστημα μεταφορών της πόλης, το οποίο θα είναι δομημένο με βάση την τεχνητή νοημοσύνη. «Θέλουμε να δούμε τα στοιχεία -όχι επιλεκτικά- πριν εφαρμοστεί στους δρόμους», είπε.
Διαφορετικότητα και αποφυγή των αποκλεισμών
Οι εταιρείες πρέπει να ορίσουν στόχους, όπως και να θέσουν κίνητρα, ώστε να έχουν πιο διαφοροποιημένη σύνθεση προσωπικού, αλλά αυτό δεν μπορεί να γίνει εν κενώ. Οι φιλόδοξοι στόχοι είναι σημαντικοί αλλά «δεν αρκούν», είπε η Stephanie Cohen, επικεφαλής στρατηγικής στην Goldman Sachs. Δεν αρκεί να λες ότι θέλεις να έχεις 50-50 εκπροσώπηση του κόσμου στην εταιρεία σου -πρέπει να υπάρχει διαφάνεια γύρω από αυτό». Αυτό σημαίνει να ορίσεις ποιος συγκεκριμένα είναι ο στόχος και τι συγκεκριμένα κάνει η εταιρεία για να καταφέρει να φτάσει εκεί. «Και καλό και κακό», είπε.
«Υπάρχουν όλο και περισσότερα στοιχεία που δείχνουν ότι το διαφορετικό γνωστικό προφίλ των μελών, βοηθά στη λήψη καλύτερων αποφάσεων σε επίπεδο διοικητικού συμβουλίου», είπε ο Cyrus Taraporevala, Πρόεδρος και CEO της State Street Global Advisors. «Μελέτες δείχνουν ότι τα διοικητικά συμβούλια με σύνθεση που περιλαμβάνει διαφορετικούς μεταξύ τους ανθρώπους, δίνουν περισσότερη σημασία στη διαχείριση κινδύνου και επηρεάζονται λιγότερο από τον νεποτισμό και την ομαδοποιημένη σκέψη και συμπεριφορά».
Αλλά υπάρχει ο κίνδυνος οι στόχοι να γίνουν μια λίστα όπου τα πράγματα τσεκάρονται χωρίς να αντιστοιχούν σε πραγματική αλλαγή. Ο Damien Hooper-Campbell, αρμόδιος για την ποικιλομορφία στο eBay, είπε ότι ενώ το να τίθενται στόχοι για τη διαφορετικότητα είναι σημαντικό -όπως και η υποστήριξή τους με περιορισμό των bonus, αν οι στόχοι δεν επιτευχθούν-, πρέπει να δεις «πού βρίσκεται η εταιρεία».
Αν η εταιρεία μόλις ξεκίνησε να εστιάζει στη διαφοροποίηση της σύνθεσης του εργατικού της δυναμικού, πρέπει να εκπαιδευθεί για το πώς θα το επιτύχει σταδιακά», είπε. «Οι άνθρωποι συζητούν για το πώς οι επιχειρήσεις “διαβάζουν” τα γραφήματα και την παραγωγικότητα, οπότε μπορούν να “διαβάσουν” και αυτό επίσης. Αλλά υπάρχει μεγάλη διαφορά ανάμεσα σε γραφήματα και σε ανθρώπους».
Οι ομοσπονδιακές πολιτικές των ΗΠΑ και η νομοθεσία μπορούν να παίξουν ρόλο στην προώθηση της διαφορετικότητας στον χώρο εργασίας.
Η ανάπτυξη νόμων και πολιτικών που θα φέρουν τη διαφορετικότητα δεν είναι πάντοτε δημοφιλής διαδικασία, αλλά ορισμένοι ισχυρίζονται πως υπάρχουν περιοχές στις οποίες η κυβέρνηση μπορεί να βοηθήσει. Ο John Hope Bryant, ιδρυτής και πρόεδρος της Επιχείρησης HOPE, ενός μη κερδοσκοπικού οργανισμού, είπε ότι υπάρχει ανάγκη για ομοσπονδιακή πολιτική που θα δώσει εύσημα στις εταιρείες που προσφέρουν τη δυνατότητα πρακτικής άσκησης και μαθητείας. Όταν η προσπάθεια κατευθύνεται σε γυναίκες και σε έγχρωμους, «θα πρέπει να παίρνεις διπλάσια εύσημα για την επίτευξη αυτού του διπλού στόχου».
Μια ομοσπονδιακή πολιτική που θα ενθάρρυνε τη λήψη άδειας για οικογενειακούς λόγους θα μπορούσε επίσης να παίξει σημαντικό ρόλο στην προώθηση της εκπροσώπησης όλων στο εργατικό δυναμικό, είπε η Sallie Krawcheck, επικεφαλής και συνιδρύτρια της Ellevest, της ψηφιακής πλατφόρμας συμβουλών για γυναίκες.
Η πολιτική σε ομοσπονδιακό επίπεδο θα μπορούσε επίσης να διασφαλίσει ότι οι πληροφορίες που δίνουν οι εταιρείες για το εργατικό δυναμικό τους και για τις απολαβές του είναι πραγματικά ειλικρινείς. Για παράδειγμα, στη Μ. Βρετανία, πολλές δημόσιες και ιδιωτικές εταιρείες αλλά και δράσεις εθελοντών, απαιτείται να αποκαλύπτουν τον μέσο μισθό που δίνουν σε άντρες και γυναίκες, περιλαμβανομένων των μπόνους.
Στις ΗΠΑ, είπε η Lauren Taylor Wolfe, διευθύνουσα εταίρος στην Impactive Capital, «Πολλές εταιρείες αποφασίζουν τι θα αποκαλύψουν και τι δεν θα αποκαλύψουν. Αν δεν εφαρμοστεί σε πλήρη κλίμακα, δεν πρόκειται για πραγματική διαφάνεια».
Για να υποστηρίζει πραγματικά την πολυμορφία του εργατικού της δυναμικού και να μην υιοθετεί αποκλεισμούς, μια εταιρεία πρέπει να αλλάξει την κουλτούρα της -και αυτό πρέπει να γίνει από την κορυφή προς τα κάτω. «Μπορεί να έχεις πολιτικές και πρακτικές, αλλά αν η κουλτούρα της επιχείρησης δεν είναι έτοιμη να το δεχθεί, θα είναι κάτι που θα απορριφθεί από το σώμα», είπε η Thasunda Duckett, επικεφαλής του τμήματος καταναλωτικής πίστης στην JP Morgan Chase. Ή, όπως σημείωσε η κ. Taylor Wolfe, «οι εταιρείες παίρνουν ό,τι προκρίνουν και, αν προκρίνουν την πολυμορφία, θα την πάρουν».
Κανείς δεν περιμένει ότι η αλλαγή στην εταιρική κουλτούρα θα συμβεί γρήγορα, αλλά ένα από τα σημαντικά στοιχεία, είπε η κ. Duckett, είναι ότι οι ιδιοκτήτες και οι επικεφαλής των εταιρειών «πρέπει να διοικούν έχοντας στο μυαλό τους τη διαφορετικότητα. Δεν γίνεται να τους διοικείς όλους με τον ίδιο τρόπο και να περιμένεις τα ίδια αποτελέσματα. Άλλωστε, και οι γονείς δεν περιμένουν να είναι ίδια όλα τα παιδιά τους -ασκούν τον γονεϊκό τους ρόλο διαφορετικά, ανάλογα με την προσωπικότητα του παιδιού, τις δυνάμεις και τις αδυναμίες του», είπε. «Οι μάνατζερ πρέπει να κάνουν το ίδιο».
Σημείωσε ακόμη ότι η ποικιλομορφία δεν σημαίνει ότι μετέχουν όλοι στις ενδοεταιρικές διαδικασίες -και οι εταιρείες πρέπει να το ξέρουν αυτό. «Ποικιλομορφία είναι να σε καλούν στο πάρτι, το να μετέχουν όλοι σε αυτό σημαίνει να σου ζητούν να χορέψεις».
Τελικά, η αλλαγή μπορεί να φανεί αργή, αλλά ο κ. Hooper-Campbell επισήμανε ότι οι άνθρωποι δεν θα πρέπει να ξαφνιάζονται. «Ούτε 100 χρόνια δεν έχουν περάσει από τότε που δεν θα μπορούσα να είμαι στο ίδιο σχολείο με κάποιους από όσους είναι σε αυτό το συνέδριο».
*Η Alina Tugend είναι δημοσιογράφος των New York Times