Το 1970, δύο υπάλληλοι της Polaroid, η χημικός Caroline Hunter και ο φωτογράφος Ken Williams, ανακάλυψαν ότι η εταιρεία πουλούσε φωτογραφικό εξοπλισμό σε υπηρεσίες της κυβέρνησης του Απαρτχάιντ της Νότιας Αφρικής.
Η κυβέρνηση χρησιμοποιούσε αυτή την τεχνολογία για την παραγωγή passbooks, ένα εργαλείο για τον περιορισμό των μετακινήσεων και των δραστηριοτήτων των μαύρων στη χώρα. Η Hunter και ο Williams συνίδρυσαν το Επαναστατικό Εργατικό Κίνημα της Polaroid (Revolutionary Workers’ Movement) για να απαιτήσουν από την εταιρεία να σταματήσει τη λειτουργία της στη Νότια Αφρική.
Λίγο αργότερα, εργαζόμενοι της Polaroid και όσοι συστρατεύτηκαν μαζί τους διοργάνωσαν μια συγκέντρωση που ζητούσε διεθνές μποϊκοτάζ των προϊόντων Polaroid. Έτσι ξεκίνησε μια από τις πρώτες εκστρατείες μποϊκοτάζ, κυρώσεων και αποεπένδυσης εναντίον μιας αμερικανικής εταιρείας λόγω της εμπλοκής της στο νοτιοαφρικανικό Απαρτχάιντ.
Το έργο του Επαναστατικού Κινήματος Εργαζομένων της Polaroid απηχούσε εκείνο μιας άλλης ομάδας, της Science for the People, ενός αντιπολεμικού συνασπισμού επιστημόνων και μηχανικών, που ιδρύθηκε το 1969. Το περιοδικό της ομάδας «Science for the People» δημοσίευε κριτικές αναλύσεις που αμφισβητούσαν την πεποίθηση ότι «στην επιστήμη δεν υπάρχει πολιτική», και η οργάνωση μιλούσε ενάντια στην εισβολή των εταιρειών στην έρευνα, τη χρήση της επιστημονικής προόδου για στρατιωτικούς σκοπούς, τις επιβλαβείς περιβαλλοντικές πολιτικές και πολλά άλλα.
Και οι δύο ομάδες χρησιμοποίησαν τη φωνή τους για να αναδείξουν την εγγενή ένταση μεταξύ του τρόπου με τον οποίο η τεχνολογική πρόοδος προωθείται στο εμπόριο και του ποιος πραγματικά ωφελείται περισσότερο από αυτήν.
Συχνά διαβάζουμε και βλέπουμε διακηρύξεις για το πώς η τεχνολογία θα φέρει επανάσταση στη ζωή μας και ότι θα πρέπει να πιστέψουμε ότι οι εταιρείες τεχνολογίας θα χρησιμοποιήσουν προς το συμφέρον μας την τεράστια δύναμη που έχουν συσσωρεύσει. Η τεχνολογία, μας λένε, αναπτύσσεται για εμάς. Αλλά στην πραγματικότητα, η σημαντική τεχνολογική πρόοδος συνδέεται άμεσα με την κυβερνητική και στρατιωτική χρηματοδότηση, κάτι που θεωρώ αποκομμένο από το αφήγημα της Silicon Valley για την ενίσχυση των κοινωνιών και τη συνένωση των ανθρώπων.
Περισσότερα από 50 χρόνια νωρίτερα, το Επαναστατικό Εργατικό Κίνημα Polaroid και το Science for the People έθεσαν ένα απλό ερώτημα: Τι θα γινόταν αν κατασκευάζαμε εργαλεία που εξυπηρετούσαν τις ανάγκες των πιο ευάλωτων μελών της κοινωνίας αντί να αφήνουμε όσους ενδιαφέρονται να δημιουργήσουν αποτελεσματικές μηχανές θανάτου να υπαγορεύουν το επιστημονικό και τεχνολογικό μας μέλλον; Ή, για να το θέσουμε πιο ξεκάθαρα, για ποιον είναι πραγματικά η τεχνολογία;
Οι εργαζόμενοι σήμερα στον τομέα της τεχνολογίας θέτουν το ίδιο ερώτημα. Με τον κίνδυνο να λογοκριθούν ή ακόμη και να απολυθούν, εντείνουν τις διαμαρτυρίες τους ενάντια στη χρήση της εργασίας τους για διακρίσεις, πόλεμο και αυτό που θεωρούμε γενοκτονία.
Το 2018, οι εργαζόμενοι της Google διαμαρτυρήθηκαν για τη σύμβαση της εταιρείας με το Project Maven, μια πρωτοβουλία του αμερικανικού στρατού να αναπτύσσει αλγόριθμους για την ανάλυση υλικού από μη επανδρωμένα αεροσκάφη και ακολούθως την παρακολούθηση ανθρώπων, οχημάτων και κτιρίων. Οι επικεφαλής του κινήματος παραιτήθηκαν το 2019, δηλώνοντας ότι εκδιώχθηκαν από την εταιρεία για τον ακτιβισμό τους.
Και το 2024 η Google απέλυσε συνολικά 50 εργαζόμενους επειδή διαμαρτυρήθηκαν για το Project Nimbus, μια σύμβαση για την παροχή υπηρεσιών Cloud στην ισραηλινή κυβέρνηση και τον στρατό της.
Η δική μου εμπειρία είναι παρόμοια. Εργάστηκα στην Google, συνεπικεφαλής μιας ομάδας που επικεντρώθηκε στην ελαχιστοποίηση των επιπτώσεων των συστημάτων Τεχνητής Νοημοσύνης. Το 2020, η εταιρεία απέλυσε εμένα και τη Margaret Mitchell, την άλλη συνεπικεφαλής της ομάδας, αφού συντάξαμε ένα έγγραφο σχετικά με τους κινδύνους των μεγάλων γλωσσικών μοντέλων, της τεχνολογίας σε πολλά από τα σημερινά συστήματα παραγωγικής Τεχνητής Νοημοσύνης.
Προειδοποιήσαμε για το καταστροφικό περιβαλλοντικό και οικονομικό κόστος τους, καθώς και για τα αποτελέσματα διάκρισης, τα οποία θα μπορούσαν να οδηγήσουν σε καταστροφικές επιπτώσεις. Ένα από τα παραδείγματα που σημειώσαμε, ήταν η σύλληψη ενός Παλαιστίνιου από την ισραηλινή αστυνομία, αφού το αυτοματοποιημένο πρόγραμμα του Facebook μετέφρασε λανθασμένα την ανάρτησή του «Καλημέρα» στα αραβικά σε «Επιτεθείτε τους» στα εβραϊκά.
Τα γραφεία της Google στο Cambridge, Massachusetts. Η εταιρεία το 2024 απέλυσε 50 εργαζόμενους επειδή διαμαρτυρήθηκαν για την εμπορική της συμφωνία για υπηρεσίες Cloud με την κυβέρνηση και τον στρατό του Ισραήλ.
Το Ισραήλ έχει επίσης αναπτύξει τη δική του τεχνολογία για να διατηρήσει αυτό που η Διεθνής Αμνηστία αποκάλεσε «Αυτοματοποιημένο Απαρτχάιντ» σε μια έκθεση του 2023. Και το 2024 μια έρευνα διαπίστωσε ότι το Ισραήλ χρησιμοποίησε ένα σύστημα Τεχνητής Νοημοσύνης για να εντοπίσει στόχους βομβαρδισμού στη Γάζα με ελάχιστη ανθρώπινη συμμετοχή, ακόμη και αφότου το Ισραήλ κατηγορήθηκε ότι διέπραξε εκεί γενοκτονία.
Την ίδια στιγμή, οι ελίτ της Silicon Valley εμφανίζονται λιγότερο ανοιχτές σε ενστάσεις ή ακόμα και σε συζητήσεις, με επενδυτές και στελέχη να σπεύδουν να προσθέσουν στα χαρτοφυλάκιά τους πολεμικά εργαλεία με χρήση Τεχνητής Νοημοσύνης.
Το 2023 ο διάσημος venture capitalist Marc Andreessen έγραψε ότι «η Α.Ι. πρόκειται να βελτιώσει τον πόλεμο» μειώνοντας «δραματικά τα ποσοστά θανάτου». Η εταιρεία του, Andreessen Horowitz, δημιούργησε ένα νέο fund και φέρεται να βρίσκεται σε συζητήσεις με την κυβέρνηση της Σαουδικής Αραβίας για την αξιοποίηση 40 δισ. δολαρίων σε στρατιωτικές εφαρμογές Τεχνητής Νοημοσύνης.
Ο Sam Altman, διευθύνων σύμβουλος της OpenAI -μιας εταιρείας που φαίνεται να παίζει και στις δύο πλευρές, προειδοποιώντας για τον υποτιθέμενο υπαρξιακό κίνδυνο της παραγωγικής Τεχνητής Νοημοσύνης και διακηρύσσοντάς την ταυτόχρονα ως τον δρόμο προς τη σωτηρία μας- φέρεται να φλερτάρει με τα Ηνωμένα Αραβικά Εμιράτα για να συγκεντρώσει εκατοντάδες δισεκατομμύρια δολάρια και να χρηματοδοτήσει την επέκταση της εταιρείας.
Η Σαουδική Αραβία και τα ΗΑΕ υποστηρίζουν αντίπαλες φατρίες στον καταστροφικό πόλεμο του Σουδάν, τον οποίο ανώτερος αξιωματούχος των Ηνωμένων Εθνών αποκάλεσε «μία από τις χειρότερες ανθρωπιστικές καταστροφές στην πρόσφατη ιστορία». Τα στοιχεία δείχνουν ότι τα Εμιράτα εξοπλίζουν τις Rapid Support Forces, μια ομάδα ανταρτών της οποίας ενέργειες διερευνώνται ως εγκλήματα κατά της ανθρωπότητας, σύμφωνα με την αποστολή του ΟΗΕ για τη διερεύνηση των γεγονότων.
Δεδομένου ότι το κατεστημένο των μεγάλων εταιρειών τεχνολογίας και οι επενδυτές κεφαλαίων που το τροφοδοτούν, επιταχύνουν τις επενδύσεις τους στη στρατιωτική τεχνολογία, ο σημερινός ακτιβισμός πιθανότατα δεν θα μειωθεί σύντομα. Και με ένα πιο ισχυρό κίνημα, μπορούμε επίσης να περιμένουμε να δοθεί μεγαλύτερη προσοχή σε αυτό το πιο σημαντικό ερώτημα: για ποιον είναι πραγματικά η τεχνολογία;
Αρχικά ασχολήθηκα με την τεχνολογία για να αντιμετωπίσω τις ανάγκες της κοινότητάς μου, όχι για να κατασκευάσω εργαλεία που κάνουν τις ένοπλες συγκρούσεις -όπως ο πόλεμος μεταξύ Αιθιοπίας και Ερυθραίας από τον οποίο διέφυγα το 1998- ακόμη πιο επικίνδυνες. Αλλά καμία από τις σπουδές μου σε κορυφαία πανεπιστήμια όπως το Stanford, ούτε η εργασία μου σε εταιρείες όπως η Apple, η Microsoft και η Google, δεν μου έδωσαν αυτή την ευκαιρία.
Αφότου με απέλυσε η Google, ίδρυσα το δικό μου ινστιτούτο, όπου μπορούσα επιτέλους να θέσω ερωτήματα όπως «πώς θα ήταν ένα διαδίκτυο που θα εξυπηρετούσε τους ηλικιωμένους;». Η γιαγιά μου ήταν παράλυτη και δεν μπορούσε να διαβάσει ή να γράψει. Η μόνη γλώσσα που μιλούσε ήταν η Tigrinya. Ήταν από την Ερυθραία, μια χώρα που έχει ένα από τα χαμηλότερα ποσοστά διείσδυσης του διαδικτύου στον κόσμο και κυβερνάται σήμερα από μια ολοκληρωτική κυβέρνηση, που μπορεί να κλείσει όποτε θέλει τη μικρή σύνδεση στο διαδίκτυο που υπάρχει.
Ένα διαδίκτυο που θα κατασκευαζόταν για κάποιον σαν τη γιαγιά μου, θα μπορούσε να περιλαμβάνει τεχνολογία αυτόματης αναγνώρισης ομιλίας, που θα τη βοηθούσε να επικοινωνεί όχι μόνο γραπτά αλλά και με λόγο, στη μητρική της γλώσσα. Το περιεχόμενο θα ήταν σχετικό με την κοινότητά της. Και δεν θα ήταν αναγκασμένη να μπαίνει στο διαδίκτυο για βασικές εργασίες όπως ο προγραμματισμός ενός ραντεβού. Πρόκειται για τεχνολογία που έχει κατασκευαστεί για να αντιμετωπίζει τις ανάγκες των ανθρώπων και όχι για να αλλάζει τη συμπεριφορά τους ή, ακόμη χειρότερα, να τις εξαφανίζει εντελώς.
Η ιστορία μάς έχει διδάξει ότι η καταστολή μόνο την αύξηση του ακτιβισμού των εργαζομένων στον τομέα της τεχνολογίας θα προκαλέσει. Οι επιστήμονες και οι μηχανικοί που δημιούργησαν τον συνασπισμό Science for the People το 1969, κατέληξαν σε αυτό το συμπέρασμα και αποδείχτηκε ότι είχαν δίκιο όταν η Polaroid απέλυσε την Caroline Hunter για τον ακτιβισμό της. Συνέχισε να οργανώνεται από το εξωτερικό και η πίεση του Επαναστατικού Εργατικού Κινήματος της Polaroid βοήθησε να οδηγήσει στην αποεπένδυση της Polaroid από το Απαρτχάιντ της Νότιας Αφρικής το 1977.
Και σήμερα οι εργαζόμενοι στον τομέα της τεχνολογίας θέτουν με παρόμοιο τρόπο τα θεμέλια για ένα μέλλον, όπου η εργασία τους θα χρησιμοποιείται για την εξυπηρέτηση των αναγκών των κοινοτήτων τους αντί για την ανάπτυξη περισσότερων όπλων ή για κέρδη από τη βία.
* H Timnit Gebru είναι ιδρύτρια και εκτελεστική διευθύντρια του Distributed Artificial Intelligence Research Institute. Συγγραφέας του «The View from Somewhere».
© 2024 The New York Times Company και Timnit Gebru