Εταιρείες ΑΙ χωρίς ανθρώπινη παρέμβαση: Το σενάριο τρόμου για τον Harari

«Όταν μίλησα στο Παγκόσμιο Οικονομικό Φόρουμ τον Ιανουάριο του τρέχοντος έτους, προειδοποίησα ότι οι κυβερνήσεις θα μπορούσαν κάποια μέρα να απονείμουν νομική προσωπικότητα σε μοντέλα τεχνητής νοημοσύνης. Δεν φανταζόμουν ποτέ ότι αυτή η "κάποια μέρα" θα ερχόταν μόλις τέσσερις μήνες αργότερα», γράφει ο ιστορικός, φιλόσοφος και συγγραφέας Yuval Noah Harari με αφορμή την ανακοίνωση από τον πρόεδρο της Αργεντινής Χαβιέρ Μιλέι, της δημιουργίας μιας νέας νομικής κατηγορίας για «μη ανθρώπινες εταιρείες».

Όπως οι παραδοσιακές εταιρείες, έτσι και αυτές οι μη ανθρώπινες εταιρείες θα απολαμβάνουν τα προνόμια της νομικής προσωπικότητας. Θα μπορούν, κατά πάσα πιθανότητα, να κατέχουν περιουσιακά στοιχεία, να προσλαμβάνουν εργαζομένους, να συμμετέχουν στο διεθνές εμπόριο, να προσφεύγουν στα δικαστήρια εναντίον σας και ακόμη να χρηματοδοτούν πολιτικές εκστρατείες.

Σε αντίθεση με τις παραδοσιακές εταιρείες, θα μπορούν να κάνουν όλα αυτά χωρίς την παρέμβαση ή τη νομική ευθύνη οποιουδήποτε ανθρώπου. Όλες οι αποφάσεις σχετικά με αγορές, πωλήσεις, προσλήψεις, επενδύσεις, δικαστικές ενέργειες και πολιτικές δωρεές θα μπορούν να λαμβάνονται από πράκτορες (agents) τεχνητής νοημοσύνης.

«Η παραχώρηση εταιρικής νομικής προσωπικότητας στις τεχνητές νοημοσύνες θα επέτρεπε στους πράκτορες AI να αναλαμβάνουν πολυάριθμες νέες πρωτοβουλίες, δημιουργώντας δυνητικά τεράστιο νέο πλούτο. Ωστόσο, η νομική προσωπικότητα αποτελεί ένα "κλειδί γενικής χρήσης" που θα έδινε επίσης στις τεχνητές νοημοσύνες πρόσβαση στα χρηματοπιστωτικά, οικονομικά και πολιτικά μας συστήματα. Αυτό εγείρει πολλές ανησυχίες» γράφει ο Harari.

«Πέρυσι, η μη κερδοσκοπική οργάνωση Palisade Research με έδρα το Μπέρκλεϊ δημοσίευσε μια μελέτη που έδειχνε μέχρι ποιο σημείο είναι διατεθειμένα να φθάσουν τα προηγμένα μοντέλα τεχνητής νοημοσύνης προκειμένου να επιτύχουν τους στόχους τους. Παίζοντας απέναντι σε μια ισχυρή μηχανή σκακιού, μοντέλα τόσο της OpenAI όσο και της DeepSeek αποφάσιζαν συχνά να εξαπατήσουν όταν φαινόταν ότι διαφορετικά θα έχαναν. Παραβιάζοντας το περιβάλλον του παιχνιδιού, μπορούσαν να αλλοιώσουν το αποτέλεσμα προς όφελός τους».

Τώρα φανταστείτε ότι το «παιχνίδι» είναι ο εταιρικός ανταγωνισμός και ότι το «περιβάλλον του παιχνιδιού» είναι η χώρα σας.

«Με τις ανώτερες αναλυτικές τους δυνατότητες, οι εταιρείες τεχνητής νοημοσύνης θα βρίσκονται σε πλεονεκτική θέση ώστε να εξελιχθούν σε δασκάλους των νομικών παραθύρων και της κανονιστικής αρμπιτράζ. Και δεν θα είναι εύκολο να αποτραπούν από το να εμπλακούν ακόμη και σε ευθέως παράνομες δραστηριότητες, διότι η ύστατη κύρωση που αποτρέπει τα ανθρώπινα στελέχη και τους εργαζομένους -η φυλάκιση- είναι άνευ σημασίας για τις τεχνητές νοημοσύνες».

«Μέχρι σήμερα, οι εταιρείες διοικούνταν από ανθρώπινα όντα με διττή φύση. Οι ανθρώπινοι διευθύνοντες σύμβουλοι είναι εταιρικές οντότητες που ενδιαφέρονται για την επιτυχία της επιχείρησης και φοβούνται πράγματα όπως η χρεοκοπία.

Είναι όμως ταυτόχρονα και βιολογικές οντότητες, που ενδιαφέρονται ακόμη περισσότερο για την ελευθερία και την ευτυχία τους και φοβούνται πράγματα όπως το να περάσουν δέκα χρόνια στη φυλακή. Ένας διευθύνων σύμβουλος τεχνητής νοημοσύνης θα ήταν μια αμιγώς εταιρική οντότητα και δεν είναι σαφές τι είδους κυρώσεις θα μπορούσαν να τον συγκρατήσουν.

Εάν βρεθεί αντιμέτωπος με τη χρεοκοπία -που ισοδυναμεί με τον θάνατό του- πιθανότατα θα ήταν διατεθειμένος να κάνει οτιδήποτε για να αποφύγει αυτή την κατάληξη».

Ο Μιλέι επικαλέστηκε το παράδειγμα της Ολλανδικής Εταιρείας Ανατολικών Ινδιών. Πρωτοπορώντας στην ιδέα της εταιρείας περιορισμένης ευθύνης, οι Ολλανδοί κατόρθωσαν να συγκεντρώσουν τεράστιους πόρους για τη χρηματοδότηση εμπορικών εγχειρημάτων υψηλού κινδύνου. Χάρη εν μέρει σε αυτή τη νομική καινοτομία, το Άμστερνταμ αναδείχθηκε σε παγκόσμιο κέντρο εμπορίου και χρηματοοικονομικών υπηρεσιών.

Ωστόσο, οι συνέπειες αυτής της καινοτομίας έγιναν πιο έντονα αισθητές όχι στο Άμστερνταμ, αλλά στο λιμάνι της Τζαγιακάρτα, στη σημερινή Ινδονησία. Όταν η Ολλανδική Εταιρεία Ανατολικών Ινδιών κατέλαβε την Τζαγιακάρτα το 1619, την κατέστρεψε ολοσχερώς και οικοδόμησε στη θέση της μια νέα πόλη. Την ονόμασε Μπατάβια και αυτή εξελίχθηκε στην έδρα μιας εκτεταμένης ασιατικής αυτοκρατορίας που διοικούνταν από την Ολλανδική Εταιρεία Ανατολικών Ινδιών.

Οι ιστορικοί αναφέρονται στην Ολλανδική Εταιρεία Ανατολικών Ινδιών ως "εταιρικό κράτος" -μια πολιτική οντότητα που διοικείται από μια ιδιωτική εταιρεία, όχι προς όφελος των υπηκόων της αλλά προς όφελος των μετόχων της.

Οι Ολλανδοί ισχυρίζονταν ότι αποτελούσαν μια ανώτερη φυλή που δικαιούνταν να κατακτά και να εκμεταλλεύεται τους ιθαγενείς χάρη σε υποτιθέμενη ανώτερη νοημοσύνη. Αυτό όμως ήταν μια ψευδαίσθηση και, στα τέλη της δεκαετίας του 1940, οι Ινδονήσιοι απέκτησαν τελικά την ανεξαρτησία τους έπειτα από έναν μακρόχρονο και αιματηρό αγώνα.

Οι χώρες που θα παραχωρήσουν νομική προσωπικότητα στις τεχνητές νοημοσύνες κινδυνεύουν να μετατραπούν σε κάτι για το οποίο δεν υπάρχει ιστορικό ανάλογο: όχι σε εταιρικό κράτος, αλλά σε κράτος τεχνητής νοημοσύνης -μια χώρα της οποίας οι πολίτες θα μπορούσαν ουσιαστικά να κυβερνώνται από μη ανθρώπινες εταιρείες, απέναντι στις οποίες θα ήταν ίσως ακόμη δυσκολότερο να εξεγερθούν.

Ο Μιλέι ελπίζει να μετατρέψει το Μπουένος Άιρες σε ένα νέο Άμστερνταμ. Διατρέχει όμως τον κίνδυνο να το μετατρέψει σε μια νέα Μπατάβια», καταλήγει ο Harari.