Όταν ρωτάτε κάποιον που εργάζεται στον τομέα της τεχνητής νοημοσύνης (ακόμα και ανθρώπους που πιστεύουν ότι θα μπορούσε να κάνει τρομερό κακό στον κόσμο) «Γιατί το κάνετε;», «Τι νόημα έχει αυτό;», κανείς δεν απαντά «Θα πρέπει να διακινδυνεύσουμε αυτές τις τρομερές συνέπειες, γιατί είναι διασκεδαστικό να μιλάς με το ChatGPT». Λένε «Θα λύσει όλα αυτά τα τρομερά επιστημονικά προβλήματα που έχουμε και θα δημιουργήσει μια εποχή καινοτομίας που δεν έχει γνωρίσει ποτέ η ανθρωπότητα».
Δεν υπάρχουν πολλά παραδείγματα τεχνητής νοημοσύνης που να τα κάνει αυτά ακόμα. Αλλά υπάρχει ένα, το AlphaFold, το σύστημα που κατασκευάστηκε από την DeepMind και που είναι σε θέση να προβλέψει τη δομή εκατοντάδων εκατομμυρίων πρωτεϊνών - ένα τεράστιο επιστημονικό επίτευγμα.
Ο Demis Hassabis είναι ιδρυτής της DeepMind. Η DeepMind ανήκει στην Google, και πρόσφατα ο κ. Hassabis ορίστηκε υπεύθυνος για όλο τον κλάδο της τεχνητής νοημοσύνης στην Google. Έτσι, τώρα ονομάζεται Google DeepMind και ο ίδιος εμπλέκεται σε κάθε ζήτημα. Αυτό τον καθιστά έναν από τους πιο σημαντικούς ανθρώπους στον κόσμο, κάποιον που χαράζει το μέλλον της τεχνητής νοημοσύνης.
Το κείμενο που ακολουθεί είναι (σε συμπτυγμένη μορφή) συνέντευξη του Demis Hassabis στον Ezra Klein, στο «The Ezra Klein Show».
Πείτε μου για την ίδρυση της DeepMind. Πώς αποφασίσατε να ξεκινήσετε;
Στην πραγματικότητα, το υπόβαθρό μου στην τεχνητή νοημοσύνη (Artificial Intelligence - AI) ξεκινά πολύ πριν από την DeepMind. Ξεκίνησα στη βιομηχανία παιχνιδιών, γράφοντας παιχνίδια στον υπολογιστή: κάποια με τεράστιες πωλήσεις, όπως το «Theme Park» και το «Black and White», και άλλα στα οποία δούλεψα στα εφηβικά μου χρόνια. Όλα είχαν την τεχνητή νοημοσύνη ως βασικό συστατικό.
Έχω κάνει πολλά διαφορετικά πράγματα στην καριέρα μου, αλλά όλα περιστρέφονταν, όπως και η DeepMind, γύρω από τη γενική τεχνητή νοημοσύνη. Κατά συνέπεια, η πληροφορική (ως κύριες σπουδές) και το διδακτορικό στις νευροεπιστήμες, στάθηκαν πηγή πληροφοριών και έμπνευσης για αυτό που τελικά θα γεννιόταν ως DeepMind.
Για εσάς, τι είναι η τεχνητή νοημοσύνη;
Νομίζω ότι η τεχνητή νοημοσύνη είναι η επιστήμη του να κάνεις τις μηχανές έξυπνες. Στη συνέχεια, ένας υποκλάδος της τεχνητής νοημοσύνης είναι η μηχανική μάθηση, που είναι το είδος του συστήματος τεχνητής νοημοσύνης που μαθαίνει μόνο του και μαθαίνει απευθείας από τα δεδομένα και την εμπειρία. Αυτό πραγματικά ώθησε την αναγέννηση της τεχνητής νοημοσύνης τα τελευταία 10-15 χρόνια και αυτό είναι το είδος της τεχνητής νοημοσύνης πάνω στο οποίο εργαζόμαστε σήμερα.
Ο Demis Hassabis.
Μεταξύ άλλων, η DeepMind συμβάλλει στην προσπάθεια να δημιουργήσετε αυτό το νέο είδος νοημοσύνης. Και ο τρόπος που προσπαθείτε να το δημιουργήσετε, να το εκπαιδεύσετε και να το δοκιμάσετε, είναι σε παιχνίδια. Πώς πήρατε αυτή την απόφαση;
Ναι, αυτή ήταν μια από τις πρώτες αποφάσεις που νομίζω ότι μας εξυπηρέτησε πολύ όταν ξεκινήσαμε την DeepMind. Πολλοί άνθρωποι που εργάζονταν στην AI εκείνη την εποχή, εμπλέκονταν κυρίως σε πράγματα όπως η ρομποτική και η ενσώματη νοημοσύνη (Embodied Intelligence). Αλλά οι ερευνητές κατέληξαν να περνούν τον περισσότερο χρόνο τους ασχολούμενοι με το υλικό και τα μηχανικά μέρη των ρομπότ, τα οποία πολύ συχνά έσπαγαν. Τα ρομπότ είναι ακριβά και είναι περίπλοκα. Είναι επίσης αργά. Συνειδητοποίησα ότι μπορούσαμε να εκτελέσουμε εκατομμύρια πειράματα στο cloud ταυτόχρονα και να έχουμε πολύ πιο γρήγορους ρυθμούς εκμάθησης, σχετικά φθηνά, γρήγορα και απλά.
Το άλλο πλεονέκτημα των παιχνιδιών είναι ότι έχουν κατασκευαστεί για να αποτελούν πρόκληση για τους ανθρώπους και μπορούμε να χρησιμοποιήσουμε κορυφαίους παίκτες ως ένα πολύ ακριβές σημείο αναφοράς. Υπάρχουν σαφείς στόχοι: πρέπει να κερδίσετε το παιχνίδι ή να μεγαλώσετε το σκορ σας. Αυτού του είδους οι στόχοι είναι πολύ χρήσιμοι εάν θέλετε να εκπαιδεύσετε συστήματα ενισχυτικής μάθησης, στα οποία ειδικευόμαστε, που κυνηγούν αποτελέσματα και είναι στοχοκεντρικά.
Το άλλο ενδιαφέρον στοιχείο είναι ότι μπορείς να αυξήσεις εύκολα την πολυπλοκότητα: έτσι, μπορείτε να συνεχίσετε να αυξάνετε τη δυσκολία των δοκιμών για τα συστήματα τεχνητής νοημοσύνης που κατασκευάζετε καθώς γίνονται όλο και πιο εξελιγμένα.
Απ’ όλα τα συστήματα τεχνητής νοημοσύνης που έχουν κυκλοφορήσει, αυτό που πάντα με εντυπωσίαζε και με ενδιέφερε περισσότερο είναι το AlphaFold, που είναι ένα σύστημα της DeepMind. Πείτε μου τι είναι το AlphaFold;
Το AlphaFold είναι το πρόγραμμά μας με το οποίο προσπαθήσουμε να λύσουμε το πρόβλημα της πτύχωσης των πρωτεϊνών. Βασικά, κάθε βιολογική λειτουργία στο σώμα περνά από τις πρωτεΐνες. Οι πρωτεΐνες περιγράφονται από την αλληλουχία αμινοξέων τους και αυτή είναι μια μονοδιάστατη σειρά γραμμάτων.
Στο σώμα, ωστόσο, σχηματίζουν ένα τρισδιάστατο σχήμα πολύ-πολύ γρήγορα και είναι το τρισδιάστατο σχήμα της πρωτεΐνης που ορίζει τη λειτουργία της. Και έτσι το πρόβλημα της πτύχωσης στην ουσία είναι το εξής: μπορείτε να προβλέψετε το τρισδιάστατο σχήμα της πρωτεΐνης απευθείας από την αλληλουχία αμινοξέων;
Ο λόγος που είναι τόσο σημαντικό είναι ότι πολλές ασθένειες προκαλούνται από λάθος πτύχωση πρωτεϊνών. Επίσης, εάν θέλετε να σχεδιάσετε κάποιο φάρμακο, πρέπει να γνωρίζετε ποια είναι η επιφάνεια της πρωτεΐνης και επομένως το σχήμα της, ώστε να γνωρίζετε ποια μέρη της πρωτεΐνης θα στοχεύσετε με τη φαρμακευτική σας ένωση.
Τι σας έκανε να πιστεύετε ότι αυτό μοιάζει με τα παιχνίδια;
Έμαθα για την πτύχωση πρωτεΐνης πρώτη φορά τη δεκαετία του 1990 στο προπτυχιακό μου, επειδή είχα πολλούς φίλους βιολόγους που είχαν εμμονή με αυτό στο Cambridge. Μου εξήγησαν το πρόβλημα και σκέφτηκα ότι ήταν συναρπαστικό. Σκέφτηκα επίσης ότι ήταν ένα τέλειο πρόβλημα για να αναζητήσουμε βοήθεια κάποτε στην τεχνητή νοημοσύνη.
Η δεύτερη φορά που συνάντησα το θέμα ήταν στα τέλη της δεκαετίας του 2000. Υπήρχε ένα παιχνίδι που λεγόταν «Foldit», ένα παιχνίδι «επιστήμης πολιτών», όπως το χαρακτήριζαν. Ένα εργαστήριο είχε δημιουργήσει ένα παιχνίδι παζλ, με ανθρώπους να κατασκευάζουν πρωτεΐνες σε ένα τρισδιάστατο περιβάλλον.
Δεν νομίζω ότι ήταν πολύ διασκεδαστικό παιχνίδι, αλλά είχε πολύ φιλικό τρόπο διεπαφής με τον χρήστη.
Μερικές δεκάδες χιλιάδες ερασιτέχνες παίκτες είχαν εμμονή με αυτό! Θυμάμαι που το έψαξα και σκέφτηκα ότι είναι πολύ συναρπαστικό αν μπορείς να κάνεις τους ανθρώπους να ασχοληθούν με την επιστήμη παίζοντας ένα παιχνίδι.
Αυτό που συνέβη όταν το έψαξα, είναι ότι μερικοί από αυτούς τους παίκτες είχαν καταλάβει ότι ορισμένες αντίθετες πτυχές αυτής της σειράς αλληλουχιών αμινοξέων, η ραχοκοκαλιά της πρωτεΐνης, την οδηγούσαν στο σωστό είδος τρισδιάστατης δομής.
Θυμάμαι ότι το συνδύασα με αυτό που κάναμε με το AlphaGo, στο οποίο είχαμε καταφέρει να μιμηθούμε τη διαίσθηση των απίστευτων πρωταθλητών του γιαπωνέζικου παιχνιδιού Go. Σκεφτόμουν, λοιπόν: αν αυτό συνέβαινε με αυτούς τους επαγγελματίες του Go, που ξοδεύουν όλη τους τη ζωή στο παιχνίδι, και μετά με αυτούς τους ερασιτέχνες παίκτες, που δεν ήξεραν τίποτα για τη βιολογία, τότε γιατί να μην μπορούμε να μιμηθούμε οτιδήποτε συνέβαινε με το αισθητήριο αυτών των ερασιτεχνών παικτών;
Όταν προβλέπετε τη δομή μιας, μέχρι τώρα, απρόβλεπτης πρωτεΐνης, πώς ξέρετε αν έχετε δίκιο; Πώς ελέγχετε τα αποτελέσματά σας;
Στον πραγματικό κόσμο, δεν έχετε έννοιες όπως το σκορ ή οι συνθήκες νίκης. Αυτό προφανώς ισχύει στα παιχνίδια. Αλλά με τις πρωτεΐνες και τη βιολογία υπάρχουν απλά ασφαλείς ενδείξεις, όπως η ελαχιστοποίηση της ενέργειας στο σύστημα. Τα περισσότερα φυσικά συστήματα προσπαθούν να είναι ενεργειακά αποδοτικά, επομένως μπορείτε να εξετάσετε την ενεργειακή καμπύλη ή την ελεύθερη ενέργεια στο σύστημα και να προσπαθήσετε να την ελαχιστοποιήσετε.
Επιπρόσθετα, υπάρχει μια ολόκληρη ιστορία επίπονης πειραματικής εργασίας. Σε 50 χρόνια ανθρώπινης προσπάθειας απ’ όλα τα εργαστήρια σε όλο τον κόσμο, οι δομικοί βιολόγοι κατάφεραν να βρουν τη δομή περίπου 100.000 έως 150.000 πρωτεϊνών και όλες έχουν καταγραφεί σε αυτή τη βάση δεδομένων που ονομάζεται Τράπεζα Δεδομένων Πρωτεϊνών. Αυτό μπορούμε να το χρησιμοποιήσουμε ως εκπαιδευτική βάση. Φυσικά, όμως, μπορούμε να ελέγξουμε τις προβλέψεις μας.
Άρα υπάρχουν 100.000 έως 150.000 από αυτές και μετά υπάρχουν 100, 200 εκατομμύρια πρωτεΐνες που γνωρίζουμε. Δεν είναι μεγάλος ο όγκος των δεδομένων για να δουλέψει ένα σύστημα με ασφάλεια. Μετά, όλοι κάνετε κάτι που καταλαβαίνω ότι είναι αρκετά επικίνδυνο και συνήθως απογοητευτικό, το οποίο είναι ότι το σύστημα αρχίζει να εκπαιδεύεται στις προβλέψεις που κάνει. Πώς το κάνετε αυτό με τρόπο που το σύστημα να μην αυτοτροφοδοτείται;
Όπως επισημαίνετε, τα 150.000 σημεία είναι απειροελάχιστη ποσότητα δεδομένων για τα συστήματα μηχανικής εκμάθησης. Έτσι, ένα από τα πράγματα που έπρεπε να κάνουμε ήταν να αυξήσουμε τα πραγματικά δεδομένα για να δημιουργήσουμε μια πρώτη έκδοση του AlphaFold. Νομίζω ότι καταφέραμε να κάνουμε περίπου 1 εκατομμύριο προβλέψεις νέων πρωτεϊνών. Ζητήσαμε να αξιολογήσει τον εαυτό του, πόσο σίγουρο ήταν γι’ αυτές τις προβλέψεις, και στη συνέχεια το δοκιμάσαμε και περικόψαμε το 30%-35% (δηλαδή περίπου 300.000 προβλέψεις), τις οποίες προσθέσαμε ξανά στο «σετ εκπαίδευσης» μαζί με τα 150.000 πραγματικά δεδομένα.
Στη συνέχεια, προσθέσαμε περίπου μισό εκατομμύριο δομές, συμπεριλαμβανομένων προφανώς και των δικών του προβλεπόμενων, για να εκπαιδεύσουμε το τελικό σύστημα. Αυτό το σύστημα τότε ήταν αρκετά καλό για να φτάσει το όριο μοναδιαίας ακρίβειας. Αυτό σημαίνει ότι, ως επιστημονική κοινότητα, μόλις είχαμε αποκτήσει αρκετά δεδομένα για να εκκινήσουμε αυτή τη διαδικασία «αυτοζύμωσης» και πιστεύουμε ότι ο λόγος που ήταν ασφαλές, ήταν ότι ήμασταν πολύ προσεκτικοί -πρώτα απ’ όλα, είχαμε αρκετά πραγματικά δεδομένα.
Υπήρχε ένα μείγμα πραγματικών και παραγόμενων δεδομένων και αυτό ήταν αρκετό για να το κρατήσει σε καλό δρόμο. Επίσης, υπήρξαν πολλές καλές δοκιμές -ανεξάρτητες δοκιμές- για το πόσο επιτυχείς ήταν αυτές οι προβλέψεις του συνολικού συστήματος, επειδή, με την πάροδο του χρόνου, νέοι πειραματιστές κατέθεταν νέες δομές στη βάση δεδομένων, οι οποίες είχαν περάσει την ημερομηνία λήξης για την εκπαίδευση του συστήματος. Κατ’ αυτό τον τρόπο μπορούσαμε να συγκρίνουμε πόσο ακριβές ήταν το σύστημα σε σχέση με αυτά τα νέα πειραματικά δεδομένα.
Αυτό θέλω να το συνδέσω με κάτι με το οποίο είναι πιθανώς πιο εξοικειωμένοι οι άνθρωποι που ασχολούνται με την τεχνητή νοημοσύνη: το πρόβλημα της αυταπάτης. Όταν χρησιμοποιώ το ChatGPT, ή τουλάχιστον διαφορετικές εκδόσεις του, συνήθως μπορώ να του κάνω μια πραγματική ερώτηση και αυτό απλώς να επιστρέφει μια δήλωση ενός τρίτου ως απάντηση.
Τα σύγχρονα chatbots είναι κάπως σαν ηλίθιοι σοφοί. Απλώς εξάγουν το πρώτο πράγμα που τους έρχεται σαν στοιχείο. Και χρειάζεται πολλή σκέψη, σχεδιασμός και λογική για να ελέγξουμε (σχεδόν σε επίπεδο ψυχιατρικής!) τι είναι αυτό που πραγματικά λέει η πρόβλεψη.
Αυτό το κάνουν τα συστήματα μάθησης βαθιάς ενίσχυσης, για τα οποία είμαστε γνωστοί. Το μέρος της ενίσχυσης της εκμάθησης, το μέρος του σχεδιασμού, ρυθμίζει αυτό που λέει το μοντέλο.
Γράφημα της δομής ανθρώπινης πρωτεΐνης, το οποίο διαμορφώθηκε από το πρόγραμμα AlphaFold. Το AlphaFold, σύστημα που κατασκευάστηκε από την DeepMind της Google, είναι σε θέση να προβλέψει τη δομή εκατοντάδων εκατομμυρίων πρωτεϊνών στο σώμα.
Κάτι στο οποίο αναπτύσσεται τώρα το AlphaFold, είναι μια ομάδα υπό την Alphabet, τη μητρική εταιρεία της Google, που ονομάζεται Isomorphic Labs. Πείτε μου λίγο για το Isomorphic: σε ποια επιστημονική θεωρία στηρίζεται αλλά και ποιο είναι το επιχειρηματικό μοντέλο;
Το AlphaFold είναι τόσο σημαντικό γιατί πιστεύω ότι μπορεί να βοηθήσει στην ταχύτερη ανακάλυψης φαρμάκων και, επομένως, στη θεραπεία ασθενειών. Αλλά είναι μόνο ένα μέρος του παζλ. Η Isomorphic είναι αδελφή εταιρεία της DeepMind, η οποία έχει επιφορτιστεί με την κατασκευή περισσότερων AlphaFolds, αλλά σε συγγενείς επιστημονικούς χώρους, περισσότερο στη χημεία. Σχεδιάζουμε έτσι μικρά μόρια, προβλέποντας τις διαφορετικές ιδιότητές τους και διασφαλίζοντας ότι ελαχιστοποιούμε προβλήματα όπως η τοξικότητα και οι παρενέργειες, ενώ παράλληλα μεγιστοποιούμε τις δυνατότητές τους να δεσμεύουν την πρωτεΐνη-στόχο.
Ξέρω ότι ενδιαφέρεστε να δημιουργήσετε ένα γενικό σύστημα νοημοσύνης. Σε ποιο σημείο βρίσκεται το εγχείρημα τώρα;
Η αποστολή μας είναι να δημιουργήσουμε αυτό το μεγάλο γενικό σύστημα. Αυτός είναι ο τρόπος με τον οποίο λειτουργεί ο εγκέφαλος. Έχουμε ένα σύστημα και μπορούμε να κάνουμε πολλά πράγματα με το μυαλό μας.
Τώρα, κι εδώ είναι το ενδιαφέρον, στον δρόμο προς αυτόν τον στόχο, πάντα πίστευα ότι δεν χρειάζεται να περιμένουμε να εμβαθύνουμε στη γενική τεχνητή νοημοσύνη ή AGI, προτού μπορέσουμε να αξιοποιήσουμε αυτά τα συστήματα χρησιμοποιώντας τα ίδια είδη τεχνικών, αλλά ίσως να τα εξειδικεύσουμε σε έναν συγκεκριμένο τομέα. Το AlphaFold είναι ένα εξαιρετικό παράδειγμα, ίσως το καλύτερο παράδειγμα μέχρι στιγμής, στην τεχνητή νοημοσύνη.
Αυτό που πιστεύω ότι θα συμβεί στην επόμενη εποχή των συστημάτων -εργαζόμαστε στα δικά μας συστήματα, που ονομάζονται Gemini- είναι ότι θα υπάρξει ένας συνδυασμός αυτών των δύο πραγμάτων. Θα έχουμε στις επόμενες γενιές των συστημάτων αυτό το ολοένα και ισχυρότερο γενικό σύστημα, με το οποίο βασικά αλληλεπιδράτε μέσω της γλώσσας, αλλά έχει άλλες γενικές δυνατότητες, όπως μαθηματικά και κωδικοποίηση, και ίσως κάποιο συλλογισμό και σχεδιασμό.
Ένα από τα πράγματα που μπορούν να κάνουν αυτά τα συστήματα, είναι να χρησιμοποιούν εργαλεία. Για να το επιτύχουν, μπορούν πραγματικά να καλέσουν και να χρησιμοποιήσουν ένα εργαλείο και αυτά τα εργαλεία μπορεί να είναι διαφορετικών τύπων. Θα μπορούσαν να είναι υπάρχοντα κομμάτια λογισμικού που μπορούν να μάθουν πώς να τα χρησιμοποιούν μέσω ενισχυτικής μάθησης. Αλλά μπορεί επίσης να είναι άλλα συστήματα AI, άλλα συστήματα εκμάθησης.
Δεν νομίζω ότι έχει πολύ νόημα για το γλωσσικό μοντέλο να ξέρει πώς να πτυχώνει τις πρωτεΐνες. Νομίζω ότι θα ήταν πιο αποτελεσματικό να αξιοποιήσει ένα δεύτερο σύστημα AI και να χρησιμοποιήσει κάτι σαν το AlphaFold, εάν π.χ. χρειαζόταν να εκτιμήσει πτυχώσεις πρωτεϊνών.
Αλλά είναι ενδιαφέρον γιατί, κάποια στιγμή, με την πάροδο του χρόνου, θα ενσωματωθούν στο γενικό σύστημα περισσότερες από αυτές τις δυνατότητες. Αλλά νομίζω ότι, τουλάχιστον στην επόμενη εποχή, θα δούμε ένα γενικό σύστημα που θα χρησιμοποιεί αυτά τα εξειδικευμένα συστήματα.
Βλέπω πολλά πιθανά οφέλη της έρευνας αυτής στους επιστημονικούς τομείς, που αφορούν τον άνθρωπο έμμεσα. Παρ’ όλ’ αυτά, η απήχηση στον κόσμο και οι επενδύσεις και η συζήτηση πηγαίνουν στα πιο «ανθρώπινα» πεδία, στα πιο οικεία συστήματα, και ανησυχώ ότι αυτά με τη σειρά τους δεν πρόκειται να αποφέρουν ανάλογα οφέλη.
Νομίζω, ακόμη και με τη νέα μας μορφή ως Google DeepMind, θα συνεχίσουμε να πιέζουμε πολύ σκληρά και στις δύο κατευθύνσεις. Η πρόοδος της επιστήμης και της ιατρικής θα βρίσκεται πάντα στο επίκεντρο αυτού που κάνουμε, στο επίκεντρο της συνολικής μας αποστολής προς όφελος της ανθρωπότητας. Αλλά θα πιέσουμε επίσης σκληρά για προϊόντα επόμενης γενιάς με απίστευτες νέες εμπειρίες για δισεκατομμύρια χρήστες που θα τους βοηθούν στην καθημερινή τους ζωή. Είμαι εξίσου ενθουσιασμένος με τις δυνατότητες και των δύο προσεγγίσεων.
Από τη μία, λογισμικά όπως το AlphaFold είναι επιστημονικά εργαλεία για τους ειδικούς, που μπορούν να τα χρησιμοποιήσουν για να βελτιώσουν τη δουλειά τους, ώστε να μπορούν να επιταχύνουν το πολύ σημαντικό ερευνητικό τους έργο. Και από την άλλη πλευρά, αυτή τη στιγμή νομίζω ότι τα chatbots είναι περισσότερο ένα στοιχείο ψυχαγωγίας.
Αλλά πιστεύω ότι υπάρχουν πολύ περισσότερα να δούμε σε αυτόν τον χώρο. Εκεί που βλέπω να συναντιούνται είναι αυτό που συζητήσαμε νωρίτερα για τα γενικά συστήματα, με τα οποία ίσως θα αλληλεπιδρούμε μέσω της γλώσσας. Πραγματικά πιστεύω ότι υπάρχει ένας πολύ ενδιαφέρων συνδυασμός που θα ακολουθήσει, ξεπερνώντας τα όρια και των δύο αυτών κόσμων. Αυτό είναι που σχεδιάζουμε να κάνουμε στο μέλλον.
Εάν φτάνουμε σε ένα σημείο όπου κάποιος πλησιάζει κάτι σαν ένα γενικό σύστημα νοημοσύνης, δεν είναι μια πολύ ισχυρή τεχνολογία για να βρίσκεται σε χέρια ιδιωτών; Θα έπρεπε να είναι κάτι που ελέγχει όποια εταιρεία φτάσει πρώτη εκεί; Ή χρειαζόμαστε κάποιον άλλο φορέα για να αναλάβει τη διαχείρισή του;
Η άποψή μου είναι πως αυτό υπερβαίνει οποιαδήποτε εταιρεία ή ακόμα και ένα έθνος. Νομίζω ότι χρειάζεται διεθνής συνεργασία. Έχω μιλήσει συχνά στο παρελθόν για μια προσπάθεια για το AGI που να μοιάζει με το CERN, το Ευρωπαϊκό Εργαστήριο για τη Φυσική Στοιχειωδών Σωματιδίων. Θα ήθελα πολύ να δω κάτι τέτοιο καθώς πλησιάζουμε, ίσως σε πολλά χρόνια από τώρα, σε ένα σύστημα AGI, όπου γίνεται πραγματικά προσεκτική έρευνα στον τομέα της ασφάλειας, κατανοώντας τι μπορούν να κάνουν αυτά τα συστήματα και δοκιμάζοντάς τα σε ελεγχόμενες συνθήκες. Νομίζω ότι αυτός θα ήταν ένας καλός τρόπος για να προχωρήσουμε καθώς πλησιάζουμε πιο κοντά σε ισχυρότερα συστήματα τεχνητής νοημοσύνης.
© 2023 The New York Times Company