Καθώς τα deep fakes (παραποιημένα βίντεο) και άλλα ανάλογα μέσα γίνονται όλο και πιο εξελιγμένα και φθηνότερα στην παραγωγή τους, άνθρωποι εκτός του κόσμου της τεχνολογίας πειραματίζονται με αυτά. Για ορισμένους δημιουργούς ίσως αποτελούν ισχυρά εργαλεία έκφρασης. Μπορούν, όμως, να χρησιμοποιηθούν και για να επηρεάσουν ανθρώπους και να διαμορφώσουν απόψεις.
Άραγε, το γεγονός και μόνο ότι ορίζουμε κάτι ως τέχνη, δίνει στους ανθρώπους την απόλυτη ελευθερία να παίζουν με την πραγματικότητα; Πώς μπορούμε να προετοιμαστούμε και να προστατεύσουμε τους εαυτούς, τους θεσμούς και τις δημοκρατίες μας, όταν δεν πιστεύουμε πλέον αυτό που βλέπουμε;
Τα θέματα αυτά συζητήθηκαν στο Athens Democracy Forum. Στο σχετικό πάνελ συμμετείχαν οι: Toomas Hendrik Ilves, πρώην πρόεδρος της Εσθονίας, Barnaby Francis (γνωστός με το καλλιτεχνικό ψευδώνυμο Bill Posters), καλλιτέχνης, ερευνητής και συγγραφέας, και Ashley Tolbert, ανώτερη μηχανικός - τεχνικός ασφάλειας του Netflix. Τη συζήτηση συντόνισε η Farah Nayeri, δημοσιογράφος του πολιτιστικού ρεπορτάζ των «New York Times».
FARAH NAYERI: Νομίζω ότι τα deep fakes έγιναν για πρώτη φορά γνωστά στο ευρύ κοινό το 2017, όταν κυκλοφόρησε ένας τεράστιος αριθμός από πορνογραφικά βίντεο με διασημότητες και ηθοποιούς, που ήταν όμως παραποιημένα. Έτσι άρχισε να φουντώνει όλη αυτή η αντιπαράθεση. Τώρα, στις μέρες μας, απ’ ό,τι καταλαβαίνω, σχεδόν ο καθένας μπορεί να δημιουργήσει ένα deep fake.
Barnaby, ας ξεκινήσουμε με εσάς. Το καλλιτεχνικό σας όνομα είναι Bill Posters και θα ήθελα να μας μιλήσετε για την έννοια των deep fakes, καθώς για εσάς το βίντεο είναι ένας τρόπος καλλιτεχνικής έκφρασης. Καταλαβαίνουμε ότι η τέχνη έχει να κάνει πολλές φορές με την εξαπάτηση και την αναπαράσταση των ανθρώπων σε ένα φαντασιακό πλαίσιο. Όμως, ποιες είναι οι επιπτώσεις αυτής της τέχνης στη δημοκρατία ή στην πολιτική;
BARNABY FRANCIS: Έχω δημιουργήσει με τον συνεργάτη μου Daniel Howe μια σειρά έργων τέχνης με τίτλο «Big Data Public Faces». Αυτά περιλάμβαναν ένα ψεύτικο βίντεο με τον Mark Zuckerberg του Facebook και διάφορες άλλες διασημότητες. Πήραν τον δρόμο τους, έγιναν viral και δημιούργησαν σάλο γύρω από τα ζητήματα που θέσαμε και αφορούσαν την παραπληροφόρηση και την παραπλάνηση, τον τρόπο με τον οποίο παρουσιάζεται η αλήθεια στο διαδίκτυο ή το πώς οι αντιλήψεις μας μπορούν να αλλάξουν από διάφορες μορφές τεχνολογιών που χρησιμοποιούν νέα μέσα όπως αυτό. Χρησιμοποιούμε, λοιπόν, το deep fake ως μια μορφή του ίδιου του deep fake.
F.Ν.: Έτσι, όμως, μπορεί κάποιος που θα παρακολουθήσει το βίντεό σας με τον Zuckerberg, στο οποίο λέει μερικά πολύ δυσοίωνα πράγματα, να πιστέψει ότι ο Mark όντως το είπε αυτό και έτσι να το εκμεταλλευθεί και να το ανεβάσει σε άλλες πλατφόρμες.
Β.F.: Ναι, φυσικά είναι δυνατό, απολύτως.
F.Ν.: Κάνεις τέχνη και η τέχνη στο αυστηρό της πλαίσιο είναι μια χαρά, αλλά όταν βγαίνεις από αυτό το πλαίσιο υπάρχουν όλων των ειδών οι κίνδυνοι.
Β.F.: Απολύτως σωστό. Κι αυτό ισχύει για κάθε μορφή πληροφορίας που μοιράζεται σε οποιοδήποτε forum ή οικοσύστημα πληροφοριών στο διαδίκτυο, είτε πρόκειται για παραπλανητικές αναφορές είτε για παραποιημένες πληροφορίες κ.λπ. Έτσι, το κλειδί εδώ είναι η εγγραματοσύνη και το πλαίσιο αναφοράς.
Οτιδήποτε μοιράζομαι στο διαδίκτυο έχει σαφές εννοιολογικό πλαίσιο τέχνης, είναι πλαισιωμένο από τμήματα σύγχρονης τέχνης. Έτσι, υπάρχει πάντα διαφάνεια σε σχέση με τα μέσα που κοινοποιούνται. Δυστυχώς, αυτό δεν συμβαίνει σε πολλά από τα fora ή τις πληροφορίες που διακινούνται στο Internet.
F.Ν.: Toomas Hendrik Ilves, είστε πρώην πρόεδρος της Εσθονίας. Το περιοδικό «Forbes» έγραψε ότι όσο είχατε αυτό το αξίωμα, η Εσθονία ήταν η πιο προηγμένη ψηφιακά χώρα στον κόσμο. Τελικά, πόσο ψηφιακή είναι η Εσθονία; Χρησιμοποιείτε προγράμματα αναγνώρισης προσώπου;
TOOMAS HENDRIK ILVES: Στην Εσθονία όλες οι δημόσιες υπηρεσίες ή όλες οι αλληλεπιδράσεις μεταξύ του πολίτη και του κράτους μπορούν να γίνουν ψηφιακά, εκτός από τον γάμο, το διαζύγιο και τις αγοραπωλησίες φυσικής ιδιοκτησίας -κάτι που δεν είναι κακή ιδέα να εξετάσουμε, αν λάβουμε υπόψη λ.χ. ότι πρόσφατα δύο Ρώσοι μαφιόζοι αγόρασαν διαμερίσματα στον «Πύργο Trump» στις ΗΠΑ μέσω υπεράκτιων εταιρειών.
Όλα τα υπόλοιπα μπορούν να γίνουν διαδικτυακά. Διάβασα τον Ιανουάριο του 2021 ένα άρθρο στην εφημερίδα σας σχετικά με το ότι υπήρχε μια καθυστέρηση 3,5 εκατομμυρίων αιτήσεων για διαβατήρια μετά από δύο μήνες Covid και αναρωτήθηκα γιατί συνέβαινε αυτό. Ήταν επειδή τα γραφεία ήταν κλειστά. Στην Εσθονία, για να ανανεώσω το διαβατήριό μου, απλώς μπαίνω στο Internet. Έπρεπε μόνο να ενημερώσω τη φωτογραφία μου. Δεν χρειάστηκε να συμπληρώσω τίποτα. Αυτό κάνουμε.
Όσον αφορά την αναγνώριση προσώπου, όχι, δεν τη χρησιμοποιούμε ιδιαίτερα. Αλλά για τα deep fakes ανησυχώ πολύ περισσότερο.
F.Ν.: Αν η χώρα σας χρησιμοποιεί τεχνολογίες αναγνώρισης προσώπου, μπορεί κάποιος να προσποιηθεί ότι είμαι εγώ και να φτιάξει ένα βίντεο με εμένα να εμπλέκομαι σε μια εγκληματική δραστηριότητα -αντιλαμβάνεστε τι εννοώ;
T.H.I.: Νομίζω ότι είναι χειρότερο από αυτό. Βασικά, νομίζω ότι η άνοδος των deep fakes, σε αντίθεση με τη φωτογραφία και το Photoshop, επειδή υπάρχει κίνηση, φωνή και εικόνα, πλήττει πραγματικά την εμπειρική βάση της δημοκρατίας.
F.Ν.: Γιατί πιστεύετε ότι αυτό απειλεί τη δημοκρατία;
T.H.I.: Γιατί ουσιαστικά μπορείς να υπονομεύσεις τα πάντα. Μπορείς να φτιάξεις ένα ψεύτικο βίντεο με έναν πολιτικό να δωροδοκείται, μπορείς να δυσφημίσεις ανθρώπους που έχουν εκλεγεί νόμιμα. Και το πρόβλημα είναι ότι οι τεχνολογικές λύσεις για την καταπολέμηση αυτού του φαινομένου είναι αρκετά περιορισμένες. Επομένως, θα πρέπει να εκπαιδεύσουμε τους ανθρώπους να μην πιστεύουν αυτό που βλέπουν.
ASHLEY TOLBERT: Συμμερίζομαι την πεποίθηση ότι τα deep fakes είναι κάτι για το οποίο πρέπει να ανησυχούμε, αν και βρίσκομαι κάπου στη μέση όσον αφορά την άποψη ότι τα deep fakes είναι εξ ορισμού επικίνδυνα. Τα συνδυασμένα μέσα είναι μια μορφή τέχνης που υπάρχει από τον 19ο αιώνα. Αλλά όταν βγαίνεις έξω από τα όρια αυτής της τέχνης, υπάρχουν καταστροφικοί κίνδυνοι.
Ένα καλοφτιαγμένο deep fake μπορεί να έχει πραγματικό αντίκτυπο σε εκλογές, στη φήμη κάποιου.
Ουσιαστικά, ο δημιουργός ενός deep fake δανείζεται αυτή την ισχύ για ένα συγκυριακό κίνητρο. Και μόλις φυτευτεί αυτός ο σπόρος, δεν μπορείς να γυρίσεις πίσω και να ανατρέψεις αυτή τη διάδοση της «στιγμιαίας γνώσης». Θεωρώ, λοιπόν, ότι αυτό που απειλεί τη δημοκρατία είναι το γεγονός ότι είναι πολύ λεπτή η γραμμή που χωρίζει τα deep fakes και την παραπληροφόρηση από την πραγματικότητα.
Από αριστερά: ο καλλιτέχνης και συγγραφέας Barnaby Francis (γνωστός και ως Bill Posters), η Farah Nayeri, ο Toomas Hendrik Ilves, πρώην πρόεδρος της Εσθονίας, και η Ashley Tolbert, ανώτερη μηχανικός/τεχνικός ασφάλειας στο Netflix, στο Athens Democracy Forum.