Η τεχνολογία στην υπηρεσία των... fake news

Η τεχνητή νοημοσύνη ανοίγει πεδία δόξας λαμπρά στην αναίσχυντη προπαγάνδα, στη δημοσιογραφική απάτη και στην οργάνωση της νέας παραπληροφόρησης.

Η τεχνολογία στην υπηρεσία των... fake news

Στα τηλεοπτικά και διαδικτυακά καταγώγια, κάποιοι δεν σταματουν να τρίβουν τα χέρια τους από χαρά. Το ίδιο ισχύει όμως και για τους ανθρώπους που στα υπόγεια της παραπληροφόρησης και της χυδαίας προπαγάνδας, προετοιμάζουν τα οπλοστάσιά τους κατά των ανοικτών κοινωνιών. Αυτό δε που έχουν στη διάθεσή τους, είναι ένα πραγματικό όπλο – εφιάλτης. Από αυτά που μπορούν να προκαλέσουν τραγικά για την ζωή των ανθρώπων γεγονότα. Με τις ανάλογες συνέπειες.

Για τους πανεπιστημιακούς Robert Charney και Danielle Citron, όπως γράφουν στην έγκυρη επιθεώρηση Foreign Affairs, με τα deepfakes, έρχεται η εποχή της μετά -αληθινής γεωπολιτικής, η οποία ίσως να αποδειχθεί εφιαλτική. Γιατί όμως; Διότι πολύ απλά έχει ανοίξει η πόρτα της πλαστογράφησης ηχητικών και οπτικών γεγονότων. Η αυγή των deepfakes είναι εδώ.

Κατά τους αρθρογράφους του “F.A.” : «το deepfakes είναι το προϊόν των πρόσφατων προόδων σε μια μορφή τεχνητής νοημοσύνης, γνωστή ως «βαθιά μάθηση» (deep learning), στην οποία ομάδες αλγορίθμων που ονομάζονται «νευρωνικά δίκτυα» (neural networks) μαθαίνουν να συνάγουν κανόνες και να αναπαράγουν πρότυπα κοσκινίζοντας μέσα από μεγάλα σύνολα δεδομένων. (Για παράδειγμα, η Google χρησιμοποίησε αυτή την τεχνική για να αναπτύξει ισχυρούς αλγόριθμους ταξινόμησης εικόνων για τη μηχανή αναζήτησης που διαθέτει).

Τα deepfakes προκύπτουν από ένα συγκεκριμένο είδος "βαθιάς μάθησης» στο οποίο ζεύγη αλγορίθμων τίθενται ο ένας εναντίον του άλλου σε γενετικά αντιφατικά δίκτυα» (generative adversari)ή GAN. Σε ένα GAN, ένας αλγόριθμος, η «γεννήτρια», δημιουργεί περιεχόμενο που βασίζεται σε πηγαία δεδομένα (source data): για παράδειγμα, φτιάχνοντας τεχνητές εικόνες γατών από μια βάση δεδομένων πραγματικών εικόνων γατών), ενώ ένας δεύτερος αλγόριθμος ο «διακριτής" (discriminator), προσπαθεί να εντοπίσει το τεχνητό περιεχόμενο (να διαλέξει τις ψεύτικες εικόνες γάτας).

Δεδομένου ότι κάθε αλγόριθμος συνεχώς εκπαιδεύεται εναντίον του άλλου, τέτοιοι συνδυασμοί μπορούν να οδηγήσουν σε ταχεία βελτίωση, επιτρέποντας στα GAN να παράγουν εξαιρετικά ρεαλιστικό αλλά ψεύτικο περιεχόμενο ήχου και βίντεο.

Αυτή η τεχνολογία έχει την δυνατότητα να διαδίδεται ευρέως. Εμπορικές και ακόμη και δωρεάν υπηρεσίες deepfake έχουν ήδη παρουσιαστεί στην ανοικτή αγορά και εκδοχές με ανησυχητικά λίγες διασφαλίσεις, είναι πιθανό να εμφανιστούν στη μαύρη αγορά. Η εξάπλωση αυτών των υπηρεσιών, θα μειώσει τα εμπόδια εισόδου, γεγονός που σημαίνει ότι σύντομα, ο μόνος πρακτικός περιορισμός της ικανότητας κάποιου να παράγει deepfakes θα είναι η πρόσβαση στο εκπαιδευτικό υλικό - δηλαδή, τα ηχητικά και τα βίντεο του προσώπου που θα μοντελοποιηθεί - που θα τροφοδοτήσει το GAN. Η ικανότητα δημιουργίας επαγγελματικού επιπέδου πλαστογραφιών θα είναι προσεγγίσιμη από σχεδόν όλους όσους έχουν επαρκές ενδιαφέρον και την γνώση του που να πάνε για βοήθεια.

Τα deepfakes όμως μπορούν να έχουν και αρκετές αξιόλογες εφαρμογές, Ο τροποποιημένος ήχος ή το βίντεο μιας ιστορικής προσωπικότητας, για παράδειγμα, θα μπορούσε να δημιουργηθεί με σκοπό την εκπαίδευση των παιδιών. Μια εταιρεία μέχρι που ισχυρίζεται ότι μπορεί να χρησιμοποιήσει την τεχνολογία για να αποκαταστήσει την ομιλία σε άτομα που έχουν χάσει την φωνή τους λόγω ασθενειών.

Αλλά τα deepfakes μπορούν και πρόκειται να. χρησιμοποιηθούν για σκοτεινότερους σκοπούς, επίσης. Οι χρήστες έχουν ήδη χρησιμοποιήσει τεχνολογία deepfake για να εισάγουν πρόσωπα ανθρώπων στην πορνογραφία χωρίς την συγκατάθεση ή την γνώση τους. Ετσι, η αυξανόμενη ευκολία δημιουργίας ψεύτικου περιεχομένου ήχου και βίντεο, θα δημιουργήσει άφθονες ευκαιρίες για εκβιασμούς, εκφοβισμούς και σαμποτάζ.

Οι πιο τρομακτικές εφαρμογές της τεχνολογίας deepfake, ωστόσο, μπορεί να είναι στον τομέα της πολιτικής και των διεθνών υποθέσεων. Εκεί τα deepfakes μπορούν να χρησιμοποιηθούν για να δημιουργήσουν ασυνήθιστα αποτελεσματικά ψέματα ικανά να ενθαρρύνουν την βία, να απαξιώνουν ηγέτες και θεσμούς, ή ακόμα και να επηρεάζουν εκλογές.Και γιατί όχι να προκαλούν συγκρούσεις.

Τα deepfakes έχουν την δυνατότητα να είναι ιδιαίτερα καταστροφικά επειδή φτάνουν σε μια εποχή που είναι ήδη πιο δύσκολο να διαχωριστεί το γεγονός από τη μυθοπλασία. Για μεγάλο μέρος του εικοστού αιώνα, τα περιοδικά, οι εφημερίδες και οι τηλεοπτικοί σταθμοί διαχειρίστηκαν την ροή των πληροφοριών προς το κοινό. Οι δημοσιογράφοι,όχι παντού βέβαια, καθιέρωσαν αυστηρά επαγγελματικά πρότυπα για τον έλεγχο της ποιότητας των ειδήσεων και ο σχετικά μικρός αριθμός μέσων μαζικής ενημέρωσης, σήμαινε ότι μόνο ένας περιορισμένος αριθμός ατόμων και οργανισμών θα μπορούσε να διανείμει στο ευρύ κοινό τις πληροφορίες.

Ωστόσο, την τελευταία δεκαετία, όλο και περισσότεροι άνθρωποι έχουν αρχίσει να λαμβάνουν τις πληροφορίες τους από πλατφόρμες κοινωνικής δικτύωσης όπως το Facebook και το Twitter, οι οποίες εξαρτώνται από μια μεγάλη γκάμα χρηστών για την δημιουργία σχετικά αφιλτράριστου περιεχομένου.

Οι χρήστες τείνουν να χειρίζονται τις εμπειρίες τους έτσι ώστε να έρχονται σε επαφή με απόψεις με τις οποίες συμφωνούν ήδη (μια τάση που ενισχύεται από τους αλγόριθμους των πλατφόρμων), μετατρέποντας την τροφοδότηση των κοινωνικών μέσων τους σε αίθουσες αντήχησης (των δικών τους απόψεων).

Αυτές οι πλατφόρμες είναι επίσης επιρρεπείς στους αποκαλούμενους καταρράκτες πληροφοριών (information cascades), όπου οι άνθρωποι μοιράζουν πληροφορίες που έχουν μοιραστεί από άλλους χωρίς να κάνουν τον κόπο να ελέγξουν αν είναι αληθινές, κάνοντας τες να φαίνονται πιο αξιόπιστες στην διαδικασία. Το τελικό αποτέλεσμα είναι ότι τα ψεύδη μπορούν να εξαπλωθούν γρηγορότερα από ποτέ.

Αυτή η δυναμική θα καταστήσει τα κοινωνικά μέσα γόνιμο έδαφος για την κυκλοφορία των deepfakes, με δυνητικά εκρηκτικές συνέπειες για την πολιτική. Η προσπάθεια της Ρωσίας να επηρεάσει τις προεδρικές εκλογές των ΗΠΑ το 2016 - διαδίδοντας διχαστικά και πολιτικά εμπρηστικά μηνύματα στο Facebook και το Τwitter - έδειξε ήδη πόσο εύκολα μπορεί να εισέλθει η παραπληροφόρηση στην ροή των μέσων κοινωνικής δικτύωσης. Τα deepfakes του αύριο θα είναι πιο ζωντανά και ρεαλιστικά και, ως εκ τούτου, πιο εύκολο να μοιραστούν από όσο οι ψεύτικες ειδήσεις του 2016.

 

Αθανάσιος Χ. Παπανδρόπουλος [email protected]

ΣΧΟΛΙΑ ΧΡΗΣΤΩΝ

blog comments powered by Disqus
v