Deepfake κείμενα

πηγή: Pixabay

 

Τασούλα Καραϊσκάκη, Ασώματες μηχανές παραγωγής ψεύδους

Είναι μια θαυμαστή τεχνολογία που ψυχαγωγεί, δίνει λύσεις στον κινηματογράφο με αλλοιώσεις προσώπων, όμως είναι μαζί και ένα πολιτικό όπλο στα χέρια όσων διασπείρουν ψευδείς ειδήσεις. Deepfake. Μέσω της τεχνητής νοημοσύνης και της μηχανικής μάθησης κατασκευάζονται βίντεο ανθρώπων που λένε και κάνουν πράγματα τα οποία δεν έχουν εκστομίσει και δεν έχουν πράξει ποτέ. Τα deepfakes συζητήθηκαν ξανά με τη διάδοση τριών ψεύτικων βίντεο του Τομ Κρουζ, αλλά και μιας κινούμενης εικόνας της Έλλης Λαμπέτη. Το deep nostalgia, παρακλάδι του deepfake, «ζωντανεύει» από μια απλή φωτογραφία πρόσωπα που δεν βρίσκονται πια στη ζωή, όπως η Λαμπέτη. Εμφανίζονται να κινούνται, να νεύουν ή να χαμογελούν, προκαλώντας συγκίνηση – ή ανατριχίλα.

Όμως το deepfake δεν είναι το ίδιο αθώο με το deep nostalgia. Τα δεκάδες χιλιάδες πλαστά βίντεο που διασκεδάζουν από το 2017 τους χρήστες των κοινωνικών δικτύων, ταυτόχρονα εκθέτουν πολιτικούς, καλλιτέχνες, αθλητές· εμφανίζουν π.χ. τον Ομπάμα να καθυβρίζει τον Τραμπ, τον Ζούκερμπεργκ να ομολογεί ότι το Facebook χειραγωγεί τους χρήστες του, σταρ του Χόλιγουντ να πρωταγωνιστούν σε ταινίες πορνό που δεν γύρισαν ποτέ.

Έχουν χρησιμοποιηθεί σε απάτες, εκβιασμούς, αλλά και για στρέβλωση του δημόσιου διαλόγου, χειραγώγηση της κοινής γνώμης και των εκλογικών διαδικασιών, διασπορά ψευδών ειδήσεων και πολιτική προπαγάνδα. Το deepfake εξαπλώνει τον φόβο ότι ζούμε σε ένα εφιαλτικό σύμπαν χωρίς έρμα, όπου η πραγματικότητα θρυμματίζεται μέσα σε έναν κυκεώνα πλαστών συμβάντων. Κλονίζει την εμπιστοσύνη στους θεσμούς και την επίσημη εκδοχή της πραγματικότητας. Πλήττει την ικανότητα διάκρισης του αληθινού από το ψεύτικο –είναι εφιαλτικό να μη γνωρίζεις αν οφείλεις να πιστέψεις ή όχι αυτό που βλέπεις. Υποσκάπτει τα θεμέλια του ορθού λόγου και της αντικειμενικότητας αφού ο καθένας μπορεί να υιοθετεί ως αληθινό εκείνο που τον βολεύει ή ταιριάζει περισσότερο στις απόψεις του. Διευκολύνει την παρουσίαση του αληθινού ως ψεύτικο. Εκτρέφει την αδιαφορία για το αληθές. Τροποποιεί τον πολιτισμό της καθημερινότητας και τη γεωγραφία του μέλλοντος. Φυτεύει την καχυποψία, την αίσθηση ότι διαρκώς μας εξαπατούν, ότι όλα είναι ύποπτα, πλαστά, ότι η πολιτική ατζέντα δεν οικοδομείται πάνω σε ασάλευτες αλήθειες αλλά σε πολιτικοοικονομικές πλάνες· γεγονός που ερμηνεύει ώς ένα βαθμό τη ραγδαία εξάπλωση της συνωμοσιολογίας.

Ο homo sapiens, «άνθρωπος που γνωρίζει», γίνεται κατά τον Ιταλό διανοητή Τζοβάνι Σαρτόρι homo videns, «άνθρωπος που βλέπει». Και κινδυνεύει να μετατραπεί σε ό,τι βλέπει (αμφισβητήσιμες μετρήσεις, κατασκευασμένες εικόνες, κατευθυνόμενες πληροφορίες): Μια χειραγωγήσιμη προσωπικότητα με ρευστά κριτήρια, που αντιμετωπίζει τον άλλο, τον εκτός του οικείου μικρόκοσμου, ως αναξιόπιστο, ανειλικρινή, κυνικό προπαγανδιστή.

Βέβαια η τεχνολογία, όπως επινοεί επικίνδυνα εργαλεία, ανακαλύπτει και θεραπείες. Έχουν αναπτυχθεί από ερευνητικά κέντρα και εταιρείες συστήματα ανίχνευσης των deepfake βίντεο, αλλά δεν αρκούν για να ανακόψουν την παραγωγή τους. Οι τεχνολογικοί κολοσσοί, με την αβυσσαλέα συγκέντρωση δύναμης και τις ολιγοπωλιακές τακτικές, έχουν αναπτύξει τις δικές τους λύσεις ισορροπίας μεταξύ ελευθερίας της έκφρασης και παραπληροφόρησης, όμως όχι και μια στέρεη κοινή δράση για μη διασπορά του πλαστού. Είναι πολυπλόκαμη, υπερεθνική, ταχύτατα μεταλλασσόμενη, χαμαιλεοντική, σκοτεινή, η θηριώδης ασώματη μηχανή παραγωγής ψεύδους. Διότι δεν είναι μόνο τα deepfake βίντεο, είναι και τα deepfake κείμενα που δεν διακρίνονται από τα αληθινά, τα ρομπότ που μιμούνται συμπεριφορές, οι ψεύτικοι λογαριασμοί, οι ψεύτικες ιστοσελίδες, τα ψεύτικα πρόσωπα, τα ψεύτικα κλικ, τα αγορασμένα views (θεάσεις), τα ψεύτικα cookies… Τα ρυθμιστικά πλαίσια συνήθως έπονται και συχνά αποδεικνύονται ανεπαρκή.

Είναι ζήτημα ακρογωνιαίο, κρίσιμο για τη δημοκρατία και την ασφάλεια στο πλανητικό μας χωριό. Και βεβαίως όχι μόνο τεχνολογικό, πρωτίστως και βαθιά πολιτικό. Με επείγουσα την ανάγκη ριζικής αναμόρφωσης της παιδείας υπέρ της διανοητικής εντιμότητας, της διαρκούς κριτικής λόγων, έργων και ιδεών, της ανεμπόδιστης και υπεύθυνης σκέψης ενάντια στις ποδηγετήσεις που σοβούν στα βάθη και στις επιφάνειες της ζωής. Αλλιώς, θα καταλήξουμε σε έναν κόσμο όπου όλα, άνθρωποι, κοινότητες, λόγια, επικοινωνίες, πράξεις, δράσεις, θα μοιάζουν ψεύτικα και μόνο οι συσκευές που τα παράγουν θα δείχνουν να είναι αληθινές. Δηλαδή, στη σύγχυση, στο χάος, στις ερειπωμένες κοινωνίες.

πηγή: Η Καθημερινή, 07.03.2021

πηγή: Pixabay

 

Η απειλή των deepfake κειμένων

Στην προσπάθεια αναλυτών και ερευνητών να μαντέψουν τι είδους «καμπάνιες χειραγώγησης» θα μπορούσαν να απειλήσουν τις αμερικανικές εκλογές, τα παραποιημένα βίντεο -τα οποία δημιουργούνται με τη χρήση τεχνητής νοημοσύνης, με την επεξεργασία φωτογραφικού αρχείου προσωπικοτήτων και δημιουργώντας εντυπωσιακά ρεαλιστικά αποτελέσματα- βρίσκονταν συχνά στην κορυφή της λίστας.

Αν και η εν λόγω τεχνολογία εξελισσόταν, οι δυνατότητές της για χειραγώγηση ήταν τόσο ανησυχητικές που εταιρείες κολοσσοί και ερευνητικά ινστιτούτα έδωσαν προτεραιότητα στην επεξεργασία και χρηματοδότηση μεθόδων ανίχνευσης. Παράλληλα, οι πλατφόρμες κοινωνικής δικτύωσης ανέπτυξαν ειδικές πολιτικές για αναρτήσεις που περιέχουν «παραποιημένα μέσα», με την ελπίδα να επιτύχουν τη σωστή ισορροπία μεταξύ της διατήρησης της ελεύθερης έκφρασης και της αποτροπής fake news.

Ωστόσο, λίγους μήνες μετά τις εκλογές στις ΗΠΑ, αυτό το κύμα των παραποιημένων βίντεο δεν καταλάγιασε. Αντ’ αυτού, μια άλλη μορφή που δημιουργείται με την τεχνητή νοημοσύνη και «αναδύεται» στο προσκήνιο, είναι πιο δύσκολο να εντοπιστεί και πολύ πιο πιθανό να γίνει μια διαδεδομένη δύναμη στο Διαδίκτυο: τα deepfake κείμενα.

Τον περασμένο μήνα, παρουσιάστηκε το GPT-3, το οποίο ανήκει στις λεγόμενες «γεννήτριες γλωσσών» και χρησιμοποιεί Μηχανική Μάθηση προκειμένου να δημιουργεί κείμενο που να μοιάζει ότι έχει γραφτεί από άνθρωπο. Αρκεί να το «ταΐσεις» με κάποιες βασικές οδηγίες και μπορεί να ολοκληρώσει ένα αρκετά μεγάλο κείμενο.

Αποτελεί το επόμενο επίτευγμα της δημιουργικής γραφής: μια τεχνητή νοημοσύνη που μπορεί να παράγει σοκαριστικά ανθρώπινες (αν και μερικές φορές σουρεαλιστικές) προτάσεις. Καθώς το αποτέλεσμα που παράγει γίνεται όλο και πιο δύσκολο να διακριθεί από τα ανθρώπινα κείμενα, μπορεί κανείς να φανταστεί ένα μέλλον στο οποίο η συντριπτική πλειονότητα του γραπτού περιεχομένου που βλέπουμε στο Διαδίκτυο θα δημιουργείται από μηχανές. Αν συνέβαινε αυτό, ο τρόπος που αντιδρούμε στο περιεχόμενο που μας περιβάλλει θα άλλαζε δραματικά.

Σε αντίθεση με το photoshop και παρόμοια προγράμματα επεξεργασίας εικόνας τα deepfake βίντεο ή το GPT-3, είναι διαφορετικά. Εάν χρησιμοποιείται κακόβουλα, δεν υπάρχει αναλλοίωτο πρωτότυπο, καμία πρώτη ύλη που θα μπορούσε να παραχθεί ως βάση σύγκρισης ή αποδεικτικών στοιχείων για έλεγχο. Στις αρχές της δεκαετίας του 2000, ήταν εύκολο να δούμε φωτογραφίες πριν από την ανάρτηση των διασημοτήτων και να συζητήσουμε εάν οι τελευταίες δημιούργησαν μη ρεαλιστικά πρότυπα τελειότητας.

Ωστόσο, τα deepfake κείμενα είναι εύκολο να δημιουργηθούν και να πολλαπλασιαστούν σε μεγάλο βαθμό, προσφέροντας λιγότερες ενδείξεις για τον εντοπισμό τους και δημιουργώντας ένα ολόκληρο ιστό fake news, όπου τα όρια μεταξύ ρεαλισμού και διαδικτυακής πλάνης θα είναι πλέον αδιευκρίνιστα.

πηγή: Η Καθημερινή, 04.03.2021

❦