Πριν από περίπου μία δεκαετία, ο όρος deepfake ήταν σχεδόν άγνωστος ή περιοριζόταν στη σφαίρα της επιστημονικής φαντασίας. Η δημιουργία βίντεο που έμοιαζαν αληθοφανή, χωρίς να είναι, απαιτούσε υψηλό επίπεδο τεχνικών γνώσεων, συνδυασμό διαφορετικών εργαλείων και αμέτρητες ώρες εργασίας μπροστά σε έναν υπολογιστή. Η ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ) έχει μετασχηματίσει πλήρως το τοπίο. Σήμερα, μέσα από πληθώρα εφαρμογών, η παραγωγή deepfake βίντεο μπορεί να ολοκληρωθεί μέσα σε λίγα λεπτά, αρκεί η επιλογή ορισμένων φωτογραφιών και μιας κατάλληλης εφαρμογής. Όταν αυτό γίνεται χωρίς τη συγκατάθεση του προσώπου που απεικονίζεται, πρόκειται για καταχρηστική και παράνομη πρακτική, ενώ η κατάσταση γίνεται ακόμη πιο ανησυχητική όταν αφορά πορνογραφικό υλικό.

Σύμφωνα με μελέτη του 2019 της εταιρείας ερευνών Sensity AI, το 96% των ψεύτικων βίντεο που κυκλοφορούσαν τότε στο διαδίκτυο ήταν πορνογραφικού περιεχομένου, με τη συντριπτική πλειονότητα να στοχοποιεί γυναίκες. Όπως ανέφερε παλαιότερο δημοσίευμα του Euronews, μεταξύ των θυμάτων συγκαταλέγονταν κορίτσια ηλικίας μόλις 11 ετών, των οποίων οι φωτογραφίες αναρτήθηκαν στα μέσα κοινωνικής δικτύωσης και διαμοιράστηκαν μεταξύ συμμαθητών τους στο γυμνάσιο.

Ωστόσο, τα δεδομένα φαίνεται να επιδεινώνονται. Πρόσφατο εκτενές ρεπορτάζ του Guardian υπογραμμίζει ότι η χρήση εφαρμογών τύπου «nudify» γίνεται ολοένα και πιο διαδεδομένη μεταξύ μαθητών. Εκατοντάδες εκπαιδευτικοί έχουν έρθει αντιμέτωποι με τέτοιες εικόνες, οι οποίες διαδίδονται μέσα σε δευτερόλεπτα μέσω γνωστών ψηφιακών πλατφορμών. Αν και συχνά η αρχική πρόθεση των μαθητών παρουσιάζεται ως «πλάκα», πρόκειται ξεκάθαρα για μορφή σεξουαλικής κακοποίησης, με σοβαρές συνέπειες και ταχύτατη εξάπλωση.

Το φαινόμενο δεν γνωρίζει γεωγραφικά όρια. Στην Ισπανία, το 2023, δεκαπέντε ανήλικοι καταδικάστηκαν για τη χρήση ΤΝ με σκοπό την παραγωγή ψεύτικου υλικού που απεικόνιζε γυμνές συμμαθήτριές τους, το οποίο στη συνέχεια διαμοιράστηκε μέσω ψηφιακής πλατφόρμας. Περίπου είκοσι κορίτσια, τα περισσότερα ηλικίας 14 ετών και με τη νεότερη μόλις 11 ετών, έπεσαν θύματα της υπόθεσης. Στην Αυστραλία, περίπου 50 μαθήτριες και μαθητές λυκείου στο σχολείο Bacchus Marsh στη Βικτώρια ανέφεραν ότι φωτογραφίες τους αλλοιώθηκαν ψηφιακά και διαδόθηκαν ηλεκτρονικά. Μητέρα μαθήτριας περιέγραψε πως η κόρη της ένιωσε τόσο έντονη αποστροφή από τις σεξουαλικά άσεμνες εικόνες, ώστε έκανε εμετό. Αντίστοιχα, στις ΗΠΑ, περισσότερες από 30 μαθήτριες στο λύκειο Westfield του Νιου Τζέρσεϊ διαπίστωσαν ότι deepfake πορνογραφικές εικόνες τους κυκλοφορούσαν μεταξύ συμμαθητών τους μέσω Snapchat.

Το 2023, η εφημερίδα Times αποκάλυψε ότι δύο ιδιωτικά σχολεία στο Ηνωμένο Βασίλειο βρέθηκαν στο επίκεντρο αστυνομικής έρευνας για τη δημιουργία και διάδοση deepfake πορνογραφικών φωτογραφιών. Σύμφωνα με το δημοσίευμα, η αστυνομία διερεύνησε καταγγελίες σύμφωνα με τις οποίες το υλικό δημιουργήθηκε σε σχολείο αρρένων, με τη χρήση φωτογραφιών που είχαν αντληθεί από τους λογαριασμούς κοινωνικής δικτύωσης μαθητριών γειτονικού σχολείου θηλέων.

Ανησυχητικά είναι και τα ευρήματα νέας έρευνας σε 4.300 καθηγητές δευτεροβάθμιας εκπαίδευσης στην Αγγλία, που διεξήχθη από την Teacher Tapp για λογαριασμό του Guardian. Περίπου ένας στους δέκα εκπαιδευτικούς δήλωσε ότι εντόπισε μαθητές του σχολείου του να έχουν δημιουργήσει «σεξουαλικά άσεμνα deepfake βίντεο» κατά το τελευταίο σχολικό έτος. Τα τρία τέταρτα των περιστατικών αφορούσαν παιδιά ηλικίας 14 ετών ή και μικρότερα, ενώ στο 10% των περιπτώσεων εμπλέκονταν 11χρονα και σε ένα 3% ακόμη μικρότερα παιδιά, στοιχείο που καταδεικνύει την εξαιρετικά εύκολη πρόσβαση στην τεχνολογία.

Η αντιμετώπιση του φαινομένου από την πλευρά των εκπαιδευτικών παραμένει συχνά αποσπασματική. «Υπάρχει ασυνέπεια και αβεβαιότητα ως προς τον τρόπο διαχείρισης τέτοιων περιστατικών», σημειώνει η καθηγήτρια κινηματογράφου και φεμινιστικών σπουδών μέσων ενημέρωσης στο Πανεπιστήμιο Anglia Ruskin, Tanya Horeck. Κάποιοι ζητούν άμεσες αποβολές και εμπλοκή της αστυνομίας, ενώ άλλοι υποστηρίζουν μια διαφορετική προσέγγιση από την πλευρά της δικαιοσύνης, με στόχο την κατανόηση των αιτιών που οδηγούν σε τέτοιες συμπεριφορές.

Για τα παιδιά σχολικής ηλικίας, οι συνέπειες στην ψυχική υγεία μπορεί να είναι καταστροφικές. Τα κορίτσια και οι νεαρές γυναίκες βιώνουν ντροπή, άγχος και ενοχές, συναισθήματα που δύσκολα διαχειρίζονται. Οι φιλίες διαλύονται και κυριαρχεί το αίσθημα της προδοσίας, όταν ένας μαθητής ή μια μαθήτρια ανακαλύπτει ότι συμμαθητής του/της δημιούργησε και διέδωσε άσεμνο ψηφιακό υλικό σε ολόκληρο το σχολείο. Πολλά θύματα αδυνατούν να παρακολουθήσουν τα μαθήματά τους, ενώ οι εκπαιδευτικοί, συχνά χωρίς σαφείς διαδικασίες, προσπαθούν μεμονωμένα να διαχειριστούν την κατάσταση. Την ίδια στιγμή, τα αγόρια που εμπλέκονται οδηγούνται σε εγκληματικές συμπεριφορές, συχνά χωρίς να αντιλαμβάνονται το βάρος των πράξεών τους.

Σύμφωνα με ειδικούς από ΜΚΟ που δραστηριοποιούνται στην καταπολέμηση της βίας κατά των γυναικών, η έμφυλη ψηφιακή βία είναι ιδιαίτερα τραυματική, καθώς το υλικό παραμένει διαθέσιμο στο διαδίκτυο για απροσδιόριστο χρονικό διάστημα.

Στην Ελλάδα, τα deepfakes εμπίπτουν στο άρθρο 346 του Ποινικού Κώδικα, που αφορά το αδίκημα της εκδικητικής πορνογραφίας και προβλέπει προστασία και για παραποιημένο οπτικό υλικό. Κατά συνέπεια, η δημιουργία τέτοιου περιεχομένου χωρίς συναίνεση, ακόμη και όταν γίνεται με χρήση ΤΝ, τιμωρείται ποινικά. Στην πράξη, ωστόσο, η απόδειξη της πλαστότητας παραμένει δύσκολη, καθώς ακόμη και σύγχρονα ψηφιακά εργαλεία αδυνατούν ορισμένες φορές να διακρίνουν το ψεύτικο από το αυθεντικό.

Σε ευρωπαϊκό επίπεδο, η ΕΕ αναγνωρίζει τον κίνδυνο και επιχειρεί να τον αντιμετωπίσει θεσμικά μέσω του Κανονισμού για την Τεχνητή Νοημοσύνη (AI Act). Ο Κανονισμός εισάγει κατηγοριοποίηση των συστημάτων ΤΝ ανάλογα με τον βαθμό κινδύνου, από χαμηλό έως υψηλό. Τα deepfakes κατατάσσονται στις εφαρμογές υψηλού κινδύνου και θα υπόκεινται σε αυστηρούς κανόνες. Με βάση το άρθρο 52, καθιερώνεται για πρώτη φορά ρητή υποχρέωση οι δημιουργοί deepfake περιεχομένου να γνωστοποιούν ότι το υλικό έχει παραχθεί με ΤΝ, ενώ οι μεγάλες ψηφιακές πλατφόρμες οφείλουν να ελέγχουν το περιεχόμενό τους και να αποσύρουν όσα deepfakes εντοπίζουν.

Σε κάθε περίπτωση, αυτό που φαίνεται να λειτουργεί αποτελεσματικά σε προληπτικό επίπεδο είναι η ενημέρωση και η ευαισθητοποίηση γύρω από την ασφάλεια στο διαδίκτυο και τον ψηφιακό εκφοβισμό. Χαρακτηριστικά, στο ίδιο δημοσίευμα του Guardian αναφέρεται ότι σε παρόμοιο περιστατικό, ο μαθητής εντοπίστηκε χάρη σε καταγγελία συμμαθήτριάς του, η οποία είχε προηγουμένως παρακολουθήσει σχετική εκπαιδευτική δράση.