Η Shoshana Zuboff δεν χρειάζεται πολλές συστάσεις. Μια από τις πρώτες γυναίκες που κατάφεραν να αποκτήσουν μια μόνιμη θέση στο ακαδημαϊκό προσωπικό του Harvard Business School, σήμερα ομότιμη καθηγήτρια της ίδια σχολής, συγγραφέας ενός εκ των σημαντικότερων βιβλίων της τελευταίας δεκαετίας, του The Age of Surveillance Capitalism (ελληνική μετάφραση: Η εποχή του κατασκοπευτικού καπιταλισμού, εκδόσεις Καστανιώτη), αλλά και προφητικών μελετών για την επίδραση των ψηφιακών τεχνολογιών στο χώρο εργασίας (In the Age of the Smart Machine: The Future of Work and Power, 1998), αποτελεί σήμερα μια από τις πιο επιδραστικές μορφές της παγκόσμιας διανόησης. 

Η βασική θέση της Zuboff είναι ότι τις τελευταίες δεκαετίες ο καπιταλισμός έχει υποστεί έναν βαθύ μετασχηματισμό που βασίζεται στην εμπορευματοποίηση των ψηφιακών ιχνών που αφήνουν οι χρήστες στο διαδίκτυο από τις μεγάλες εταιρίες τεχνολογίας, με στόχο τη διατύπωση εξατομικευμένων προγνώσεων/προβλέψεων συμπεριφοράς, τις οποίες εν συνεχεία «πωλούν» σε επίδοξους διαφημιζόμενους που θέλουν στοχευμένες και αποτελεσματικές διαφημίσεις, που θα εξασφαλίσουν μεγαλύτερο κέρδος. Οι αγορές «συμπεριφορικής έκβασης» που βασίζονται στη μαζική συλλογή δεδομένων χωρίς συνήθως τη γνώση των χρηστών, μετατρέπονται έτσι σε σημεία συσσώρευσης ανυπολόγιστου πλούτου και εξουσίας. 

Η Οικονομική Επιθεώρηση συνομίλησε μαζί της, ζητώντας της να ξαναδιαβάσει το βασικό επιχείρημα του βιβλίου της για τον καπιταλισμό της επιτήρησης, υπό το πρίσμα πρόσφατων εξελίξεων, όπως η ευρεία διάδοση της παραγωγικής τεχνητής νοημοσύνης, η επανεκλογή του Τραμπ και η προνομιακή θέση που φαίνεται να επιφυλάσσει η νέα αμερικανική διοίκηση στις μεγάλες τεχνολογικές εταιρίες. 

Καπιταλισμός της επιτήρησης, 7 χρόνια μετά

Στο βιβλίο σας για την εποχή του καπιταλισμού της επιτήρησης, που δημοσιεύτηκε περίπου πριν από εφτά χρόνια, υποστηρίξατε ότι είμαστε μάρτυρες μιας βαθιάς μετάλλαξης του καπιταλιστικού παραδείγματος, καθώς τα δεδομένα και οι κοινωνικές πληροφορίες μετατρέπονται στο κύριο αντικείμενο μιας νέας κεφαλαιακής συσσώρευσης, με τις μεγάλες εταιρείες τεχνολογίας να το εμπορευματοποιούν για να αποκομίσουν κέρδος. Πιστεύετε ότι η ανάλυσή σας εξακολουθεί να ισχύει ή εκτιμάτε ότι πρέπει να γίνουν κάποιες προσαρμογές, ώστε να συμπεριληφθούν σε αυτήν οι πρόσφατες εξελίξεις; Σε αυτά τα εφτά χρόνια ζήσαμε άλλωστε πολύ σημαντικά γεγονότα, την πανδημία του Covid, την ευρεία χρήση της τεχνητής νοημοσύνης, την επανεκλογή του Ντόναλντ Τραμπ, την άνοδο της Κίνας …

Έγραψα το βιβλίο όχι με σκοπό να συλλάβω τη στιγμή, αλλά με σκοπό να περιγράψω τη μεγάλη εικόνα. Επιτρέψτε μου να σας πω ότι, από τις εφτά Ιανουαρίου, όταν ο επικεφαλής του Meta Μαρκ Ζάκερμπεργκ κήρυξε τον πόλεμο στο κράτος δικαίου σε συνεργασία με τον κ. Τραμπ, τα εισερχόμενα μηνύματα που λαμβάνω στους λογαριασμούς ηλεκτρονικού ταχυδρομείου μου που είναι δημόσιοι έχουν εκτιναχθεί. Το μήνυμα είναι παρόμοιο από ανθρώπους σε όλο τον κόσμο: «Το προέβλεψες. Το εξήγησες. Όλα όσα έγραψες γίνονται πραγματικότητα». Αν ισχύει αυτό, είναι επειδή πέρασα μια δεκαετία γράφοντας αυτό το βιβλίο. Αλλά πριν από αυτό, ξόδεψα άλλα τριάντα οχτώ χρόνια μελετώντας τις συγκεκριμένες δυναμικές. Κατανόησα τον καπιταλισμό της επιτήρησης πολύ πριν ξεκινήσω να δουλεύω για το εν λόγω βιβλίο. Επομένως, η πνευματική δέσμευσή μου ήταν να κατανοήσω τις δυναμικές της οικονομίας, της κοινωνίας και της πολιτικής, που θα καθόριζαν την τροχιά του αιώνα μας, εκτός κι αν παρέμβουμε και αλλάξουμε πορεία.

Ένας τρόπος να θέσουμε το ίδιο ερώτημα υπό μια διαφορετική οπτική γωνία θα ήταν ο εξής: Η σχέση του Ίλον Μασκ και του Ντόναλντ Τραμπ δεν έχει υπερβεί κατά κάποιο τρόπο τα ορόσημα που περιγράφετε στην ανάλυσή σας; 

Στο βιβλίο μου συζητώ λεπτομερώς το ζήτημα της συγχώνευσης αγοράς και κράτους. Το κινεζικό κράτος επιτήρησης είναι το εμβληματικό παράδειγμα αυτού του σεναρίου συγχώνευσης, αυτού που εγώ αποκαλώ εφιαλτικό σενάριο. Και, πράγματι, στις Ηνωμένες Πολιτείες φαίνεται να διαμορφώνεται μια επικίνδυνη νέα συμμαχία μεταξύ των ολιγαρχών της πληροφορίας, που ελέγχουν τις πληροφορίες και τους χώρους επικοινωνίας μας, και της κυβέρνησης Τραμπ: αγορά και κράτος. Όπως έχω υποστηρίξει, ο καπιταλισμός της επιτήρησης είναι εγγενώς αντιδημοκρατικός και επιδιώκει να αποφεύγει το κράτος δικαίου. Ο κ. Τραμπ περιφρονεί τη δημοκρατία και θέλει να ελέγξει τον χώρο της επικοινωνίας. Υπάρχουν λοιπόν συγγένειες και αμοιβαιότητες σε αυτή τη συμμαχία. Θα κρατήσει; Πρέπει να πούμε ότι διανύσαμε μια μακρά πορεία μέχρι να φτάσουμε σε αυτό το σενάριο. Στην εκτενή εργασία που δημοσίευσα στα τέλη του 2022 με τίτλο «Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization», παραθέτω επιπλέον στοιχεία και παραδείγματα επ’ αυτού του θέματος. Στις ΗΠΑ ζούμε μια παραλλαγή του σεναρίου της συγχώνευσης από την 11η Σεπτεμβρίου, όταν οι υπηρεσίες εθνικής ασφάλειας και πληροφοριών των ΗΠΑ, στη νέα τους εμμονή με την «απόλυτη γνώση των πληροφοριών», στράφηκαν στις νέες εταιρείες του Διαδικτύου για το πλήθος των ανθρωπογενών δεδομένων που διέθεταν.

Γνωρίζουμε από έρευνες για τις επιχειρήσεις μαζικής συλλογής δεδομένων ότι ο «πόλεμος κατά της τρομοκρατίας» έπεισε όλες τις δυτικές δημοκρατίες να συμμετάσχουν στη μαζική συλλογή δεδομένων, που στην ουσία συνίσταται στη συλλογή, χωρίς πρότερη ενημέρωσή τους, δεδομένων που αφορούν ανθρώπους και προέρχονται από διαδικασίες εμπορικής επιτήρησης. Στις Ηνωμένες Πολιτείες, όπως επίσης και σε πολλές άλλες δημοκρατίες, απαγορεύεται από το σύνταγμα οι κυβερνητικές υπηρεσίες να παρακολουθούν τους πολίτες τους, ενώ οι ιδιωτικές εταιρείες δεν αντιμετωπίζουν τέτοιους περιορισμούς. Αναφέρω, για παράδειγμα, μια δημόσια ομιλία του Γκας Χαντ το 2013, ο οποίος εκείνη την εποχή ήταν ο επικεφαλής του Τμήματος Τεχνολογίας της CIA. Στην τοποθέτησή του, λοιπόν, εξήρε το γεγονός ότι η CIA ήταν πλέον σε θέση, όπως είπε, «να επεξεργαστεί όλα τα δεδομένα που παράγονται από τον άνθρωπο». Ευχαρίστησε συγκεκριμένα τις εταιρείες τεχνολογίας μία προς μία, το Facebook, την Google, την Fitbit, την AOL, το Twitter κ.ο.κ., για την παροχή όλων των δεδομένων που επέτρεψαν στη CIA να επιτύχει αυτόν τον στόχο. Έτσι, αυτό το σενάριο της συγχώνευσης έχει θεσμοθετηθεί στις Ηνωμένες Πολιτείες εδώ και αρκετό καιρό. Βρίσκω την ομιλία που σας προανέφερα συναρπαστική. Ο Γκας Χαντ βρίσκεται σε ένα δημόσιο συνέδριο και μακρυγορεί, πανηγυρίζοντας για αυτές τις απίστευτες ικανότητες, που αποκτήθηκαν χάρη στις εμπορικές εταιρείες του Διαδικτύου που παρακολουθούν κρυφά τη συμπεριφορά μας και τη μετατρέπουν σε δεδομένα. Παρεμπιπτόντως, μπορείτε να παρακολουθήσετε αυτή την ομιλία στο YouTube. Μου έκανε εντύπωση το γεγονός ότι, παρά τις σημαντικές, ακόμη και εξοργιστικές, τοποθετήσεις του, κανείς δεν αντιδρούσε. Κανείς δεν φαινόταν σοκαρισμένος ή θυμωμένος ή ενοχλημένος με οποιονδήποτε τρόπο. Όταν τελείωσε την ομιλία του, ο κ. Χαντ προσφέρθηκε να απαντήσει σε ερωτήσεις.

Και;

Τότε ο συντονιστής της εκδήλωσης είπε: «Ξέρετε, όλοι πεινάνε. Επομένως, δεν νομίζω ότι θα αφιερώσουμε χρόνο για ερωτήσεις. Αλλά όποιος θέλει, θα έχει το χρόνο να σας αναζητήσει στο συνέδριο και να σας κάνει όποιες ερωτήσεις μπορεί να έχει». Επρόκειτο για ένα συνέδριο πληροφορικής, και οι άνθρωποι που βρίσκονταν σε εκείνη την αίθουσα ενδιαφέρονταν περισσότερο για το μεσημεριανό τους γεύμα. Η στάση τους ήταν κάπως η εξής: «Εντάξει, οι υπηρεσίες πληροφοριών μας έχουν όλα τα δεδομένα που παράγονται από όλες τις εταιρείες. Σιγά το νέο. Ας φάμε τώρα!». Το γεγονός έμοιαζε σαν κάτι απόλυτα φυσιολογικό. Για όλους… εκτός από έναν άνθρωπο που ήταν στο δωμάτιο. Υπήρχε ένας… 

Ποιος ήταν; 

Καθόταν στην πίσω σειρά και είχε πάρει φωτιά ολόκληρος. Το όνομά του ήταν Εντ Σνόουντεν. Είχε έρθει να παρακολουθήσει το συνέδριο ειδικά για να ακούσει τι θα έλεγε ο Γκας Χαντ. Αλλά έμεινε εντελώς έκπληκτος όταν τον άκουσε να αποκαλύπτει αυτού του είδους τις πληροφορίες στο κοινό, γνωρίζοντας ότι η παρέμβασή του βιντεοσκοπούνταν και θα ανέβαινε στο Διαδίκτυο. Αυτό τρόμαξε τον Σνόουντεν. Και αυτή ήταν η καθοριστική στιγμή που είπε στον εαυτό του: «Θα βγω μπροστά». Είχε ήδη εντοπίσει αυτές τις κρύπτες πληροφοριών, αλλά δεν είχε αποφασίσει ακόμη αν θα έβγαινε να μιλήσει δημόσια. Και αυτή η αδιαφορία, αυτό το λες και επρόκειτο για κάτι απλό, ήταν που τον ώθησε να πάρει αυτή την απόφαση.

Τεχνητή νοημοσύνη και καπιταλισμός της επιτήρησης 

Έχει η τεχνητή νοημοσύνη και η διάδοσή της τη δυνατότητα να οδηγήσει τον καπιταλισμό της επιτήρησης στο επόμενο επίπεδο; Στο βιβλίο σας σταματάτε σε ένα σημείο όπου η τεχνητή νοημοσύνη δεν χρησιμοποιείται τόσο ευρέως…

Υπήρχε γενικευμένη χρήση της τεχνητής νοημοσύνης, αλλά δεν είχε εισαχθεί στον στον καταναλωτικό χώρο. Αυτή είναι η διαφορά μεταξύ του τότε και του τώρα. Ο Σαμ Άλτμαν, χωρίς καμία προειδοποίηση, αποφάσισε να κάνει το άλμα στον καταναλωτικό χώρο με το ChatGPT, χωρίς καμία προειδοποίηση. Ήταν απελπισμένος και αποφασισμένος να είναι ο πρώτος που θα κυκλοφορούσε στην αγορά μια κάποια μορφή «παραγωγικής τεχνητής νοημοσύνης».

Γιατί το έκανε αυτό, κατά τη γνώμη σας; 

Αυτή είναι μια πολύ ενδιαφέρουσα ερώτηση. Η πρώτη φάση της τεχνητής νοημοσύνης δημιούργησε τον καπιταλισμό της επιτήρησης. Τώρα η δεύτερη φάση τον εντείνει και τον επιταχύνει. Τα δεδομένα για την εκπαίδευση των μοντέλων απαιτούν ακόμα περισσότερη παγκόσμια επιτήρηση και κλοπή. Η παραγωγική τεχνητή νοημοσύνη θέτει ακόμα μεγαλύτερες απειλές διαφθοράς πληροφοριών και χειραγώγησης συμπεριφοράς.

Είναι χρήσιμο να αναγνωρίσουμε πόσο μεγάλο μέρος του κόσμου που περιέγραψα στο βιβλίο γινόταν αντιληπτό ως τεχνητή νοημοσύνη από όλους όσους ανήκαν σε αυτόν τον τομέα. Εκείνες οι δεκαετίες, από το 2000 έως το 2020, αποτέλεσαν το πρώτο βήμα της γνωριμίας του κοινού με την τεχνητή νοημοσύνη, αλλά οι λειτουργίες ήταν ενσωματωμένες στις υπηρεσίες που χρησιμοποιούσαμε: αναζήτηση, μετάφραση, συμπλήρωση προτάσεων, αναγνώριση φωνής, πρόβλεψη και αντιστοίχιση κ.ο.κ. Ήδη το 2000 οι ιδρυτές της Google, ο Λάρι Πέιτζ και ο Σεργκέι Μπριν, αποκαλούσαν το «Google search» ως «τη δική μας τεχνητή νοημοσύνη». Εκείνη τη χρονιά, προσέλαβαν τον Πίτερ Νόρβιγκ, ο οποίος θεωρούνταν ο κορυφαίος ειδικός στην τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες. Και αναφέρω στο βιβλίο μου το σκεπτικό του Λάρι Πέιτζ για αυτή την κίνηση. Η οδηγία του προς τον Νόρβιγκ ήταν ξεκάθαρη: «Όλα είναι τεχνητή νοημοσύνη». Το ίδιο ισχύει και για τον Σάτια Ναντέλα, τον διευθύνοντα σύμβουλο της Microsoft. Επομένως, ο καπιταλισμός της επιτήρησης ήταν πάντα εξαρτημένος από την τεχνητή νοημοσύνη. Περιγράφω στο βιβλίο ένα έγγραφο που διέρρευσε και αναφερόταν σε αυτό που το Facebook αποκαλούσε «AI hub», το κέντρο τεχνητής νοημοσύνης τους. Ήδη από το 2016, αυτό το σύστημα «κατανάλωνε τρις σημεία δεδομένων» κάθε μέρα για να παράγει «εκατοντάδες μοντέλα», προκειμένου να παραγάγει «έξι εκατομμύρια προβλέψεις συμπεριφοράς κάθε δευτερόλεπτο». Αυτό το έκανε το κέντρο τεχνητής νοημοσύνης τους ήδη από το 2016. Και αυτό το έγγραφο διέρρευσε σε έναν δημοσιογράφο του Intercept το 2018. 

Οπότε όλο το πράγμα είχε να κάνει με την τεχνητή νοημοσύνη από την αρχή: μηχανική μάθηση, τεχνητή νοημοσύνη. Το καινούργιο στοιχείο τώρα έχει να κάνει με την παραγωγική τεχνητή νοημοσύνη, που μπορεί να παραγάγει νέο κείμενο από παλιό κείμενο και νέες εικόνες από εκείνες πάνω στις οποίες εκπαιδεύτηκε. Με την απότομη απελευθέρωση αυτής της νέας δυνατότητας στον καταναλωτικό χώρο, το OpenAI δημιούργησε την αίσθηση ότι η τεχνητή νοημοσύνη ήταν κάτι το εντελώς νέο. Δημιούργησε μια νέα ομάδα ανθρώπων που γρήγορα άρχισε να εξαρτάται από τις νέες δυνατότητες, και όχι απαραίτητα με υγιή ή παραγωγικό τρόπο. Έγινε μια νέα πηγή ανταγωνιστικού πλεονεκτήματος στο σχολείο ή στην εργασία. Μόλις το αποκτήσετε, προσπαθείτε να αποφύγετε με κάθε τρόπο το ενδεχόμενο απώλειας γιατί δεν θέλετε να μείνετε χωρίς αυτό. Το βίαιο στοιχείο της ξαφνικής κυκλοφορίας των Chat bots του Open AI έχει να κάνει με το γεγονός ότι δεν δόθηκε ο απαιτούμενος χρόνος στoυς θεσμούς να αξιολογήσουν και να προσαρμοστούν – στα σχολεία, στα πανεπιστήμια, στους χώρους εργασίας. Αυτό είναι χαρακτηριστικό των στρατηγικών διάσπασης, που στοχεύουν να αποδυναμώσουν τους θεσμούς και να δεσμεύσουν τα άτομα με την εταιρεία και τα συστήματά της. Αλλά οι εκπαιδευτικοί, για παράδειγμα, χρειάζονταν χρόνο για να σκεφτούν πώς να εκπαιδεύσουν τους μαθητές και επίσης πώς να τους επιτρέψουν να μάθουν χρησιμοποιώντας αυτά τα νέα εργαλεία. Στερείται από τις κοινωνίες μας η δυνατότητα να συζητήσουν και να βρουν απαντήσεις σε αυτά τα περίπλοκα ερωτήματα. Πολύ γρήγορα θα δούμε γιατρούς και ασθενείς να αντιμετωπίζουν παρόμοια προβλήματα..

Δεδομένα, μυστικά, συλλογική και ατομική ευθύνη

Μπορεί το τζίνι να μπει ξανά στο μπουκάλι μέσω ρύθμισης ή κάποιας άλλης πρωτοβουλίας, ή αυτό είναι το μέλλον και το μέλλον είναι τώρα;

Με συναρπάζει πόσο συχνά κάνουν οι άνθρωποι αυτή την ερώτηση, αυτή τη σημαντική ερώτηση. Και νομίζω ότι θέτουμε αυτό το ερώτημα επειδή, ως ένα βαθμό, οι εταιρείες ήταν τόσο επιτυχημένες, πείθοντάς μας ότι αυτό που συνέβη και ο τρόπος που συνέβη θα συνέβαινε έτσι κι αλλιώς, ότι όλα είναι κατά κάποιο τρόπο η αναπόφευκτη συνέπεια των ίδιων των τεχνολογιών. Κι όμως, όταν μελετάς το φαινόμενο και το βλέπεις προσεκτικά από τη σκοπιά του κοινωνικού παράγοντα, και από τη σκοπιά του θεσμικού, του πολιτικού και του οικονομικού παράγοντα, βλέπεις ότι τίποτα δεν ήταν αναπόφευκτο. Τα οικονομικά της πληροφορίας θα μπορούσαν να έχουν προσεγγιστεί κυριολεκτικά με χίλιους διαφορετικούς τρόπους. Είναι παράλογο να πιστεύουμε ότι ο μόνος τρόπος με τον οποίο τα δεδομένα θα μπορούσαν να μετατραπούν σε χρήμα ήταν μέσω της μυστικής κλοπής πληροφοριών που αφορούν ανθρώπους για τη διατύπωση προβλέψεων και την επίτευξη πωλήσεων. Αυτό είναι παράλογο. Ανακάλυψαν αυτή τη διαδρομή για τη δημιουργία εσόδων. Ήταν εκρηκτική. Ξεπέρασε και τις πιο τρελές προσδοκίες τους. Ήξεραν ότι ήταν κλοπή. Και ήξεραν ότι έπρεπε να το κρατήσουν κρυφό. Γιατί, αν δεν το κρατούσαν μυστικό, οι χρήστες θα αντιδρούσαν. Θα υπήρχε αντίσταση. Θα υπήρχε απώθηση, οργή, τριβή. Σε τελική ανάλυση, η αντίσταση του κοινού θα είχε σίγουρα οδηγήσει σε πιο ολοκληρωμένους και αποτελεσματικούς νόμους για την επίβλεψη του ψηφιακού.

Είναι όμως αυτό μυστικό; Και αν δεν είναι, γιατί οι χρήστες συνεχίζουν να χρησιμοποιούν τις ίδιες πλατφόρμες, κάνοντας το ίδιο πράγμα; Προφανώς εδώ υπάρχει τεράστια ευθύνη των εταιρειών τεχνολογίας, αλλά βλέπετε εν προκειμένω και κάποιου είδους ατομική ευθύνη;

Είναι αλήθεια ότι τώρα γνωρίζουμε πολύ περισσότερα από όσα γνωρίζαμε πριν από δέκα χρόνια. Στην αρχή, ας πούμε από το 2001 έως το 2004, κανείς δεν ήξερε καν ότι θα μπορούσε να πραγματοποιηθεί μια μυστική, μαζικής κλίμακας εξαγωγή δεδομένων που παράγονται από τον άνθρωπο, χωρίς τα υποκείμενα να έχουν ιδέα ότι αυτό συνέβαινε. Αυτό συνέβαινε στη βάση της δυνατότητας συλλογής «αποτυπωμάτων συμπεριφοράς» που όλοι αφήνουμε κατά την πλοήγησή μας στο Διαδίκτυο, αλλά τότε κανείς δεν το γνώριζε, ενώ και σήμερα οι περισσότεροι άνθρωποι δεν το καταλαβαίνουν. Οι άνθρωποι πιστεύουν ότι μπορούν με κάποιο τρόπο να γνωρίζουν ή να ελέγχουν αυτό που αποκαλύπτουν στις εταιρείες.

Οι περισσότεροι άνθρωποι δεν κατανοούν το φαινόμενο αυτού που αποκαλώ «συμπεριφορικό πλεόνασμα», την ιδέα ότι αφήνουμε αποτυπώματα της συμπεριφοράς μας σε κάθε σημείο επαφής μας στο Διαδίκτυο, και αυτά είναι ακριβώς που συλλέγονται. Από εκεί προέρχεται εξάλλου και μεγάλο μέρος της προγνωστικής δυνατότητας. Και στη συνέχεια, φυσικά, αυτά συγκεντρώνονται μαζί με άλλα δεδομένα που αποκαλύπτουμε, συναθροίζονται μαζί με τις πληροφορίες που μοιράζονται οι άνθρωποι στα μέσα κοινωνικής δικτύωσης, με ό,τι άλλες πληροφορίες μπορούν να λάβουν οι εταιρίες από διαμεσολαβητές δεδομένων (data brokers), τεχνολογικούς συσσωρευτές πληροφοριών (tech aggregators) και ούτω καθεξής. Η κεντρική ουσία του θέματος είναι ότι παίρνουν αυτό που δεν γνωρίζουμε ότι δίνουμε. Και αυτός είναι ο λόγος που φράσεις όπως η «οικονομία της ανθρώπινης προσοχής» είναι πραγματικά προβληματικές. Όπως έχω υποστηρίξει πολλές φορές, η οικονομία της  προσοχής δίνει στους ανθρώπους την εντύπωση ότι, εφόσον προσέχουν τι αποκαλύπτουν, μπορούν να το ελέγξουν. Αλλά στην πραγματικότητα, αυτό που συμβαίνει δεν έχει να κάνει με την προσοχή σας. Τα δεδομένα της συμπεριφοράς σας συλλέγονται συστηματικά, είτε προσέχετε είτε όχι.

Η ερώτηση που κάνατε στην αρχή ήταν σημαντική. Είναι αυτό αναστρέψιμο; Ή μήπως αυτό είναι ήδη το μέλλον που πιστεύαμε ότι βρισκόταν πιο μακριά, εκτιμώντας ότι είχαμε ακόμη χρόνο να το πολεμήσουμε, να προετοιμαστούμε ή να πάρουμε τις δικές μας αποφάσεις για το τι είδους μέλλον θα είναι αυτό. Για τους γίγαντες του καπιταλισμού της επιτήρησης, είναι σημαντικό να πείσουν το κοινό ότι αυτό που βιώνουμε είναι αναπόφευκτο, ότι οφείλεται στη φύση της τεχνολογίας και όχι στις πολύ συγκεκριμένες οικονομικές επιλογές που έχουν κάνει οι ίδιοι. Κράτησαν με επιτυχία αυτές τις επιλογές μυστικές για δεκαετίες.

Υπάρχει μια ομαδική αγωγή κατά της Google, που ασκήθηκε από χρήστες του Chrome. Η νομική βάση της αναφερόταν στην υπόσχεση της Google ότι ο Chrome προστάτευε την ιδιωτικότητα των χρηστών, κάτι που αποδείχθηκε ότι δεν ήταν αλήθεια.

Κράτος δικαίου και ρυθμιστικό πλαίσιο 

Και; Γιατί το αναφέρετε αυτό; 

Λόγω αυτής της αγωγής, το 2022 δημοσιοποιήθηκαν στους ενάγοντες και στο κοινό ορισμένα έγγραφα, έγγραφα που η Google και οι δικηγόροι της θα έπρεπε να είχαν δώσει νωρίτερα σε εκείνους, αλλά δεν το είχαν κάνει. Αυτά περιλάμβαναν συνεντεύξεις με επιτελικά στελέχη της Google που έθεταν ερωτήσεις σχετικά με ζητήματα ιδιωτικότητας που ήταν στον πυρήνα της αγωγής. Σε αυτά τα έγγραφα λοιπόν περιέχονται και δύο πολύ ενδιαφέρουσες σελίδες με αποσπάσματα από δηλώσεις στελεχών της Google το 2021 και το 2022, μετά από δεκαετίες μυστικότητας.

Οι απαντήσεις που δίνουν, ο ένας μετά τον άλλο, είναι: «Κανείς δεν ξέρει πόσα δεδομένα συλλέγουμε», «Κανείς δεν ξέρει τι συμβαίνει κάτω από την κουκούλα», «Οι άνθρωποι θα τρόμαζαν εάν ήξεραν τι συμβαίνει», «Δεν μπορούμε ποτέ να τους το αποκαλύψουμε». Έτσι, στο εσωτερικό αυτής της γιγάντιας εταιρείας υπήρξε μια αποφασιστικότητα, δεκαετιών, να διατηρηθεί το μυστικό. Ας συνδέσουμε, λοιπόν, τώρα τις τελείες, με αυτή τη στιγμή, ξεκινώντας από τις εφτά Ιανουαρίου και το βίντεο του κυρίου Ζάκερμπεργκ. Τι είπε; Είπε: «Τι πιστεύουν ότι κάνουν αυτοί οι δημοκρατικοί ηγέτες; Προσπαθούν να μας επιβάλουν νόμους. Πώς τολμούν;!».

Η νομική ρύθμιση έχει αποφευχθεί, ειδικά στις Ηνωμένες Πολιτείες, όπως γνωρίζετε, γεγονός που συνιστά τραγωδία για την πολιτική μας, αλλά παρ’ όλα αυτά αποτελεί ένα γεγονός. Τους άφησαν να λειτουργούν χωρίς περιορισμούς, χωρίς λογοδοσία, για τόσο πολύ καιρό, που θεωρούν πλέον αυτή τη συνθήκη δικαίωμά τους. Πιστεύουν ότι έχουν το δικαίωμα να αγανακτούν όταν δημοκρατικά εκλεγμένοι νομοθέτες κάνουν τη δουλειά τους και ασκούν τη νομιμοποιημένη εξουσία τους να επιβάλλουν το κράτος δικαίου. Γιατί πόνταραν τη φήμη τους και τα χρήματά τους πίσω από τον Τραμπ; Γιατί χρησιμοποιούν τον Τραμπ ως πολιορκητικό κριό για να κυνηγήσουν τις δημοκρατικές κυβερνήσεις, για να τις τιμωρήσουν για την επιβολή του κράτους δικαίου; Το κάνουν επειδή ξέρουν ότι η επιχείρησή τους βασίζεται απλά και καθαρά στην κλοπή. Παίρνεις κάτι από κάποιον που είναι πολύτιμο. Το παίρνεις χωρίς την άδειά του, γιατί δεν ξέρει καν ότι το παίρνεις. Οποιοδήποτε παιδί τεσσάρων ετών θα σας πει ότι αυτό είναι κλοπή. Και έπρεπε να είχε ποινικοποιηθεί από την αρχή. Αλλά αυτό δεν συνέβη, γιατί το κράτησαν κρυφό. Στις ΗΠΑ, τα ιδιοκτησιακά δικαιώματα των εργοδοτών δεν περιορίστηκαν, με νομικές ρυθμίσεις, παρά την 4η δεκαετία του 20ού αιώνα, με τον πρόεδρο Ρούσβελτ και το New Deal. Χρειάστηκαν τέσσερις δεκαετίες για να θεσμοθετηθεί η εργατική νομοθεσία και να τεθούν όρια στα δικαιώματα ιδιοκτησίας των εργοδοτών. Αλλά το πετύχαμε. Και πολλές ευρωπαϊκές χώρες το έκαναν πιο γρήγορα από τις Ηνωμένες Πολιτείες. Αυτό ακριβώς είναι το είδος του καθήκοντος που έχουμε τώρα.

Δεν είναι ασυνήθιστο ο καπιταλισμός, ειδικά όταν δεν περιορίζεται από τον νόμο, να κινείται πιο γρήγορα και να διαπερνά τους θεσμούς πιο γρήγορα από την ικανότητά μας να τον κατανοήσουμε και να ανταποκριθούμε σε αυτόν θεσπίζοντας νέα δικαιώματα και νομικά πλαίσια, αλλά και δημόσιους φορείς που θα τα επιβλέπουν. Όλα αυτά τα στοιχεία πρέπει να συζητηθούν και να επινοηθούν, καθώς αντιλαμβανόμαστε τις μεταβαλλόμενες συνθήκες ύπαρξής μας. Οι τεχνολογικοί κολοσσοί είναι αποφασισμένοι να καταστρέψουν το «θεσμικό» κράτος προτού έχουμε την ευκαιρία να εφεύρουμε τους νέους θεσμούς που θα μπορούν να μας προστατεύσουν στον ψηφιακό αιώνα. Οι άνθρωποι θέλουν έναν κόσμο στον οποίο όλοι μοιραζόμαστε τη γνώση και τη χρησιμοποιούμε για το κοινό όλων, παγκόσμια αλλά και σε εθνικό επίπεδο, στις κοινότητές μας. Αυτή τη στιγμή, όλα τα δεδομένα και η γνώση συγκεντρώνονται από τους γίγαντες του καπιταλισμού της επιτήρησης. Το τι μετατρέπεται σε γνώση και το πώς χρησιμοποιείται είναι πλήρως υπό τον έλεγχό τους.

Κίνα, κλιματική κρίση και δημοκρατία 

Αλλιώς ακολουθείς τον δρόμο της Κίνας…

Αλλιώς ακολουθείς τον δρόμο της Κίνας. Μόλις κάναμε ένα μεγάλο άλμα προς αυτή την τροχιά στις Ηνωμένες Πολιτείες. Και τώρα εναπόκειται στην Ευρώπη και σε άλλες περιοχές του κόσμου να σχηματίσουν συμμαχίες και να ασκήσουν τη δύναμη του δημοκρατικού κράτους δικαίου, για να δημιουργήσουν μια εναλλακτική τροχιά προς το είδος του μέλλοντος που θέλουν οι περισσότεροι. Η συντριπτική πλειοψηφία των ανθρώπων δεν επιλέγει τη δυστοπία.

Μια σημαντική αρνητική πτυχή της σημερινής τεχνολογίας έχει να κάνει με το περιβάλλον. Είναι μια πτυχή που δεν συζητείται πολύ. Οι ειδικοί λένε, για παράδειγμα, ότι μια και μόνο απάντηση από ένα μοντέλο AI μπορεί να απαιτεί τεράστιες ποσότητες ενέργειας, νερού κ.τ.λ. Πιστεύετε ότι αυτό είναι ένα τυφλό σημείο της νέας τεχνολογικής επανάστασης και του πνεύματος της τεχνο-αισιοδοξίας; Και πώς πιστεύετε ότι αυτό μπορεί να σχετίζεται με την έρευνά σας;

Δεν νομίζω ότι είναι τυφλό σημείο. Είναι μετρ των ρητορικών τεχνικών του αποπροσανατολισμού, της δημιουργίας σύγχυσης, της χειραγώγησης. Έχουν εταιρείες δημοσίων σχέσεων και δικηγορικά γραφεία σε όλο τον κόσμο που βοηθούν σε αυτή την αποστολή. Επομένως, μπορείτε να φανταστείτε μια βιομηχανία να αφήνεται, ή μάλλον να ενθαρρύνεται, να προχωρά με τρόπους που αγνοούν ουσιαστικά την παγκόσμια κλιματική κρίση και τις εντολές για έξυπνη χρήση ενέργειας που επιβάλλονται στις βιομηχανίες σε όλο τον κόσμο; Αυτό δεν θα μπορούσε να το κάνει καμία άλλη. Πρόκειται για είναι ένα τεράστιο πρόβλημα. Ο πολύ μικρός αριθμός εταιρειών που καθοδηγούν την ανάπτυξη της τεχνητής νοημοσύνης έχει επιλέξει ένα μοντέλο και τα θέλει όλα… όλα τα κλεμμένα δεδομένα για εκπαίδευση, όλους τους φυσικούς πόρους, και όλα για χάρη ενός αγνώστου αποτελέσματος.

Αυτό που θέλουν να πιστεύουμε οι ολιγάρχες της πληροφορίας, όπως τους αποκαλώ, είναι ότι η τεχνητή νοημοσύνη θα παράγει τόση αξία, που θα αντισταθμίσει την κλιματική καταστροφή που συνοδεύει τις ενεργειακές απαιτήσεις των κέντρων δεδομένων. Αυτή η εξαπάτηση είναι αυτό ακριβώς που πληρώνονται να κάνουν. Ο Όργουελ το είπε καλύτερα. Μας μπερδεύουν και μας αποπροσανατολίζουν σε σημείο που δεν μπορούμε καν να δούμε τι υπάρχει μπροστά στη μύτη μας.

Πολύ πιο λογικά από τις υπερ-απαιτήσεις τους σε δεδομένα και ενέργεια είναι συστήματα που κατασκευάζονται σε τοπικό επίπεδο, μικρής κλίμακας, με δεδομένα που προσφέρονται εθελοντικά και δεν παραβιάζονται, και αποστολή της τεχνητής νοημοσύνης κανονικά θα έπρεπε να είναι η επίλυση συγκεκριμένων προβλημάτων για συγκεκριμένες κοινότητες. 

Σας ευχαριστούμε πολύ. Υπάρχει κάτι που θα θέλατε να προσθέσετε;

Ζούμε σε μια εποχή που χρειαζόμαστε περισσότερη δημοκρατία και όχι λιγότερη. Και οι δημοκρατίες πρέπει να βρουν νέους τρόπους για να σταθούν μαζί διαμορφώνοντας νέες συμμαχίες. Οι Ηνωμένες Πολιτείες δεν είναι σε θέση να συμμετάσχουν σε αυτή την προσπάθεια αυτή τη στιγμή. Η Ευρώπη και άλλες περιοχές θα πρέπει να ηγηθούν. Έτσι, εκεί εναποθέτω τις ελπίδες μου για τα επόμενα χρόνια, γιατί δεν μπορούμε να χάσουμε αυτή τη δεκαετία.

Εναποθέτετε πολλές ελπίδες στην Ευρώπη…

Είναι πολύ πιο δύσκολο να αισθάνεσαι αισιόδοξος για την Ευρώπη όταν ζεις εκεί. Είναι πολύ πιο δύσκολο να αισθανθεί κανείς τον παγκόσμιο αντίκτυπο του κοινοβουλίου της ΕΕ ή της Ευρωπαϊκής Επιτροπής, όταν εργάζεται σε αυτό ή όταν παραπονιέται για τη γραφειοκρατία και τους κανόνες του. 

Αλλά νομίζω ότι η απόσταση που έχω μου προσφέρει μερικές φορές ένα πλεονέκτημα, γιατί έχω φίλους εκεί και αυτό που βλέπω από απόσταση είναι από πολλές απόψεις ηρωικό. Βλέπω ανθρώπους που εξακολουθούν να οδηγούνται από τις δημοκρατικές αξίες και την αναγκαιότητα των θεμελιωδών δικαιωμάτων. Πιστεύω ότι αυτοί οι θεσμοί τώρα απαιτούν, και αξίζει, να δώσουμε τον καλύτερο εαυτό μας, στην παγκόσμια κοινωνία. Την ελπίδα και την επιμονή μας ότι θα κρατήσουν τον πήχη ψηλά στον αγώνα για τη διατήρηση ενός δημοκρατικού μέλλοντος.