Από την ημέρα που μπήκε το ChatGPT στις ζωές μας, όλο και περισσότεροι δημοσιογράφοι υιοθέτησαν, όλως περιέργως, τις ίδιες ακριβώς συγγραφικές «συνήθειες» που ως τότε απέφευγαν. Άρχισαν ξαφνικά να βάζουν άνω τελείες, μεγάλες παύλες, bullets και περισσότερους μεσότιτλους. Αντί για ΗΠΑ άρχισαν να γράφουν «Ηνωμένες Πολιτείες». Σταμάτησαν να κάνουν ορθογραφικά ή συντακτικά λάθη. Τα κείμενά τους έγιναν σε μεγάλο βαθμό πιο στρωτά δομικά, αλλά ήταν πλέον εμφανώς λιγότερο προσωπικά ή στοχευμένα. Χωρίς να θέλω να σπείρω δαιμόνια, κατηγορώ ευθέως αμέτρητους συναδέλφους πως έπαψαν να γράφουν τα θέματα που υπογράφουν. Τα γράφουν μηχανές για αυτούς και παρόμοια είναι η κατεύθυνση σε πολλούς κλάδους − άνθρωποι ανταλλάσσουν κείμενα γραμμένα από ΑΙ, που δεν έχουν μπει καν στον κόπο να τα διαβάσουν.

Η ομότιμη καθηγήτρια Γλωσσολογίας στο American University της Ουάσιγκτον, Ναόμι Σ. Μπάρον, ασχολείται με το πρόβλημα από την άλλη του πλευρά: το πώς οι φλεγόμενες αλλά και άνευρες πένες της Τεχνητής Νοημοσύνης επηρεάζουν την ανάγνωση και, κατά βάθος, τη σκέψη. Το τελευταίο της βιβλίο Reader Bot: What Happens When AI Reads and Why It Matters (Stanford University Press) εξετάζει το τι συμβαίνει στην διαδικασία της ανάγνωσης, όταν ο άνθρωπος εξουσιοδοτεί ΑΙ bots να την κάνουν γι αυτόν. Είχε την καλοσύνη να συζητήσει με την Οικονομική Επιθεώρηση για το προβληματικό παρόν και το επίφοβο μέλλον.

Δημιουργικότητα, ανάγνωση, γραφή

Πώς αλλάζει τον τρόπο με τον οποίο δημιουργούμε, αλλά και καταναλώνουμε το πνευματικό έργο άλλων, η διείσδυση της τεχνητής νοημοσύνης στα γραπτά;

Διάφορα εργαλεία τεχνητής νοημοσύνης εξελίσσονται συνεχώς όσον αφορά το είδος γραφής που μπορούν να παράγουν και θεωρώ ότι η δημιουργικότητα είναι συνάρτηση τόσο της διαδικασίας όσο και του τελικού προϊόντος. Επομένως, αν επιχειρήσουμε −όπως κάνουν αρκετοί ερευνητές της AI− μία αξιολόγηση της δημιουργικότητας, μπορούμε να πάρουμε δύο κείμενα και να ζητήσουμε από πέντε ή πεντακόσιους ανθρώπους να τα διαβάσουν και να μαντέψουν ποιο γράφτηκε από AI και ποιο από άνθρωπο, ρωτώντας τους ποιο βρήκαν πιο δημιουργικό.

Κάποτε η απάντηση ήταν πως τα κείμενα που είχαν γραφτεί από ανθρώπους, ακόμη κι αν δεν γνωρίζαμε με βεβαιότητα ποιο ήταν ποιο, ήταν πιο δημιουργικά. Σήμερα, υπάρχουν πειράματα που δείχνουν ότι η δημιουργικότητα συχνά αξιολογείται ως υψηλότερη στα έργα που αποκαλύπτεται ότι παράχθηκαν από τεχνητή νοημοσύνη. Το ζήτημα είναι τι εννοούμε με τον όρο «δημιουργικότητα».

Τι εννοούμε λοιπόν; 

Ας εξετάσουμε ένα φάσμα συγγραφέων. Από τη μία, τον Τζέιμς Τζόις. Από την άλλη, τον Έρνεστ Χέμινγουεϊ. Ποιος από τους δύο ήταν πιο δημιουργικός; Είχαν διαφορετικούς στόχους. Έγραφαν για διαφορετικά κοινά, σε διαφορετικές εποχές. Κι εμείς, ως αναγνώστες, αναζητούσαμε άλλα πράγματα στη γραφή τους είτε στην εποχή που δημιουργήθηκαν τα έργα είτε δεκαετίες αργότερα. Άρα ο τρόπος με τον οποίο κρίνουμε τη δημιουργικότητα καταλήγει στο ερώτημα «τι θεωρείται τέχνη;». Σκεφτείτε τον ιμπρεσιονισμό και πόσο αρνητικά τον υποδέχτηκαν οι κριτικοί στην αρχή − είπαν ότι τα έργα ήταν απλώς εντυπώσεις, όχι πραγματική τέχνη. Κι όμως, σήμερα αυτά τα έργα είναι εξαιρετικά πολύτιμα. Όχι μόνο χρηματικά, αλλά και ως εμπειρία για εμάς τους θεατές.

Τώρα ας περάσουμε στη δημιουργικότητα αναφορικά με το τι κάνει η AI ως «συγγραφέας» για εμάς τους «σκεπτόμενους αναγνώστες». Στον βαθμό που χρησιμοποιούμε AI για να διαβάζει για εμάς −ας πούμε τεχνικά άρθρα και να τα συνοψίζει, ή λογοτεχνικά κείμενα και να τα αναλύει− κάνουμε μερικές υποθέσεις και παραδοχές. Πρώτον, ότι αυτό που παράγει η AI είναι περίπου εξίσου καλό ή ίσως καλύτερο από τη δουλειά που θα κάναμε εμείς οι ίδιοι. Το ερώτημα είναι τι θέλουμε από την ανάγνωση; Κι αν με ρωτούσατε ποιο είναι το πιο σημαντικό συμπέρασμα που έχω καταλήξει και που προσπαθώ να αναπτύξω στο νέο μου βιβλίο, θα έλεγα ότι είναι πως κινδυνεύουμε να υποβαθμίσουμε τη σημασία της ανάγνωσης με πολλούς τρόπους. Την υποβαθμίζουμε όταν λέμε ότι η ανάγνωση για απόλαυση δεν αξίζει τον κόπο και προτιμάμε να σκρολάρουμε στο Instagram. Όταν ξεχνάμε ότι η ανάγνωση είναι μια διανοητική, αλλά και συναισθηματική πράξη. Χάνουμε το γνωστικό όφελος της δράσης και τα πιθανά συναισθηματικά οφέλη όταν δεν διαβάζουμε οι ίδιοι, αλλά βασιζόμαστε στην AI να το κάνει για εμάς.

Η ΑΙ έχει πρόσβαση σε τεράστιο όγκο δεδομένων και ίσως, σε ορισμένες περιπτώσεις, να γράφει σχεδόν καλά, έχει όμως την αίσθηση του σκοπού στη γραφή της όπως την έχει ένας ανθρώπινος δημιουργός; Ο Τζέιμς Τζόις, για παράδειγμα, είχε μία ιστορία στο μυαλό του. Κάπου ήθελε να το πάει, κάτι ήθελε να πει. Η AI το κάνει αυτό; Έχει αυτόν τον σκοπό ή τη δυνατότητα;

Η σύντομη απάντηση είναι «όχι». Υπάρχουν πολλοί ισχυρισμοί ότι η AI μιμείται τη σκέψη, μιμείται τα συναισθήματα. Η μίμηση δεν είναι το ίδιο πράγμα με το βίωμα. Και είναι απολύτως σαφές, σε όποιον θέλει να μιλήσει ειλικρινά, ότι ο μοναδικός σκοπός της AI, τουλάχιστον των μεγάλων γλωσσικών μοντέλων, είναι να κάνει καλές προβλέψεις για το ποια λέξη πρέπει να γράψει αμέσως μετά την προηγούμενη. Ο σκοπός δεν είναι να αισθανθεί, ούτε να γράψει κάτι βαθύ. Ο σκοπός είναι να παραγάγει κείμενο που οι χρήστες θα θεωρούν χρήσιμο και που θα εξασφαλίζει χρήματα για τις μεγάλες τεχνολογικές εταιρείες. Αυτός είναι ο σκοπός των μεγάλων γλωσσικών μοντέλων που κατασκευάζουν η Meta, η Google, η OpenAI και η Anthropic. Ο στόχος είναι το κέρδος. Όχι η σκέψη, όχι η δημιουργία: το κέρδος.

Τα ανθρώπινα για τους ανθρώπους

Πώς λοιπόν η ψηφιακή μας ζωή επηρεάζει τις αναγνωστικές μας συνήθειες και την ικανότητά μας να σκεφτόμαστε, να συγκεντρωνόμαστε, ακόμη και να επικοινωνούμε; Τι κινδυνεύει εδώ;

Ας ξεκινήσω με την επικοινωνία, επειδή αυτό είναι κάτι που με προβληματίζει έντονα − είτε μιλάμε για τη διαδικασία του predictive texting, είτε για τα Smart Compose ή Smart Reply του Gmail, είτε τώρα για το Microsoft Copilot που γράφει emails για εμάς. Ανησυχώ βαθιά για το τι συμβαίνει όταν εμείς, ως ανθρώπινα όντα, δεν θεωρούμε πλέον αναγκαίο να βάζουμε τον εαυτό μας μέσα στα μηνύματα ή στα συναισθήματα που εκφράζουμε προς άλλους ανθρώπους. Υπάρχει μια μελέτη που έγινε στο Georgia Institute of Technology πριν από μερικά χρόνια, την οποία αναφέρω στο νέο βιβλίο μου. Εκεί, χρησιμοποιήθηκε ένας αλγόριθμος −προάγγελος του Smart Reply− για να γράφει απαντήσεις σε emails. Το ερώτημα ήταν: τι πίστευε ο παραλήπτης για τον αποστολέα;

Το συμπέρασμα ήταν το εξής: αν ο παραλήπτης πίστευε ότι το email είχε γραφτεί από AI, θεωρούσε το άτομο πιο αυστηρό, όχι πολύ εκφραστικό, και σίγουρα όχι κάποιον με τον οποίο θα ήθελε να μοιραστεί προσωπικό χρόνο. Ακόμα και όταν οι ερευνητές έλεγαν στους συμμετέχοντες ψέματα ότι ένα email είχε γραφτεί από AI, ενώ στην πραγματικότητα ήταν γραμμένο από άνθρωπο, οι συμμετέχοντες εκλάμβαναν την πράξη αυτή ως μη ειλικρινή απάντηση, ως μια ενέργεια που δεν ανταποκρινόταν στο επίπεδο φροντίδας που ανέμεναν. Έχουμε επομένως την πεποίθηση ότι τα πράγματα που αφορούν την επικοινωνία θα έπρεπε να παραμένουν μεταξύ ανθρώπινων όντων. 

Όσον αφορά τα ζητήματα της σκέψης, υπάρχουν μια σειρά από πειράματα που μόλις πρόσφατα δημοσιεύθηκαν και εξετάζουν τι συμβαίνει όταν ζητάμε ή βασιζόμαστε στην τεχνητή νοημοσύνη να κάνει κάτι για εμάς − είτε να γράψει μια έκθεση είτε να χρησιμοποιήσουμε το Gemini για να συγκεντρώσουμε πληροφορίες ώστε να γράψουμε εμείς μια έκθεση, αντί να χρησιμοποιήσουμε μια παραδοσιακή μηχανή αναζήτησης. Το συμπέρασμα ήταν πως, αν απαιτηθεί να κάνουμε εμείς την έρευνα και να αξιολογήσουμε τα στοιχεία και τις πηγές, το τελικό αποτέλεσμα είναι σαφώς πιο άρτιο από εκείνο που θα προέκυπτε από μία συνοπτική επισκόπηση «δια χειρός» Gemini, ένα «ΑΙ overview». Και η ποιότητα κάθε έκθεσης χειροτέρευε όσο περισσότερο βασιζόταν κανείς στην ΑΙ. Επίσης, ο βαθμός στον οποίο μπορούσε κάποιος να ανακαλέσει στη μνήμη του τα στοιχεία και να τα αξιολογήσει ήταν σαφώς μειωμένος όταν δεν είχε κάνει όλη τη νοητική προεργασία ο ίδιος. Και τα τελευταία τρία τέσσερα χρόνια δημοσιεύονται όλο και περισσότερα πειράματα που δείχνουν ότι… πρέπει να προσέχουμε τι ευχόμαστε.

Η γενιά που δεν πρόλαβε να κουραστεί

Επομένως υπάρχει ο κίνδυνος να χαθούν δεξιότητες λόγω της ελλιπούς έρευνας, της απουσίας ανθρώπινης σκέψης; Φαίνεται πως, όλο και περισσότερο, αντί να σκεφτόμαστε, απλώς ζητάμε να γίνουν τα πράγματα αυτομάτως για εμάς.

Σωστά. Και δεν είναι μόνο αυτό. Οι άνθρωποι που είναι σήμερα 30 ή 40 ετών υποχρεώθηκαν στο παρελθόν, πριν την ΑΙ, να αναπτύξουν κάποιες δεξιότητες. Χάνουν τώρα κάποιες από αυτές τις δυνατότητες; Πιθανώς. Είναι σαν μία ξένη γλώσσα: αν τη μιλούσατε καλά μέχρι τα 15, αλλά στη συνέχεια δεν τη χρησιμοποιήσατε, πιθανότατα δεν είστε πια πολύ καλοί σε αυτήν.

Όμως η ακόμη μεγαλύτερη ανησυχία μου αφορά στα παιδιά στο δημοτικό, στο γυμνάσιο, στο λύκειο, τα οποία βασίστηκαν εξαρχής στην AI, δεν γράφουν μόνα τους, δεν διαβάζουν μόνα τους και, επομένως, δεν αναπτύσσουν καν αυτές τις δεξιότητες. Συνεπώς, σε αυτές τις ηλικίες δεν είναι ακριβές να μιλάμε για απώλεια δεξιοτήτων, αφού δεν είχαν καν την ευκαιρία να τις αναπτύξουν. Και τα ποσοστά εθελοντικής ανάγνωσης είχαν αρχίσει να μειώνονται εδώ και χρόνια, παγκοσμίως, πριν ακόμη εμφανιστεί η σύγχρονη AI − αλλά η Τεχνητή Νοημοσύνη τα σπρώχνει στον γκρεμό.

Σε ποιο βαθμό έχει διεισδύσει αυτή η συνήθεια της ευκολίας της AI στη ζωή μας; Θα κυριαρχήσει αυτή η νέα κουλτούρα της AI;

Ας πάρουμε το θέμα της ηλικίας. Είναι εύκολο να μιλάμε για ψηφιακούς ιθαγενείς σε αντιδιαστολή με τους ψηφιακούς μετανάστες, δηλαδή τους μεγαλύτερους που χρησιμοποιούν την τεχνολογία αλλά δεν μεγάλωσαν με αυτήν. Η πραγματικότητα είναι πιο περίπλοκη. Υπάρχουν πολλοί άνθρωποι στα 40, 50 ή 60 τους, που είναι πολύ πιο τεχνολογικά ικανοί από τα παιδιά ή τα εγγόνια τους. Άρα δεν είναι απλώς θέμα ηλικίας.

Ωστόσο, είναι αλήθεια ότι η προσκόλληση στα social media −τα οποία επίσης λειτουργούν με AI, αν και η AI δεν περιορίζεται σε αυτά− είναι σαφώς εντονότερη στους νέους, από τα παιδιά μέχρι και τους 20άρηδες. Το πραγματικά ενδιαφέρον πείραμα είναι η απαγόρευση των social media για τα παιδιά κάτω των 16 ετών στην Αυστραλία. Αν διαβάσετε συνεντεύξεις εφήβων για το πώς ένιωθαν ενόψει της απαγόρευσης, κάποιοι έλεγαν: «Αυτό είναι τρομερό, δεν γίνεται να μου το κάνουν αυτό. Θα καταστραφεί η ζωή μου». Αλλά πολλοί άλλοι έλεγαν: «Ξέρεις κάτι; Έχω σπαταλήσει υπερβολικά μεγάλο μέρος της ζωής μου στο Instagram, το TikTok και το YouTube, και πρέπει να την ανακτήσω. Άρα είμαι εντάξει με αυτή την εξέλιξη».

Την ίδια στάση συναντάμε στις ΗΠΑ, ειδικά σε φοιτητές. Κάποιοι λένε: «Η AI μπορεί να γράψει για μένα, αλλά δεν το θέλω. Και ίσως να κάνει καλύτερη δουλειά, ίσως να μου εξασφάλιζε καλύτερο βαθμό, αλλά αυτό δεν είμαι εγώ. Με νοιάζει να γράψω μόνος/μόνη μου». Το ζήτημα στο οποίο έχω επικεντρωθεί τα τελευταία δύο χρόνια είναι η ανάγνωση, η ερμηνεία, η σκέψη. Είναι άλλο πράγμα να παρουσιάζεις ένα κείμενο ως δικό σου ενώ δεν είναι. Να παραχωρείς στην AI τη λειτουργία της σκέψης και να χάνεις την ευκαιρία να σκεφτείς. 

Η σύγχρονη μοναξιά 

Και στο μέλλον; 

Είναι δύσκολο να ξέρουμε τι θα γίνει στο μέλλον. Ας χρησιμοποιήσω μια αναλογία. Στις ΗΠΑ, όταν ο Τραμπ εξελέγη για δεύτερη φορά, χρειάστηκε ελάχιστος χρόνος για να αλλάξει όλη η κουλτούρα της χώρας. Ποιος θα φανταζόταν ότι θα χάναμε τόσο γρήγορα μέρος των θεμελιωδών μας αξιών; Αν μου ζητούσατε να προβλέψω από τώρα ποιος θα είναι ο ρόλος της AI στη ζωή μας σε πέντε χρόνια, αν ήμουν ο Σαμ Άλτμαν, θα έλεγα ότι η ΑΙ θα βρίσκεται στα πάντα. Αλλά η απάντησή μου θα ήταν διαφορετική αν ήμουν κάποιος από όσους εργάστηκαν για εκείνον και δεν θέλησαν να συνεχίσουν, ή αν ήμουν ο Τζέφρι Χίντον, ο άνθρωπος που με πολλούς τρόπους έβαλε μπρος όλη αυτή την εξέλιξη και τώρα ηγείται των ειδικών που προειδοποιούν ότι δεν θα έπρεπε να κάνουμε αυτού του τύπου την έρευνα στην τεχνητή νοημοσύνη. Ότι θα στραφεί εναντίον μας. Πόσοι τον παίρνουν στα σοβαρά; Πρέπει να συμβεί κάποιο μεγάλο ατύχημα για να καταλάβουμε. Ακούγεται απαίσιο, αλλά συχνά έτσι παίρνουμε τα μαθήματά μας.

Δημιουργεί συνθήκες μοναξιάς η σύγχρονη τεχνολογία; 

Ένα από τα πράγματα που έχουν κάνει οι ψηφιακές τεχνολογίες είναι ότι έχουν υπονομεύσει την ανθρώπινη αλληλεπίδραση. Την αλληλεπίδραση με το εξωτερικό περιβάλλον. Αν πηγαίνω για περπάτημα στο δάσος και το μόνο που βλέπω είναι σκίουρους και ελάφια, δεν είναι ανθρώπινη επαφή, αλλά αλληλοεπιδρώ με κάτι ζωντανό. Αλληλοεπιδρώ με κάτι που έχει επίδραση πάνω μου. Φοβάμαι πως η AI, με όλες τις μορφές της με τις οποίες διαπερνά τη ζωή μας, μας μετατρέπει σε απομονωμένα, αντί για κοινωνικά όντα που ζουν σε ένα πραγματικό περιβάλλον.

Το δίκοπο μαχαίρι για τους δημιουργούς

Πώς κρίνετε το γεγονός ότι μεγάλοι οργανισμοί συνάπτουν συμφωνίες με την OpenAI επιτρέποντας στα μεγάλα γλωσσικά μοντέλα να εκπαιδεύονται πάνω σε ανθρώπινα κείμενα, την ώρα που καλλιτέχνες και επιστήμονες απαιτούν προστασία της πνευματικής τους ιδιοκτησίας;

Γελάω για δύο λόγους. Πρώτον, επειδή έγραψα πρόσφατα γι’ αυτό. Δεύτερον, επειδή η Anthropic μόλις συμφώνησε σε συμβιβασμό 1,3 δισ. για να κλείσει την υπόθεση μίας μαζικής αγωγής σε βάρος της. Πρόσφατα έλαβα ένα email από μία από τις δικηγορικές εταιρείες που χειρίζονται την υπόθεση και με ενημέρωσαν πως, αν κάποιο από τα έργα μου βρίσκεται στη λίστα, δικαιούμαι αποζημίωση. Δεν ζήτησαν καν άδεια, απλώς το βούτηξαν. Πώς νιώθω γι’ αυτό; Δεν έχει να κάνει με τα χρήματα. Έχει να κάνει με το ότι δεν είχαν κανένα δικαίωμα να πάρουν το έργο μου. Από την άλλη πλευρά, ορισμένοι από τους εκδότες με τους οποίους συνεργάζομαι έχουν υπογράψει συμφωνίες με την OpenAI −και ίσως και με άλλες εταιρείες− ώστε τα έργα μου να είναι διαθέσιμα. Από τη μία πλευρά, εγώ κατέχω τα πνευματικά δικαιώματα, από την άλλη, αν αυτά τα μεγάλα γλωσσικά μοντέλα χρησιμοποιούνται από τεράστιο αριθμό ανθρώπων για να μάθουν κάτι, να ανακαλύψουν συγγραφείς κ.τ.λ., τότε, αν δεν έχουν πρόσβαση στο έργο μου, ίσως να μην το ανακαλύψουν.

Αν ρωτήσω το ChatGPT «ποιος γράφει ενδιαφέροντα βιβλία για την τεχνητή νοημοσύνη και το γράψιμο;» και το δικό μου βιβλίο δεν βρίσκεται στις βάσεις δεδομένων από το οποίο αντλεί το ChatGPT, τότε το άτομο που προσπαθεί να καταλάβει τι ενδιαφέρον συντελείται σε αυτόν τον χώρο δεν θα δει ποτέ τη δουλειά μου. Για έναν συγγραφέα, αυτό είναι πραγματικά ένα δίκοπο μαχαίρι ως προς το τι θα έπρεπε να επιθυμεί να συμβεί.

Πράγματι… 

Και ένας από τους λόγους που πολλοί εκδότες έχουν υπογράψει αυτές τις συμφωνίες, ιδίως με την OpenAI, είναι για να κάνουν τα έργα των συγγραφέων τους ανιχνεύσιμα. Αν πάρεις για παράδειγμα το New Yorker ή το Atlantic,ένα περιοδικό υψηλού κύρους, έχουν υπογράψει συμφωνία, πιστεύω, με την OpenAI επειδή θέλουν τα άρθρα του Atlantic να εμφανίζονται στις αναζητήσεις − αυτό καθιστά το περιοδικό συνολικά πιο πολύτιμο. Δεν είναι, λοιπόν, τόσο εύκολη η απόφαση το «κάν’ το» ή «μην το κάνεις».

Στην αγωγή που έκαναν οι New York Times κατά της OpenAI και της Microsoft, ορισμένα παραδείγματα δείχνουν σχεδόν ταυτόσημες διατυπώσεις που παρήγαγε το GPT, αναπαράγοντας σχεδόν λέξη προς λέξη κομμάτια των New York Times. Ενώ η OpenAI υποστηρίζει ότι το κείμενο απορροφάται σε βάσεις δεδομένων με δισεκατομμύρια ή τρισεκατομμύρια εκφράσεις και ποτέ δεν εμφανίζεται κάτι τόσο παραπλήσιο στο αρχικό κείμενο. Αλλά αυτό δεν ισχύει πάντα και το βλέπουμε και στην τέχνη. Η AI μπορεί να μάθει να γράφει στο ύφος κάποιου. Και αυτό είναι υπονόμευση. Το ίδιο ισχύει στη ζωγραφική: βλέπεις έναν πίνακα και αναρωτιέσαι αν είναι όντως Σεζάν ή όχι, και στη μουσική, ακούς κάτι και σκέφτεσαι: είναι Μπαχ ή μήπως όχι;. Το πόσο θα βασιστούμε στην τεχνολογία, πρέπει τελικά να μας το υπαγορεύσει η ανθρώπινή μας λογική.