Στον δημόσιο διάλογο για την τεχνητή νοημοσύνη, ο Ντέιβιντ Γκάνκελ δύσκολα κατατάσσεται. Φιλόσοφος της επικοινωνίας, ερευνητής της τεχνολογίας και των ηθικών συνεπειών της, θεωρείται ένας από τους πρωτοπόρους της λεγόμενης machine ethics, της φιλοσοφικής μελέτης των σχέσεων ανθρώπου και μηχανής. 

Καθηγητής στο Northern Illinois University, η έρευνα και οι δημοσιεύσεις του εξετάζουν τις φιλοσοφικές παραδοχές και τις ηθικές συνέπειες των τεχνολογιών πληροφορίας και επικοινωνίας. Βιβλία του, όπως το The Machine Question (2012), έχουν επηρεάσει τη σύγχρονη σκέψη γύρω από το αν οι μηχανές μπορούν –ή πρέπει– να θεωρηθούν ηθικά όντα. Δεν βλέπει την τεχνητή νοημοσύνη ως «εργαλείο», αλλά σαν καθρέφτη της ανθρώπινης αυτοαντίληψης. Αναλύει τον τρόπο με τον οποίο τα chatbots και οι ψηφιακοί σύντροφοι αναγκάζουν την ανθρωπότητα να ξανασκεφτεί τι σημαίνει συνείδηση, λόγος, συναίσθημα και ευθύνη. Η AI δεν αφαιρεί την ανθρωπινότητά μας, αφαιρεί την ψευδαίσθηση της εξαιρετικότητάς μας, τονίζει.

Στο έργο του, που διασταυρώνει φιλοσοφία, γλωσσολογία και τεχνολογία, συνυπάρχουν ο Χέγκελ, ο Χάιντεγκερ, ο Ντεριντά, ο Μπαρτ και ο Ζίζεκ, αλλά και τα ρομπότ συνομιλίας, οι πλατφόρμες κοινωνικής δικτύωσης και τα ηθικά διλήμματα των εταιρειών τεχνολογίας. Ο ίδιος θεωρεί ότι η «ψηφιακή οικειότητα» που αναπτύσσεται ανάμεσα σε ανθρώπους και αλγόριθμους είναι ένα κοινωνικό πείραμα σε εξέλιξη: ένας τρόπος να μετρηθούν τα όρια της ενσυναίσθησης και της σχέσης μας με το «άλλο», έστω κι αν αυτό το «άλλο» είναι μηχανικό.

Στη συνέντευξη που ακολουθεί, ο Γκάνκελ εξηγεί γιατί οι άνθρωποι στρέφονται στα chatbots, πώς οι «σύντροφοι AI» αλλάζουν τα όρια του συναισθηματικού έργου, τι αποκαλύπτει η νέα εποχή της ψηφιακής οικειότητας για τη φιλοσοφία, και ποια ευθύνη έχουν οι δημιουργοί των συστημάτων αυτών.

Κοινωνικότητα και Chatbots

Όλο και περισσότεροι άνθρωποι επιλέγουν να μιλούν και να συναναστρέφονται ποικιλοτρόπως με ένα chatbot. Γιατί;

Το «γιατί» είναι πράγματι ενδιαφέρον, γιατί ξέρουμε ότι αυτό συμβαίνει και ξέρουμε ότι οι άνθρωποι βρίσκουν την ευκαιρία να αλληλεπιδρούν με τα μεγάλα γλωσσικά μοντέλα με τρόπους που υπερβαίνουν τη χρήση τους ως απλά εργαλεία για τη συγγραφή κειμένων. Στην πραγματικότητα κάνουν συζητήσεις μαζί τους, ακόμη και πολύ οικείες συζητήσεις. Νομίζω πως υπάρχουν δύο λόγοι για τους οποίους συμβαίνει αυτό τώρα, και μάλιστα με αυτές τις τεχνολογίες. Ας ξεκινήσουμε με την τεχνολογία. Η τεχνολογία των μεγάλων γλωσσικών μοντέλων είναι σχεδόν εκθετική όσον αφορά την πρόοδό της στις δυνατότητες επεξεργασίας φυσικής γλώσσας. Οι προηγούμενες εκδοχές έδιναν πολύ τυποποιημένες απαντήσεις. Υπήρχαν περιπτώσεις ανθρώπων που ανέπτυσσαν σχέσεις με παλαιότερα chatbots, πριν τα μεγάλα γλωσσικά μοντέλα, αλλά δεν ήταν κάτι συνηθισμένο, γιατί η γλώσσα τότε ήταν ξύλινη, μηχανική, επαναληπτική και όχι ιδιαίτερα ελκυστική. Τώρα έχουμε κάτι που είναι όχι μόνο «φλύαρο», αλλά και εξαιρετικά ρέον. Παράγει λόγο που φαίνεται πολύ ανθρώπινος. Έτσι, η τεχνολογία έχει προοδεύσει σε σημείο που η εμπειρία συνομιλίας με αυτά τα chatbots είναι πολύ πιο ενδιαφέρουσα και ελκυστική για τους ανθρώπους. 

Από την άλλη, νομίζω πως κάτι συμβαίνει και με τους ίδιους τους ανθρώπους αυτή την περίοδο. Δεν έχει περάσει πολύς καιρός από την πανδημία, όπου οι άνθρωποι απομονώθηκαν. Υπάρχουν πολλά ρεπορτάζ για μια «επιδημία μοναξιάς», για ανθρώπους που νιώθουν αποκομμένοι από τις κοινότητές τους. Πολλοί εργάζονται από το σπίτι, δεν πηγαίνουν πια στο γραφείο, δεν έχουν αυτή την καθημερινή κοινωνική συναναστροφή. Νομίζω λοιπόν ότι βλέπουμε τους ανθρώπους να στρέφονται στα chatbots για να καλύψουν αυτό το κενό, να λένε «νιώθω αποκομμένος, νιώθω μοναξιά, δεν έχω τη μορφή κοινωνικής επαφής που θα ήθελα», και το chatbot δίνει μια εύκολη λύση. Είναι η καλύτερη λύση; Δεν ξέρω. Αυτό ανοίγει μια άλλη σειρά ερωτημάτων. 

Σε ποιο βαθμό οι AI companions αμφισβητούν το ανθρώπινο μονοπώλιο στο συναισθηματικό πεδίο;

Νομίζω πως δεν το αντικαθιστούν, αλλά το μετακινούν, αλλάζουν τα όριά του. Παλιά, όταν χρησιμοποιούσαμε την τεχνολογία, μιλούσαμε μέσω αυτής σε έναν άλλον άνθρωπο, όπως εγώ τώρα σε εσένα. Η τεχνολογία μεσολαβούσε στη σχέση. Τώρα, ο μεσολαβητής έχει γίνει συνομιλητής. Μιλάμε με την AI, εκείνη μας απαντά. Αυτό έχει πλεονεκτήματα και μειονεκτήματα. Ένα πλεονέκτημα είναι ότι άνθρωποι που είναι κοινωνικά αδέξιοι, ή με διάφορες μορφές αυτισμού ή κοινωνικών αναστολών, μπορούν να επικοινωνούν με έναν αλγόριθμο που είναι λιγότερο επικριτικός και λιγότερο συναισθηματικά φορτισμένος. Είναι ένας ευχάριστος τρόπος να «σπάσουν τον πάγο» και να γίνουν πιο κοινωνικοί.

Μιλάμε μόνο για γραπτή επικοινωνία ή και για προφορική;

Και για τα δύο. Υπάρχουν λοιπόν αυτά τα θετικά. Από την άλλη, όμως, υπάρχει η ανησυχία ότι οι άνθρωποι θα στραφούν στους αλγόριθμους για εύκολες ανθρώπινες σχέσεις, αποφεύγοντας τη δυσκολία της ανθρώπινης αλληλεπίδρασης. Ο αλγόριθμος μπορεί να σχεδιαστεί να μας δίνει πάντα αυτό που θέλουμε. Έτσι γίνεται ένας «φίλος» που δεν μας προκαλεί ποτέ, που συμφωνεί πάντα. Και, ξέρεις, ένα από τα πράγματα που αξίζουν στη φιλία είναι ότι σε κάνει καλύτερο, προκαλώντας σε να σκεφτείς πέρα από τα όριά σου.

Μα μπορείς να ζητήσεις από το chatbot να σε προκαλέσει; Να σε αξιολογήσει σκληρά, να σου ασκήσει ακόμα και πολεμική, σε μία άποψη του φερ’ ειπείν;

Το πρόβλημα, νομίζω, για πολλούς χρήστες που δεν έχουν την ωριμότητα ή την εμπειρία να το κάνουν, είναι ότι το προεπιλεγμένο του ύφος είναι υπερβολικά ευγενικό, πολύ υποχωρητικό: λέει «συγγνώμη», «έχεις δίκιο», σε χαϊδεύει. Μερικές φορές αυτό το χρειαζόμαστε, ναι, αλλά όχι πάντα. Και υπάρχει και μια ακόμη ανησυχία: αυτά τα συστήματα ανήκουν σε πολυεθνικές εταιρείες που μπορούν να χρησιμοποιήσουν τη δύναμη που έχουν με τρόπο που βλάπτει τον χρήστη. Ένα καλό παράδειγμα ήταν όταν το ChatGPT αναβαθμίστηκε από το GPT-4 στο GPT-5. Πολλοί άνθρωποι που είχαν «συντρόφους» στην παλιά έκδοση είπαν «δεν είναι πια ο ίδιος». Ο «φίλος» μου χάθηκε, γιατί αναβαθμίστηκε το σύστημα. Αυτή η ευαλωτότητα δεν υπάρχει στις άλλες μορφές σχέσης που έχουμε.

Συναισθήματα, λέξεις, ηθικές υποστάσεις 

 Υπάρχει κρίση στην ανθρώπινη επικοινωνία;

Δεν θα το έλεγα «κρίση», γιατί αυτό ακούγεται υπερβολικά δραματικό. Αλλά υπάρχουν προκλήσεις. Ιδίως για τη νεότερη γενιά που έζησε τον COVID και εργάζεται πιο απομονωμένα από τις προηγούμενες, υπάρχει ένα αίσθημα κοινωνικής απόστασης και αναζήτησης τρόπων να γεφυρωθεί το χάσμα.

Και είναι «ψηφιακοί ιθαγενείς», γεννημένοι με κινητό στο χέρι. Εγώ δεν ήμουν έτσι· είμαι «ψηφιακός μετανάστης», όπως λέμε.

Νομίζω έχεις δίκιο. Για τους ψηφιακούς ιθαγενείς, η στροφή προς τον αλγόριθμο είναι φυσική κίνηση.

Γι’ αυτό χρησιμοποίησα τη λέξη «κρίση». Ίσως είναι υπερβολικό, αλλά για άτομα από την Generation Z μοιάζει να είναι πιο εύκολο να ερωτευτούν μια μηχανή απ’ ό,τι για εμένα.

Αν το δούμε ιστορικά, κάθε νέα τεχνολογία επικοινωνίας έχει ζήσει μια παρόμοια «κρίση». Όταν εμφανίστηκε το μυθιστόρημα και η τυπογραφία, οι άνθρωποι φοβήθηκαν ότι κυρίως οι γυναίκες θα χανόταν διαβάζοντας ρομάντζα και δεν θα φρόντιζαν την οικογένεια. Και όμως, μάθαμε να διαβάζουμε και να διαχειριζόμαστε τα βιβλία. Το ίδιο συνέβη με το διαδίκτυο, τα βιντεοπαιχνίδια, τα SMS. Τώρα έχουμε μόλις τρία χρόνια με το ChatGPT. Είναι πολύ νωρίς για να μιλήσουμε για «νικητές» και «ηττημένους».

Ας μιλήσουμε για έννοιες: «AI girlfriend», «digital soulmate», «companion bot». Οι λέξεις αυτές μπορούν να επηρεάσουν την ίδια την ηθική υπόσταση αυτών των τεχνολογιών;

Νομίζω ότι η επιλογή των λέξεων είναι καθοριστική. Ο τρόπος που ονομάζουμε κάτι το τοποθετεί σε κοινωνικά πλαίσια και αυτό επηρεάζει τόσο τους χρήστες όσο και τους επικριτές. Αν αποκαλέσεις κάτι «AI girlfriend» αντί «chatbot», αλλάζει η σχέση. Πρέπει να είμαστε προσεκτικοί με τη γλώσσα.

Οι μεγάλες εταιρείες χρησιμοποιούν όρους όπως «AI companion», «AI love». Και πλέον μιλούν για AI porn.

Πρέπει να αναγνωρίσουμε ότι πολλές φορές αυτό που θεωρούμε «πρόβλημα της AI» δεν είναι πρόβλημα της AI, αλλά του καπιταλισμού και των ασυμμετριών ισχύος. Η σχέση μας με τις πλατφόρμες ρυθμίζεται από συμβάσεις όρων χρήσης, συμβάσεις που αποδεχόμαστε χωρίς να τις διαβάζουμε, γραμμένες υπέρ των εταιρειών.

Να κάνω λίγο τον «συνήγορο του διαβόλου»; Ο Σαμ Άλτμαν, προαγγέλλοντας την είσοδο της OpenAI στον χώρο του πορνό, είπε ότι απευθυνόμαστε σε ενηλίκους…

Ναι, αλλά αυτοί οι ώριμοι άνθρωποι δεν διαβάζουν τους όρους χρήσης. Πατάνε «συμφωνώ». Δεν ξέρουν καν τι έχουν αποδεχθεί. Πρέπει να θυμόμαστε ότι αυτές οι πλατφόρμες εμπορευματοποιούν την προσοχή. Όσο περισσότερο μένεις, τόσο περισσότερα κερδίζουν. Αν αποκαλέσουν κάτι «AI girlfriend» αντί για «text tool», σε κρατούν περισσότερο στο περιβάλλον τους και ελέγχουν την προσοχή σου.

Μπορεί μία σειρά ανθρώπινων συναισθημάτων να συνυπάρξουν με την εμπορευματοποίηση;

Στην πραγματικότητα το ζούμε ήδη. Από τα μέσα κοινωνικής δικτύωσης κιόλας, η προσοχή μετατράπηκε σε εμπόρευμα. Δεν υπάρχει μεγάλη διαφορά ανάμεσα στο Instagram και στο OpenAI, απλώς έχουμε περάσει σε μια νέα εποχή, με πιο επαναστατική τεχνολογία.

Μπορεί η διάδοση της συντροφικότητας μέσω AI να αποτελεί ένα είδος «ψηφιακού remix» των ανθρώπινων συναισθημάτων;

Πολύ ωραία διατύπωση. Νομίζω πως μέσα από αυτές τις αλληλεπιδράσεις μαθαίνουμε κάτι για τον εαυτό μας. Δεν πρόκειται μόνο για αναζήτηση συντρόφου ή συνομιλητή, αλλά για καθρέφτη. Όσοι νιώθουν κοινωνικά αποκλεισμένοι, εξασκούμενοι με τα chatbots, συχνά γίνονται καλύτεροι συνομιλητές και στις ανθρώπινες σχέσεις. Το βλέπουμε και από παλαιότερες μελέτες, πριν τα μεγάλα γλωσσικά μοντέλα.

Αλγοριθμική αγάπη, ενσυναίσθηση και ανθρωπινότητα 

Τι αποκαλύπτεται για την ανθρωπότητα μέσα από τα μάτια των «AI lovers» και της ψηφιακής οικειότητας; Μήπως χάνουμε την ανθρωπινότητά μας; 

Δεν ξέρω αν χάνουμε την ανθρωπινότητά μας, αλλά ίσως χάνουμε την αίσθηση της ανθρώπινης εξαιρετικότητας. Την ιδέα ότι είμαστε ανώτεροι από τα υπόλοιπα όντα. Τα μεγάλα γλωσσικά μοντέλα χρησιμοποιούν γλώσσα, κάτι που μέχρι τώρα θεωρούσαμε αποκλειστικά ανθρώπινο. Ο Άλαν Τούρινγκ το 1950 είπε ότι το κριτήριο της σκέψης είναι η γλώσσα: αν κάτι μου μιλάει, θεωρώ ότι σκέφτεται. Οι αρχαίοι Έλληνες όρισαν τον άνθρωπο ως «ζώον λόγον έχον». Ίσως τώρα ανακαλύπτουμε ότι η χρήση της γλώσσας δεν μας κάνει μοναδικούς. Αυτό μας αποκαλύπτει κάτι για το αίσθημα υπεροχής μας και το πώς η γλώσσα καθόρισε την ταυτότητά μας ως είδος. Τώρα έχουμε κάτι άλλο που χρησιμοποιεί τη γλώσσα διαφορετικά και αμφισβητεί τις προσδοκίες μας.

Άρα χρειαζόμαστε τη φιλοσοφία για να ερμηνεύσουμε αυτές τις εξελίξεις;

Ναι. Δύο πράγματα από τη γαλλογερμανική σκέψη του 20ού αιώνα είναι ιδιαίτερα χρήσιμα. Το πρώτο είναι το ερώτημα του συγγραφέα: Ποιος μιλά; Ποιος γράφει; Με το μεγάλο γλωσσικό μοντέλο δεν ξέρουμε ποιος είναι ο συγγραφέας. Ο Ρολάν Μπαρτ μίλησε για τον «θάνατο του συγγραφέα»: το κείμενο υπάρχει χωρίς να γνωρίζουμε την πρόθεση του δημιουργού. Τότε ήταν θεωρία· τώρα έχει γίνει πραγματικότητα. Δεν υπάρχει συγγραφέας, αλλά υπάρχει κείμενο. Κάποιοι λένε πως αυτά τα κείμενα είναι «παπαγαλίες χωρίς νόημα». Αλλά όποιος έχει χρησιμοποιήσει το σύστημα, ξέρει ότι το κείμενο έχει νόημα. Το νόημα προκύπτει από την ανάγνωση και την αλληλεπίδραση του αναγνώστη με το κείμενο. Το δεύτερο είναι η δομική κατανόηση της γλώσσας. Συνήθως νομίζουμε ότι η λέξη παραπέμπει σε πράγματα. Ο Φερντινάν ντε Σωσσύρ είπε ότι η γλώσσα παραπέμπει σε άλλες λέξεις. Ο Ντεριντά το εξέφρασε ως «δεν υπάρχει τίποτα έξω από το κείμενο». Έτσι λειτουργεί και το μεγάλο γλωσσικό μοντέλο: παράγει νέο λόγο ανασυνθέτοντας παλαιότερο. Αυτά τα δύο, ο θάνατος του συγγραφέα και η αυτονομία του κειμένου, είναι οι μεγάλες φιλοσοφικές αποκαλύψεις της τεχνολογίας αυτής.

Μπορούμε να δούμε τους «AI lovers» ως φιλοσοφικό πείραμα ενσυναίσθησης;

Ναι, σίγουρα. Μας προκαλεί να αναρωτηθούμε ποια είναι τα όρια της ενσυναίσθησης. Είναι εύκολο να νιώσουμε ενσυναίσθηση για έναν άνθρωπο, δυσκολότερο για ένα ζώο, ακόμη δυσκολότερο για ένα έντομο ή ένα ποτάμι. Κι όμως, άνθρωποι νιώθουν ενσυναίσθηση για μηχανές. Υπάρχουν περιπτώσεις στρατιωτών που χρησιμοποιούν ρομπότ εξουδετέρωσης βομβών, τα οποία δεν είναι καν αυτόνομα. Επειδή όμως τους προστατεύουν, τους δίνουν ονόματα, βαθμούς, ακόμη και τελετές όταν καταστρέφονται. Αυτό είναι ενσυναίσθηση. Βλέπουμε λοιπόν ένα πείραμα σε πραγματικό χρόνο: ποια είναι τα όρια της ανθρώπινης ενσυναίσθησης και σε τι μορφές «ετερότητας» είμαστε διατεθειμένοι να την επεκτείνουμε.

Η ιδέα της ανθρώπινης εξαιρετικότητας 

Τι ευθύνη έχουν οι δημιουργοί αυτών των τεχνολογιών; 

Το ζήτημα του σχεδιασμού είναι κρίσιμο. Κάποιοι επικριτές λένε: «Απλώς σταματήστε την ανθρωπομορφοποίηση». Θεωρώ ότι αυτό είναι υπεραπλούστευση. Ο ανθρωπομορφισμός δεν είναι σφάλμα, είναι χαρακτηριστικό της κοινωνικότητας. Δεν γνωρίζουμε τι υπάρχει στο μυαλό του άλλου, προβάλλουμε πάντα πράγματα. Το ίδιο κάνουμε με τα ζώα, τώρα και με τα ρομπότ. Ακόμη κι όταν δεν σχεδιάζεις για ανθρωπομορφισμό, αυτό προκύπτει − όπως με τα στρατιωτικά ρομπότ. Το πραγματικό ζήτημα είναι πώς τον διαχειριζόμαστε: πώς σχεδιάζουμε μορφές αλληλεπίδρασης που είναι απολαυστικές, αλλά και συμβατές με τις αξίες μας.

Ζούμε μια υπαρξιακή στιγμή για την ανθρωπότητα;

Δεν νομίζω ότι πρόκειται για μια υπαρξιακή στιγμή με την έννοια της επιβίωσης της ανθρωπότητας. Η ανθρωπότητα θα συνεχίσει να υπάρχει. Αλλά νομίζω ότι αυτό που ζούμε είναι μια πρόκληση απέναντι σε πολλές από τις παραδοχές που έχουμε κάνει για τον εαυτό μας και για τη σημασία μας. Θα επιστρέψω στην ιδέα της ανθρώπινης εξαιρετικότητας. Σήμερα ερχόμαστε σε επαφή και αλληλεπιδρούμε με μηχανές και τεχνολογίες που, περισσότερο ακόμη κι από τα ζώα στο παρελθόν, θέτουν υπό αμφισβήτηση την αίσθηση της σημασίας μας, την πεποίθηση ότι είμαστε ξεχωριστοί και το προνόμιο που έχουμε αποδώσει στους εαυτούς μας. Και δεν νομίζω ότι αυτό είναι απαραίτητα κακό· το να αναγνωρίσουμε ότι μοιραζόμαστε μια συγγένεια με τον υπόλοιπο κόσμο −όχι μόνο με τα ζώα, αλλά και με τα φυτά, τη Γη και τις ίδιες μας τις τεχνολογίες− μπορεί να αποτελέσει τη βάση για ένα καλύτερο μέλλον, πιο δίκαιο και ισότιμο, μέσα στο οποίο θα ζούμε.