Τεχνητή νοημοσύνη και υπερ-νοημοσύνη… Πόσο κοντά βρισκόμαστε στην εποχή που οι «έξυπνες μηχανές» θα είναι πραγματικά «ευφυείς» και θα προσομοιάζουν τις ανθρώπινες λειτουργίες; Και ποιες θα είναι οι συνέπειες για το ανθρώπινο είδος; Με αυτά τα σύνθετα, όσο και φουτουριστικά, ζητήματα ρομποτικής εξέλιξης ασχολείται ο καθηγητής φιλοσοφίας στο Πανεπιστήμιο της Οξφόρδης και συγγραφέας του βιβλίου Superintelligence: Paths, Dangers, Strategies, Νικ Μπόστρομ.

Επικεφαλής επιστήμονας στην Ερευνητική Πρωτοβουλία Μακροστρατηγικής (Macrostrategy Research Initiative), o καθηγητής Μπόστρομ εξηγεί στην Οικονομική Επιθεώρηση ότι οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης αυξάνονται με αλματώδεις ρυθμούς, καθιστώντας την «υπερ-νοημοσύνη» των ρομποτικών συστημάτων, δηλαδή την ανάπτυξη μιας νοημοσύνης με ικανότητες ανάλυσης και εύρεσης λύσεων κατά πολύ ανώτερες από τους πλέον έξυπνους και χαρισματικούς ανθρώπους, ένα ρεαλιστικό σενάριο, ενώ στη συνέντευξη θέτει τους βασικούς πυλώνες ενός «τεχνολογικού συντάγματος».

Από την τεχνητή νοημοσύνη στην υπερ-νοημοσύνη

Καθηγητά Μπόστρομ, με κεντρικό πυλώνα της συνέντευξης τον κόσμο που έρχεται το 2025, ποιες τεχνολογικές προκλήσεις θα αντιμετωπίσει η κοινωνία βραχυπρόθεσμα και μακροπρόθεσμα;

Η Γενική Τεχνητή Νοημοσύνη (AGI= σύστημα τεχνητής νοημοσύνης που διαθέτει την ικανότητα να κατανοεί, να μαθαίνει και να εφαρμόζει τη γνώση με επάρκεια που μοιάζει με την ανθρώπινη) είναι το μεγάλο θέμα, μαζί με όλα όσα θα ακολουθήσουν. Το χρονοδιάγραμμα είναι αβέβαιο, αλλά ένας μονοψήφιος αριθμός ετών μέχρι την έκρηξη της νοημοσύνης φαίνεται πλέον αρκετά εύλογος. 

Αν έπρεπε να κατατάξετε τους κινδύνους από την ανάπτυξη και τη διείσδυση της τεχνητής νοημοσύνης στην καθημερινή μας ζωή, ποιοι θα ήταν αυτοί;

Αυτό θα αλλάξει με την πάροδο του χρόνου, καθώς οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης θα αυξάνονται. Νομίζω ότι, επί του παρόντος, ο αντίκτυπος είναι συντριπτικά θετικός. Κάποιος θα μπορούσε ακόμα να επισημάνει ορισμένους σημερινούς κινδύνους, όπως τα συστήματα συστάσεων τεχνητής νοημοσύνης που μας εθίζουν σε χαμηλής ποιότητας περιεχόμενο των μέσων κοινωνικής δικτύωσης ή τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την παρακολούθηση του πληθυσμού.  

Αναμένετε ότι η τεχνολογική ανεργία θα αποτελέσει σοβαρό ζήτημα τα επόμενα χρόνια και αν ναι, πώς θα πρέπει οι άνθρωποι να προσαρμοστούν σε αυτές τις αλλαγές;

Ελπίζω ότι θα γίνει ένα σοβαρό ζήτημα. Είναι σαν να κερδίζετε 500 εκατομμύρια δολάρια στο λαχείο και τώρα έχετε κάποια σοβαρά ζητήματα, όπως πώς θα επενδύσετε όλα αυτά τα χρήματα. Πώς θα επιλέξετε και θα δώσετε προτεραιότητα ανάμεσα σε όλους τους ανθρώπους και τις οργανώσεις που θα σας ζητούν δωρεές; Και πώς θα αλλάξετε τον τρόπο ζωής σας χωρίς να αποξενώσετε τους παλιούς σας φίλους; Θέλω να πω, αυτά είναι ζητήματα που απαιτούν προσοχή, αλλά βασικά είναι υπέροχο να κερδίζεις 500 εκατομμύρια δολάρια.

Στο μεταξύ, ίσως έχει νόημα να μάθετε να χρησιμοποιείτε τα εργαλεία τεχνητής νοημοσύνης που υπάρχουν σήμερα. Ορισμένα επαγγέλματα ίσως χρειαστούν περισσότερο χρόνο για να αυτοματοποιηθούν από άλλα, για παράδειγμα αυτό της νοσοκόμας. Από την άλλη, επενδύσεις στην εκπαίδευση, που συνήθως χρειάζονται πολύ χρόνο για να έχουν απόδοση, όπως το να ξεκινάς να αποκτήσεις ένα πτυχίο ιατρικής με την προοπτική να αποκτήσεις μετά ειδίκευση, μπορεί να καταστούν λιγότερο θελκτικές ως προοπτική και οι άνθρωποι να αρχίσουν να σκέφτονται κατά πόσο οι ικανότητες που αποκτούν μέσω της εκπαίδευσης θα έχουν αξία μακροπρόθεσμα. 

Ωστόσο, υπάρχει αρκετή αβεβαιότητα σχετικά με το χρονοδιάγραμμα, ώστε δεν νομίζω ότι θα πρέπει κανείς να προχωρήσει σε υπερβολική προεξόφληση του μέλλοντος. Σε γενικές γραμμές, όμως, μπορεί να έχει νόημα ειδικά για τα παιδιά να επικεντρωθούν λίγο περισσότερο στο να έχουν μια υπέροχη παιδική ηλικία παρά στο να προετοιμάζονται για να γίνουν παραγωγικοί εργαζόμενοι σε είκοσι χρόνια. Αν έχετε επίσης κάποιο κεφάλαιο, θα μπορούσατε να αντισταθμίσετε τον κίνδυνο να μείνετε άνεργοι από την αυτοματοποίηση επενδύοντας σε κλάδους που η τεχνητή νοημοσύνη απογειώνει.

Ανάλογα πάντως με τους ρυθμούς με τους οποίους θα αναπτυχθεί η αυτοματοποίηση, θα υπάρξουν πιθανώς σημαντικές πολιτικές συζητήσεις σχετικά με το πώς οι κυβερνήσεις θα μπορούσαν να αντιδράσουν καλύτερα σε αυτό και τι μπορεί, και πρέπει, να γίνει για να βοηθηθούν όσοι έχουν εκτοπιστεί. Τα καλά νέα είναι ότι σε εκείνα ακριβώς τα σενάρια όπου η τεχνητή νοημοσύνη οδηγεί σε μαζική ανεργία, θα υπάρξει επίσης εξαιρετικά ταχεία οικονομική ανάπτυξη. Έτσι οι διαθέσιμοι πόροι για προγράμματα κοινωνικής πρόνοιας θα επεκταθούν σημαντικά.

Με τα υπολογιστικά συστήματα όπως το ChatGPT να βρίσκονται στην τέταρτη γενιά τους, πόσο κοντά βρισκόμαστε στην εξέλιξη της ΑΙ σε υπερ-νοημοσύνη;

Βρισκόμαστε πλέον σε ένα σημείο όπου δεν μπορούμε πλέον να αποκλείσουμε με μεγάλη σιγουριά ακόμα και τα πολύ σύντομα χρονοδιαγράμματα, όπως, για παράδειγμα το τι μπορεί να συμβεί το 2025 ή σε δύο χρόνια, αλλά το πιθανότερο είναι ότι θα χρειαστεί περισσότερος χρόνος. Η εξέλιξή της ανά έτος (σε υπερ-νοημοσύνη) θα μπορούσε να μεταφραστεί σε αρκετές ποσοστιαίες μονάδες αθροιστικά.  

Θεσμικό πλαίσιο και νέοι συσχετισμοί ισχύος

Μιλώντας για ένα θεσμικό πλαίσιο για τη διακυβέρνηση και τον έλεγχο της ΑΙ, θα πρέπει οι κυβερνήσεις να διαδραματίσουν μεγαλύτερο ρόλο στην καθοδήγηση και την παρακολούθηση της τεχνολογικής ανάπτυξης; Αν ναι, πιστεύετε ότι χρειάζεται ένα τεχνολογικό… Σύνταγμα; Και δεύτερον, ποιοι θα είναι πιθανώς οι βασικοί πυλώνες του;

Οι κυβερνήσεις πιθανότατα θα εμπλέκονται όλο και περισσότερο. Εκτός από τις εγχώριες επιπτώσεις στην κοινωνία και την οικονομία, υπάρχουν επίσης γεωπολιτικές προκλήσεις και προκλήσεις ασφαλείας που θα προβάλλουν όλο και περισσότερο καθώς οι δυνατότητες της ΑΙ θα αυξάνονται. Είναι πιθανό ότι η χώρα που θα φτάσει πρώτη στην υπερ-νοημοσύνη θα έχει τεράστιο συγκριτικό πλεονέκτημα και αυτό θα αποδυναμώσει ριζικά τη διαπραγματευτική θέση των άλλων χωρών που θα μείνουν πιο πίσω.

Επίσης, αυτό υποδηλώνει ότι οι χώρες που δεν πιστεύουν ότι θα προσαρμοστούν πρώτες θα πρέπει να προσπαθήσουν να θέσουν σε εφαρμογή από τώρα τις αναγκαίες ρυθμίσεις που θα τους δώσουν αργότερα κάποια πλεονεκτήματα.

Μιλώντας για το ευρωπαϊκό πλαίσιο, αυτό θα μπορούσε να περιλαμβάνει, για παράδειγμα, την προσπάθεια σύναψης κάποιας συμφωνίας με τις ΗΠΑ για τη συμμετοχή ή τον διαμοιρασμό των κερδών της υπερ-νοημοσύνης. Η Ευρώπη εξακολουθεί να διαθέτει σημαντικά πλεονεκτήματα, όπως μια μεγάλη αγορά, καθώς και την ολλανδική εταιρεία ASML, που είναι κρίσιμη στην αλυσίδα εφοδιασμού για προηγμένους ημιαγωγούς. Επίσης, τα κράτη-μέλη της ΕΕ θα μπορούσαν να ενθαρρύνουν την εγκατάσταση μεγάλων κέντρων δεδομένων τεχνητής νοημοσύνης στην επικράτειά τους.

Αλλά μέχρι στιγμής οι Ευρωπαίοι ιθύνοντες δεν έχουν αφυπνιστεί από τις κρίσιμες στρατηγικές επιπτώσεις της κούρσας της τεχνητής νοημοσύνης, και ίσως δεν θα το κάνουν όσο θα υπάρχει ακόμα η ευκαιρία. Αντ’ αυτού, μπορεί απλώς να ασχοληθούν με κάποιους κανονισμούς. Στις ΗΠΑ, επιτέλους ορισμένα τμήματα της αμερικανικής κυβέρνησης έχουν μεγαλύτερο επίπεδο επίγνωσης της κατάστασης της ΑΙ τα τελευταία χρόνια και αυτό φαίνεται, για παράδειγμα, από τους ελέγχους των εξαγωγών τσιπ ΑΙ στις ΗΠΑ, τις επιδοτήσεις για τη δημιουργία εργοστασίων παραγωγής ημιαγωγών σε αμερικανικό έδαφος, τους διαλόγους μεταξύ του Λευκού Οίκου και κορυφαίων εργαστηρίων ΑΙ, καθώς και τις διάφορες πρωτοβουλίες για τη δημιουργία περισσότερων γνώσεων και ικανοτήτων στα σχετικά τμήματα της κυβέρνησης.

Το 2003 αναπτύξατε το «επιχείρημα της προσομοίωσης», σύμφωνα με το οποίο, αν ένας πολιτισμός καταφέρει να δημιουργήσει συνειδητές προσομοιώσεις, κάποια από αυτά τα συνειδητά όντα θα ζουν σίγουρα σε μια προσομοίωση, υπονοώντας ότι η συνείδηση δεν συνδέεται αποκλειστικά με βιολογικούς εγκεφάλους. Σε μια ακραία ερμηνεία, οι ίδιοι οι άνθρωποι μπορεί να ζουν σε μια υπολογιστική μήτρα. Μπορείτε να αναπτύξετε αυτή τη σκέψη του υπολογιστικού κόσμου και να εξηγήσετε το τρίλημμα που θέτετε;

Αυτό που αποκαλείτε «ακραία ερμηνεία» είναι ακριβώς αυτό που έχω στο μυαλό μου: ότι μπορεί να τρέχουμε κυριολεκτικά μέσα σε έναν υπολογιστή που κατασκευάστηκε από κάποιον προηγμένο πολιτισμό. Αυτή είναι η «υπόθεση της προσομοίωσης». Το «επιχείρημα της προσομοίωσης», το οποίο δημοσίευσα το 2003, δείχνει, χρησιμοποιώντας κάποια θεωρία πιθανοτήτων, ότι τουλάχιστον μία από τις ακόλουθες τρεις προτάσεις είναι αληθής: (1) Όλοι οι πολιτισμοί στο δικό μας στάδιο τεχνολογικής ανάπτυξης εξαφανίζονται πριν φτάσουν σε τεχνολογική ωριμότητα. (2) Όλοι οι τεχνολογικά ώριμοι πολιτισμοί συγκλίνουν σε κάτι, χάνουν το ενδιαφέρον τους για τη δημιουργία «προγονικών προσομοιώσεων (λεπτομερείς προσομοιώσεις υπολογιστών με ενσυνείδητα μυαλά που έχουν εμπειρίες του τύπου που έχουμε και εμείς). (3) Ότι ζούμε σε μια προσομοίωση υπολογιστή.

Πρέπει να γνωρίζετε ότι το επιχείρημα της προσομοίωσης έχει λάβει τεράστια προσοχή τις τελευταίες δύο δεκαετίες, και νομίζω ότι ορθώς.

Ένας κόσμος χωρίς προβλήματα; 

Πρόσφατα στο βιβλίο σας Deep Utopia: Life and Meaning in a Solved World διερευνήσατε την προοπτική ενός κόσμου που έχει λύσει όλα του τα προβλήματα, στον οποίο η ανθρώπινη ικανότητα είναι περιττή εξαιτίας της αυτοματοποίησης, ενώ εξηγούσατε ότι οι προκλήσεις δεν είναι πλέον τεχνολογικές, αλλά πνευματικές. Ποια ήταν η ιδέα πίσω από αυτό το έργο που ουσιαστικά παρουσιάζει τον μετα-ανθρώπινο κόσμο; 

Οι περισσότερες προηγούμενες συζητήσεις για το ζήτημα αυτό μου φάνηκαν επιφανειακές. Σκέφτηκα ότι θα μπορούσε να είναι σημαντικό να ρίξουμε μια ματιά στην κατάσταση που θα προκύψει αν όντως πετύχουμε αυτό που προσπαθεί να κάνει ο πολιτισμός μας. Επενδύουμε μεγάλες προσπάθειες για την επίτευξη της επιστημονικής, τεχνικής και οικονομικής προόδου. Και το ερώτημα είναι, πού θα φτάσουμε στην πραγματικότητα αν τη φτάσουμε στα άκρα; Αυτό μπορεί να θεωρηθεί απλώς ως ένα ενδιαφέρον φιλοσοφικό πείραμα σκέψης, αλλά αν η ΑΙ επιτύχει, μπορεί να φτάσουμε εκεί μέσα (στο άκρο) στη διάρκεια της ζωής πολλών ανθρώπων που ζουν σήμερα. 

Επομένως, φαίνεται ότι πρέπει να εξετάσουμε την κατάσταση που προκύπτει αν φτάσουμε στην «τεχνολογική ωριμότητα». Η διαμορφούμενη κατάσταση μας αναγκάζει να αντιμετωπίσουμε βαθιά ερωτήματα, συμπεριλαμβανομένων ερωτημάτων σχετικά με τις απώτερες αξίες μας, καθώς και τον σκοπό και το νόημα της ζωής. Είμαι τελικά πολύ αισιόδοξος για το τι είναι δυνατό σε αυτόν τον κόσμο, αλλά θα απαιτήσει να επανεξετάσουμε και να εγκαταλείψουμε ορισμένα πράγματα στα οποία είμαστε προσκολλημένοι σήμερα.

Ωστόσο, πρέπει να αναφέρω, ότι η «Βαθιά ουτοπία» δεν είναι τόσο ένα βιβλίο με κάποια συγκεκριμένη θέση που προσπαθεί να προωθήσει, αλλά αντίθετα, είναι ένα βιβλίο που βοηθά τον αναγνώστη να θέσει ορισμένα συναρπαστικά και βαθιά ερωτήματα. Προσπαθούσα, επίσης, να μεταδώσω ένα συγκεκριμένο «πνεύμα» στο πώς θα μπορούσαμε να προσεγγίσουμε αυτού του είδους τα ερωτήματα − ένα πνεύμα περιέργειας, ανοιχτόμυαλης σκέψης, στοχασμού, χιούμορ και γενναιοδωρίας. Νομίζω ότι οι μελλοντικές προοπτικές για την ανθρωπότητα είναι πιο λαμπρές αν προσεγγίσουμε τις καίριες αποφάσεις που θα χρειαστεί να πάρουμε με μια τέτοια στάση. Αυτό είναι ίσως το πιο σημαντικό μήνυμα του βιβλίου, το οποίο πιστεύω ότι τελικά ότι διευρύνει τους πνευματικούς μας ορίζοντες και είναι ανταποδοτικό.

Θα πάψουν οι άνθρωποι να είναι πραγματικά απαραίτητοι σε έναν ρομποτικό κόσμο που οι ίδιοι δημιούργησαν;

Θα έλεγα ότι ίσως ο ρόλος μας να είναι σαν αυτόν των παιδιών στην Ντίσνεϊλαντ: δεν είναι απαραίτητα για τη λειτουργία του χώρου, αλλά η δουλειά τους είναι να περνούν καλά − και χωρίς αυτά το όλο πράγμα μοιάζει άσκοπο, οπότε υπό αυτή την έννοια είναι πολύ απαραίτητα.

Αν είναι έτσι, τότε κατ’ επέκταση η άποψη ότι τα ρομπότ θα αποσυνδεθούν από τον δημιουργό τους είναι συνώνυμη με τη σκέψη ότι οι άνθρωποι πρέπει να σταματήσουν να λατρεύουν τον θεό τους, αποσυνδεδεμένοι από τη δύναμή του.

Το αισιόδοξο σενάριο 

Η συζήτησή μας επικεντρώθηκε στη σκοτεινή πλευρά της τεχνολογικής εξέλιξης και στην κυριαρχία της επί του ανθρώπινου είδους. Υπάρχει μια αισιόδοξη πλευρά στο μέλλον του ανθρώπινου είδους;

Ναι! Η αισιόδοξη πλευρά είναι ότι έχουμε την ευκαιρία να δημιουργήσουμε ένα μέλλον που είναι υπέροχο και κυριολεκτικά πέρα από την ικανότητά μας να το φανταστούμε. Ελπίζω ότι οι άνθρωποι στο μέλλον θα κοιτάζουν τη σημερινή εποχή με σοκ και τρόμο, και φαντάζομαι ότι με δυσκολία θα κατανοούν ότι οι άνθρωποι έζησαν τόσο άθλιες ζωές όπως ζούμε όλοι μας τώρα − ακόμα και εκείνοι ανάμεσά μας που είναι συγκριτικά τυχεροί.