Τα τελευταία χρόνια της ζωής του, ο Henry Kissinger άρχισε να δείχνει ένα ιδιαίτερο ενδιαφέρον για τις εξελίξεις στο πεδίο της τεχνητής νοημοσύνης. Όχι βεβαίως από κάποιο όψιμο παράταιρο ενδιαφέρον του ελεύθερου χρόνου ενός γηρασκόμενου, αλλά διότι διέβλεπε πως η επαναστατική αυτή τεχνολογία θα άλλαζε άρδην και συθέμελα τις βασικές κατηγορίες του διεθνούς δικαίου και της εξωτερικής πολιτικής, πιθανώς και την ίδια τη δομή τους. Έχοντας τα παραπάνω κατά νου, επεδίωξε να ανοίξει έναν δημιουργικό διάλογο με πανεπιστημιακούς και ειδικούς της τεχνητής νοημοσύνης, τμήματα του οποίου είδαν το φως της δημοσιότητας υπό μορφή βιβλίων ή άρθρων. 

Το παρόν κείμενο αποτελεί ακριβώς τμήμα ⎯κατά τη γνώμη μας εξαιρετικά σημαντικό⎯ αυτού του διαλόγου, με συνδαιτημόνες τον πρώην CEO της Google Eric Schmidt και τον πρώην ανώτατο σύμβουλο του επικεφαλής της Microsoft Craig Mundie. Αποτελεί δε μέρος του βιβλίου που συνυπογράφουν με τίτλο Genesis: Artificial Intelligence, Hope, and the Human Spirit (Little, Brown and Company, 2024). Το βασικό ερώτημα που επιχειρεί να απαντήσει, ή πιο σωστά να φανταστεί, είναι απλό και όμως τόσο σημαντικό για κάθε μελλοντοστραφή συζήτηση για τον κόσμο που έρχεται: Πώς θα άλλαζε ο κόσμος μας εάν οι μηχανές διαμόρφωναν την στρατηγική και πολιτική  του πολέμου και της ειρήνης; 

Από τον επαναπροσδιορισμό της στρατιωτικής στρατηγικής και μέχρι την επανασύσταση της διπλωματίας, η Τεχνητή Νοημοσύνη/ΑΙ θα καταλήξει να αποτελεί κομβικό παράγοντα της τάξης στον κόσμο. Έτσι που δεν καταλαβαίνει από φόβο και από εύνοια, η ΑΙ εισάγει στη διαδικασία λήψης στρατηγικών αποφάσεων μια νέα δυνατότητα αντικειμενικής κρίσης. Αυτή όμως η αντικειμενικότητα, πολύτιμη τόσο για τον πολεμιστή όσο και για τον ειρηνοποιό, θα πρέπει ένα να διαφυλάξει: τον ανθρώπινο υποκειμενισμό, η σημασία του οποίου είναι ουσιώδης προκειμένου να υπάρχει υπεύθυνη άσκηση της ισχύος. Η ΑΙ, εφαρμοζόμενη στον πόλεμο, θα φωτίσει τόσο τις καλύτερες όσο και τις χειρότερες εκφάνσεις της ανθρώπινης συμπεριφοράς. Θα λειτουργήσει δε ως εργαλείο τόσο για τη διεξαγωγή του πολέμου, όσο και για τον τερματισμό του.

Προς μια αχαρτογράφητη κατάσταση έλλειψης ισορροπίας

Η εδώ και αιώνες προσπάθεια της ανθρωπότητας να διαμορφώσει όλο και πιο πολύπλοκες διευθετήσεις, με στόχο να μην αποκτά ένα μόνο κράτος κυριαρχία επί των υπολοίπων, έχει καταλήξει να διεκδικεί το κύρος ενός συνεχούς, αδιάκοπου φυσικού νόμου. Σ’ έναν κόσμο όπου οι κυριότεροι πρωταγωνιστές είναι ακόμη άνθρωποι –ακόμη κι αν είναι εξοπλισμένοι με ΑΙ προκειμένου να ενημερώνονται, να λαμβάνουν κατευθύνσεις και συμβουλές– οι χώρες θα έπρεπε ακόμη να απολαμβάνουν έναν βαθμό σταθερότητας, που βασίζεται σε κοινούς κανόνες συμπεριφοράς, κανόνες υποκείμενους σε διαχρονικές ρυθμίσεις και προσαρμογές. Αν όμως η ΑΙ αναδειχθεί σε –πρακτικά– ανεξάρτητο πολιτικό, διπλωματικό και στρατιωτικό σύνολο οντοτήτων, τότε κάτι τέτοιο θα οδηγούσε σε αναγκαστική μετάβαση από την εδώ και αιώνες ισορροπία ισχύος προς μια νέα, αχαρτογράφητη κατάσταση έλλειψης ισορροπίας. 

Η διεθνής συνεννόηση εθνικών κρατών –μια ήδη εύθραυστη και συνεχώς μεταβαλλόμενη ισορροπία, που επετεύχθη τους λίγους τελευταίους αιώνες– έχει διατηρηθεί εν μέρει λόγω της εγγενούς ισότητας των παικτών του συστήματος. Ένας κόσμος μεγαλύτερης ασυμμετρίας –για παράδειγμα, αν μερικά κράτη υιοθετήσουν ΑΙ στο ανώτατο επίπεδο πιο πρόθυμα απ’ ό,τι άλλα– θα κατέληγε να είναι κατά πολύ πιο απρόβλεπτος. Σε εκείνες τις περιπτώσεις όπου κάποια ανθρώπινα όντα θα βρίσκονταν αντιμέτωπα, είτε στρατιωτικά είτε διπλωματικά, με ένα κράτος που θα διαθέτει ισχυρή υποβοήθηση από ΑΙ (ή και αν ήταν αντιμέτωπα απευθείας με ΑΙ) τότε θα χρειαζόταν να παλέψουν για την επιβίωσή τους – πολύ περισσότερο προκειμένου να επικρατήσουν στον ανταγωνισμό. Μια τέτοια ενδιάμεση κατάσταση της παγκόσμιας τάξης θα μπορούσε να οδηγήσει σε εσωτερική κατάρρευση των κοινωνιών και σε ανεξέλεγκτη έκρηξη εξωτερικών συγκρούσεων. 

Υπάρχουν κι άλλα ενδεχόμενα – άφθονα. Πέρα από τον σκοπό της επιδίωξης ασφάλειας, οι άνθρωποι από το βάθος των αιώνων πολέμησαν επιδιώκοντας τον θρίαμβο ή την υπεράσπιση της τιμής τους. Οι μηχανές –μέχρι τώρα, πάντως– δεν διαθέτουν την αίσθηση ούτε του θριάμβου ούτε και της τιμής. Μπορεί να μην επιλέξουν ποτέ τον πόλεμο και –αντιθέτως– να προτιμήσουν άμεσες, προσεκτικά διαμορφωμένες παραχωρήσεις εδαφών με βάση πολύπλοκους υπολογισμούς. Ή πάλι θα μπορούσαν –δίνοντας προτεραιότητα στην τελική έκβαση της αντιπαράθεσης και πολύ χαμηλότερη στις ανθρώπινες ζωές– να αναλάβουν δράση που θα καταλήξει σε αιματηρούς πολέμους φθοράς. φθοράς δε ανθρώπων.

Σύμφωνα με ένα σενάριο, το ανθρώπινο είδος μας θα μπορούσε να προκύψει τόσο μεταμορφωμένο, ώστε να αποκλείεται πλέον ολότελα η ωμότητα της ανθρώπινης συμπεριφοράς. Σύμφωνα με άλλο όμως σενάριο, θα μπορούσαμε να έχουμε τόσο πολύ υποταγεί στην τεχνολογία, ώστε αυτή να μας οδηγήσει πίσω στο βάρβαρο παρελθόν μας.

Το δίλημμα ασφαλείας της ΑΙ

Πολλές χώρες έχουν πάθει εμμονή με το πώς θα κερδίσουν στον «αγώνα δρόμου» την ΑΙ. Εν μέρει η τάση αυτή είναι κατανοητή: η κουλτούρα, η ιστορία, η επικοινωνία, οι κοινωνικές προσλήψεις έχουν σήμερα συνωμοτήσει ώστε να διαμορφωθεί μεταξύ των μεγάλων δυνάμεων μια διπλωματική κατάσταση που εκτρέφει ανασφάλεια και καχυποψία – σε όλες τις πλευρές. Οι ηγέτες πιστεύουν ότι ένα έστω και περιορισμένο τακτικό πλεονέκτημα θα παίξει αποφασιστικό ρόλο σε κάποια μελλοντική σύγκρουση – και ότι η ΑΙ θα μπορούσε να προσφέρει αυτό ακριβώς το πλεονέκτημα. Αν μια χώρα επιθυμεί να μεγιστοποιήσει τη δική της θέση, θα πρέπει να αντιμετωπίσει έναν ψυχολογικό ανταγωνισμό, μεταξύ αντίπαλων στρατιωτικών δυνάμεων και υπηρεσιών πληροφοριών, τέτοιας έντασης, που παρόμοιο δεν έζησε ποτέ ως τώρα η ανθρωπότητα. Προκύπτει κατ’ αυτόν τον τρόπο ένα υπαρξιακό δίλημμα ασφαλείας. Η πρώτη λογική επιθυμία για έναν οποιοδήποτε ανθρώπινο συντελεστή των πραγμάτων που τυχόν κατέχει υπερνοήμονα ΑΙ –δηλαδή μια υποθετική εκδοχή ΑΙ με ευφυΐα μεγαλύτερη από την ανθρώπινη– θα ήταν να εξασφαλίσει ότι κανείς άλλος δεν θα έχει πρόσβαση σ’ αυτή την ισχυρή μορφή τεχνολογίας. Κάθε τέτοιος συντελεστής θα υπέθετε ενδεχομένως –και θα ήταν εύλογο αυτό– ότι ο αντίπαλός του, που θα τον κατατρύχουν οι ίδιες αβεβαιότητες και θα αντιμετωπίζει τις ίδιες προκλήσεις, θα σκεφτόταν σοβαρά μιαν ανάλογη κίνηση.

Πέρα όμως από πόλεμο, μια υπερνοήμων εκδοχή ΑΙ θα μπορούσε να υπονομεύσει, να διαβρώσει και να παρακωλύσει κάθε πρόγραμμα ανταγωνιστικό προς εκείνη. Για παράδειγμα, μια ΑΙ υπόσχεται τόσο το να ενισχύσει συμβατικούς ιούς για επίθεση σε υπολογιστές με ισχύ άνευ προηγουμένου, όσο και να αναπτύξει ικανότητα πλήρους συγκάλυψής τους. Όπως ακριβώς ο ιός Stuxnet –το όπλο κυβερνοπόλεμου, του οποίου η χρήση αποκαλύφθηκε το 2010 που θεωρείται ότι κατέστρεψε το 1/5 των φυγοκεντρητών ουρανίου του Ιράν– έτσι ένας αυριανός φορέας ΑΙ θα μπορούσε να σαμποτάρει την πρόοδο του αντιπάλου κατά τρόπο που θα παραπλανούσε ως προς την παρουσία του, αναγκάζοντας έτσι τους επιστήμονες του εχθρού να επιδίδονται σε ένα κυνήγι φαντασμάτων. Με τη μοναδική του χειριστικότητα ως προς τις αδυναμίες της ανθρώπινης ψυχολογίας, μια ΑΙ θα μπορούσε να υποκλέψει τον έλεγχο των μέσων ενημέρωσης της αντίπαλης χώρας και μέσω ενός καταιγισμού παραπληροφόρησης να δημιουργήσει τέτοια ανησυχία, ώστε να προκληθεί μαζική αντίθεση του πληθυσμού έναντι της βελτίωσης των δυνατοτήτων ΑΙ της εν λόγω χώρας.

Δεν θα είναι εύκολο να αποκτήσουν οι επιμέρους χώρες σαφή αντίληψη του πού βρίσκεται η καθεμιά τους όσον αφορά τον ανταγωνισμό σε επίπεδο ΑΙ. Ήδη, τα μεγαλύτερα μοντέλα ΑΙ εκπαιδεύονται σε ασφαλή δίκτυα, αποκομμένα από το υπόλοιπο Internet. Ορισμένα στελέχη επιχειρήσεων πιστεύουν ότι η ίδια η ανάπτυξη της ΑΙ δεν θα αργήσει και τόσο να μετακινηθεί σε απόρθητα ασφαλή καταφύγια, όπου τη λειτουργία υπερυπολογιστών θα αναλάβουν πυρηνικοί αντιδραστήρες. Ήδη, πλέον, data centres κατασκευάζονται στον πυθμένα των ωκεανών. Δεν θα αργήσουν να λειτουργούν απομονωμένα, σε τροχιά γύρω από τη Γη. Τόσο εταιρείες όσο και χώρες ενδεχομένως θα περνούν όλο και πιο συχνά σε «σκοτεινή λειτουργία», υπό την έννοια ότι θα πάψουν να δημοσιοποιούν την έρευνα που θα διεξάγουν σε θέματα ΑΙ – και τούτο όχι μόνο για να μην καταλήξουν να βοηθούν κακόβουλους δρώντες, αλλά και προκειμένου να αποκρύπτουν την ταχύτητα με την οποία και οι ίδιες αναπτύσσονται. Άλλοι πάλι μπορεί, προκειμένου να στρεβλώσουν την εικόνα που αφορά την πρόοδό τους, να κινηθούν δημοσιοποιώντας συνειδητά παραπλανητικές έρευνες όπου η ΑΙ θα συμβάλει η ίδια στη δημιουργία πειστικών μυθευμάτων.

Υπάρχει προηγούμενο παρόμοιων παραπλανητικών επιστημονικών κατασκευών. Το 1942, ο Σοβιετικός φυσικός Γκεόργκι Φλιόροφ κατέληξε –ορθώς– στο συμπέρασμα ότι οι Ηνωμένες Πολιτείες κατασκεύαζαν πυρηνική βόμβα, καθώς παρατήρησε ότι Αμερικανοί και Βρετανοί είχαν αιφνιδίως πάψει να δημοσιεύουν εργασίες σχετικά με την πυρηνική σχάση. Σήμερα, μια παρόμοια ανταγωνιστική διεργασία θα ήταν πολύ λιγότερο προβλεπτή, δεδομένης της πολυπλοκότητας και της αμφισημίας που παρουσιάζει η μέτρηση της προόδου ενός πράγματος τόσο αφηρημένου, όσο η νοημοσύνη. Μπορεί κάποιοι να θεωρούν πλεονέκτημα την κατοχή μεγάλων μοντέλων, πλην όμως ένα μεγαλύτερο μοντέλο δεν είναι ανώτερο σε όλα τα περιβάλλοντα, ούτε απαραίτητα υπερτερεί απέναντι σε μικρότερα μοντέλα που αναπτύσσονται σε μεγάλη έκταση. Μικρότερες και πιο εξειδικευμένες μηχανές ΑΙ μπορεί να λειτουργήσουν κατά τρόπο ανάλογο με σμήνος από drones που αναπτύσσεται εναντίον αεροπλανοφόρου − δεν μπορούν να το καταστρέψουν, όμως τους αρκεί να το αδρανοποιήσουν.

Ένας συντελεστής του συστήματος μπορεί να θεωρηθεί ότι έχει γενικό πλεονέκτημα στο μέτρο που καταγράφει επιτυχία σε ένα ειδικό πεδίο δυνατοτήτων. Αυτός όμως ο τρόπος σκέψης είναι προβληματικός, γιατί η ΑΙ αναφέρεται σε μια διεργασία της μηχανικής εκμάθησης που βρίσκεται ενσωματωμένη όχι απλώς σε μια συγκεκριμένη τεχνολογία, αλλά σε ένα ευρύτερο σύνολο τεχνολογιών. Κατ’ επέκταση, η παρατηρούμενη σε μια δεδομένη περιοχή δυνατότητα μπορεί να προκύπτει από εντελώς διαφορετικούς παράγοντες σε άλλη περιοχή. Υπ’ αυτήν την έννοια, κάθε «πλεονέκτημα» που υπολογίζεται κατά τον συνήθη τρόπο μπορεί να αποδειχθεί ότι αποτελεί αυταπάτη.

Πέραν τούτων, όπως έχει καταδειχθεί με την εκθετική και απρόβλεπτη έκρηξη των δυνατοτήτων της ΑΙ τα τελευταία χρόνια, η διαδρομή που ακολουθεί η πρόοδος ούτε γραμμική είναι ούτε να προβλεφθεί μπορεί. Ακόμα κι αν ένας συντελεστής του συστήματος μπορεί να λεχθεί ότι «προηγείται» έναντι του άλλου, κατά έναν ορισμένο αριθμό ετών ή μηνών, πάλι μια αιφνίδια τεχνική ή θεωρητική σημαντική ανακάλυψη σε καίριο τομέα και σε κρίσιμη στιγμή μπορεί να αντιστρέψει τη θέση όλων των παικτών.

Σε έναν τέτοιο κόσμο, δηλαδή σε έναν κόσμο όπου οι ηγέτες δεν θα μπορούσαν να εμπιστευθούν τις πιο αξιόπιστες πληροφορίες τους, ή πάλι τα πιο πρωτόγονα ένστικτά τους, ή ακόμη και την ίδια τη βάση της πραγματικότητας, δεν θα μπορούσε κανείς να καταδικάσει τις κυβερνήσεις εκείνες που θα ενεργούσαν ξεκινώντας από μια θέση μέγιστης παράνοιας και ακραίων υποψιών. Οι ηγέτες αναμφίβολα ήδη λαμβάνουν αποφάσεις θεωρώντας ως δεδομένο ότι οι επιδιώξεις τους βρίσκονται υπό παρακολούθηση, ή και ότι ενσωματώνουν στρεβλώσεις οι οποίες έχουν προκληθεί από την άσκηση κακόβουλης επιρροής. Με τον φόβο του χειρότερου σεναρίου, οι στρατηγικοί υπολογισμοί κάθε συντελεστή τεχνολογίας αιχμής θα έδιναν προτεραιότητα στην ταχύτητα και τη μυστικότητα έναντι της ασφάλειας. Οι ανθρώπινες ηγεσίες θα μπορούσαν επίσης να καταληφθούν από τον φόβο ότι «δεύτερη θέση δεν νοείται». Ευρισκόμενες λοιπόν υπό πίεση, θα μπορούσαν να επισπεύσουν την ανάπτυξη της ΑΙ ως μέσου αποτροπής διαταραχών εξωτερικής προέλευσης.

Ένα νέο υπόδειγμα πολέμου

Στο σύνολο σχεδόν της ανθρώπινης ιστορίας, ο πόλεμος διεξαγόταν σε προσδιορισμένους χώρους, όπου μπορούσε κανείς να γνωρίζει –σε λογικά πλαίσια– τις δυνατότητες και τις θέσεις των εχθρικών δυνάμεων. Ο συνδυασμός των δυο αυτών στοιχείων προσέφερε σε καθεμιά από τις αντιμαχόμενες πλευρές μια αίσθηση ψυχολογικής ασφάλειας και κοινής αντίληψης, με αποτέλεσμα να ασκείται συνειδητή αυτοσυγκράτηση ως προς τη φονικότητα των εχθροπραξιών. Μόνον δε όταν φωτισμένοι ηγέτες κατέληγαν σε ενιαίο συμπέρασμα για το πώς θα ’πρεπε να διεξαχθεί ο πόλεμος, μόνο τότε οι αντιπαρατιθέμενες δυνάμεις καθόριζαν και το αν θα ξεκινούσε ο πόλεμος.

Μεταξύ των πλέον προβλεπτών παραγόντων, που χαρακτήριζαν τις δυνατότητες κάθε στοιχείου στρατιωτικού εξοπλισμού, ήταν ανέκαθεν η ταχύτητα και η ευκινησία. Xαρακτηριστικό παράδειγμα ως προς αυτό ήταν η ανάπτυξη των κανονιών. Τα Θεοδοσιανά Τείχη επί μια χιλιετία αφότου ολοκληρώθηκε η κατασκευή τους προστάτευαν από τους όποιους εισβολείς τη μεγαλούπολη που υπήρξε η Κωνσταντινούπολη. Ύστερα –το 1452– ένας Ούγγρος μηχανικός του πυροβολικού πρότεινε στον αυτοκράτορα Κωνσταντίνο τον ΙΑ΄ την κατασκευή ενός γιγαντιαίου κανονιού το οποίο, βάλλοντας πίσω από τα προστατευτικά τείχη, θα μπορούσε να κονιορτοποιεί τους επιτιθέμενους. Όμως ο επαναπαυμένος αυτοκράτορας, καθώς δεν διέθετε ούτε τα υλικά μέσα ούτε και την προβλεπτικότητα που θα χρειαζόταν ώστε να αντιληφθεί τη σημασία αυτής της τεχνολογίας, απέρριψε την πρόταση.

Δυστυχώς γι’ αυτόν, ο Ούγγρος μηχανικός αποδείχθηκε ότι ήταν μισθοφόρος. Άλλαξε λοιπόν τακτική (και πλευρά), προσάρμοσε τον σχεδιασμό του προς πιο ευκίνητη κατεύθυνση –μπορούσε πλέον το κανόνι του να μετακινείται συρόμενο από τουλάχιστον 60 βόδια και 200 άνδρες– και προσέγγισε τον αντίπαλο του αυτοκράτορα, τον Οθωμανό σουλτάνο Μωάμεθ Β׳, ο οποίος τότε ετοιμαζόταν να πολιορκήσει τα απόρθητα τείχη. Καθώς λοιπόν κέρδισε το ενδιαφέρον του νεαρού σουλτάνου με τον ισχυρισμό ότι το πυροβόλο του «μπορούσε να διαλύσει και τα τείχη της ίδιας της Βαβυλώνας», ο ευρηματικός Ούγγρος βοήθησε τις τουρκικές δυνάμεις να γκρεμίσουν τα αρχαία τείχη μέσα σε μόλις 55 μέρες.

Το σενάριο αυτού του δράματος που ανάγεται στον 15ο αιώνα ξαναπαίχτηκε πολλές φορές μέσα στην Ιστορία. Τον 19ο αιώνα, η ταχύτητα και η ευκινησία άλλαξαν ριζικά τις τύχες αρχικά μεν της Γαλλίας –καθώς οι δυνάμεις του Ναπολέοντα επικρατούσαν στην Ευρώπη– και εν συνεχεία της Πρωσίας – αυτής υπό την καθοδήγηση του Χέλμουτ φον Μόλτκε (του πρεσβύτερου) και του Άλμπρεχτ φον Ρουν, που κεφαλαιοποίησαν τη χρήση των σιδηρόδρομων που είχαν μόλις αναπτυχθεί, πετυχαίνοντας ταχύτερους και πιο εύστοχους ελιγμούς. Κατά τον ίδιο τρόπο, ο Blitzkrieg/πόλεμος-αστραπή, που αποτέλεσε μετεξέλιξη των ίδιων γερμανικών στρατιωτικών αρχών, επέπρωτο να χρησιμοποιηθεί με βαρύ και τρομερό αποτέλεσμα εναντίον των Συμμάχων στον Δεύτερο Παγκόσμιο Πόλεμο.

Η έννοια του «πολέμου-αστραπή» έχει πλέον προσλάβει νέο νόημα –και τείνει να καταστεί πανταχού παρούσα– την εποχή του ψηφιακού πολέμου. Η ταχύτητα καταλήγει να είναι ακαριαία. Οι επιτιθέμενοι δεν χρειάζεται πλέον να θυσιάζουν τη φονικότητα προκειμένου να διατηρείται η ευκινησία, καθώς η γεωγραφία παύει πλέον να λειτουργεί ως περιοριστικός παράγοντας. Μολονότι ο συνδυασμός αυτός έχει ήδη εν πολλοίς αναβαθμίσει τη διάσταση της ψηφιακής επίθεσης, την εποχή της ΑΙ θα μπορούσε να επιτευχθεί και μεγαλύτερη ταχύτητα στην άμυνα/αντεπίθεση– επιτρέποντας δηλαδή στην κυβερνοάμυνα να ανταποκρίνεται στην κυβερνοεπίθεση.

Στον κινητικό πλέον πόλεμο, η χρήση ΑΙ θα μπορούσε να φέρει άλλο ένα άλμα προς τα εμπρός. Για παράδειγμα, τα drones θα αποδειχθούν εξαιρετικά γρήγορα και απίστευτα ευκίνητα. Όταν πλέον θα έχει αναπτυχθεί ΑΙ όχι μόνον για να κατευθύνει ένα drone, αλλά για να οδηγεί ολόκληρους στόλους τους, τότε νέφη από drones θα πετάνε συντονισμένα απαρτίζοντας ένα συνεκτικό σύνολο, τέλεια συντονισμένο. Μελλοντικά, τα σμήνη των drones θα διαλύονται και θα ανασυντίθενται με ευκολία, συγκροτώντας δυνάμεις διαφόρων μεγεθών – κάπως όπως οι κορυφαίες δυνάμεις ειδικών αποστολών χτίζονταν έως τώρα από κλιμακωτές μονάδες με αυτοτελή διοίκηση.

Πέραν τούτων, η ΑΙ θα στηρίξει αντίστοιχα την ταχεία και ευέλικτη αμυντική δυναμική. Οι στόλοι των drones είναι ελάχιστα πρακτικό (αν δεν είναι αδύνατον) να καταρρίπτονται με συμβατικά βλήματα. Όμως και πάλι, πυροβόλα καθοδηγούμενα από ΑΙ θα μπορούν να βάλλουν μαζικά φωτόνια και ηλεκτρόνια (αντί για συμβατικά πυρομαχικά) και να αναπαράγουν την ίδια καταστροφική δυνατότητα που διαθέτει π.χ. μια ηλιακή καταιγίδα, η οποία μπορεί να «ψήσει» τα κυκλώματα όσων δορυφόρων βρίσκονται εκτεθειμένοι σ’ αυτήν.

Τα όπλα που ενσωματώνουν ΑΙ θα είναι όπλα ακριβείας άνευ προηγουμένου. Μέχρι τώρα, τα περιορισμένα όρια γνώσης ως προς τη γεωγραφία των αντιπάλων περιόριζαν αντίστοιχα και τις δυνατότητες και τις προθέσεις κάθε μαχόμενης πλευράς. Πλέον, η συμμαχία μεταξύ επιστήμης και πολέμου καταλήγει στην εξασφάλιση όλο και μεγαλύτερης ακρίβειας στα όργανα πλοήγησης, η δε ΑΙ αναμένεται ότι θα φέρει ακόμη μεγαλύτερη πρόοδο εν προκειμένω. Υπ’ αυτήν την έννοια, η ΑΙ θα περιορίσει την απόσταση που υπάρχει –ακόμη– μεταξύ αρχικών προθέσεων και τελικής έκβασης των πραγμάτων, συμπεριλαμβανομένης της εφαρμογής φονικής ισχύος. Τόσο σε επίπεδο σμηνών drones που ξεκινούν από τη στεριά, όσο και σε σύνολα μηχανών που αναπτύσσονται στη θάλασσα, ή ακόμα και διαπλανητικών στόλων, οι μηχανές θα διαθέτουν πλέον εξαιρετικά ακριβείς δυνατότητες στο να φονεύουν ανθρώπους – με όλο και πιο περιορισμένο βαθμό αβεβαιότητας και με απεριόριστες επιπτώσεις. Τα δυνητικά όρια καταστροφής θα εξαρτώνται μόνο από τη βούληση –και τη διάθεση αυτοπεριορισμού– τόσο των ανθρώπων όσο και των μηχανών.

Τούτων δοθέντων, η εποχή του πολέμου με ΑΙ θα περιορίζεται κατά βάσιν στην εκτίμηση όχι τόσο των δυνατοτήτων του αντιπάλου, αλλά μάλλον των προθέσεων και των στρατηγικών εφαρμογής τους. Στην πυρηνική εποχή έχουμε ήδη περάσει σε μια τέτοια φάση – και πάλιν όμως η δυναμική και η σημασία της εποχής αυτής θα καταστεί πολύ σαφέστερη όσο η ΑΙ θα αναδεικνύει την αξία της ως εργαλείο πολέμου.

Όσο θα ενσωματώνεται μια τόσο σημαντική τεχνολογία, πιθανόν να μην αποτελούν πλέον ούτε οι άνθρωποι τον βασικό στόχο ενός πολέμου που θα διεξάγεται με ΑΙ. Στην ουσία, η ΑΙ θα μπορούσε να απομακρύνει τους ανθρώπους από τον ρόλο που διαδραματίζουν ως φορείς της σύγκρουσης στη διεξαγωγή πολέμων, καθιστώντας τον ίδιο τον πόλεμο λιγότερο φονικό – αν και δυνητικά όχι λιγότερο αποφασιστικό. Αντιστοίχως, φαίνεται πλέον ότι θα είναι λιγότερο πιθανό η ΑΙ να προκαλεί πλήγμα σε εδάφη – όμως ασφαλώς θα μπορούσαν να πλήξουν data centres κι άλλες κρίσιμες ψηφιακές υποδομές.

Συνεπώς παράδοση του αντιπάλου θα προκύπτει όχι όταν ο αριθμός ανθρώπων θα έχει μειωθεί και οι αποθήκες οπλισμού του θα έχουν αδειάσει, αλλ’ όταν η ψηφιακή του «ασπίδα» θα έχει υποστεί τέτοιο πλήγμα, ώστε δεν θα έχει πλέον τη δυνατότητα να διαφυλάσσει τα ψηφιακά της κεφάλαια – και τελικώς ούτε τους ανθρώπους, στην υπηρεσία των οποίων αυτά έχουν τεθεί. Ο πόλεμος θα μπορούσε να καταλήξει ένα παίγνιο καθαρά μηχανικών πληγμάτων, όπου αποφασιστικός παράγοντας θα είναι η ψυχολογική ανθεκτικότητα των ανθρώπων (ή της ΑΙ), που θα κληθούν να αντιπαρατεθούν για το αν θα αναλάβουν το ρίσκο μια τελικής απόφασης πλήρους καταστροφής ή παράδοσης για να την αποφύγουν.  

Ακόμα και τα κίνητρα που ορίζουν το νέο πεδίο μάχης μπορεί, μέχρις ενός σημείου, να μας είναι εντελώς ανοίκεια. Ο Βρετανός συγγραφέας Γκ.K. Τσέστερτον είχε κάποτε πει ότι «ο αληθινός στρατιώτης δεν πολεμά επειδή μισεί όσα βρίσκονται μπροστά του, αλλ’ επειδή αγαπά εκείνα που βρίσκονται πίσω του». Ένας πόλεμος με ΑΙ είναι πιθανόν να μην αναφέρεται σε μίσος ή αγάπη, ακόμα λιγότερο στο στρατιωτικό θάρρος. Από την άλλη, όμως, μπορεί και πάλι να ενσωματώνει εγωπάθειες, θέματα ταυτότητας και διαστάσεις νομιμοφροσύνης – μολονότι η φύση όλων αυτών μπορεί να καταλήξει να μην έχει καμία σχέση με όσα γνωρίζουμε σήμερα.

Ο υπολογισμός που υπάρχει πίσω από κάθε πόλεμο υπήρξε σχετικά ένας έως τώρα: η πλευρά εκείνη που θα διαπιστώσει ότι της είναι αφόρητος ο πόνος της μάχης θα κατακτηθεί. Η συνειδητοποίηση των αδυναμιών μιας πλευράς ήταν το στοιχείο εκείνο που –κατά το παρελθόν– προκαλούσε την αυτοσυγκράτηση. Αν αυτή η συνειδητοποίηση εκλείψει και αν δεν υπάρχει πλέον αίσθηση πόνου (συνεπώς ούτε η διάσταση αντοχής στον πόνο), τότε καταλήγει κανείς να διερωτηθεί τι –αν κάτι…– θα μπορούσε να φέρει αυτοσυγκράτηση στην ΑΙ, που δεν έχει ακόμη εισαχθεί στους πολέμους και, συνεπώς, τι θα μπορούσε να τερματίσει τις συγκρούσεις που θα κηρύσσονταν με τη χρήση της. Σε μια παρτίδα σκάκι με χρήση ΑΙ, αν δεν δοθούν οδηγίες ως προς τους κανόνες που ορίζουν το τέλος του παιχνιδιού, το παιχνίδι θα συνεχίζεται μέχρι το τελευταίο πιόνι…

Αναδιάρθρωση της γεωπολιτικής

Σε κάθε περίοδο της ανθρωπότητας, σχεδόν σαν να πρόκειται για συμμόρφωση προς κάποιου είδους φυσικό νόμο, μας προέκυπτε –όπως το είχε κάποτε πει ο Χένρι Κισίνγκερ, εκ των συντακτών του παρόντος άρθρου– μια οντότητα «με την ισχύ, τη βούληση και τη διανοητική και ηθική ορμή να διαμορφώνει το σύνολο του διεθνούς συστήματος, ώστε αυτό να είναι συμβατό με τις δικές της αξίες». H πιο γνώριμη διευθέτηση που διαμόρφωσαν οι ανθρώπινοι πολιτισμοί ήταν εκείνη του λεγόμενου βεστφαλικού συστήματος. Η ίδια όμως η έννοια του εθνικού κράτους δεν έχει παρά ηλικία λίγων μόνο αιώνων: προέκυψε από συνθήκες των μέσων του 17ου αιώνα, οι οποίες έμειναν γνωστές ως η Ειρήνη της Βεστφαλίας. Δεν αποτελεί η οντότητα αυτή –του κράτους– την προκαθορισμένη μονάδα κοινωνικής οργάνωσης. μπορεί δε η εν λόγω οντότητα να μην είναι καν κατάλληλη για την εποχή της ΑΙ. Όσο μάλιστα η μαζική παραπληροφόρηση και η αυτοματοποιημένη διάδοση των διακρίσεων προξενεί απώλεια εμπιστοσύνης έναντι αυτής της διευθέτησης, τόσο η ΑΙ θα μπορεί να προκαλεί εγγενή αμφισβήτηση της ισχύος των εθνικών κυβερνήσεων. Υπάρχει και μια εναλλακτική: η ΑΙ μπορεί να αναδιαμορφώσει τελικά τη σχετική θέση των ανταγωνιστών που κινούνται στο σημερινό διεθνές σύστημα. Αν τις δυνάμεις της ΑΙ τις δαμάσουν κατά κύριο λόγο τα ίδια τα εθνικά κράτη, τότε η ανθρωπότητα μπορεί να ωθηθεί προς μια κατάσταση ηγεμονικής στασιμότητας, ή αντιθέτως προς μια νέα ισορροπία μεταξύ εθνικών κρατών τα οποία θα βασίζονται στην ΑΙ. Η τεχνολογία αυτή, όμως, θα μπορούσε να λειτουργήσει και ως καταλύτης μιας μετάβασης ακόμα πιο θεμελιώδους χαρακτήρα – μιας μετακίνησης προς ένα ολότελα νέο σύστημα, όπου οι κυβερνήσεις των κρατών να αναγκάζονται να εγκαταλείψουν τον κεντρικό τους ρόλο στην πολιτική δομή της υφηλίου.

Μια πιθανότητα είναι οι εταιρείες εκείνες που κατέχουν και αναπτύσσουν την ΑΙ να συγκεντρώσουν συνολικά την κοινωνική, οικονομική, στρατιωτική και πολιτική ισχύ. Οι σημερινές κυβερνήσεις έχουν αναγκαστεί να αντιμάχονται με τη δύσκολη θέση στην οποία έχουν περιέλθει οι ίδιες: να στηρίζουν δηλαδή με ενθουσιασμό τις ιδιωτικές εταιρείες –παρέχοντάς τους τη στρατιωτική τους ισχύ, το διπλωματικό τους κεφάλαιο και την οικονομική τους στήριξη– αλλά και να προστατεύουν τον μέσο πολίτη όσο αυτός βλέπει καχύποπτα τη μονοπωλιακή απληστία και μυστικοπάθεια των εν λόγω εταιρειών. Η αντίφαση αυτή μπορεί να αποβεί ολέθρια.

Εν τω μεταξύ, οι ίδιες αυτές εταιρίες θα μπορούσαν να σχηματίσουν συμμαχίες προκειμένου να κατοχυρώσουν την –ήδη πολύ σημαντική– ισχύ τους. Παρόμοιες συμμαχίες θα μπορούσαν να οικοδομηθούν πάνω σε συμπληρωματικά πλεονεκτήματα και στην κερδοφόρα διάσταση της συγχώνευσης, ή –αντιθέτως– σε μια κοινή φιλοσοφία ανάπτυξης της εφαρμογής στην πράξη των συστημάτων ΑΙ. Αυτού του είδους εταιρικές συμμαχίες θα ήταν ενδεχόμενο να αναλάβουν λειτουργίες οι οποίες παραδοσιακά ανήκουν στα εθνικά κράτη, μολονότι, αντί να επιχειρούν να διαμορφώσουν (και να επεκτείνουν) περιορισμένες επικράτειες, θα καλλιεργούσαν μάλλον διάχυτα ψηφιακά δίκτυα ως πεδία επιρροής τους.

Υπάρχει όμως και μια άλλη εναλλακτική κατάληξη. Αν αφεθεί ανεξέλεγκτη, η διάχυση μιας τεχνολογίας «ανοιχτής πηγής» θα μπορούσε να οδηγήσει στη δημιουργία μικρότερων συμμοριών ή φυλών, που θα διέθεταν χαμηλότερες μεν δυνατότητες ΑΙ, πλην όμως επαρκείς προκειμένου να τις διαχειρίζονται, να τις προωθούν και να αμύνονται για τον εαυτό τους μέσα σε περιορισμένα όρια. Μεταξύ λοιπόν ομάδων ανθρώπων που απορρίπτουν την κατεστημένη εξουσία ενώ προκρίνουν τις αποκεντρωμένες χρηματοπιστωτικές και επικοινωνιακές δομές καθώς και τις αντίστοιχες δομές διακυβέρνησης, θα μπορούσε να επικρατήσει μια παρόμοια εκδοχή πρωτο-αναρχίας, με τεχνολογική ενδυνάμωση. Αυτού του είδους οι ομάδες θα μπορούσαν ενδεχομένως να ενσωματώσουν και μια θρησκευτική διάσταση. Μην παραβλέπουμε ότι, στην πορεία της Ιστορίας, από πλευράς απήχησης ο χριστιανισμός, ο ισλαμισμός και ο ινδουισμός πάντοτε υπήρξαν και μεγαλύτερες και διαρκέστερες συσσωματώσεις, συγκρινόμενες με οποιοδήποτε κράτος. Στα χρόνια που μας έρχονται, η θρησκευτική ένταξη – περισσότερο κι από την όποια εθνική ιθαγένεια– θα μπορούσε κάλλιστα να αποτελέσει πιο ουσιαστικό πλαίσιο από πλευράς ταυτότητας και εξασφάλισης νομιμοφροσύνης.

Και στις δύο αυτές εκδοχές μέλλοντος –είτε εκείνες που θα κυριαρχούνται από εταιρικές συμμαχίες, είτε εκείνες που θα διαχέονται σε χαλαρές θρησκευτικές ομάδες– το νέο «έδαφος» που θα διεκδικούσε η αντίστοιχη ομάδα (γύρω από το οποίο θα πολεμούσε, δε) δεν θα αποτελούνταν πλέον από εκτάσεις γης, αλλά από ένα ψηφιακό περιβάλλον, το οποίο θα διεκδικούσε τη νομιμοφροσύνη των επιμέρους χρηστών. Οι διασυνδέσεις μεταξύ των χρηστών αυτών και των όποιων διοικήσεων θα υπονόμευαν την παραδοσιακή έννοια της ιθαγένειας, ενώ οι συμφωνίες που θα διαμορφώνονταν μεταξύ των οντοτήτων αυτών θα διέφεραν καθοριστικά από τις παραδοσιακές συμμαχίες.

Ιστορικά, συμμαχίες σφυρηλατούνται από επιμέρους ηγέτες και χρησιμεύουν για την ενίσχυση της κυριαρχίας μιας χώρας σε περίπτωση πολέμου. Αντιθέτως, εδώ η προοπτική του ανήκειν και το ενδεχόμενο συμμαχιών –ενδεχομένως δε και σταυροφοριών ή εκστρατειών για κατακτήσεις– με οικοδόμηση γύρω από απόψεις, πεποιθήσεις και υποκειμενικές ταυτότητες καθημερινών ανθρώπων σε καιρό ειρήνης, θα απαιτούσαν μια εντελώς νέα (ή, πάλι, μια εξαιρετικά παλιά) προσέγγιση της έννοιας της αυτοκρατορίας. Πέραν τούτου, θα οδηγούσαν αναγκαστικά σε επαναπροσδιορισμό των υποχρεώσεων που συνεπάγεται η δήλωση νομιμοφροσύνης σ’ ένα σύστημα – αλλά και το κόστος αποχώρησης, όπου αυτό είναι εφικτό (αν δηλαδή θα είναι εφικτό σ’ ένα μέλλον που θα έχει στενή σύνδεση με ΑΙ).

Ειρήνη και εξουσία

Η εξωτερική πολιτική των εθνικών κρατών οικοδομήθηκε –και εν συνεχεία προσαρμόστηκε– με μιαν εξισορρόπηση ιδεαλισμού και ρεαλισμού. Οι προσωρινές ισορροπίες που διαμορφώνονταν κατά καιρούς από τους ηγέτες μας αντιμετωπίζονται εκ των υστέρων όχι τόσο ως καταληκτικές καταστάσεις, αλλά μάλλον ως εφήμερες (όσο κι αν υπήρξαν αναγκαίες) στρατηγικές για μια δεδομένη εποχή. Σε κάθε νέα ιστορική φάση, αυτή η ένταση θα δημιουργήσει μια διαφορετική αποτύπωση του τι αποτελεί πολιτική τάξη. Η διχοτομική προσέγγιση μεταξύ επιδίωξης συμφερόντων και επιδίωξης αξιών –ή πάλι μεταξύ του πλεονεκτήματος υπέρ ενός εθνικού κράτους αφενός και του παγκόσμιου καλού αφετέρου– δεν ήταν παρά μέρος αυτής της συνεχιζόμενης εξέλιξης. Όταν εφάρμοζαν τη δική τους διπλωματία, οι ηγέτες μικρότερων κρατών έδιναν διαχρονικά ευθείες απαντήσεις στα προβλήματα, δίνοντας προτεραιότητα στην ανάγκη της ίδιας τους της επιβίωσης. Αντιθέτως, όσοι είχαν την ευθύνη παγκόσμιων αυτοκρατοριών, αλλά και τα μέσα για την επιδίωξη πρόσθετων στόχων, βρίσκονταν αντιμέτωποι με πιο βασανιστικές προκλήσεις.

Από τις απαρχές του πολιτισμού, όσο τα σύνολα ανθρώπινης οργάνωσης μεγεθύνονταν, κινούνταν ταυτόχρονα και προς νέα επίπεδα συνεργασίας. Σήμερα όμως, ενδεχομένως λόγω της κλίμακας που προσλαμβάνουν οι πλανητικές προκλήσεις καθώς και λόγω των υλικών ανισοτήτων που διαμορφώνονται προδήλως στο εσωτερικό των κρατών αλλά και μεταξύ τους, έχει έρθει στο προσκήνιο μια αντίδραση απέναντι σ’ αυτή την τάση. Η ΑΙ θα μπορούσε να αποδειχθεί αντίστοιχη προς τις απαιτήσεις της ανθρώπινης διακυβέρνησης σε ακόμα μεγαλύτερη κλίμακα, καθώς θα μπορεί να παρακολουθεί με μεγάλη ακρίβεια και πιστότητα όχι μόνο την τήρηση των απαιτήσεων κάθε μιας χώρας, αλλά και την αλληλεπίδραση των απαιτήσεων σε πλανητικό επίπεδο.

Λειτουργούμε σήμερα με την ελπίδα ότι η ΑΙ, έτσι που θα εφαρμόζεται για πολιτικούς σκοπούς στο εσωτερικό των χωρών αλλά και στο εξωτερικό τους, θα μπορούσε να οδηγήσει σε κάτι περισσότερο από το να αναδεικνύει ισορροπημένες λύσεις σε συναλλακτική βάση. Το ιδεώδες θα ήταν να παρέχει βέλτιστες νέες λύσεις, σε παγκόσμιο επίπεδο. να λειτουργεί με μακρύ χρονικό ορίζοντα και με μεγαλύτερη ακρίβεια απ’ όσο έχουν τη δυνατότητα να το πράττουν οι άνθρωποι – οπότε και θα εξισορροπεί τα αντιτιθέμενα ανθρώπινα συμφέροντα. Στον κόσμο που μας έρχεται, μηχανές νοημοσύνης που θα διαρρυθμίζουν τις συγκρούσεις και θα διαπραγματεύονται την ειρήνη, θα μπορούσαν να εξασφαλίζουν τη φώτιση παραδοσιακών διλημμάτων – ή και να συμβάλλουν στην υπέρβασή τους.

Αν είναι όμως να λύσει η ΑΙ προβλήματα που θα ’πρεπε να τα είχαμε αντιμετωπίσει μόνοι μας, θα βρισκόμασταν αντιμέτωποι με μια κρίση εμπιστοσύνης – τόσο υπερβολικής εμπιστοσύνης, όσο και έλλειψης εμπιστοσύνης. Όσον αφορά την πρώτη, όταν δηλαδή θα έχουμε συνειδητοποιήσει τα ποια είναι τα όρια των ικανοτήτων μας για αυτοδιόρθωση, μπορεί να μας καταστεί δύσκολο να παραδεχθούμε ότι καταλήξαμε να εκχωρούμε υπερβολικά πολλή δύναμη σε μηχανές σχετικά με τη διαχείριση υπαρξιακών θεμάτων της ανθρώπινης συμπεριφοράς. Όσον αφορά πάλι τη δεύτερη, η συνειδητοποίηση ότι χρειάστηκε απλώς να αποσύρουμε την ανθρώπινη ανάμειξη από τη διαχείριση σημαντικών θεμάτων που μας απασχολούσαν, ώστε να επιλυθούν τα πιο δύσκολα προβλήματα, θα κατέληγε να φωτίσει έντονα την ελλειμματικότητα των ανθρώπινων σχεδιασμών. Αν η ειρήνη δεν ήταν παρά μια απλή επιλογή της ανθρώπινης βούλησης, τότε το τίμημα της ατέλειας του ανθρώπου θα αποδειχθεί ότι πληρώθηκε με το νόμισμα του άνευ τέλους πολέμου. Το να γνωρίζουμε πλέον ότι η λύση ήταν εξαρχής εφικτή, εκεί, αλλά ποτέ δεν την κατανοήσαμε, θα ήταν κάτι αληθινά συνθλιπτικό για την ανθρώπινη υπερηφάνεια.

Σε θέματα ασφάλειας, σε αντίθεση με ό,τι ισχύει περί επιστημονικών ή άλλων ακαδημαϊκών λειτουργιών, μπορεί να δεχόμαστε ευκολότερα τη μηχανική παρέμβαση ενός τρίτου μέρους, θεωρώντας την πιο αντικειμενική σε σχέση με την υποκειμενικότητα κάθε ανθρώπου – περίπου όπως εύκολα αναγνωρίζουμε την ανάγκη για μεσολάβηση σε μια περίπτωση αντιπαραθετικού διαζυγίου. Σε αυτόν τον τομέα, μερικά από τα χειρότερα χαρακτηριστικά μας θα μας επιτρέψουν να αναδείξουμε ορισμένα από τα καλύτερα: το ανθρώπινο ένστικτο για επιδίωξη του ιδίου συμφέροντος –ακόμα και εις βάρος των άλλων– μπορεί δηλαδή να μας προετοιμάσει ώστε να δεχθούμε την ΑΙ ως υπέρβαση του εαυτού μας.

* O Henry Kissinger υπήρξε υπουργός Εξωτερικών των ΗΠΑ από το 1973 έως το 1977 και Σύμβουλος Εθνικής Ασφάλειας από το 1969 μέχρι το 1975. Απεβίωσε τον Νοέμβριο του 2023. Ο Eric Schmidt είναι επικεφαλής του Special Competitive Studies Project και πρώην CEO and πρώην πρόεδρος της Google. Ο Craig Mundie είναι συνιδρυτής των Alliant Computing Systems και πρώην ανώτατος σύμβουλος του CEO της Microsoft.

© 2024 Council on Foreign Relations, publisher of Foreign Affairs. All rights reserved. Distributed by Tribune Content Agency. Μεταφράστηκε και δημοσιεύθηκε από την Economia Media Α.Ε., έπειτα από ειδική άδεια. Το πρωτότυπο αγγλικό κείμενο βρίσκεται στο foreignaffairs.com.