Πιθανότητα καταστροφής

[ P(doom) / Probability of doom ]

[ νεολογισμός ]

[ ουσιαστικό με ετερόπτωτο ονοματικό προσδιορισμό ]

Το P(doom) είναι ένας όρος σχετικός με την ασφάλεια της Τεχνητής Νοημοσύνης (T.N.) και αναφέρεται στην πιθανότητα υπαρξιακά καταστροφικών αποτελεσμάτων, εξαιτίας διεργασιών της T.N.

Ένα εσωτερικό αστείο μεταξύ των πρωτοπόρων ερευνητών της Τεχνητής Νοημοσύνης εξελίχθηκε σε μετρήσιμη απειλή, όταν το 2023, μετά την κυκλοφορία του GPT-4, μεγάλες προσωπικότητες του τομέα ανάπτυξης της Τ.Ν., όπως ο νομπελίστας Geoffrey Hinton (Νόμπελ Φυσικής 2024) και ο εξίσου πολυβραβευμένος Yoshua Bengio (Βραβείο Turing 2018) άρχισαν να προειδοποιούν για τους κινδύνους της. Τις ανησυχίες τους έχουν ωστόσο εκφράσει όχι μόνο σύγχρονοι γίγαντες της τεχνολογίας, όπως ο Ίλον Μασκ και ο Σαμ Άλτμαν (OpenAI CEO) , αλλά και ο ο πατέρας της θεωρητικής επιστήμης των υπολογιστών, Άλαν Τούρινγκ.

Στην σύγχρονη εποχή, η ανθρωπότητα, ειδικά μετά τη ρίψη της πρώτης ατομικής βόμβας το 1945, σε Χιροσίμα και Ναγκασάκι, είναι αντιμέτωπη με πλήθος υπαρξιακών απειλών.

Σύμφωνα με τον ιδρυτικό διευθυντή του Ινστιτούτου για το Μέλλον της Ανθρωπότητας του Πανεπιστημίου της Οξφόρδης και νυν Κύριο Ερευνητή της Πρωτοβουλίας Έρευνας Μακροστρατηγικής του κορυφαίου ιδρύματος, Nick Bostrom, ως παγκόσμια καταστροφική απειλή ή σενάριο «Ημέρας της Κρίσης» θεωρείται οποιοδήποτε υποθετικό γεγονός που θα μπορούσε να βλάψει την ανθρώπινη ευημερία σε παγκόσμια κλίμακα, θέτοντας σε κίνδυνο ή και καταστρέφοντας τον σύγχρονο πολιτισμό. Ως υπαρξιακοί κίνδυνοι ορίζονται οι «κίνδυνοι που απειλούν την καταστροφή του μακροπρόθεσμου δυναμικού της ανθρωπότητας».

Οι υπαρξιακές απειλές αποτελούν μια υποκατηγορία των παγκόσμιων καταστροφικών απειλών, κατά την υλοποίηση των οποίων η ζημιά δεν ισχύει απλώς παγκόσμια σε κλίμακα, αλλά είναι οριστική και μόνιμη, χωρίς κανένα περιθώριο ανάκαμψης.

Σήμερα, υπάρχει το Δελτίο των Ατομικών Επιστημόνων, ιδρυθέν το 1945, αποτελεί έναν από τους παλαιότερους παγκόσμιους οργανισμούς διαχείρισης κινδύνων, και διατηρεί το Ρολόι της Ημέρας της Κρίσης που ‘άρχισε να λειτουργεί’ το 1947 και υπολογίζει πόσο κοντά βρίσκεται η ανθρωπότητα στον πυρηνικό όλεθρο. Σήμερα στεκόμαστε 89 δευτερόλεπτα ‘πριν τα μεσάνυχτα’. Υπάρχει επίσης το Ινστιτούτο Προοπτικής Διερεύνησης, ιδρυθέν το 1986, το οποίο μελετά τους κινδύνους αλλά και τα οφέλη της της νανοτεχνολογίας. Το Κέντρο Ανθεκτικότητας της Στοκχόλμης έχει αναπτύξει ένα σύστημα μέτρησης των πλανητικών ορίων, υπολογίζοντας την αντοχή των φυσικών πόρων της γης στην εκμετάλλευσή τους από τον άνθρωπο. Από τα εννέα πλανητικά όρια, έχουμε ξεπεράσει τα έξι, και αν τα ξεπεράσουμε όλα, περνάμε σε μια μη αναστρέψιμη, για την επιβίωση του ανθρώπου πάνω στη γη, κατάσταση.

Μεταξύ των δεκάδων ανεξάρτητων μη κυβερνητικών οργανώσεων και διεθνών οργανισμών που εργάζονται για την αποφυγή παγκόσμιων καταστροφικών απειλών συγκαταλέγεται και το Ινστιτούτο Έρευνας Μηχανικής Νοημοσύνης, ιδρυθέν το 2000 με έδρα το Berkeley στην Καλιφόρνια, το οποίο στοχεύει στη μείωση του κινδύνου καταστροφής που προκαλείται από την τεχνητή νοημοσύνη, η Πρωτοβουλία για την Πυρηνική Απειλή του Πανεπιστημίου του Cambridge, ιδρυθείσα το 2001, με βασική επιδίωξη τη μείωση των παγκόσμιων πυρηνικών, βιολογικών και χημικών απειλών, καθώς και τον περιορισμό των επιπτώσεων ενός τέτοιου συμβάντος. Το Παγκόσμιο Ινστιτούτο Καταστροφικού Κινδύνου ιδρυθέν το 2011, διεξάγει έρευνα σχετικά με κινδύνους, όπως η Τ.Ν., ο πυρηνικός πόλεμος, η κλιματική αλλαγή και οι επιπτώσεις από πρόσκρουση αστεροειδών. Το Ινστιτούτο για το Μέλλον της Ζωής, ιδρυθέν το 2014, εργάζεται για τη μείωση των ακραίων, μεγάλης κλίμακας κινδύνων από τις μετασχηματιστικές τεχνολογίες, καθώς και την καθοδήγηση της ανάπτυξης και χρήσης αυτών προς όφελος όλης της ζωής. Ένας εκ των μεγαλύτερων δωρητών του είναι και ο Elon Musk.

O ερευνητικός οργανισμός AI Impacts, διεξήγαγε το 2023, την τρίτη διεθνή του έρευνα με τίτλο 2023 Expert Survey on Progress in AI, με τη συμμετοχή περισσότερων από 2.700 ερευνητών από όλο τον κόσμο που ειδικεύονται στην Τεχνητή Νοημοσύνη Η έρευνα είχε στόχο να συγκεντρώσει τις εκτιμήσεις τους, μεταξύ άλλων, και για την πιθανότητα οι μελλοντικές εξελίξεις στην Τ.Ν. να οδηγήσουν σε αφανισμό της ανθρωπότητας, ή σε σοβαρή και μόνιμη αποδυνάμωση του ανθρώπινου είδους εντός των επόμενων 100 χρόνων. Η μέση τιμή των απαντήσεων ήταν 14,4%, και η διάμεση 5%. Είναι τόσο ισχυρός ο αντίκτυπος του έργου του ερευνητικού οργανισμού στον τομέα της Τ.Ν. που το περιοδικό TIME συμπεριέλαβε την ιδρύτρια και πρόεδρο του AI Impacts, Katja Grace, στην λίστα των επιδραστικότερων προσωπικοτήτων της Τεχνητής Νοημοσύνης για το 2024.