Τους τελευταίους έξι μήνες, ορισμένες από τις ειδήσεις που καταφτάνουν από τα εργαστήρια ανάπτυξης της Τεχνητής Νοημοσύνης δεν έχουν σε τίποτα να ζηλέψουν από τα κινηματογραφικά, δυστοπικά σενάρια επιστημονικής φαντασίας. Κορυφαία μοντέλα ΑΙ επιδεικνύουν επικίνδυνες ικανότητες όπως «ενδείξεις εξαπάτησης, ψεύδους και αυτοσυντήρησης», προειδοποιεί μιλώντας στους Financial Times ένας από τους «νονούς» της ΑΙ, ο Yoshua Bengio, που στο παρελθόν έχει τιμηθεί με βραβείο Turing για τη συνεισφορά του στον κλάδο.

Πρόσφατα, το μοντέλο Claude Opus της Anthropic εκβίασε μηχανικούς σε ένα φανταστικό σενάριο, στο οποίο απειλούνταν με αντικατάσταση από άλλο σύστημα. Έρευνα της Palisade έδειξε ότι το μοντέλο o3 της OpenAI αρνήθηκε ρητές εντολές προγραμματιστών που του ζητούσαν να απενεργοποιηθεί.

Ο Bengio θεωρεί αυτά τα περιστατικά «πολύ τρομακτικά» όπως λέει: «Δεν θέλουμε να δημιουργήσουμε έναν ανταγωνιστή των ανθρώπων σε αυτόν τον πλανήτη, ειδικά αν είναι εξυπνότερος από εμάς», σχολιάζει χαρακτηριστικά. «Αυτή τη στιγμή, πρόκειται για ελεγχόμενα πειράματα αλλά με ανησυχεί ότι κάποια μελλοντική έκδοση ίσως είναι στρατηγικά αρκετά έξυπνη ώστε να αντιλαμβάνεται τις προθέσεις μας εγκαίρως και να μας επιβάλλεται με μορφές εξαπάτησης που θα είναι αδύνατο να προβλέψουμε. Νομίζω ότι αυτή τη στιγμή παίζουμε με τη φωτιά».

O Bengio δεν περιορίζεται στις δυσοίωνες «προφητείες» και έχει αποφασίσει να κάνει κάτι για αυτό, ιδρύοντας τον μη κερδοσκοπικό οργανισμό LawZero με αποστολή την ανάπτυξη ασφαλέστερων μοντέλων τεχνητής νοημοσύνης.

Ο Καναδός καθηγητής και συνδημιουργός των βάσεων δεδομένων deep learning, καταδικάζει τη «φρενήρη» εμπορική κούρσα των μεγάλων εταιρειών, όπως η OpenAI και η Google, κατηγορώντας τες πως δίνουν προτεραιότητα στην ισχύ των μοντέλων ΑΙ εις βάρος της ασφάλειας.

Η LawZero ήδη έχει συγκεντρώσει σχεδόν 30 εκατ. δολάρια από φιλανθρωπικές πρωτοβουλίες και δωρεές, και ανάμεσα στους υποστηρικτές της είναι ο μηχανικός λογισμικού του Skype Jaan Tallinn και το ίδρυμα του πρώην CEO της Google, Έρικ Σμιντ.

Η LawZero στοχεύει στην ανάπτυξη νέας γενιάς «ασφαλών» συστημάτων ΤΝ που θα δίνουν απαντήσεις με διαφανή αιτιολόγηση, χωρίς να προσπαθούν απλώς να ικανοποιήσουν τον χρήστη. Για τον σκοπό αυτό θα περιλαμβάνουν μηχανισμούς αξιολόγησης των παραγόμενων απαντήσεων και θα παρέχουν τη δυνατότητα παρακολούθησης των υφιστάμενων μοντέλων.

Ο Bengio, ο οποίος αποχωρεί από τη θέση του επιστημονικού διευθυντή στο ινστιτούτο Mila του Κεμπέκ για να διοικήσει τη LawZero, κρούει τον κώδωνα του κινδύνου λέγοντας πως το χειρότερο σενάριο είναι όντως η εξαφάνιση της ανθρωπότητας, αν αναπτυχθούν υπερευφυείς ΑΙ οντότητες που δεν είναι ευθυγραμμισμένες με τα ανθρώπινα συμφέροντα.

Η παρέμβασή του δεν είναι αποσυνδεδεμένη από τις τελευταίες εξελίξεις και έρχεται ακριβώς σε μία περίοδο που η OpenAI προσπαθεί να ελιχθεί γύρω από τις μη κερδοσκοπικές της «ρίζες», επιχειρώντας να λειτουργήσει ως ανταγωνιστική επιχείρηση. Ο ίδιος δεν εμπιστεύεται πως ο κολοσσός της ΑΙ ότι θα σεβαστεί τους ιδρυτικούς του σκοπούς: «Οι εταιρείες έχουν κίνητρο το κέρδος. Οι μη κερδοσκοπικοί οργανισμοί όχι».