ΥΠΕΡΚΑΤΑΣΚΟΠΟΙ ΜΕ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ
- 26.01.24 14:42
Από την απαρχή της ανθρωπότητας, κάθε εφεύρεση ή ανακάλυψη μπορούσε να χρησιμοποιηθεί με την ίδια ευκολία στην ειρήνη και στον πόλεμο και, συνήθως, συνέβαιναν πολύ γρήγορα και τα δύο. Από τη φωτιά και τον χειροπέλεκυ μέχρι την πυρηνική ενέργεια και τους υπολογιστές, οι ανθρώπινες κοινωνίες φρόντισαν να εξερευνήσουν όλες τις θετικές και τις αρνητικές συνέπειες των εφαρμογών τους και το ίδιο ακριβώς προεξοφλείται πως θα συμβεί και με την τεχνητή νοημοσύνη.
Οι υπηρεσίες πληροφοριών των ΗΠΑ το γνωρίζουν πολύ καλά αυτό και ήδη εξερευνούν τρόπους για να εξοπλίσουν με κατάλληλους Α.Ι. βοηθούς τους πράκτορές τους, ώστε να μην αιφνιδιαστούν από τις εξελίξεις και την κακόβουλή χρήση της ΑΙ από εχθρικά κράτη. Μία ομάδα του Γραφείου του Διευθυντή της Εθνικής Υπηρεσίας Πληροφοριών (ODNI) βρίσκεται σε επικοινωνία με τα κορυφαία ονόματα σε εταιρείες και πανεπιστήμια, επιστρατεύοντας τα καλύτερα μυαλά σε αυτόν τον διανοητικό, τεχνολογικό πόλεμο με την Κίνα. Η μεγάλη πρόκληση είναι να διασφαλιστεί ότι δεν θα ανοίξει κερκόπορτα στα σημαντικά μυστικά του έθνους και πως οι πράκτορες και οι κατάσκοποι των ΗΠΑ θα μπορούν πάντα να διακρίνουν τα αληθινά δεδομένα από κατασκευασμένα deepfakes με σκοπό την παραπληροφόρηση.
«Η κοινότητα πληροφοριών θέλει να επωφεληθεί από τα μεγάλα γλωσσικά μοντέλα που υπάρχουν εκεί έξω, αλλά υπάρχουν πολλοί άγνωστοι», λέει στο Bloomberg ο Tim McKinnon, ειδικός της επιστήμης των δεδομένων, ο οποίος διαχειρίζεται ένα από τα έργα του ODNI, το Bengal. «Ο απώτερος στόχος είναι να μπορούμε να εργαστούμε με ένα μοντέλο με εμπιστοσύνη».
Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΚΛΩΝΟΠΟΙΗΣΕ ΤΟΝ ΜΠΑΙΝΤΕΝ ΚΑΙ ΕΞΑΠΑΤΑ ΨΗΦΟΦΟΡΟΥΣ
Ο κίνδυνος των deep fakes κρέμεται πάνω από τις προεδρικές εκλογές στην Αμερική όχι ως…
Η προσήλωση στην αξιοπιστία και την ασφάλεια αποτελεί μέρος μιας ευρύτερης εκστρατείας του αμερικανικού στρατού και των υπηρεσιών πληροφοριών για την αξιοποίηση της ισχύος της τεχνητής νοημοσύνης, έναντι της Κίνας, η οποία επιδιώκει να ηγηθεί του κλάδου έως το 2030. Η κατάσταση επιφυλακής οδηγεί σε αύξηση των προσλήψεων στην Ουάσιγκτον, καθώς η κυβέρνηση και οι κρατικές υπηρεσίες υιοθετούν την αναδυόμενη τεχνολογία.
«Η κοινότητα των μυστικών υπηρεσιών αντιμετωπίζει την τεχνητή νοημοσύνη με υγιή σκεπτικισμό και ενθουσιασμό», δήλωσε η Emily Harding, διευθύντρια του προγράμματος Εθνικού Τεχνολογικού Προγράμματος Πληροφοριών και Ασφάλειας στο Κέντρο Στρατηγικών και Διεθνών Σπουδών, αναφέροντας ως παραδείγματα την ικανότητα των μεγάλων γλωσσικών μοντέλων να επεξεργάζονται τεράστιες ποσότητες πληροφοριών, αλλά και τις αμφιβολίες σχετικά με την αξιοπιστία των σημερινών μοντέλων. «Πρόκειται για ένα εργαλείο που βρίσκεται στα πρώτα στάδια χρήσης του», δήλωσε η ίδια.
Ο επικεφαλής της τεχνολογίας της Κεντρικής Υπηρεσίας Πληροφοριών, Nand Mulchandani, προβλέπει ότι η τεχνητή νοημοσύνη θα ενισχύσει την παραγωγικότητα, αφομοιώνοντας τεράστιους όγκους περιεχομένου και εντοπίζοντας μοτίβα που θα ήταν δύσκολο ή και αδύνατο να διακρίνει οποιοσδήποτε άνθρωπος. Θεωρεί επίσης πως η Α.Ι. θα προσφέρει έναν βιώσιμο τρόπο στις ΗΠΑ για να ανταγωνιστούν την πολυπληθέστερη Κίνα, σε ό,τι αφορά την στελέχωση των υπηρεσιών πληροφοριών. Τα ανθρώπινα όντα είναι σπουδαία, «αλλά είναι δύσκολο να οργανωθούν σε μεγαλύτερη κλίμακα», δήλωσε ο Mulchandani σε συνέντευξή του. «Η βοήθεια στην κλιμάκωση με την χρήση τεχνολογίας είναι η έξυπνη κίνηση».
Οι υπηρεσίες κατασκοπείας των ΗΠΑ έχουν ήδη αρχίσει να πειραματίζονται με δικά τους προγράμματα τεχνητής νοημοσύνης. Η Κεντρική Υπηρεσία Πληροφοριών ήταν στα πρόθυρα ανάπτυξης ενός συστήματος παρόμοιου με το ChatGPT, που θα παρέχει στους αναλυτές καλύτερη πρόσβαση σε πληροφορίες ανοικτού κώδικα.
ΤΟ ΣΤΟΙΧΕΙΟ ΠΟΥ ΚΑΝΕΙ ΠΡΑΓΜΑΤΙΚΑ ΕΛΚΥΣΤΙΚΗ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΕΙΝΑΙ Η ΔΥΝΑΤΟΤΗΤΑ ΤΗΣ ΝΑ ΔΙΑΚΡΙΝΕΙ ΤΗΝ ΟΥΣΙΑ ΑΝΑΜΕΣΑ ΣΤΟ ΘΟΡΥΒΟ ΤΩΝ «ΑΠΕΙΡΩΝ» ΔΕΔΟΜΕΝΩΝ ΠΟΥ ΣΥΛΛΕΓΟΝΤΑΙ ΚΑΘΗΜΕΡΙΝΑ, ΚΑΘΩΣ ΚΑΙ ΝΑ ΑΝΑΠΤΥΣΣΕΙ ΔΗΜΙΟΥΡΓΙΚΟΥΣ ΤΡΟΠΟΥΣ ΕΞΕΤΑΣΗΣ ΤΩΝ ΠΡΟΒΛΗΜΑΤΩΝ, ΣΧΟΛΙΑΖΕΙ ΑΝΑΛΥΤΗΣ ΤΩΝ ΥΠΗΡΕΣΙΩΝ ΠΛΗΡΟΦΟΡΙΩΝ ΠΟΥ ΜΙΛΗΣΕ ΥΠΟ ΤΟ ΚΑΘΕΣΤΩΣ ΑΝΩΝΥΜΙΑΣ
Το στοιχείο που κάνει πραγματικά ελκυστική την τεχνητή νοημοσύνη είναι η δυνατότητά της να διακρίνει την ουσία ανάμεσα στο θόρυβο των «άπειρων» δεδομένων που συλλέγονται καθημερινά, καθώς και να αναπτύσσει δημιουργικούς τρόπους εξέτασης των προβλημάτων, σχολιάζει αναλυτής των υπηρεσιών πληροφοριών που μίλησε στο Bloomberg υπό το καθεστώς ανωνυμίας. Παράλληλα όμως με τα θετικά στοιχεία, συμβαδίζουν και οι κίνδυνοι, όπως οι τρόποι παρέμβασης στα μοντέλα της τεχνητής νοημοσύνης.
Ο McKinnon εκτιμά ότι η Α.Ι. είναι ευάλωτη τόσο σε εσωτερικές απειλές όσο και σε εξωτερικές παρεμβάσεις: άνθρωποι που προσπαθούν να ξεγελάσουν τα συστήματα ώστε να αποκαλύψουν απόρρητες πληροφορίες σε μια προσπάθεια να «σπάσουν» το μοντέλο, ή και το ακριβώς αντίθετο: ένα παραβιασμένο σύστημα «που προσπαθεί να αποσπάσει πληροφορίες από ανθρώπους.
Το πρόγραμμα Bengal του McKinnon εξερευνά τα σημάδια αλγοριθμικής «προκατάληψης» και τους περιορισμούς της Α.Ι. και διευθύνεται από έναν ελάχιστα γνωστό οργανισμό του ODNI, τον IARPA που κάνει προχωρημένη έρευνα σε ζητήματα πληροφοριών. Το Bengal έχει συγκεντρώσει δεδομένα από εταιρείες, συμπεριλαμβανομένης μιας μονάδας της Amazon.com Inc., αλλά ο McKinnon αρνήθηκε να επιβεβαιώσει αν συνεργάζεται με συγκεκριμένες εταιρείες.
Το πρόγραμμα στοχεύει να μετριάσει ορισμένους από τους κινδύνους της τεχνητής νοημοσύνης, αναπτύσσοντας τρόπους αντιμετώπισης πιθανών προκαταλήψεων ή εσφαλμένων αποτελεσμάτων, όπως οι «παραισθήσεις», όταν ένα πρόγραμμα κατασκευάζει πληροφορίες ή παραδίδει λανθασμένο αποτέλεσμα, κάτι που δεν είναι ασυνήθιστο.
«Αυτή τη στιγμή υπάρχουν μόνο λίγα μοντέλα που είναι διαθέσιμα στο κοινό, αλλά θα γίνουν πιο διαδεδομένα και οι τρόποι με τους οποίους θα εκπαιδεύονται θα μπορούσαν τους δημιουργήσουν προκαταλήψεις», δήλωσε ο McKinnon. «Εάν υπάρχει ένα “τοξικό” μοντέλο, θέλουμε να είμαστε σε θέση να το περιορίσουμε».