Σύντομα όλοι θα έχουμε ρομποτικούς μπάτλερ, έναν στρατό από AI agents («βοηθούς» ή «πράκτορες τεχνητής νοημοσύνης» στα ελληνικά) που θα προβλέπουν τις ανάγκες μας και θα ικανοποιούν τις επιθυμίες μας. Τουλάχιστον, αυτό είναι η τεχνολογική υπόσχεση της στιγμής. Από το να κλείσουμε τραπέζι σε εστιατόριο μέχρι το να ζητήσουμε ραντεβού από το πρόσωπο με το οποίο φλερτάρουμε διαδικτυακά, θα μπορούμε να παραμένουμε νοητικά άπραγοι, «κλείνοντας το μυαλό μας σε ένα βάζο», ενώ μια δέσμη συστημάτων τεχνητής νοημοσύνης θα αναλαμβάνει να διεκπεραιώσει τις λεπτομέρειες της ζωής για εμάς. Γιατί να χάνουμε χρόνο με το φλερτ, όταν ο «ρομποτικός υπηρέτης» μπορεί να αναλάβει το κομμάτι της σαγήνευσης; Στην επιδίωξη αυτού του μέλλοντος, οι εταιρείες που κυριαρχούν στην αγορά ενσωματώνουν ΑΙ agents στο «νευρικό σύστημα» του ψηφιακού κόσμου. Όμως, αυτό που συμβαίνει στα παραμύθια, συμβαίνει και στην πραγματική ζωή: οι μαγικές λύσεις συνοδεύονται από μπελάδες.  

Απόλυτη πρόσβαση στην ψηφιακή ζωή

Ένας ΑΙ agent είναι ένα σύνθετο σύστημα που συνδυάζει μοντέλα Τεχνητής Νοημοσύνης, λογισμικό και υποδομές cloud. Για να «λειτουργήσει» −να συνοψίσει τα email σας ή να ξοδέψει τα χρήματά σας− χρειάζεται σχεδόν απόλυτη πρόσβαση στην ψηφιακή σας ζωή.

Δεν μιλάμε για τη γνώριμη άδεια πρόσβασης στις επαφές, αλλά για «root» πρόσβαση σε ολόκληρη τη συσκευή. Το ιστορικό περιήγησης, τα στοιχεία της πιστωτικής κάρτας, τα προσωπικά μηνύματα και τα δεδομένα τοποθεσίας είναι έτοιμα να γίνουν «τροφή» για την ΤΝ − σωρευμένα σε μια επισφαλή «στοίβα» αδιαχώριστων δεδομένων.

Η ώθηση προς τους ΑΙ agents έρχεται ενώ ο κλάδος παλεύει ακόμη να πετύχει ουσιαστική κερδοφορία. Παρά τα υψηλά έσοδα, το τεράστιο κόστος ανάπτυξης της Τεχνητής Νοημοσύνης ασκεί πιέσεις για ισοσκελισμό. Αυτό εξηγεί τη φαντασμαγορική υπόσχεση της agentic AI («πρακτορικής τεχνητής νοημοσύνης»), αλλά και γιατί βασικά διδάγματα για την ιδιωτικότητα και την ασφάλεια ψηφιακών δεδομένων παραμερίζονται.

Υπό μια έννοια, το πρόβλημα είναι θεμελιώδες: υπάρχει έντονη σύγκρουση ανάμεσα στην ιδιωτικότητα και την ασφάλεια, από τη μια μεριά, και στο όραμα ενός πολύπλοκου συστήματος με ευρεία πρόσβαση στα δεδομένα μας, από την άλλη. Ήδη, οι κίνδυνοι είναι ορατοί. Έρευνες έχουν δείξει ότι AI agents μπορούν να «ξεγελαστούν» ώστε να αποκαλύψουν ευαίσθητα δεδομένα ή να χειραγωγηθούν από χάκερ για να προβούν σε επιβλαβείς ενέργειες − από την εξαγωγή εμπιστευτικού κώδικα μέχρι την πρόκληση χάους στα σπίτια, ενεργοποιώντας «έξυπνες» συσκευές.

Ιδιωτικότητα επικοινωνιών και ανταγωνισμός 

Ακόμη πιο ανησυχητικό είναι η απειλή στην ιδιωτικότητα των επικοινωνιών. Πρόσφατα αποκαλύφθηκε ότι η Siri μετέδιδε στο cloud απομαγνητοφωνήσεις φωνητικών μηνυμάτων του WhatsApp, στο πλαίσιο του λανσαρίσματος του συστήματος Τεχνητής Νοημοσύνης Apple Intelligence. Αυτό παραβιάζει τη λογική της διατερματικής κρυπτογράφησης (end-to-end) του WhatsApp, αφού προσθέτει την Apple ως ένα ακόμη «τέρμα» και εξανεμίζει έτσι την εγγύηση ότι μόνο οι συνομιλητές έχουν πρόσβαση στο περιεχόμενο.

Παράλληλα, ο τρόπος που αναπτύσσονται οι ΑΙ agents απειλεί και τον ανταγωνισμό. Τα συστήματα αυτά παρακάμπτουν τα APIs (Application Programming Interfaces – διεπαφές προγραμματισμού εφαρμογών), δηλαδή τις «επίσημες εισόδους» για πρόσβαση σε δεδομένα από εφαρμογές τρίτων. Αντί να πληρώσουν, τα συστήματα αυτά θα μπορούσαν δυνάμει να εξαγάγουν τα δεδομένα των ανταγωνιστών με άλλους τρόπους, όπως αποκτώντας πρόσβαση σε οτιδήποτε εμφανίζεται στις οθόνες των χρηστών. Οι εταιρείες που ελέγχουν αυτούς τους agents θα ήταν έτσι σε θέση να συγκεντρώσουν τέτοια δεδομένα σε επίπεδο διεπαφής (interface level data) από δισεκατομμύρια εφαρμογές της agentic AI, αποκτώντας έτσι πολύτιμα στοιχεία για την αγορά, στοιχεία τα οποία όσοι δημιουργούν σχετικές εφαρμογές και υπηρεσίες δεν θα ήθελαν να παραδώσουν στους ανταγωνιστές τους.

Η απειλή στην ιδιωτικότητα, την ασφάλεια και τον ανταγωνισμό εντείνεται επειδή οι agents δεν προσφέρονται ως προαιρετικές εφαρμογές. Οι κατασκευαστές λειτουργικών συστημάτων −Apple, Google, Microsoft− τους ενσωματώνουν στον πυρήνα των πλατφορμών τους, καθιστώντας τους σχεδόν υποχρεωτικούς.

Με απλά λόγια, η τρέχουσα πορεία οδηγεί στην κατάργηση της ιδιωτικότητας και της ασφάλειας στο επίπεδο των εφαρμογών. Δεν θα είναι δυνατόν για εφαρμογές όπως το Signal, που βασίζονται σε ισχυρή και διαφανή κρυπτογράφηση, να συνεχίσουν να παρέχουν εγγυήσεις ιδιωτικότητας, αν οι κατασκευαστές συσκευών επιμένουν να διαρρηγνύουν το φράγμα ανάμεσα σε εφαρμογές και λειτουργικό. Το να καταλήγουν τα προσωπικά σας μηνύματα στo Signal σε έναν «χυλό» μη διαφοροποημένων δεδομένων, τα οποία συνδέονται με cloud servers στην υπηρεσία των φιλοδοξιών AI agents, συνιστά μια επικίνδυνη παραίτηση ευθύνης. 

Τι πρέπει να γίνει

Ευτυχώς όμως δεν είναι ακόμη αργά. Πολλά πράγματα μπορούν ακόμη να γίνουν, ιδίως σε ό,τι αφορά την προστασία της ιερότητας των προσωπικών δεδομένων. Χρειάζεται μια θεμελιώδης αλλαγή στον τρόπο ανάπτυξης και διάθεσης των ΑΙ agents. Πρώτον, η ιδιωτικότητα πρέπει να είναι η προεπιλογή και ο έλεγχος να παραμένει στα «χέρια» των ίδιων των προγραμματιστών των εφαρμογών, που δρουν για λογαριασμό των χρηστών. Οι προγραμματιστές πρέπει να μπορούν να χαρακτηρίζουν μια εφαρμογή ως «ευαίσθητη» και να αποκλείουν την πρόσβαση στους agents, σε επίπεδο λειτουργικού συστήματος και πέρα από αυτό. Αυτό δεν πρέπει να αποτελεί μια «θαμμένη» ρύθμιση, αλλά έναν σαφή, τεκμηριωμένο μηχανισμό, αντίστοιχο με το Global Privacy Control.

Δεύτερον, η απόλυτη διαφάνεια πρέπει να γίνει κανόνας. Αόριστες διαβεβαιώσεις και μάρκετινγκ δεν αρκούν πλέον. Οι κατασκευαστές λειτουργικών συστημάτων οφείλουν να είναι σαφείς για την αρχιτεκτονική τους: σε ποια δεδομένα έχουν πρόσβαση οι agents, πώς χρησιμοποιούνται και ποια μέτρα λαμβάνονται για την προστασία των δεδομένων.

Αυτά τα μέτρα είναι το αναγκαίο ελάχιστο. Πρέπει να συνοδευτούν από αλλαγές στον σχεδιασμό των λειτουργικών συστημάτων, ώστε να θωρακίζουν τα δεδομένα από την πρόσβαση agents, και από σοβαρές επενδύσεις στην έρευνα κυβερνοασφάλειας. Διαφορετικά, κινδυνεύουμε να έρθουμε αντιμέτωποι με ένα μέλλον όπου λίγες ισχυρές εταιρείες θα αποφασίζουν ότι η ευκολία του να κλείνεις τραπέζι ή να οργανώνεις κάποιες δουλειές μέσω Τεχνητής Νοημοσύνης είναι πιο σημαντική από την κυβερνοασφάλεια, τον υγιή ανταγωνισμό και το δικαίωμα στην ιδιωτική επικοινωνία.

©The Economist. Μεταφράστηκε και δημοσιεύθηκε από την Economia Media Α.Ε., έπειτα από ειδική άδεια. Το πρωτότυπο αγγλικό κείμενο βρίσκεται στο www.economist.com