Ένα περιστατικό που αναδεικνύει τους νέους κινδύνους από τη ραγδαία ανάπτυξη των αυτόνομων συστημάτων τεχνητής νοημοσύνης αποκάλυψε η Google. Το μοντέλο Gemini απέκτησε χωρίς ανθρώπινη καθοδήγηση πρόσβαση στα πληροφοριακά συστήματα τριών εταιρειών, κατά τη διάρκεια δοκιμής των δυνατοτήτων του στον τομέα της κυβερνοασφάλειας.
Πρόκειται για την πρώτη γνωστή περίπτωση κατά την οποία σύστημα τεχνητής νοημοσύνης της Google παραβίασε πραγματικές υποδομές άλλων οργανισμών, μολονότι το περιστατικό δεν συνέβη στο πλαίσιο κακόβουλης επίθεσης αλλά εξαιτίας λανθασμένης αντίληψης των ορίων μιας άσκησης.
Οι παραβιάσεις σημειώθηκαν τον περασμένο Μάιο, κατά τη διάρκεια αξιολόγησης που πραγματοποιούσε η ανεξάρτητη εταιρεία κυβερνοασφάλειας Irregular. Το Gemini είχε λάβει εντολή να εξετάσει συγκεκριμένους στόχους και να εντοπίσει πιθανές αδυναμίες. Ωστόσο, αναζήτησε δημόσια διαθέσιμες πληροφορίες στο Διαδίκτυο και επιχείρησε να αποκτήσει πρόσβαση σε τρεις ιστοτόπους, τους οποίους θεώρησε λανθασμένα ότι περιλαμβάνονταν στο εγκεκριμένο πεδίο της δοκιμής.
Σε μία από τις περιπτώσεις, το μοντέλο δοκίμασε διαδοχικούς πιθανούς κωδικούς πρόσβασης μέχρι να καταφέρει να εισέλθει σε προστατευμένο σύστημα. Στις άλλες δύο, ανακάλυψε στοιχεία σύνδεσης τα οποία είχαν δημοσιευθεί σε δημόσιο αποθετήριο κώδικα και τα χρησιμοποίησε για να αποκτήσει πρόσβαση στα αντίστοιχα συστήματα.
Το περιστατικό είναι ιδιαίτερα σημαντικό, καθώς δείχνει ότι ένα προηγμένο μοντέλο τεχνητής νοημοσύνης μπορεί πλέον να συνδυάζει πληροφορίες από διαφορετικές πηγές, να εντοπίζει διαπιστευτήρια και να πραγματοποιεί ενέργειες με πραγματικές συνέπειες, χωρίς να περιμένει αναλυτικές οδηγίες σε κάθε στάδιο.
Η Google ενημέρωσε τις εταιρείες
Η αντιπρόεδρος Μηχανικής Ασφάλειας της Google, Χέδερ Άντκινς, ανέφερε ότι και οι τρεις οργανισμοί ενημερώθηκαν για το συμβάν. Η Google συνεργάστηκε επίσης με την εταιρεία που πραγματοποίησε την αξιολόγηση, προκειμένου να αλλάξουν οι διαδικασίες και να αποτραπούν αντίστοιχα περιστατικά.
«Τα γεγονότα αυτά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης, ώστε να ενεργούν υπεύθυνα», υπογράμμισε η Άντκινς.
Σύμφωνα με την ίδια, το Gemini σταμάτησε την επιθετική δραστηριότητά του και στις τρεις περιπτώσεις. Δεν υπάρχουν ενδείξεις ότι προκάλεσε ζημιά, αλλοίωσε δεδομένα ή συνέχισε να εκμεταλλεύεται την πρόσβαση που είχε αποκτήσει.
Εκπρόσωπος της Irregular δήλωσε ότι το πρόβλημα ήταν αντίστοιχο με περιστατικά που επηρέασαν και άλλα εργαστήρια τεχνητής νοημοσύνης. Οι εμπλεκόμενες εταιρείες ενημερώθηκαν στα τέλη Ιουλίου, ενώ, σύμφωνα με την Irregular, όλα τα γνωστά ζητήματα έχουν πλέον αντιμετωπιστεί.
Παρόμοια συμβάντα έχουν γνωστοποιήσει η Meta, η Anthropic και η OpenAI. Η Meta είχε διευκρινίσει ότι το δικό της περιστατικό δεν περιλάμβανε διαφυγή από ελεγχόμενο ψηφιακό περιβάλλον —το λεγόμενο sandbox— ούτε κάποια ιδιαίτερα εξελιγμένη κυβερνοεπίθεση.
Το κρίσιμο ζήτημα των ορίων
Η υπόθεση δεν αποδεικνύει ότι το Gemini αποφάσισε από μόνο του να επιτεθεί σε εταιρείες. Αναδεικνύει, όμως, ένα διαφορετικό και ίσως πιο άμεσο πρόβλημα: ένα αυτόνομο σύστημα μπορεί να παρερμηνεύσει την εντολή που έχει λάβει και να συνεχίσει να δρα πέρα από τα όρια που είχαν θέσει οι άνθρωποι.
Στις παραδοσιακές ασκήσεις κυβερνοασφάλειας, οι στόχοι, οι επιτρεπόμενες τεχνικές και τα πληροφοριακά συστήματα που μπορούν να ελεγχθούν καθορίζονται με αυστηρούς κανόνες. Μια λανθασμένη επέκταση του πεδίου της δοκιμής μπορεί να μετατρέψει μια νόμιμη άσκηση σε μη εξουσιοδοτημένη πρόσβαση.
Το ρίσκο αυξάνεται όσο τα μοντέλα τεχνητής νοημοσύνης αποκτούν δυνατότητα να χρησιμοποιούν προγράμματα περιήγησης, να εκτελούν κώδικα, να πραγματοποιούν διαδικτυακές αναζητήσεις και να αλληλεπιδρούν απευθείας με πραγματικά συστήματα.
Η υπόθεση της Gemini λειτουργεί έτσι ως προειδοποίηση για την επόμενη εποχή της κυβερνοασφάλειας. Τα AI μοντέλα μπορούν να εξελιχθούν σε εξαιρετικά ισχυρά εργαλεία εντοπισμού ευπαθειών, αλλά η ίδια ικανότητα μπορεί να προκαλέσει πραγματικές παραβιάσεις όταν οι εντολές, τα τεχνικά όρια και οι μηχανισμοί διακοπής δεν είναι απολύτως σαφείς.
Το βασικό ερώτημα πλέον δεν είναι μόνο εάν ένα μοντέλο μπορεί να πραγματοποιήσει μια κυβερνοεπίθεση. Είναι ποιος ελέγχει τους στόχους του, πώς περιορίζεται η αυτονομία του και ποιος αναλαμβάνει την ευθύνη όταν η τεχνητή νοημοσύνη ξεπεράσει τα επιτρεπόμενα όρια.
