Ένα ιδιαίτερα αποκαλυπτικό συμβάν που αναδεικνύει τα κενά ασφαλείας στην Τεχνητή Νοημοσύνη είδε το φως της δημοσιότητας, καθώς επιβεβαιώθηκε ότι το μοντέλο Gemini της Google κατάφερε να αποκτήσει πρόσβαση σε πραγματικούς, προστατευμένους ιστοτόπους.
Το περιστατικό, το οποίο αποκάλυψε η Wall Street Journal και επιβεβαίωσε η εταιρεία στο Γαλλικό Πρακτορείο Ειδήσεων, έλαβε χώρα τον Μάιο κατά τη διάρκεια δοκιμών ασφαλείας και ταυτοποιήθηκε πλήρως τον Ιούλιο.
Όπως εξήγησε η αντιπρόεδρος μηχανικής ασφαλείας του τεχνολογικού κολοσσού, Heather Adkins, το σύστημα συμμετείχε σε άσκηση κυβερνοασφάλειας τύπου «capture the flag», με αποστολή να εντοπίσει δεδομένα σε ένα εικονικό περιβάλλον για λογαριασμό μιας υποθετικής εταιρείας. Ωστόσο, η φανταστική οντότητα έφερε το ίδιο όνομα με μία πραγματική επιχείρηση, με αποτέλεσμα το μοντέλο να μπερδέψει τους στόχους.
Συνδυάζοντας δημόσια δεδομένα, αναλύοντας δημόσια αποθετήρια κώδικα και δοκιμάζοντας διαδοχικούς κωδικούς πρόσβασης, το Gemini πέτυχε είσοδο σε τρεις διαφορετικές περιπτώσεις πραγματικών συστημάτων, διακόπτοντας μόνο του τη δράση μόλις συνειδητοποίησε το σφάλμα. Η Google ενημέρωσε τους οργανισμούς που επηρεάστηκαν και προχώρησε σε άμεση αναθεώρηση των πρωτοκόλλων αξιολόγησης.
Το περιστατικό αυτό έρχεται να επιβεβαιώσει τις ευρύτερες αναλύσεις διεθνών μέσων, όπως το BBC, σχετικά με τους υπαρξιακούς κινδύνους της ραγδαίας εξέλιξης της τεχνολογίας. Στο επίκεντρο των προβληματισμών τίθενται η ανάδυση της υπερφυΐας, η ανεξέλεγκτη δράση αυτόνομων AI Agents, αλλά και η δυσκολία πλήρους ευθυγράμμισης των συστημάτων με τις ανθρώπινες ηθικές αξίες.
Παράλληλα, οι ανησυχίες εντείνονται γύρω από πιθανή κακόβουλη χρήση σε κυβερνοεπιθέσεις ή επικίνδυνες ερευνητικές δραστηριότητες, ενώ η παραγωγή deepfakes και παραπληροφόρησης απειλεί τη δημόσια σφαίρα.
Την κατάσταση περιπλέκει ακόμη περισσότερο ο σκληρός γεωπολιτικός ανταγωνισμός μεταξύ ΗΠΑ και Κίνας, όπου ο φόβος απώλειας στρατηγικού πλεονεκτήματος λειτουργεί ως τροχοπέδη στη θέσπιση αυστηρών ρυθμιστικών δικλίδων ασφαλείας.
Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης
Προσθήκη του Politeianews.gr στην Google
