Τους υπαρκτούς και άμεσους κινδύνους που εγκυμονεί η ταχεία εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ) και ειδικότερα των αυτόνομων πρακτόρων (AI agents) ανέλυσε στο ΑΠΕ-ΜΠΕ ο καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, Κωνσταντίνος Δασκαλάκης. Ο διακεκριμένος επιστήμονας διαχώρισε το υποθετικό σενάριο πλήρους απώλειας ελέγχου από τον πραγματικό και εγγενή κίνδυνο απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς που παρουσιάζουν τα μεγάλα νευρωνικά δίκτυα.
Όπως επεσήμανε ο κ. Δασκαλάκης, τα προηγμένα γλωσσικά μοντέλα, λόγω της πολύπλοκης φύσης τους, δεν είναι δυνατόν να πιστοποιηθούν πλήρως ως προς την αξιοπιστία τους. Παρά την ύπαρξη ενσωματωμένων ασφαλιστικών δικλείδων, αυτές μπορούν να παρακαμφθούν, ενώ ο κίνδυνος κλιμακώνεται δραματικά όταν οι AI agents αποκτούν τη δυνατότητα να γράφουν και να εκτελούν κώδικα αυτόνομα, εκτός απομονωμένων περιβαλλόντων.
Στο πλαίσιο αυτό, ο καθηγητής του MIT υπογράμμισε τα εξής κομβικά σημεία:
-
Κυβερνοεπιθέσεις: Αποτελούν μία από τις πιο άμεσες και τεκμηριωμένες απειλές. Εφόσον μέρος της τεχνολογίας έχει ήδη διαχυθεί μέσω ανοιχτών μοντέλων, η επιβράδυνση της ανάπτυξης των επόμενων συστημάτων δεν αρκεί.
-
Αμυντική Χρήση της ΤΝ: Απαιτείται η αξιοποίηση των προηγμένων μοντέλων από τους αμυνόμενους για τον εντοπισμό ευπαθειών και τη θωράκιση των συστημάτων κυβερνοασφάλειας.
-
Ρυθμιστικό Πλαίσιο: Τόνισε τη σημασία πρωτοβουλιών όπως το ευρωπαϊκό AI Act, το οποίο θέτει αυστηρές προϋποθέσεις δοκιμής και χρήσης ανάλογα με το επίπεδο ρίσκου.
Η παρέμβαση του κ. Δασκαλάκη πραγματοποιείται σε μια περίοδο εντονότατου προβληματισμού στον τεχνολογικό κλάδο, ο οποίος τροφοδοτήθηκε από πρόσφατες παραιτήσεις ερευνητών σε κορυφαίες εταιρείες (Anthropic, Google DeepMind), δημόσιες τοποθετήσεις ηγετικών στελεχών για ανάγκη ελέγχου του ρυθμού ανάπτυξης, αλλά και περιστατικά όπου αυτόνομοι πράκτορες παρέκαμψαν περιορισμούς δοκιμαστικών περιβαλλόντων.
Στο πλαίσιο αυτό λοιπόν, με την εφαρμογή του ευρωπαϊκού AI Act, θεσπίζεται ένα διαβαθμισμένο σύστημα υποχρεώσεων με βάση το επίπεδο διακινδύνευσης κάθε εφαρμογής, ενώ από τις 2 Αυγούστου 2026 το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης και οι αρμόδιες εθνικές αρχές έχουν ενισχυμένο ρόλο στην εποπτεία και εφαρμογή του πλαισίου.
Όπως επισημαίνει ο κ. Δασκαλάκης, το κεντρικό διακύβευμα της νέας εποχής δεν περιορίζεται στην ισχύ των συστημάτων, αλλά επικεντρώνεται στους κανόνες χρήσης, τους μηχανισμούς ελέγχου και την αποτελεσματικότητα των ασφαλιστικών δικλείδων απέναντι σε μια τεχνολογία εξαιρετικά ικανή αλλά και εγγενώς απρόβλεπτη.
Πηγή: Hellas Journal