Μια σημαντική διάκριση ερευνητών του ΕΚΠΑ: Η εργασία «When AI Agrees Too Much: Manipulating Automated Code Review via Bias Injection» έγινε απευθείας δεκτή στο ICSE 2027 (International Conference on Software Engineering), ένα από τα κορυφαία διεθνή συνέδρια Τεχνολογίας Λογισμικού (Software Engineering). Από τις 2.375 υποβολές, μόλις 119 έγιναν δεκτές χωρίς αναθεώρηση.
Η έρευνα ξεκινά από ένα κλασικό εύρημα της ψυχολογίας των αποφάσεων: την επίδραση της πλαισίωσης (framing effect), την οποία περιέγραψαν το 1981 οι Amos Tversky και Daniel Kahneman, με τον δεύτερο να τιμάται αργότερα με το Βραβείο Νόμπελ Οικονομικών. Σύμφωνα με αυτήν, ο τρόπος με τον οποίο παρουσιάζεται μια πληροφορία μπορεί να επηρεάσει την κρίση μας περισσότερο από το ίδιο το περιεχόμενό της. Οι ερευνητές εξέτασαν αν το ίδιο ισχύει για τα μεγάλα γλωσσικά μοντέλα (LLMs). Τα μοντέλα αυτά χρησιμοποιούνται όλο και συχνότερα για τον αυτόματο έλεγχο κώδικα (automated code review), δηλαδή για να κρίνουν αν μια αλλαγή σε ένα λογισμικό είναι ασφαλής πριν ενσωματωθεί. Η απάντηση είναι καταφατική. Σε πειράματα με έξι μοντέλα τεχνητής νοημοσύνης, η διατύπωση της περιγραφής μιας αλλαγής επηρέαζε συστηματικά την κρίση τους για την ασφάλειά της. Στη συνέχεια, σε ελεγχόμενο περιβάλλον με 33 γνωστές ευπάθειες ασφαλείας από 20 πραγματικά έργα λογισμικού, οι ερευνητές έδειξαν ότι κατάλληλα διατυπωμένες περιγραφές έπειθαν δύο ευρέως χρησιμοποιούμενα εργαλεία αυτόματου ελέγχου να εγκρίνουν κώδικα που επανέφερε την ευπάθεια, σε 32 από τις 33 περιπτώσεις (97%).
Αν και η μελέτη εστιάζει στην ασφάλεια λογισμικού, ένα πεδίο όπου η «αλήθεια» βρίσκεται αντικειμενικά μέσα στον κώδικα, τα ευρήματα εγείρουν ευρύτερα ερωτήματα. Η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο για την αξιολόγηση πληροφοριών και την υποστήριξη αποφάσεων σε τομείς όπως η υγεία, η δικαιοσύνη, τα χρηματοοικονομικά και η δημόσια διοίκηση. Σε όλους αυτούς, η ευαισθησία των μοντέλων στον τρόπο παρουσίασης της πληροφορίας είναι κρίσιμος παράγοντας που πρέπει να λαμβάνεται υπόψη.
«Τα μεγάλα γλωσσικά μοντέλα δεν αντανακλούν μόνο τη γνώση μας, αλλά και τις προκαταλήψεις μας», σημειώνει ο Αναπληρωτής Καθηγητής ΕΚΠΑ Δημήτρης Μητρόπουλος. «Όταν τους εμπιστευόμαστε την ασφάλεια των συστημάτων μας, οι προκαταλήψεις αυτές διευρύνουν την επιφάνεια επίθεσης των συστημάτων αυτών. Η τεχνητή νοημοσύνη μπορεί να αποτελέσει ένα πολύτιμο επιπλέον επίπεδο ελέγχου, αλλά δεν υποκαθιστά την ανθρώπινη εποπτεία».
Την εργασία υπογράφουν ο υποψήφιος διδάκτορας του ΕΚΠΑ Γεώργιος Αλεξόπουλος, ο Δρ. Νικόλαος Αλεξόπουλος (Εθνική Αρχή Κυβερνοασφάλειας), ο Καθηγητής Διομήδης Σπινέλλης (Οικονομικό Πανεπιστήμιο Αθηνών) και ο Αναπληρωτής Καθηγητής Δημήτρης Μητρόπουλος του Τμήματος Διοίκησης Επιχειρήσεων και Οργανισμών του ΕΚΠΑ.
