Νέα έρευνα αποκαλύπτει ότι χάκερ μπορούν να «παγιδεύσουν» AI φωνητικούς βοηθούς μέσω αόρατων ηχητικών σημάτων που κρύβονται μέσα σε podcasts, τραγούδια ή βίντεο, αποκτώντας ενδεχομένως πρόσβαση σε προσωπικά δεδομένα, τραπεζικούς λογαριασμούς και άλλες ευαίσθητες πληροφορίες των χρηστών.

Το σενάριο θυμίζει επεισόδιο της σειράς «Black Mirror», ωστόσο παρουσιάστηκε ως πραγματική απειλή στο IEEE Symposium on Security and Privacy, όπου ερευνητές από την Κίνα και τη Σιγκαπούρη παρουσίασαν μια νέα μορφή «adversarial audio» — ηχητικών σημάτων που δεν μπορούν να γίνουν αντιληπτά από το ανθρώπινο αυτί, αλλά είναι ικανά να εξαπατήσουν συστήματα τεχνητής νοημοσύνης που βασίζονται στη φωνή.

Σύμφωνα με τη μελέτη, οι επιτιθέμενοι μπορούν να ενσωματώσουν αυτούς τους ήχους σε φαινομενικά αθώο περιεχόμενο, όπως μουσική, ταινίες ή podcasts που αναπαράγονται στο παρασκήνιο. Μόλις το AI σύστημα «ακούσει» το ειδικά διαμορφωμένο σήμα, μπορεί να εκτελέσει εντολές χωρίς ο χρήστης να το αντιληφθεί.

Ο επικεφαλής της έρευνας, Meng Chen, υποψήφιος διδάκτορας στο Πανεπιστήμιο Zhejiang της Κίνας, δήλωσε στο IEEE Spectrum ότι η εκπαίδευση του συγκεκριμένου σήματος απαιτεί μόλις μισή ώρα, ενώ η επίθεση μπορεί να λειτουργήσει ανεξάρτητα από το τι λέει ο χρήστης εκείνη τη στιγμή.

«Τα υπάρχοντα συστήματα άμυνας δυσκολεύονται να ξεχωρίσουν τη φυσιολογική πρόθεση του χρήστη από μια κακόβουλη ηχητική επίθεση», ανέφερε χαρακτηριστικά.

Προς το παρόν, η μέθοδος απαιτεί οι χάκερ να έχουν πρόσβαση στα πλήρη δεδομένα εκπαίδευσης (“weights”) του AI μοντέλου που στοχεύουν, γεγονός που περιορίζει τις επιθέσεις κυρίως σε open-source συστήματα. Ωστόσο, οι ερευνητές σημειώνουν ότι πολλά εμπορικά προϊόντα βασίζονται σε τέτοια μοντέλα, με αποτέλεσμα η τεχνική να αποδεικνύεται αποτελεσματική ακόμη και απέναντι σε τεχνολογίες μεγάλων εταιρειών λογισμικού.

Η έρευνα, πάντως, αναδεικνύει για ακόμη μία φορά τα αυξανόμενα ζητήματα κυβερνοασφάλειας γύρω από τις εφαρμογές τεχνητής νοημοσύνης και τους φωνητικούς βοηθούς που χρησιμοποιούνται καθημερινά από εκατομμύρια ανθρώπους παγκοσμίως.

_{photo: pixabay}