Τα κουμπιά σύνοψης AI ενδέχεται να χειραγωγούν τους χρήστες μέσω δηλητηρίασης συστάσεων

Ερευνητές ασφαλείας της Microsoft ανακάλυψαν μια αυξανόμενη τάση επιθέσεων δηλητηρίασης μνήμης AI. Αυτές οι επιθέσεις χρησιμοποιούνται για προωθητικούς σκοπούς και αναφέρονται ως δηλητηρίαση συστάσεων AI. Η βάση γνώσεων MITRE ATLAS ταξινομεί αυτή τη συμπεριφορά ως AML.T0080: Δηλητηρίαση Μνήμης. Η δραστηριότητα επικεντρώνεται στη διαμόρφωση μελλοντικών συστάσεων. Αυτό γίνεται με την εισαγωγή εντολών που κάνουν έναν βοηθό να αντιμετωπίζει συγκεκριμένες εταιρείες, ιστότοπους ή υπηρεσίες ως αξιόπιστες ή προτιμώμενες. Μόλις αποθηκευτούν, αυτές οι καταχωρήσεις μπορούν να επηρεάσουν τις απαντήσεις σε μεταγενέστερες, άσχετες συνομιλίες. Οι χειραγωγημένοι βοηθοί ενδέχεται να επηρεάσουν τις συστάσεις.