Ο θόρυβος των προμηθευτών αποτελεί ήδη πρόβλημα στις παραδοσιακές δοκιμές ασφαλείας. Το AI red teaming έχει προσθέσει ένα επιπλέον επίπεδο σύγχυσης, με τους παρόχους να προσφέρουν τα πάντα, από συμβουλευτικές υπηρεσίες έως αυτοματοποιημένες πλατφόρμες δοκιμών.
Ο θόρυβος των προμηθευτών αποτελεί ήδη πρόβλημα στις παραδοσιακές δοκιμές ασφαλείας. Το AI red teaming έχει προσθέσει ένα επιπλέον επίπεδο σύγχυσης, με τους παρόχους να προσφέρουν τα πάντα, από συμβουλευτικές υπηρεσίες έως αυτοματοποιημένες πλατφόρμες δοκιμών.
Πολλοί αγοραστές εξακολουθούν να δυσκολεύονται να καταλάβουν αν ένας προμηθευτής μπορεί να δοκιμάσει την πραγματική συμπεριφορά συστημάτων AI ή μόνο να εκτελέσει ένα πακέτο εντολών jailbreak.
Αυτό το πρόβλημα αντιμετωπίζεται άμεσα στα Κριτήρια Αξιολόγησης Προμηθευτών της OWASP για Παρόχους & Εργαλεία AI Red Teaming, έναν πρακτικό οδηγό για τους αγοραστές.