× EU ICT Risk Newsroom DORA Νέα Στον Ορίζοντα Ασφάλεια & ΑΙ Cyber Alerts GDPR Νέα EU CERT Advisories ICT Governance ESA/NCAs Επικοινωνία

Πράκτορες AI: Μπορούν να αποδράσουν από τα sandboxes τους;

Τα sandboxes κοντέινερ αποτελούν μέρος της δοκιμής και ανάπτυξης πρακτόρων AI. Οι πράκτορες τα χρησιμοποιούν για να εκτελούν κώδικα, να επεξεργάζονται αρχεία και να αλληλεπιδρούν με πόρους συστήματος χωρίς άμεση πρόσβαση στον κεντρικό υπολογιστή.

Πράκτορες AI: Μπορούν να αποδράσουν από τα sandboxes τους;
Τα sandboxes κοντέινερ αποτελούν μέρος της δοκιμής και ανάπτυξης πρακτόρων AI. Οι πράκτορες τα χρησιμοποιούν για να εκτελούν κώδικα, να επεξεργάζονται αρχεία και να αλληλεπιδρούν με πόρους συστήματος χωρίς άμεση πρόσβαση στον κεντρικό υπολογιστή. Το benchmark SandboxEscapeBench, που αναπτύχθηκε από ερευνητές του Πανεπιστημίου της Οξφόρδης και του AI Security Institute, αξιολογεί εάν ένας πράκτορας με πρόσβαση στο shell μπορεί να διαφύγει από ένα κοντέινερ και να φτάσει στο κεντρικό σύστημα.

Εγγραφείτε για νέα και αναλύσεις σχετικά με DORA και διαχείρηση τεχνολογικού κινδύνου