Πλοήγηση στις απειλές στον κυβερνοχώρο και ενίσχυση της άμυνας στην εποχή της τεχνητής νοημοσύνης
Σήμερα ο κόσμος της κυβερνοασφάλειας υφίσταται έναν τεράστιο μετασχηματισμό. Η τεχνητή νοημοσύνη (AI) βρίσκεται στην πρώτη γραμμή αυτής της αλλαγής, αποτελώντας ταυτόχρονα απειλή και ευκαιρία. Ενώ η τεχνητή νοημοσύνη έχει τη δυνατότητα να ενισχύει τους οργανισμούς για να νικήσουν τις κυβερνοεπιθέσεις με ταχύτητα μηχανής και να προωθήσει την καινοτομία και την αποτελεσματικότητα στον εντοπισμό απειλών, το κυνήγι και την απόκριση συμβάντων, οι αντίπαλοι μπορούν να χρησιμοποιήσουν την τεχνητή νοημοσύνη ως μέρος των εκμεταλλεύσεών τους. Δεν ήταν ποτέ πιο κρίσιμο για εμάς να σχεδιάσουμε, να αναπτύξουμε και να χρησιμοποιήσουμε την τεχνητή νοημοσύνη με ασφάλεια.
Στη Microsoft, διερευνούμε τις δυνατότητες της τεχνητής νοημοσύνης για να βελτιώσουμε τα μέτρα ασφαλείας μας, να ξεκλειδώσουμε νέες και προηγμένες προστασίες και να δημιουργήσουμε καλύτερο λογισμικό. Με την τεχνητή νοημοσύνη, έχουμε τη δύναμη να προσαρμοστούμε παράλληλα με τις εξελισσόμενες απειλές, να εντοπίζουμε ανωμαλίες άμεσα, να ανταποκρινόμαστε γρήγορα στην εξουδετέρωση των κινδύνων και να προσαρμόζουμε άμυνες για τις ανάγκες ενός οργανισμού.
Η τεχνητή νοημοσύνη μπορεί επίσης να μας βοηθήσει να ξεπεράσουμε μια άλλη από τις μεγαλύτερες προκλήσεις του κλάδου. Ενόψει της παγκόσμιας έλλειψης εργατικού δυναμικού στον τομέα της κυβερνοασφάλειας, με περίπου 4 εκατομμύρια επαγγελματίες στον τομέα της κυβερνοασφάλειας να χρειάζονται παγκοσμίως, η τεχνητή νοημοσύνη έχει τη δυνατότητα να αποτελέσει βασικό εργαλείο για να κλείσει το χάσμα ταλέντων και να βοηθήσει τους αμυνόμενους να είναι πιο παραγωγικοί.
Έχουμε ήδη δει σε μια μελέτη πώς το Copilot για την ασφάλεια μπορεί να βοηθήσει τους αναλυτές ασφαλείας ανεξάρτητα από το επίπεδο εξειδίκευσής τους—σε όλες τις εργασίες, οι συμμετέχοντες ήταν 44 τοις εκατό πιο ακριβείς και 26 τοις εκατό πιο γρήγοροι.
Καθώς προσβλέπουμε στη διασφάλιση του μέλλοντος, πρέπει να διασφαλίσουμε ότι ισορροπούμε την ασφαλή προετοιμασία για την τεχνητή νοημοσύνη και την αξιοποίηση των πλεονεκτημάτων της, επειδή η τεχνητή νοημοσύνη έχει τη δύναμη να εξυψώσει το ανθρώπινο δυναμικό και να λύσει μερικές από τις πιο σοβαρές προκλήσεις μας.
Ένα πιο ασφαλές μέλλον με την τεχνητή νοημοσύνη θα απαιτήσει θεμελιώδεις προόδους στη μηχανική λογισμικού. Θα απαιτήσει από εμάς να κατανοήσουμε και να αντιμετωπίσουμε τις απειλές που βασίζονται στην τεχνητή νοημοσύνη ως βασικά στοιχεία οποιασδήποτε στρατηγικής ασφάλειας. Πρέπει να συνεργαστούμε για να οικοδομήσουμε βαθιά συνεργασία μεταξύ του δημόσιου και του ιδιωτικού τομέα για την καταπολέμηση των κακών παραγόντων.
Στο πλαίσιο αυτής της προσπάθειας και της δικής μας Secure Future Initiative, το OpenAI και η Microsoft δημοσιεύουν σήμερα νέες πληροφορίες που περιγράφουν λεπτομερώς τις προσπάθειες των παραγόντων απειλής να δοκιμάσουν και να διερευνήσουν τη χρησιμότητα των μεγάλων μοντέλων γλωσσών (LLM) σε τεχνικές επίθεσης.
Ελπίζουμε ότι αυτές οι πληροφορίες θα είναι χρήσιμες σε όλους τους κλάδους, καθώς όλοι εργαζόμαστε για ένα πιο ασφαλές μέλλον. Γιατί τελικά, όλοι είμαστε αμυνόμενοι.
Bret Arsenault,
CVP, Chief Cybersecurity Advisor
CVP, Chief Cybersecurity Advisor
Παρακολουθήστε την ψηφιακή ενημέρωση του Cyber Signals όπου ο Vasu Jakkal, Corporate Vide President of Microsoft Security Business παίρνει συνεντεύξεις με βασικούς ειδικούς ευφυΐας προστασίας από απειλές σχετικά με τις κυβερνοαπειλές στην εποχή της τεχνητής νοημοσύνης, τους τρόπους με τους οποίους η Microsoft χρησιμοποιεί την τεχνητή νοημοσύνη για βελτιωμένη ασφάλεια και τι μπορούν να κάνουν οι οργανισμοί για να ενισχύσουν την άμυνα.
Εισβολείς που εξερευνούν τεχνολογίες AI
Το τοπίο των απειλών στον κυβερνοχώρο γίνεται ολοένα και πιο προκλητικό με τους εισβολείς να έχουν πιο ισχυρά κίνητρα, να είναι πιο εξελιγμένοι και με καλύτερους πόρους. Οι παράγοντες απειλής και οι αμυνόμενοι προσβλέπουν στην τεχνητή νοημοσύνη, συμπεριλαμβανομένων των LLM, για να ενισχύσουν την παραγωγικότητά τους και να επωφεληθούν από προσβάσιμες πλατφόρμες που θα μπορούσαν να ταιριάζουν με τους στόχους και τις τεχνικές επίθεσής τους.
Δεδομένου του ταχέως εξελισσόμενου τοπίου απειλών, σήμερα ανακοινώνουμε τις αρχές της Microsoft που καθοδηγούν τις ενέργειές μας οι οποίες μετριάζουν τον κίνδυνο των παραγόντων απειλής, συμπεριλαμβανομένων των προηγμένων επίμονων απειλών (APT), των προηγμένων επίμονων χειριστών (APM) και των συνδικάτων κυβερνοεγκληματιών, που χρησιμοποιούν πλατφόρμες AI και API. Αυτές οι αρχές περιλαμβάνουν τον εντοπισμό και τη δράση κατά της χρήσης της τεχνητής νοημοσύνης από κακόβουλο παράγοντα απειλής, την ειδοποίηση σε άλλους παρόχους υπηρεσιών τεχνητής νοημοσύνης, τη συνεργασία με άλλους ενδιαφερόμενους φορείς και τη διαφάνεια.
Αν και τα κίνητρα και η πολυπλοκότητα των παραγόντων απειλής ποικίλλουν, μοιράζονται κοινές εργασίες κατά την ανάπτυξη επιθέσεων. Σε αυτές περιλαμβάνονται η επίθεση υποκλοπής στοιχείων, όπως η έρευνα βιομηχανιών, τοποθεσιών και σχέσεων πιθανών θυμάτων, η κωδικοποίηση, συμπεριλαμβανομένης της βελτίωσης σεναρίων λογισμικού και ανάπτυξης κακόβουλου λογισμικού, και η βοήθεια με την εκμάθηση και τη χρήση τόσο των ανθρώπινων όσο και των μηχανικών γλωσσών.
Τα έθνη-κράτη προσπαθούν να αξιοποιήσουν την τεχνητή νοημοσύνη
Σε συνεργασία με το OpenAI, μοιραζόμαστε πληροφορίες απειλών που δείχνουν εντοπισμένους αντιπάλους που συνδέονται με το κράτος —οι οποίοι παρακολουθούνται ως Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon και Salmon Typhoon— χρησιμοποιώντας LLM για να ενισχύσουν τις κυβερνοεπιχειρήσεις.
Ο στόχος της ερευνητικής συνεργασίας της Microsoft με το OpenAI είναι να διασφαλίσει την ασφαλή και υπεύθυνη χρήση τεχνολογιών τεχνητής νοημοσύνης όπως το ChatGPT, τηρώντας τα υψηλότερα πρότυπα ηθικής εφαρμογής για την προστασία της κοινότητας από πιθανή κακή χρήση.
Το Forest Blizzard (STRONTIUM), ένας εξαιρετικά αποτελεσματικός ρωσικός στρατιωτικός παράγοντας πληροφοριών που συνδέεται με την Κύρια Διεύθυνση του Γενικού Επιτελείου των Ενόπλων Δυνάμεων της Ρωσίας ή Μονάδα 26165 GRU, έχει στοχεύσει θύματα τακτικού και στρατηγικού ενδιαφέροντος για τη ρωσική κυβέρνηση. Οι δραστηριότητές του καλύπτουν ένα ευρύ φάσμα τομέων, συμπεριλαμβανομένων της άμυνας, των μεταφορών / logistics, της κυβέρνησης, της ενέργειας, των ΜΚΟ και της τεχνολογίας πληροφοριών
Το Emerald Sleet (Velvet Chollima) είναι ένας βορειοκορεατικός παράγοντας απειλής που η Microsoft ανακάλυψε ότι υποδύεται αξιόπιστα ακαδημαϊκά ιδρύματα και ΜΚΟ για να παρασύρει τα θύματα να απαντήσουν με γνώσεις ειδικών και σχόλια σχετικά με τις εξωτερικές πολιτικές που σχετίζονται με τη Βόρεια Κορέα.
Η χρήση των LLM από το Emerald Sleet περιλάμβανε έρευνα σε δεξαμενές σκέψης και ειδικούς στη Βόρεια Κορέα, καθώς και δημιουργία περιεχομένου που πιθανόν να χρησιμοποιηθεί σε εκστρατείες εστιασμένου ηλεκτρονικού "ψαρέματος". Το Emerald Sleet αλληλεπίδρασε επίσης με LLM για να κατανοήσει τις ευπάθειες που είναι γνωστές στο κοινό, να αντιμετωπίσει τεχνικά ζητήματα και για βοήθεια με τη χρήση διαφόρων τεχνολογιών Web.
Το Crimson Sandstorm (CURIUM) είναι ένας ιρανικός παράγοντας απειλής που εκτιμάται ότι συνδέεται με τους Φρουρούς της Ισλαμικής Επανάστασης (IRGC). Η χρήση των LLM περιελάμβανε αιτήματα για υποστήριξη σχετικά με την κοινωνική μηχανική, βοήθεια για την αντιμετώπιση προβλημάτων, ανάπτυξη .NET και τρόπους με τους οποίους ένας εισβολέας μπορεί να αποφύγει τον εντοπισμό όταν βρίσκεται σε ένα παραβιασμένο μηχάνημα.
Το Charcoal Typhoon (CHROMIUM) είναι ένας παράγοντας απειλής που συνδέεται με την Κίνα και εστιάζει κυρίως στην παρακολούθηση ομάδων στην Ταϊβάν, την Ταϊλάνδη, τη Μογγολία, τη Μαλαισία, τη Γαλλία, το Νεπάλ και άτομα παγκοσμίως που αντιτίθενται στις πολιτικές της Κίνας. Σε πρόσφατες επιχειρήσεις, το Charcoal Typhoon έχει παρατηρηθεί να εμπλέκει LLM για να αποκτήσει γνώσεις σχετικά με την έρευνα για την κατανόηση συγκεκριμένων τεχνολογιών, πλατφορμών και ευπαθειών, ενδεικτικά των προκαταρκτικών σταδίων συλλογής πληροφοριών.
Μια άλλη ομάδα που υποστηρίζεται από την Κίνα, το Salmon Typhoon, αξιολογεί την αποτελεσματικότητα της χρήσης LLM καθ' όλη τη διάρκεια του 2023 για την πηγή πληροφοριών για δυνητικά ευαίσθητα θέματα, άτομα υψηλού προφίλ, περιφερειακή γεωπολιτική, επιρροή των ΗΠΑ και εσωτερικές υποθέσεις. Αυτή η αβέβαιη δέσμευση με τα LLM θα μπορούσε να αντικατοπτρίζει τόσο τη διεύρυνση της εργαλειοθήκης συλλογής πληροφοριών όσο και μια πειραματική φάση στην αξιολόγηση των δυνατοτήτων των αναδυόμενων τεχνολογιών.
Η έρευνά μας με το OpenAI δεν έχει εντοπίσει σημαντικές επιθέσεις που χρησιμοποιούν τα LLM που παρακολουθούμε στενά.
Έχουμε λάβει μέτρα για να διαταράξουμε τα περιουσιακά στοιχεία και τους λογαριασμούς που σχετίζονται με αυτούς τους παράγοντες απειλής και να διαμορφώσουμε τα προστατευτικά κιγκλιδώματα και τους μηχανισμούς ασφαλείας γύρω από τα μοντέλα μας.
Εμφανίζονται και άλλες απειλές AI
Η απάτη με τεχνολογία AI είναι μια άλλη κρίσιμη ανησυχία. Η σύνθεση φωνής είναι ένα παράδειγμα αυτού, όπου ένα δείγμα φωνής τριών δευτερολέπτων μπορεί να εκπαιδεύσει ένα μοντέλο να ακούγεται σαν οποιονδήποτε. Ακόμη και κάτι τόσο αβλαβές όπως ο χαιρετισμός του φωνητικού ταχυδρομείου σας μπορεί να χρησιμοποιηθεί για να ληφθεί επαρκής δειγματοληψία.
Μεγάλο μέρος του τρόπου με τον οποίο αλληλεπιδρούμε μεταξύ μας και δραστηριοποιούμαστε επιχειρηματικά βασίζεται στην απόδειξη ταυτότητας, όπως η αναγνώριση της φωνής, του προσώπου, της διεύθυνσης ηλεκτρονικού ταχυδρομείου ή του στυλ γραφής ενός ατόμου.
Είναι σημαντικό να κατανοήσουμε πώς οι κακόβουλοι παράγοντες χρησιμοποιούν την τεχνητή νοημοσύνη για να υπονομεύσουν μακροχρόνια συστήματα ελέγχου ταυτότητας, ώστε να μπορούμε να αντιμετωπίσουμε περίπλοκες υποθέσεις απάτης και άλλες αναδυόμενες απειλές κοινωνικής μηχανικής που κρύβουν τις ταυτότητες.
Η τεχνητή νοημοσύνη μπορεί επίσης να χρησιμοποιηθεί για να βοηθήσει τις εταιρείες να διαταράξουν τις προσπάθειες απάτης. Αν και η Microsoft διέκοψε τη δέσμευσή μας με μια εταιρεία στη Βραζιλία, τα συστήματα τεχνητής νοημοσύνης μας εντόπισαν τις προσπάθειές της να ανασυσταθεί για να εισέλθει ξανά στο οικοσύστημά μας.
Η ομάδα προσπαθούσε συνεχώς να αποκρύψει τις πληροφορίες της, να αποκρύψει τις ρίζες της ιδιοκτησίας και να εισέλθει ξανά, αλλά οι εντοπισμοί τεχνητής νοημοσύνης μας χρησιμοποίησαν σχεδόν δώδεκα σήματα κινδύνου για να επισημάνουν τη δόλια εταιρεία και να τη συσχετίσουν με προηγουμένως αναγνωρισμένη ύποπτη συμπεριφορά, εμποδίζοντας έτσι τις προσπάθειές της.
Η Microsoft έχει δεσμευτεί για την υπεύθυνη ανθρώπινη τεχνητή νοημοσύνη που χαρακτηρίζει το απόρρητο και την ασφάλεια με τους ανθρώπους να παρέχουν επίβλεψη, αξιολόγηση προσφυγών και ερμηνεία πολιτικών και κανονισμών.
Εκπαίδευση των εργαζομένων και του κοινού σχετικά με τους κυβερνοκινδύνους:
- Χρήση πολιτικών πρόσβασης υπό όρους: Αυτές οι πολιτικές παρέχουν σαφή, αυτοαναπτυγμένη καθοδήγηση για την ενίσχυση της στάσης ασφαλείας σας, η οποία θα προστατεύει αυτόματα τους μισθωτές με βάση τα σήματα κινδύνου, την αδειοδότηση και τη χρήση. Οι πολιτικές πρόσβασης υπό όρους είναι προσαρμόσιμες και θα προσαρμοστούν στο μεταβαλλόμενο τοπίο των απειλών στον κυβερνοχώρο.
- Εκπαίδευση και επανεκπαίδευση των υπαλλήλων σε τακτικές κοινωνικής μηχανικής: Εκπαιδεύστε τους υπαλλήλους και το κοινό να αναγνωρίζουν και να αντιδρούν σε επιθέσεις ηλεκτρονικού "ψαρέματος", ηλεκτρονικού "ψαρέματος" μέσω τηλεφώνου (φωνητικό ταχυδρομείο), ηλεκτρονικού "ψαρέματος" μέσω SMS, (SMS/κείμενο) επιθέσεις κοινωνικής μηχανικής και εφαρμόζουν βέλτιστες πρακτικές ασφάλειας για το Microsoft Teams.
- Αυστηρή προστασία των δεδομένων: Βεβαιωθείτε ότι τα δεδομένα παραμένουν ιδιωτικά και ελέγχονται από άκρη σε άκρη.
- Αξιοποίηση εργαλείων ασφαλείας παραγωγικού AI: Εργαλεία όπως το Microsoft Copilot για την ασφάλεια μπορούν να επεκτείνουν τις δυνατότητες και να βελτιώσουν την κατάσταση ασφάλειας του οργανισμού.
- Ενεργοποίηση ελέγχου ταυτότητας πολλών παραγόντων: Ενεργοποιήστε τον έλεγχο ταυτότητας πολλών παραγόντων για όλους τους χρήστες, ειδικά για λειτουργίες διαχειριστή, καθώς μειώνει τον κίνδυνο κατάληψης λογαριασμού κατά πάνω από 99 τοις εκατό.
Προστασία κατά των επιθέσεων
Η Microsoft διατηρεί το προβάδισμα με ολοκληρωμένη ασφάλεια σε συνδυασμό με παραγωγικό AI
Η Microsoft εντοπίζει έναν τεράστιο όγκο κακόβουλης κυκλοφορίας—περισσότερα από 65 τρισεκατομμύρια σήματα κυβερνοασφάλειας την ημέρα. Η τεχνητή νοημοσύνη ενισχύει την ικανότητά μας να αναλύουμε αυτές τις πληροφορίες και να διασφαλίζουμε ότι εμφανίζονται τα πιο πολύτιμα insight για να βοηθήσουμε να σταματήσουμε τις απειλές. Χρησιμοποιούμε επίσης αυτήν την ευφυΐα σήματος για να τροφοδοτήσουμε το Παραγωγικό AI για προηγμένη προστασία από απειλές, ασφάλεια δεδομένων και ασφάλεια ταυτότητας για να βοηθήσουμε τους αμυνόμενους να πιάσουν ό,τι χάνουν οι άλλοι.
Η Microsoft χρησιμοποιεί διάφορες μεθόδους για να προστατεύσει τον εαυτό της και τους πελάτες από απειλές στον κυβερνοχώρο, συμπεριλαμβανομένου του εντοπισμού απειλών με δυνατότητα AI για να εντοπίσει αλλαγές στον τρόπο χρήσης των πόρων ή της κυκλοφορίας στο δίκτυο, αναλύσεις συμπεριφοράς για τον εντοπισμό επικίνδυνων συνδέσεων και ανώμαλης συμπεριφοράς, μοντέλα μηχανικής μάθησης (ML) για τον εντοπισμό επικίνδυνων εισαγωγών και κακόβουλου λογισμικού, μοντέλα μηδενικής εμπιστοσύνης όπου κάθε αίτημα πρόσβασης πρέπει να είναι πλήρως πιστοποιημένο, εξουσιοδοτημένο και κρυπτογραφημένο, και επαλήθευση εύρυθμη λειτουργία συσκευής προτού μπορέσει μια συσκευή να συνδεθεί σε εταιρικό δίκτυο.
Επειδή οι παράγοντες απειλής κατανοούν ότι η Microsoft χρησιμοποιεί αυστηρά τον έλεγχο ταυτότητας πολλών παραγόντων (MFA) για να προστατευθεί—όλοι οι υπάλληλοί μας έχουν ρυθμίσει την προστασία MFA ή χωρίς κωδικό πρόσβασης— έχουμε δει τους εισβολείς να κλίνουν προς την κοινωνική μηχανική σε μια προσπάθεια να υπονομεύσουν τους υπαλλήλους μας.
Τα ενεργά σημεία για αυτό περιλαμβάνουν τομείς όπου μεταφέρονται πράγματα αξίας, όπως δωρεάν δοκιμές ή διαφημιστικές τιμές υπηρεσιών ή προϊόντων. Σε αυτές τις περιοχές, δεν είναι κερδοφόρο για τους εισβολείς να κλέβουν μία συνδρομή τη φορά, επομένως προσπαθούν να λειτουργήσουν και να κλιμακώσουν αυτές τις επιθέσεις χωρίς να εντοπιστούν.
Φυσικά, κατασκευάζουμε μοντέλα AI για να εντοπίσουμε αυτές τις επιθέσεις για τη Microsoft και τους πελάτες μας. Εντοπίζουμε ψεύτικους λογαριασμούς μαθητών και σχολείων, ψεύτικες εταιρείες ή οργανισμούς που έχουν αλλάξει τα γραφικά τους δεδομένα ή έχουν κρύψει την πραγματική τους ταυτότητα για να αποφύγουν τις κυρώσεις, να παρακάμψουν ελέγχους ή να κρύψουν προηγούμενες εγκληματικές παραβάσεις, όπως καταδίκες για διαφθορά, απόπειρες κλοπής κ.λπ.
Η χρήση του GitHub Copilot, του Microsoft Copilot για την ασφάλεια και άλλων λειτουργιών συνομιλίας copilot που είναι ενσωματωμένες στην εσωτερική μας μηχανική και υποδομή λειτουργιών συμβάλλει στην αποτροπή συμβάντων που θα μπορούσαν να επηρεάσουν τις λειτουργίες.
Για την αντιμετώπιση απειλών μέσω email, η Microsoft βελτιώνει τις δυνατότητες συλλογής σημάτων εκτός από τη σύνθεση ενός email για να κατανοήσει εάν είναι κακόβουλο. Με την τεχνητή νοημοσύνη στα χέρια των παραγόντων απειλής, υπήρξε μια εισροή άψογα γραμμένων email που βελτιώνουν τα προφανή γλωσσικά και γραμματικά λάθη που συχνά αποκαλύπτουν απόπειρες ηλεκτρονικού "ψαρέματος", καθιστώντας τις προσπάθειες ηλεκτρονικού "ψαρέματος" πιο δύσκολο να εντοπιστούν.
Απαιτείται συνεχής εκπαίδευση των υπαλλήλων και εκστρατείες ευαισθητοποίησης του κοινού για την καταπολέμηση της κοινωνικής μηχανικής, η οποία είναι ο μόνος μοχλός που βασίζεται 100 τοις εκατό στο ανθρώπινο λάθος. Η ιστορία μας έχει διδάξει ότι οι αποτελεσματικές εκστρατείες ευαισθητοποίησης του κοινού λειτουργούν για την αλλαγή συμπεριφοράς.
Η Microsoft αναμένει ότι η τεχνητή νοημοσύνη θα εξελίξει τις τακτικές κοινωνικής μηχανικής, δημιουργώντας πιο εξελιγμένες επιθέσεις, συμπεριλαμβανομένων των deepfake και της κλωνοποίησης φωνής, ιδιαίτερα εάν οι εισβολείς βρουν τεχνολογίες τεχνητής νοημοσύνης που λειτουργούν χωρίς υπεύθυνες πρακτικές και ενσωματωμένους ελέγχους ασφαλείας..
Η πρόληψη είναι το κλειδί για την καταπολέμηση όλων των απειλών στον κυβερνοχώρο, είτε παραδοσιακές είτε με δυνατότητα τεχνητής νοημοσύνης.
Προτάσεις:
Εφαρμόστε ελέγχους τεχνητής νοημοσύνης προμηθευτή και αξιολογήστε συνεχώς την καταλληλότητά τους: Για κάθε τεχνητή νοημοσύνη που εισάγεται στην επιχείρησή σας, αναζητήστε τις ενσωματωμένες λειτουργίες των αντίστοιχων προμηθευτών για την εμβέλεια της πρόσβασης τεχνητής νοημοσύνης σε υπαλλήλους και ομάδες που χρησιμοποιούν την τεχνολογία για την προώθηση της ασφαλούς και συμβατής υιοθέτησης τεχνητής νοημοσύνης. Φέρτε τους ενδιαφερομένους στον κυβερνοχώρο σε έναν οργανισμό για να ευθυγραμμιστούν με καθορισμένες περιπτώσεις χρήσης υπαλλήλων τεχνητής νοημοσύνης και ελέγχους πρόσβασης. Οι ηγέτες κινδύνου και οι CISO θα πρέπει να καθορίζουν τακτικά εάν οι περιπτώσεις χρήσης και οι πολιτικές είναι επαρκείς ή εάν πρέπει να αλλάξουν καθώς εξελίσσονται οι στόχοι και τα μαθήματα.
Προστασία από άμεσες επιθέσεις: Εφαρμόστε αυστηρή επικύρωση εισόδου και απολύμανση για προτροπές που παρέχονται από τον χρήστη. Χρησιμοποιήστε φιλτράρισμα με επίγνωση του περιβάλλοντος και κωδικοποίηση εξόδου για να αποτρέψετε τον άμεσο χειρισμό. Να ενημερώνετε τακτικά και να προσαρμόζετε τα LLM για να βελτιώσετε την κατανόηση των κακόβουλων εισόδων και των περιπτώσεων ακμών. Παρακολουθήστε και καταγράψτε τις αλληλεπιδράσεις LLM για να εντοπίσετε και να αναλύσετε πιθανές απόπειρες άμεσης επίθεσης.
Εντολή διαφάνειας σε όλη την αλυσίδα εφοδιασμού τεχνητής νοημοσύνης: Μέσα από σαφείς και ανοιχτές πρακτικές, αξιολογήστε όλους τους τομείς όπου η τεχνητή νοημοσύνη μπορεί να έρθει σε επαφή με τα δεδομένα του οργανισμού σας, μεταξύ άλλων μέσω τρίτων συνεργατών και προμηθευτών. Χρησιμοποιήστε σχέσεις συνεργατών και διαλειτουργικές ομάδες κυβερνοκινδύνου για να εξερευνήσετε τα μαθήματα και να κλείσετε τυχόν κενά που προκύπτουν. Η διατήρηση των σημερινών προγραμμάτων μηδενικής εμπιστοσύνης και διαχείρισης δεδομένων είναι πιο σημαντική από ποτέ στην εποχή της τεχνητής νοημοσύνης.
Παραμείνετε συγκεντρωμένοι στις επικοινωνίες: Οι ηγέτες του κινδύνου στον κυβερνοχώρο πρέπει να αναγνωρίσουν ότι οι υπάλληλοι βλέπουν τον αντίκτυπο και τα οφέλη της τεχνητής νοημοσύνης στην προσωπική τους ζωή και φυσικά θα θέλουν να εξερευνήσουν την εφαρμογή παρόμοιων τεχνολογιών σε υβριδικά περιβάλλοντα εργασίας. Οι CISO και άλλοι ηγέτες που διαχειρίζονται τον κυβερνοχώρο μπορούν προληπτικά να κοινοποιούν και να ενισχύουν τις πολιτικές των οργανισμών τους σχετικά με τη χρήση και τους κινδύνους της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των καθορισμένων εργαλείων AI που είναι εγκεκριμένα για επιχειρήσεις και σημεία επαφής για πρόσβαση και πληροφορίες. Οι προληπτικές επικοινωνίες βοηθούν τους υπαλλήλους να ενημερώνονται και να ενδυναμώνονται, ενώ μειώνουν τον κίνδυνο να φέρουν σε επαφή τη μη διαχειριζόμενη τεχνητή νοημοσύνη με περιουσιακά στοιχεία πληροφορικής της επιχείρησης.
Λάβετε περισσότερες πληροφορίες σχετικά με την τεχνητή νοημοσύνη από τον Homa Hayatafar, Principal Data and Applied Science Manager, Detection Analytics Manager.
Τα παραδοσιακά εργαλεία δεν συμβαδίζουν πλέον με τις απειλές που θέτουν οι εγκληματίες του κυβερνοχώρου. Η αυξανόμενη ταχύτητα, η κλίμακα και η πολυπλοκότητα των πρόσφατων επιθέσεων στον κυβερνοχώρο απαιτούν μια νέα προσέγγιση στην ασφάλεια. Επιπλέον, δεδομένης της έλλειψης εργατικού δυναμικού στον τομέα της κυβερνοασφάλειας και με τις απειλές στον κυβερνοχώρο να αυξάνονται σε συχνότητα και σοβαρότητα, η γεφύρωση αυτού του χάσματος δεξιοτήτων είναι επείγουσα ανάγκη.
Η τεχνητή νοημοσύνη μπορεί να ανατρέψει την κατάσταση για τους αμυνόμενους. Μια πρόσφατη μελέτη του Microsoft Copilot για την ασφάλεια (επί του παρόντος σε δοκιμή προεπισκόπησης πελατών) έδειξε αυξημένη ταχύτητα και ακρίβεια των αναλυτών ασφαλείας, ανεξάρτητα από το επίπεδο εξειδίκευσής τους, σε κοινές εργασίες όπως ο εντοπισμός σεναρίων που χρησιμοποιούνται από τους εισβολείς, η δημιουργία αναφορών συμβάντων και ο εντοπισμός κατάλληλων βημάτων αποκατάστασης.1
- [1]
Μεθοδολογία:1 Τα δεδομένα του στιγμιότυπου αναφοράς Snapshot αντιπροσωπεύουν μια τυχαιοποιημένη ελεγχόμενη δοκιμή (RCT), όπου δοκιμάσαμε 149 άτομα για να μετρήσουμε τον αντίκτυπο στην παραγωγικότητα από τη χρήση του Microsoft Copilot για την ασφάλεια. Σε αυτό το RCT, δώσαμε τυχαία το Copilot σε ορισμένους αναλυτές και όχι σε άλλους, και στη συνέχεια αφαιρέσαμε την απόδοση και τα συναισθήματά τους για να πάρουμε το αποτέλεσμα του Copilot, ξεχωριστά από οποιοδήποτε βασικό αποτέλεσμα. Οι εξεταζόμενοι είχαν βασικές δεξιότητες πληροφορικής, αλλά ήταν αρχάριοι στον τομέα της ασφάλειας, επομένως μπορούσαμε να δοκιμάσουμε πώς το Copilot βοηθά τους «νέους στην καριέρα» αναλυτές. Το Microsoft Copilot for Security RCT πραγματοποιήθηκε από το Microsoft Office of the Chief Economist, Νοέμβριος 2023. Επιπλέον, το Microsoft Entra ID παρείχε ανώνυμα δεδομένα σχετικά με τη δραστηριότητα απειλών, όπως κακόβουλους λογαριασμούς email, ηλεκτρονικό "ψάρεμα" email και κίνηση εισβολέων εντός δικτύων. Πρόσθετες πληροφορίες προέρχονται από τα 65 τρισεκατομμύρια ημερήσια σήματα ασφαλείας που αποκτώνται από τη Microsoft, συμπεριλαμβανομένου του cloud, των τελικών σημείων, του έξυπνου άκρου, των Ομάδων παραβίασης ασφάλειας, πρακτικής αποκατάστασης και απόκρισης, τηλεμετρίας από πλατφόρμες και υπηρεσίες της Microsoft, συμπεριλαμβανομένου του Microsoft Defender και της Αναφοράς ψηφιακής ασφάλειας της Microsoft 2023.