AI creeaza noi amenintari la adresa securitatii cibernetice, in acelasi timp, ofera noi modalitati de a intari apararea organizatiei tale. Am discutat cu experti despre impactul AI asupra securitatii cibernetice si despre modul in care organizatiile il pot folosi in avantajul lor, protejand in acelasi timp datele.
Rolul in crestere al inteligentei artificiale in securitate
Din punct de vedere istoric, deficitul de competente in domeniul securitatii cibernetice a impiedicat actorii amenintarilor sa foloseasca AI la maximum. Dar accesibilitatea instrumentelor AI generative schimba acest lucru.
„Din fericire, in majoritatea ultimilor 20 de ani, s-a intamplat rar ca colectia de abilitati necesare pentru a valorifica tehnologiile AI si priceperea tehnica rau intentionata a atacurilor sa existe in acelasi spatiu”, explica Aaron Rosenmund, director senior de securitate si GenAI al Pluralsight. Aptitudini. „[Dar] in ultimii doi ani acum, progresele si disponibilitatea IA generativa au facut aceste instrumente de asistenta disponibile tuturor.”
Aceasta inseamna ca mai multi oameni pot folosi instrumente AI pentru a crea atacuri sofisticate. Dar, dupa cum remarca Aaron, instrumente precum AI Copilot si Security Copilot beneficiaza ambele parti. „Multe dintre cerintele pentru dezvoltarea de malware sunt pur si simplu bune practici de codare, iar capacitatile copilotului beneficiaza ambele parti deopotriva. Acolo unde capacitatile progreseaza in urmatorii ani in apararea automata, sunt incantat sa vad.”
Avantajele AI in securitate
Sa incepem cu avantajele utilizarii AI in securitate. Profesionistii in securitate sunt adesea prinsi intr-un joc fara sfarsit de recuperare din urma impotriva amenintarilor variate si a actorilor rai. Instrumentele AI ii ajuta sa abordeze mai rapid provocarile moderne de securitate cibernetica.
Automatizarea detectarii amenintarilor si a raspunsului
Dupa cum noteaza John Elliott, autorul si consilierul de securitate Pluralsight, „Vom folosi AI pentru a ne apara mai bine.”
O parte din aceasta implica detectarea amenintarilor si raspunsul la incident. Algoritmii AI pot analiza datele in timp real pentru a identifica modele care indica potentiale amenintari. Invatand din datele istorice, pot chiar sa reduca falsele pozitive, sa semnalizeze anomaliile pentru o inspectie mai atenta si sa identifice atacurile zero-day care au fost nedetectate anterior.
AI poate ajuta, de asemenea, la automatizarea unor parti ale raspunsului la incident. „Am vazut AI jucand foarte mult cu automatizarea si doar cautand diferite amenintari si identificand comportamente rau intentionate sau anomalii care se intampla in domeniul securitatii lucrurilor, mai ales in ceea ce priveste sarcinile de lucru in cloud”, a spus profesionistul in securitate cibernetica si autorul Pluralsight Chris Jackson.
Aflati cum sa va aparati organizatia impotriva amenintarilor activate de GenAI si sa utilizati GenAI pentru detectarea si raspunsul la amenintari.
Utilizarea AI pentru evaluarea cuprinzatoare a riscurilor
Instrumentele AI pot parcurge rapid cantitati mari de date pentru a analiza potentialele vulnerabilitati si a determina cat de periculoase sunt acestea pentru afacere. Acest lucru da putere profesionistilor in securitate sa acorde prioritate celor mai imediate amenintari.
Daca o evaluare a riscurilor semnaleaza anumite vulnerabilitati, organizatiile pot lua masuri pentru a-si securiza organizatia si pentru a dezvolta o pozitie de securitate mai proactiva. AI poate ajuta si cu asta. Dr. Lyron H. Andrews, expert in securitate si autor Pluralsight, impartaseste un exemplu: „In special in zona mea, vad modele de antrenament care sunt legate de protejarea suprafetelor de atac si de expunerea vulnerabilitatilor in acele modele de invatare.”
Asigurarea conformitatii imbunatatite cu IA
De la preocuparile legate de confidentialitate la politicile companiei si ordinele executive ale guvernului federal, respectarea indrumarilor AI poate fi o provocare. Dar puteti folosi si AI pentru a ajuta la conformitatea cu securitatea, legata de AI sau nu.
In primul rand, il puteti folosi pentru a eficientiza sarcinile de conformitate, pentru a minimiza erorile si pentru a reduce potentialele amenzi. De asemenea, il puteti folosi pentru a fi la curent cu cele mai recente reglementari. Modelele AI pot analiza in mod constant bazele de date de reglementare si posturi de stiri de incredere pentru actualizari. Acest lucru permite organizatiei dvs. sa implementeze acele modificari in sistemele dvs. de conformitate cat mai curand posibil.
Imbunatatirea managementului costurilor
In timp ce solutiile AI pot fi investitii initiale considerabile, ele pot plati dividende in continuare. Conform raportului IBM Cost of a Data Breach din 2023, costul mediu al unei incalcari a datelor este de 4,45 milioane USD. Vestile bune? Organizatiile care folosesc AI de securitate au suportat mai putine costuri de incalcare a datelor in comparatie cu companiile care nu folosesc instrumente de securitate cibernetica bazate pe AI.
Alte utilizari pentru solutiile de securitate AI
Instrumentele de securitate AI si solutiile de securitate cibernetica pot ajuta si cu:
-
Inteligenta amenintarilor
-
Detectarea vulnerabilitatilor
-
Intretinerea datelor
-
Vizibilitate si observabilitate
Impactul negativ al AI in securitate
Desi AI poate avea un impact pozitiv asupra securitatii, a creat si noi provocari in domeniul securitatii cibernetice.
Lacunele in competentele de IA si securitate cibernetica persista
Doar 17% dintre tehnologi sunt complet increzatori in abilitatile lor de securitate cibernetica. Si chiar mai putin (12%) sunt complet increzatori in abilitatile lor de AI/ML. Acest decalaj de cunostinte, pe langa preocuparile de sanatate mintala existente, ingreuneaza ca profesionistilor in securitate sa se apere impotriva amenintarilor bazate pe inteligenta artificiala si sa foloseasca inteligenta artificiala ca instrument de securitate.
Si chiar si cu avantajele AI, profesionistii in securitate au inca nevoie de perfectionare pentru a intelege modul in care AI interactioneaza cu alte instrumente si tehnologii. „Pentru profesionistii in securitatea informatiilor, va exista o multime de noi invatari despre modul in care securitatea si confidentialitatea in AI functioneaza impreuna”, spune John.
Deepfake-urile imbunatatesc ingineria sociala
Actorii amenintarilor folosesc adesea normele sociale si presiunea pentru a pacali oamenii sa dea informatii. Si AI ii ajuta. „Deepfake-urile, emularea vocii si altele asemenea permit cu adevarat ingineria sociala”, spune Aaron.
„Acest acces initial le permite apoi sa obtina acces la retea la medii. De aici, ei mai trebuie sa enumere mediul, sa se deplaseze lateral in alte parti ale retelei, sa escaladeze privilegiile, sa descarce instrumente sau ransomware, sa comunice prin protocoale C2 si apoi sa exfiltreze datele sau sa cripteze dispozitivele. In fiecare dintre aceste puncte, ar trebui sa fie prinsi.”
Actorii amenintarilor folosesc AI pentru a lansa atacuri cibernetice
„Avem atacatori si poate fi orice, de la script kiddies la state nationale, folosind AI pentru a-si perfectiona si imbunatati atacurile”, spune John.
Cu inteligenta artificiala generativa, oamenii fara experienta extinsa in codificare pot scrie acum atacuri malware si bot si pot lansa atacuri mai mari si mai sofisticate. Acest lucru a crescut numarul de amenintari si numarul de atacatori.
Actorii amenintarilor profita de asemenea de oamenii si organizatiile care folosesc instrumente AI atacand datele si modelele din spatele lor. Ei lanseaza atacuri folosind lucruri precum:
-
Injectii prompte
-
Injectare de cod open-source
-
Otravirea datelor
-
Evadarea modelului
„Vad mai mult utilizarea inteligentei artificiale pentru lucruri de tip ofensiv”, spune Chris. „Deci, hacking-ul, de exemplu, ajutand doar la dezvoltarea diferitelor scripturi, creand instrumente mult mai rapid, chiar oferind o perspectiva diferita pentru ca, stiti, mult hacking, multa securitate ofensiva depinde de gandirea in afara cutiei, gandirea la modalitati de a manipuleaza sistemele si fa-le sa actioneze in anumite moduri in care nu ar trebui sa actioneze.”
Viitorul AI in securitate
AI face deja valuri in domeniul securitatii cibernetice si nu va face decat sa accelereze peisajul amenintarilor pe masura ce trece timpul. Antrenati-va echipele in inteligenta artificiala pentru a va proteja impotriva acestor amenintari si utilizati-l pentru a spori apararea organizatiei dvs.
Iata cateva cursuri pentru a incepe:
-
AI generativ pentru profesionistii in securitate
-
Riscuri de securitate si preocupari legate de confidentialitate folosind IA generativa
-
Tehnici AI generative pentru apararea cibernetica
-
Securitate Hot Takes: ChatGPT