AI v kybernetickej bezpečnosti: Hrozba alebo príležitosť?

Umelá inteligencia (AI) mení svet kybernetickej bezpečnosti závratnou rýchlosťou. Na odbornej konferencii Judgment Day, ktorá sa konala v Bratislave, sa stretli poprední odborníci na kyberbezpečnosť, aby diskutovali o súčasných trendoch a výzvach v oblasti umelej inteligencie (AI) a jej vplyve na bezpečnosť. Panelová diskusia s názvom „Je AI hrozba alebo ochrana?“ bola jedným z kľúčových momentov konferencie, pričom jej cieľom bolo preskúmať, či je AI viac prínosom pre obranu proti kybernetickým hrozbám alebo predstavuje riziko pre bezpečnosť.

JE AI KĽÚČOM K BEZPEČNOSTI?

S rastúcou integráciou AI do každodenných pracovných činností prichádzajú nové možnosti, no aj výzvy, o ktorých diskutovali odborníci ako Andrej Jeleník (Cisco), Dušan Petričko (Slovenská sporiteľňa), Vladimír Frčo (Alanata), Ivan Makatura (Kompetenčné a certifikačné centrum kybernetickej bezpečnosti) a Stephanie Hare (medzinárodná expertka na etiku v AI a technológie). Spoločne posudzovali potenciálne hrozby, ktoré AI prináša, a hľadali spôsoby, ako využiť jej silu na zlepšenie kybernetickej bezpečnosti.

POMOC PRE BEZPEČNOSTNÉ TÍMY

Dušan Petričko, Information Security Specialist zo Slovenskej sporiteľne, vysvetlil, ako môže AI pomôcť pri zlepšovaní interných procesov a pri detekcii hrozieb v reálnom čase. Má rozsiahle skúsenosti v nasadzovaní automatizačných riešení pre kybernetickú bezpečnosť. „AI môže premeniť výzvy na príležitosti. Môže nám poskytovať dôležitú spätnú väzbu a podporiť špecialistov pri detekcii útokov,“ skonštatoval. Poukázal tiež na to, že vďaka automatizovaným riešeniam môžu bezpečnostné tímy efektívnejšie reagovať na incidenty, čo zvyšuje celkovú bezpečnosť.

MEDZI PRÍLEŽITOSŤAMI A HROZBAMI

Andrej Jeleník, Cisco Solution Architect zo spoločnosti Cisco má bohaté skúsenosti v oblasti kybernetickej bezpečnosti, ktoré ho vedú k opatrnosti pri nasadzovaní AI, hoci uznáva aj jej prínosy. „AI nám rozhodne prináša mnoho výhod, no vidím aj množstvo rizík, najmä v oblasti zneužitia technológií. Útočníci majú vďaka AI lepší prístup k sofistikovanejším nástrojom,“ poznamenal Jeleník.

HROZBY ZO STRANY ÚTOČNÍKOV

SOC bezpečnostný špecialista Vladimír Frčo z Alanata upozornil, že rovnaké nástroje, ktoré využívame na obranu, môžu byť dostupné aj útočníkom. „AI poskytuje útočníkom možnosť rýchlejšie vyvíjať nové typy útokov. Prístup k nástrojom, ktoré predtým vyžadovali spoluprácu viacerých ľudí, má dnes vďaka AI jednotlivý útočník,“ povedal Frčo. Upozornil, že práve efektívnosť a rýchlosť AI sú dôvodom, prečo počet útokov narastá.

CERTIFIKÁCIA A BEZPEČNOSTNÉ NORMY

Ivan Makatura, predseda predstavenstva a generálny riaditeľ Kompetenčného a certifikačného centra kybernetickej bezpečnosti sa zameral na otázku certifikácie AI systémov. „Certifikácia umelej inteligencie je zložitý proces, najmä preto, že AI sa neustále vyvíja. To, čo certifikujete dnes, nemusí zajtra spĺňať pôvodné technické špecifikácie. Preto je potrebné pristupovať k certifikácii dynamicky a neustále ju aktualizovať,“ uviedol Makatura. Zdôraznil, že certifikácia by mala byť podporovaná aj auditmi a dôkladným testovaním, aby bolo zaručené, že systémy AI fungujú bezpečne a spoľahlivo.

ETICKÉ VÝZVY UMELEJ INTELIGENCIE

Záver panelovej diskusie sa sústredil na etické otázky spojené s používaním AI. Stephanie Hare sa dlhodobo venuje otázkam etiky v technologickom prostredí, pričom svoje poznatky prezentuje na medzinárodných fórach. Hovorila o troch základných princípoch, ktoré by mali byť dodržiavané pri zavádzaní AI – transparentnosť, vysvetliteľnosť a zodpovednosť. „Je dôležité, aby sme vedeli, na akých dátach je AI vytrénovaná, a aby bol zavedený mechanizmus zodpovednosti za chyby alebo škody spôsobené nesprávnym použitím AI,“ povedala Hare. Zdôraznila, že tieto princípy musia byť súčasťou každého projektu, ktorý zahŕňa AI, aby sa predišlo vážnym chybám a zneužitiu.

Odborníci na kyberbezpečnosť počas panelovej diskusie na Judgment Day 2024. ZDROJ: Alanata

PRÍLEŽITOSŤ ALEBO HROZBA?

Panelová diskusia počas konferencie Judgment Day 2024, ktorú organizovala spoločnosť Alanata, ukázala, že AI je mocným nástrojom na zlepšenie bezpečnosti, no zároveň prináša nové riziká. Odborníci sa zhodli, že kľúčom je nájsť správnu rovnováhu medzi využívaním AI na ochranu a zvládaním hrozieb, ktoré táto technológia môže predstavovať.

Umelá inteligencia bude hrať čoraz väčšiu úlohu v oblasti kybernetickej bezpečnosti, a preto je nevyhnutné, aby firmy a organizácie pochopili jej potenciál a zároveň boli pripravené čeliť etickým a bezpečnostným výzvam, ktoré so sebou prináša.

Spoločnosť Alanata ponúka tím certifikovaných odborníkov s dlhoročnými skúsenosťami v oblasti informačnej a kybernetickej bezpečnosti, ktorí vám poskytnú komplexné služby a bezpečnostné riešenia na mieru.

O SPOLOČNOSTI ALANATA