CISO가 AI를 전면 도입해야 하는 이유

제가 처음 한 말은 아니지만, 아무리 반복해도 지나치지 않은 말이 있습니다. 바로 '인공 지능(AI)이 사이버 보안의 판도를 바꾸고 있다'는 말입니다. AI를 신뢰하며 올바르게 사용한다면 AI는 사이버 보안 팀의 인력을 위한 기술적으로 발전된 파트너로서의 필수 요소가 될 것입니다. 하지만 AI를 전면 도입하는 데 실패한다면 AI는 악성 행위자들이 우리를 압도하는 무기로 사용될 것입니다.

사이버 보안에서 AI는 양날의 검입니다. 그리고 지금은 사이버 범죄자들이 그 날을 더 잘 활용하는 것 같습니다. 이들은 AI를 사용하여 공격을 가속화 및 확장하고 많은 전술, 기법 및 절차(TTP)를 훨씬 더 효과적으로 만들고 있습니다.

예를 들어, 사기꾼들은 ChatGPT와 같은 상용 도구를 사용하여 비즈니스 이메일 침해(BEC)와 피싱 공격을 더욱 표적화하고 현실화할 수 있습니다. 전문 지식 수준이 낮은 범죄자들은 AI를 사용함으로써 자신의 디바이스를 사용할 때보다 훨씬 더 정교한 공격을 수행할 수 있습니다. 지금 우리 눈에 보이는 것은 빙산의 일각에 불과합니다.

AI는 오랫동안 존재해 왔지만 사이버 보안에 있어서는 비교적 초기 단계에 있습니다. ChatGPT의 사용이 시작된 것은 불과 2022년 11월입니다. 상당수의 AI 학습은 발전 단계에서 애플리케이션 스택을 중심으로 이루어질 것입니다. 해커가 AI를 광범위하게 사용하여 소프트웨어 코드를 익스플로잇하는 것은 시간문제입니다.

AI로 인한 피해

사이버 범죄자는 언제나 혁신적이고 새로운 공격 방법을 찾고 있습니다. 바로 어디에나 통용되는 간단한 비즈니스 모델입니다. 이들은 이미 AI를 효과적으로 사용하며 더 광범위하게 사용하기를 원합니다.

많은 CISO는 이러한 문제를 감안하여 AI를 통한 이점보다 AI로 인한 피해에 더 주의를 기울이고 있습니다. 런던에 본사를 둔 사이버 보안 컨설팅 기업은 최근 250명의 CISO를 대상으로 설문조사를 실시했습니다. 응답자의 80%는 AI가 비즈니스에 중대한 사이버 위협이라 생각한다고 답했으며, 81%라는 높은 비율의 응답자는 AI의 위험성이 이점보다 더 큰 것으로 여기고 있습니다.¹

이해할 수 있는 생각이지만, 근시안적이기도 합니다. 우리는 사이버 범죄자가 사용하는 도구와 기술을 제어할 수 없습니다. 특히 AI 생성 공격과 AI 기반 공격에 대한 강력한 방어를 구축하지 않을 경우 범죄자의 AI 사용은 기하급수적으로 증가할 것입니다. AI 기반 공격을 방어하려고 인력에게만 전적으로 의존하는 것은 한 손을 뒤로 묶은 채 싸우는 것과 마찬가지입니다.

그렇다면 이를 위한 방어는 어떻게 구축해야 할까요? 유일한 방법은 바로 AI를 사용하여 AI에 맞서는 것입니다.

AI를 통한 이점

실제로 AI는 인간보다 더 빠르고 정확하게 특정 업무를 수행할 수 있습니다. 사람보다 더 빠른 반복을 통해 사람보다 빠르게 코드를 만듭니다. 올바른 기능에 사용될 경우 하나의 AI는 10명이 하는 업무량을 수행할 수 있습니다. AI는 날이 갈수록 그 기능이 더욱 발전하고 있습니다.

오늘날의 환경에서 우리는 AI를 사용하여 알림을 받고 위협을 모니터링하고 대응합니다. 1년 내에 우리는 AI를 사용하여 알림을 모니터링하고 개별 조치를 취할 수 있게 됩니다.

그 이유는 무엇일까요? 인력은 위협 환경에 속도를 맞출 만큼 빠르기 않기 때문입니다. 우리는 AI가 적절한 한계를 두고 수행할 수 있는 일을 허용해야 합니다. AI의 독립적인 작업 수행을 허용하기 위해서는 AI의 권리와 책임을 정의해야 합니다. 그리고 가장 중요한 것은 우리가 사이버 보안 팀의 인력을 신뢰하는 것처럼 AI의 업무 수행을 신뢰해야 합니다.

또 하나의 팀원

AI를 올바르게 사용하지 못한다면 조직의 안전을 저하시킬 수 있는 쓸모없는 도구로 전락합니다. CISO로서 우리의 가장 중요한 책임 중 하나는 조직의 문화를 조성하고 육성하는 것입니다. AI를 필요한 도구로 도입할 경우 팀은 이를 받아들일 가능성이 훨씬 높습니다.

AI에 대한 흥미로운 사고 방법을 제안합니다. 포괄성, 정확성, 엄청난 속도를 갖추고 중요한 업무를 수행하는 능력과 자율성을 가진 사이버 보안 팀의 또 다른 직원이자 동료로 여기는 것입니다.

CISO와 팀은 인간 근로자를 교착 상태에 빠뜨릴 수 있는 많은 기계적인 업무를 수행하는 AI를 기꺼이 신뢰해야 합니다. 즉, 기술이 계속 발전함에 따라 현재와 미래에 AI가 효과적으로 수행할 수 있는 것을 주의 깊게 평가해야 합니다. 어떤 부분에서 인력을 보완할 것이며, 어떤 부분에서 인력의 업무를 담당할 것이며, 인력이 이를 더 효과적으로 사용할 수 있는 부분은 무엇인가? AI를 통해 더 빠르고 효율적이며 더 낮은 위험성을 가지고 수행할 수 있는 업무 중 인적 오류에 취약한 업무는 무엇인가?

또한 AI의 책임감 있는 사용을 반드시 보장해야 합니다. 즉, 잘못된 작업을 노출시키는 감사를 신중하게 수립해야 합니다. Better와 같이 높은 규제가 적용되는 시장의 기업들은 AI 사용 시 더 많은 예방 조치를 취해야 합니다. 이는 금융계 기업이나 의료 서비스 등의 분야도 마찬가지입니다. 분야에 따라 AI의 사용에 미묘한 차이가 생기게 됩니다. 예를 들어, 우리 업계에서는 잠재적인 차이를 우려하는 정도입니다. 반면 의료 서비스의 경우 의학적 오진은 치명적인 결과로 이어질 수 있습니다.

시류에 편승해야 할 시간

이 문서에서 제시한 아이디어와 주의점은 사이버 보안 팀의 무기고에서 선제적이고 예방적이며, 상당 부분 방어적인 도구로서의 AI를 가장 효과적으로 사용하는 방법을 결정짓기 위해 고려해야 할 모든 요소입니다. 가장 중요한 것은 AI의 사용 여부가 아니라 어떻게 사용할 것인가를 생각해야 한다는 것입니다.

다행히 CISO로서 우리는 혼자가 아닙니다. 지원과 공유 지식을 제공하는 커뮤니티가 있습니다. 우리 모두에게 도움이 될 AI 기반 솔루션에 투자할 리소스와 동기를 가진 공급업체 커뮤니티의 견고하고 혁신적인 파트너가 있습니다.

우리는 실시간 위협 인텔리전스 및 대응, 자동 인시던트 대응, 행동 분석, 보안 정보 및 이벤트 관리(SIEM), 사기 탐지 등에 AI가 올바르게 사용되는 것을 이미 잘 알고 있습니다.

앞으로도 AI를 사용하여 코드 패칭과 코드 생성, 악성 코드 식별 및 취약점 자동 수정, 팀의 인력보다 빠르고 정확하게 이러한 업무를 완료할 수 있는 엄청난 기회가 있을 것으로 전망하고 있습니다. 이와 같은 업무로부터 자유로워진 인력은 수익을 창출하는 기능을 구축하는 데 더 많은 시간을 할애할 수 있습니다.

사이버 범죄자들이 빠른 속도로 취약점을 익스플로잇하는 것처럼, 방어를 강화하기 위해 AI를 사용하는 것 또한 빠른 속도의 진전이 있을 것입니다. 악성 행위자들이 우리의 속도를 앞질러 너무 많은 발전을 이루지 못하도록 해야 합니다. 악성 행위자들은 AI를 사용하여 우리를 앞지를 것입니다.

지금이 바로 CIO와 팀이 AI를 수용하고, AI가 사이버 보안의 판도를 바꾼다는 것을 인식하며, 이를 안전하게 도입하고 신뢰하는 문화를 조성해야 할 시기입니다.

Better는 디지털 기술을 사용하여 주택 소유를 더 간단하고 빠르고 쉽게 만드는 데 앞장서고 있습니다.

1. Chris Middleton, "Why 80% of CISOs see AI as the biggest threat to their business," Diginomica, 2023년 10월 11일.