사이버 보안에서 인공지능(AI)의 현황을 평가한다면, 기회와 과제가 역동적으로 섞여 있다고 말할 수 있겠습니다. 대부분의 사람들은 AI가 사이버 보안을 새롭게 재편하고 있으며, 방어자와 공격자 모두에게 혁신적인 잠재력을 제공하고 있다는 점에 동의할 것입니다. 한편으로 AI는 사이버 보안팀이 위협 탐지를 자동화하고, 대응 속도를 향상시키며, 전례 없는 속도로 적응형 보안 프레임워크를 구축할 수 있도록 지원합니다. 반면에 공격자들도 AI를 활용하여 혁신과 악용 사이에서 끊임없는 줄다리기를 벌이고 있습니다.
그러나 이러한 도전 과제에도 불구하고 사이버 보안에서 AI의 미래는 여전히 밝습니다. 여러 조직과 공급업체가 AI를 더욱 정교한 방식으로 보안 전략에 통합하면서, 이들은 새로운 위협을 능가하고 중요한 인프라를 그 어느 때보다 효과적으로 보호할 수 있는 역량을 갖추고 있습니다. 이러한 발전은 희망적인 수준을 넘어 미래의 디지털 환경을 보호함에 있어 핵심 요소로 자리잡을 것입니다.
지금까지의 성과
생성형 AI(GenAI)와 ChatGPT 같은 도구가 AI를 주류로 부상시켰지만, 사실 AI는 사이버 보안 분야에서 10년 이상 널리 활용되어 왔습니다. AI는 새로운 현상이 아니지만, 최근 몇 년간 사이버 보안에서의 활용 방식은 비약적으로 발전했습니다. 이제 AI는 공격을 선제적으로 방어하는 전략과 침해 발생 이후의 대응 전략에서 모두 필수적인 요소가 되었습니다. 오늘날의 사이버 보안 프레임워크는 AI를 중심으로 설계되어, 조직이 위협을 보다 효과적이고 효율적으로 탐지하고 대응하며 문제를 완화할 수 있도록 지원합니다. 이 기술은 이미 위협 탐지에 큰 영향을 미치고 있으며, 컨텍스트에 기반한 인식을 확보하고 정확성을 개선하는 데 중요한 역할을 하고 있습니다.
AI 도입을 위해서는 상당한 리소스 투자가 필요하다는 점이 전 세계적으로 인식되었다는 것 역시 중요한 진전 중 하나입니다. 예측에 따르면, AI 기반 사이버 보안 솔루션에 대한 글로벌 지출은 2030년까지 1,350억 달러에 이를 전망입니다.1 이는 AI가 더 이상 선택 사항이 아니라, 산업과 지역을 불문하고 디지털 인프라 보안의 필수 요소로 자리잡았음을 보여줍니다. 글로벌 지출 증가는 사이버 보안 환경이 광범위하게 변화하고 있음을 의미합니다. 이제 AI의 목표는 공격자를 따라잡는 것이 아니라, 한발 앞서 나가는 것입니다.
특히 GenAI는 사이버 보안의 판도를 바꾸는 핵심적 존재로 자리잡았습니다. GenAI를 활용하면 기존에 수동으로 진행해야 했던 작업을 자동화하고, 특정 대상에 대한 가시성을 확보하며, 보안 플랫폼 관리 작업을 간소화할 수 있습니다. 따라서 전문가들은 반복 작업에서 벗어나 보다 가치가 높은 업무에 집중할 수 있게 되었습니다. GenAI의 선제적 대응 특성은 사이버 보안이 단순한 사후 대응 방식에서 벗어나 위협이 실체화되기 전에 미리 대비하는 방향으로 변화하고 있음을 보여줍니다.
AI는 위협 모니터링, 알림 분류, 멀웨어 분석과 같은 반복적 작업을 자동화함으로써 사이버 보안 워크플로를 크게 개선했습니다. 현재 사이버 보안 인재에 대한 수요가 공급을 초과하는 상황에서 이러한 자동화는 매우 유용한 요소입니다. AI가 일상적 작업을 처리하는 동안 보안 전문가는 보다 전략적인 업무에 집중할 수 있습니다.
위협 인텔리전스 분야에서도 AI의 도입은 큰 변화를 일으켰습니다. AI는 기존의 방식보다 훨씬 더 신속하게 패턴과 신호를 감지하므로 해커들이 자신의 공격을 은폐하기가 점점 더 어려워지고 있습니다. 끊임없이 새로운 침해 방법을 개발하는 공격자보다 한발 앞서기 위해서는 실시간 데이터 기반의 인텔리전스로의 전환이 필수적입니다.
많은 조직이 전력망, 의료 시스템과 같은 중요 인프라의 운영 기술(OT) 환경을 보호하기 위해 AI를 활용하고 있습니다. Palo Alto Networks의 연구에 따르면, 4개 중 3개의 조직이 OT 환경을 겨냥한 사이버 공격을 경험했으며,2 이는 지능형 AI 보안의 필요성을 더욱 부각시킵니다. 중요한 시스템 전반에 AI를 통합하는 흐름은 특히 위험성이 높은 부문에서 AI의 필요성이 더욱 커지고 있음을 보여줍니다.
AI가 지속적으로 발전함에 따라 사이버 보안에서의 역할은 더욱 커질 것입니다. 앞으로의 과제는 AI 강력한 기능과 인간의 전문성을 최적으로 결합하여 갈수록 고도화되는 위협에 민첩하게 대응하는 능력을 갖추는 것입니다.
추후 예상되는 변화
사이버 보안에서 AI의 가장 흥미로운 점은 이미 이루어진 성과보다는 앞으로 실현될 가능성에 있습니다. AI의 지속적인 발전을 통해 조직들은 보안 체계를 더욱 강화하여 공격자보다 앞서갈 수 있게 될 것입니다. 또한 에이전트 AI의 등장으로 사이버 보안에서 인간의 역할은 더욱 전략적인 방향으로 변화할 것이며, 일상적 관리 업무는 더욱 자동화될 것입니다. 공격자들은 새로운 AI 기능을 악용하려 할 것이 분명하지만, 방어 측에서는 이미 사이버 보안에서 AI의 역할을 최적화하기 위해 막대한 투자를 진행하고 있습니다.
AI가 중요한 역할을 하게 될 핵심 영역 중 하나는 에지 컴퓨팅입니다. 특히 사물 인터넷(IoT)이 중심적인 역할을 하는 환경에서 AI의 역할이 더욱 두드러질 것입니다. 현재 에지 환경을 구성하는 디바이스와 데이터 소스는 계속해서 증가하고 있으며, 이러한 분산 시스템을 보호하기 위한 새로운 도전 과제가 등장하고 있습니다. 이러한 환경에서 신속하게 위협을 감지하고 완화하기 위해서는 AI의 실시간 데이터 처리 및 분석 능력이 필수적입니다. 미국 국립보건원에서도 “차세대 IoT 시스템이 최신 보안 시스템을 유지하기 위해서는 AI 기반의 머신러닝과 딥러닝 솔루션이 필요합니다.”라고 지적한 바 있습니다.3 이는 진화하는 IoT 보안에서 핵심 요소로 자리잡은 AI의 역할을 더욱 강조합니다.
가까운 미래에 AI가 매우 중요한 역할을 하게 될 분야로 데이터 개인정보 보호 부문을 들 수 있습니다. 규제 체계가 점점 더 엄격해짐에 따라 AI는 데이터 접근성과 개인정보 보호 사이에서 균형을 유지하는 핵심 요소로 자리잡을 것입니다. 차등 개인정보 보호, 연합 학습과 같은 기술을 활용하면 AI가 개인 식별 정보(PII)를 보호하면서도 방대한 데이터 세트를 효과적으로 분석할 수 있습니다. 이러한 AI 기반 개인정보 보호 솔루션은 데이터 보안을 침해하지 않으면서도 더 크고 다양한 데이터 세트를 다뤄야 하는 조직에게 필수적인 기술이 될 것입니다.
AI는 사이버 보안의 다른 여러 분야에도 혁신을 일으킬 것입니다.
- AI 퍼스트 보안 운영 센터(SOC): 숙련된 보안 엔지니어가 부족한 상황에서 AI는 위협 탐지와 대응을 자동화함으로써 SOC가 컨텍스트에 기반한 지능적 방식으로 대응할 수 있도록 지원할 것입니다. 특히 민첩성을 유지하며 증가하는 위협을 관리하는 ‘미래형 SOC’에서 AI는 핵심적인 역할을 할 것입니다.
- 피싱 및 비즈니스 이메일 침해(BEC) 방어: 이메일이 여전히 주요 공격 경로로 악용된다는 점을 고려할 때, AI는 피싱 및 BEC 공격 방어의 중요한 요소가 될 것입니다. AI는 실시간으로 커뮤니케이션 패턴을 분석하여 점점 더 정교해지는 이메일 기반 위협을 사전에 차단할 수 있도록 지원할 것입니다.
- 데이터 인사이트 향상: AI는 한 단계 더 발전된 분석 기능을 제공할 것입니다. 빅데이터에 대한 논의가 진전됨에 따라, AI 기반 분석 솔루션은 더 많은 실질적 인사이트를 제공하여 보다 정확한 데이터 기반 의사결정을 내릴 수 있도록 뒷받침할 것입니다.
- IT 및 SecOps 아키텍처의 간소화: 사이버 보안 인프라의 복잡성이 확대됨에 따라, AI를 활용한 플랫폼 중심 접근법은 보안 워크플로를 간소화하는 데 중요한 역할을 할 것입니다. 이러한 통합 솔루션은 운영의 복잡성을 줄이고 보안 효과를 개선할 수 있습니다.
- 네트워크 보안: 네트워크의 상호 연결성이 강화되고 비즈니스의 필수 요소로 자리잡으면서, AI는 사용자가 어디서, 어떤 디바이스를 통해 네트워크에 접속하든 안전한 보안을 제공하는 데 핵심적인 역할을 할 것입니다. AI 기반 솔루션은 취약점을 감지하고, 내부망 이동을 방지하며, 침입 시도에 실시간으로 대응할 것입니다.
이러한 발전은 사이버 보안의 근본적인 패러다임 전환을 의미하며, 사후 대응에서 예측 대응으로, 수동 작업에서 자동화로, 단편화된 시스템에서 통합 시스템으로의 혁신을 반영합니다. 진정한 기회는 AI의 강력한 기능을 인간의 전문성과 결합하여, 새로운 위협을 방어하는 수준을 넘어 사이버 보안의 실행 방식 자체를 근본적으로 변화시키는 데 있습니다.
주의해야 할 점
사이버 보안 분야에서 AI의 중요도가 커져가는 가운데, 조직이 직면할 가장 큰 리스크 중 하나는 바로 ‘안일한 태도’입니다. CIO, CISO, 그리고 기타 고위 경영진과 이사회 리더들은 AI의 놀라운 성과를 신뢰하며 안심할 수 있지만, 사이버 공격 또한 끊임없이 진화하고 있다는 사실을 잊어서는 안 됩니다. 최근 보고서에 따르면 많은 조직이 AI 기반 방어 체계를 과신하다가 침해 사고를 경험했습니다. 악의적인 공격자들은 단 한 번의 성공으로도 막대한 피해를 일으킬 수 있습니다. 이들은 영리하고, 풍부한 리소스를 확보하고 있으며, 다크웹 포럼과 기타 언더그라운드 채널을 통해 점점 더 협력적인 방식으로 공격을 고도화하고 있습니다.
따라서 조직은 AI 전략을 지속적으로 개선하고 발전시켜 더욱 앞서 나가야 합니다.
또한 AI가 보안 운영에 지속적으로 통합됨에 따라 거버넌스, 리스크 및 규정 준수(GRC)에 대한 우려도 잊어서는 안 될 것입니다. 특히 개인 및 사적 데이터 처리에서 AI의 역할이 확대됨에 따라 소비자 단체와 입법자들의 규제 압력이 점점 더 강해지고 있습니다. 차등 개인정보 보호, 연합 학습과 같은 기술은 이러한 리스크를 완화하는 데 도움이 되지만, 기업은 법적, 윤리적 문제에 대한 경계를 늦춰서는 안 됩니다. GDPR 및 CCPA에 따른 개인정보 보호법의 확장, 계속해서 진화하는 판례법 등 새로운 규제가 등장하고 있으므로 조직은 규정 준수를 보장하면서도 미래에도 지속 가능한 AI 보안 시스템을 구축해야 합니다.
지금 바로 실행 가능한 전략
사이버 보안에서 AI의 잠재력을 최대한 활용하기 위해 조직이 고려할 법한 실질적 조치는 다음과 같습니다.
- 사이버 보안 에코시스템 전반의 AI 통합: AI는 사이버 보안에서 고립된 기술이 되어서는 안 됩니다. 네트워크, 보안 인프라, 워크플로, 정책 전반에 걸쳐 내장되어야 합니다. 단일한 ‘AI 사이버 보안 책임자’를 임명하는 것은 AI의 잠재력을 제한하는 결과로 이어질 가능성이 높습니다. 그보다는 사이버 보안팀의 모든 구성원이 AI를 핵심 역량으로 인식하고, 기술에 대한 집단적 이해와 적극적 참여를 유도해야 합니다.
- 포괄적 위협 데이터에 기반한 AI 학습: AI의 사이버 보안 효과는 학습에 사용되는 데이터의 품질과 범위에 따라 크게 달라집니다. 범위가 좁은 일반적 데이터 세트는 현대 위협 환경의 역동적인 복잡성을 제대로 반영하지 못하며, AI의 예측 및 방어 역량을 제한할 수 있습니다. 다양한 공격 벡터와 공격 행동을 반영하는 방대한 실제 데이터 세트를 활용하면 더욱 정밀한 예측 및 방어 기능을 갖추도록 AI 시스템을 강화할 수 있습니다. Precision AI는 이러한 접근 방식의 대표적인 예시입니다. 글로벌 위협 인텔리전스를 통합하여 단순한 탐지에 그치지 않고 선제적으로 지능형 위협을 차단합니다. 이를 통해 유연하고 포괄적인 사이버 보안 솔루션의 새로운 기준을 제시하고 있습니다.
- AI 발전 동향의 지속적 파악 및 선제적 대응: AI 환경은 빠른 속도로 진화하고 있으며, 모범 사례와 책임 있는 사용, 규제 프레임워크, 위협 탐지 기술 등의 분야에서 새로운 발전이 지속적으로 이루어지고 있습니다. 이러한 트렌드를 이해하고 따라가는 것은 필수적인 요소입니다. 조직은 보안팀이 정기적으로 업계 보고서를 읽고, 웨비나에 참석하고, AI 기반 사이버 보안 커뮤니티에 참여하며 지속적으로 학습하고 변화에 적응할 수 있도록 지원해야 합니다.
궁극적으로 사이버 보안에서 AI의 미래는 낙관적입니다. 이 강력한 기술이 계속 발전함에 따라 조직은 새로운 위협에 선제적으로 대비하고 더욱 강력한 방어 체계를 구축할 수 있는 도구를 확보하게 될 것입니다. 그러나 여기에는 반드시 책임이 따릅니다. AI의 잠재력을 최대한 발휘하여 끊임없이 진화하는 위협 환경에 맞서 보안 체계를 혁신하기 위해서는 모든 보안 계층에 AI를 도입하고 AI의 최신 발전에 대한 정보를 지속적으로 파악해야 합니다.
싸움은 아직 끝나지 않았습니다. 하지만 AI와 함께라면 그 전망은 밝습니다.
Rich의 다른 의견이 궁금하신가요? 여기에서 그의 다른 글도 확인해 보세요.
1 “AI and Cybersecurity: A New Era,” Morgan Stanley, 2024년 9월 11일.
2 The State of OT Security: A Comprehensive Guide to Trends, Risks, and Cyber Resilience, ABI Research and Palo Alto Networks, 2024년 3월 21일.
3 Tehseen Mazhar et al., “Analysis of IoT Security Challenges and Its Solutions Using Artificial Intelligence,” Brain Sciences 13, no. 4: 683.
