Frost & Sullivan과의 인터뷰에서 발췌
Kenny Yeo, Frost & Sullivan Director, Head of Asia Pacific Cybersecurity Practice

AI는 단순한 기술 업그레이드가 아니다

AI는 조직의 운영 방식을 빠르게 바꾸고 있다. 사이버 보안에도 직접적인 영향을 미치며 사이버 위협의 발생, 확산, 관리 방식까지 바꾸고 있다. 지금까지의 신기술은 새로운 도구를 제공하는 데 그쳤다면, AI는 조직이 의사결정을 내리는 방식, 데이터 활용 방법, 그리고 중요한 판단과 실행이 이루어지는 지점을 바꾸고 있다.

안랩 마케팅&글로벌사업부문 이상국 부문장은 AI가 기존 업무 흐름을 단순히 보완하는 수준을 넘어, 일하는 방식의 구조 자체를 바꾸고 있다는 점을 강조했다. 이에 따라 사이버 보안 전략도 이러한 변화에 맞춰 함께 진화해야 한다는 메시지를 분명히 했다.

“AI는 더 이상 새로운 보안 기능을 도입하는 수준에 머물지 않는다. 업무 수행 방식, 데이터 흐름, 의사결정 위치를 근본적으로 바꾸고 있으며, 보안도 이러한 현실에 맞춰 진화해야 한다.”

• 이상국 마케팅&글로벌사업부문 부문장

이와 같은 변화는 AI 기반 전환을 추진하는 보안 리더에게 중요한 의미를 갖는다. 특히 AI 활용이 최종 사용자와 운영 환경에 점점 더 가까워지고 있다는 점에서 더욱 그렇다.

AI로 더 빨라지는 사이버 공격과 방어

사이버 보안에 있어 AI는 공격자와 방어자 모두에게 큰 변화를 가져오고 있다. 공격자는 AI를 악용해 피싱, 사회공학 공격, 악성코드 변종 제작, 정보 수집 활동을 더 빠르고 큰 규모로 수행하고 있으며 이를 통해 정교한 공격에 필요한 시간과 비용을 크게 줄이고 있다. 방어자 역시 AI를 활용해 위협 탐지의 정확도를 높이고, 보안 경보의 우선순위를 판단하며, SOC(Security Operations Center)의 만성적인 인력 부족 문제를 보완하고 있다.

하지만 현시점에서 공격자가 더 빠르게 이득을 취하고 있다. 공격자는 AI를 즉시 활용해 생산성을 높일 수 있지만, 방어자는 AI를 조직에 안전하게 적용하기 위해 거버넌스, 데이터 통제, 운영 프로세스까지 함께 바꿔야 하기 때문이다.

이상국 부문장은 이와 같은 AI의 불균형을 아래와 같이 설명했다.

“공격자는 AI를 거의 곧바로 악용해 효과를 얻을 수 있지만, 방어자는 AI를 안전하게 활용하기 위해 거버넌스 체계, 데이터 통제 방식, 운영 프로세스를 먼저 정비해야 한다. 이 때문에 도입 초기에는 공격자가 방어자보다 AI의 이점을 더 빠르게 누리는 경우가 많다.”

공격자와 방어자 간 AI 활용 속도의 차이는 엔드포인트와 엣지 환경에서 특히 뚜렷하게 나타난다. AI 코파일럿, 브라우저 기반 생성형 AI, 로컬 추론 엔진이 사용자의 업무 환경 안으로 들어오면서 AI 활용 지점이 사용자와 운영 현장에 더 가까워지고 있기 때문이다.

AI 의사결정 인터페이스로 진화하는 엔드포인트

기존 보안 관점에서 엔드포인트는 파일, 이메일, 애플리케이션이 실행되는 환경에 가까웠다. 하지만 AI 활용이 확산되면서 엔드포인트는 단순한 실행 지점을 넘어, AI 입력, 추론, 결과 활용이 동시에 일어나는 의사결정 접점이 되고 있다.

이로 인해 기존 보안 체계만으로는 통제하기 어려운 새로운 유형의 위협이 발생하고 있다.

• 사용자가 AI 프롬프트에 민감한 데이터를 직접 입력하면서 발생하는 정보 유출
• 문서나 웹 콘텐츠에 숨겨진 프롬프트 인젝션 및 간접 명령 주입 공격
• 보안팀이 가시성을 확보하기 전에 조직 내에서 확산되는 승인되지 않은 Shadow AI 사용

보안 관점에서 엔드포인트는 더 이상 공격이 유입되는 지점 뿐만 아니라 사용자가 AI 결과를 바탕으로 비즈니스 판단을 내리고 실제 업무를 실행하는 출발점이 되고 있다.

악성코드 차단에서 AI 워크플로 통제로

이러한 변화는 엔드포인트 보안 전략의 근본적인 전환을 요구한다. AI 시대의 사이버 보안은 악성코드 실행을 막는 수준을 넘어 AI 워크플로를 통제하는 구조로 확장해야 한다.

핵심은 다음과 같다.

• 가시성: 어떤 AI 도구를 누가 어떤 목적으로 사용하는지 파악
• 입력 통제: 프롬프트 단계에서 민감정보, 소스코드, 고객정보, 운영정보가 외부로 나가지 않도록 통제
• 정책 기반 허용 모델: 모든 AI를 막는 것이 아니라 승인된 AI, 승인된 데이터, 승인된 사용자 시나리오만 허용
• SOC 와XDR 연동: AI 사용 이벤트의 탐지·대응·감사

기업은 완벽한 보안 아키텍처가 갖춰지기를 기다리기보다 AI가 이미 사용되는 엔드포인트에서부터 당장 실행할 수 있는 실질적인 통제 조치에 집중해야 한다.

AI 보안, IT를 넘어 OT와 물리 환경으로 확장

AI 활용이 OT(운영 기술)와 핵심 인프라로 확대되면 위협 환경은 더 복잡해진다. IT 환경에서 AI 오류는 잘못된 분석, 오탐, 정보 유출과 같은 문제로 이어질 수 있다. 하지만 OT환경에서는 잘못된 판단이 생산 중단, 설비 오동작, 안전사고, 공급망 차질로 이어지는 등 그 영향이 물리적 피해로 이어질 수 있어 IT 환경보다 더욱 큰 문제가 발생할 수 있다

이 때문에 OT 환경에서는 보안의 우선순위도 달라진다.

• 가용성과 안전이 기밀성보다 더 높은 우선순위를 가진다
• 레거시 자산과 폐쇄망, 긴 수명주기가 아키텍처의 신속한 전환을 제약한다
• 운영 중단을 피하기 위해 보안 통제는 업무 운영에 미치는 영향을 최소화해야 한다

따라서 OT에 AI를 도입할 때는 신중한 접근이 필요하다. 조직은 AI를 제어 계층에 직접 적용하기보다 모니터링, 분석, 의사결정 지원부터 시작하는 점진적 접근 방식을 채택해야 한다. 동시에 자산 가시성, 세분화, 접근 통제, 이상 징후 탐지와 같은 기본 OT 보안 체계를 강화해야 한다.

CISO를 위한 보안 권고

CISO의 과제는 더 이상 AI 도입 여부를 판단하는 것이 아니다. AI는 이미 조직 내에 퍼져 있다. 핵심은 비즈니스 속도를 늦추지 않으면서 AI 사용을 어떻게 통제할 것인가다

첫째, 엔드포인트의 AI 사용 현황 가시화해야 한다.

보안 리더는 승인 여부와 관계없이 AI 도구가 이미 사용되고 있다고 가정해야 한다. 어떤 AI 서비스를 어떤 업무 맥락에서 직원들이 용하는지 파악해야 한다.

둘째, 데이터 보호를 사용자가 AI와 상호작용하는 접점에 더 가깝게 적용해야 한다.

민감 데이터가 프롬프트에 직접 입력될 경우 경계 기반 통제만으로 충분하지 않다. CISO는 노출이 발생한 이후에만 대응할 것이 아니라, AI와 상호작용할 때 데이터를 보호하는 데 집중해야 한다.

셋째, 전면적 제한보다 허용 가능한 AI 사용 기준 수립해야 한다.

AI를 전면 금지하는 방식은 실효성이 낮고, 오히려 비공식적인 AI 사용을 확산시킬 수 있다. 성숙한 조직은 AI 사용을 무조건 차단하기보다 안전한 대안을 제공하고, 어떤 AI 도구와 데이터 유형, 사용 사례를 허용할지 명확히 정의한다.

넷째, AI 사용 현황을 SOC와 XDR 워크플로에 통합해야 한다.

AI관련 이상 징후는 주요 보안 이벤트로 다뤄야 한다. AI 사용 신호를 SOC 운영에 연계하면 AI 사용을 모니터링하고, 이상 행위를 조사하며, 책임 소재를 추적할 수 있다.

마지막으로, OT와 중요 환경에서 AI를 신중하게 활용해야 한다.

산업 환경에서 CISO는 속도보다 복원력을 우선해야 한다. 탄탄한 OT 보안 기본기를 기반으로 AI를 단계적으로 도입하면 리스크를 줄이면서도 조직이 AI 활용에 대한 확신을 쌓을 수 있다.

이와 같은 조치는 AI 사용 환경을 보호하는 수준을 넘어, AI 기반 의사결정을 관리하고 통제하는 방향으로의 전환을 의미한다.

AI 시대 보안 리더의 핵심 과제

이 논의의 핵심은 최신 AI 기능을 얼마나 빨리 따라잡느냐가 아니다. 중요한 것은 지금 시작해 현실적으로 적용하고, AI 활용이 확산되는 과정에서도 통제력을 잃지 않는 것이다.

AI 보안을 먼 미래의 대형 과제로 미뤄 둘 필요도 없다. 변화에 강한 조직은 지금 관리할 수 있는 영역부터 정비하고 통제가 작동하는 환경에서 먼저 경험을 쌓고, AI 활용이 넓어질수록 적용 범위를 단계적으로 확대해야 한다.

AI 시대의 사이버 보안은 단순히 인프라를 보호하는 데 머물 수 없다. 이제는 AI가 관여하는 의사결정까지 관리하고 통제하는 방향으로 확장돼야 한다. 결국 그 시작점은 이와 같이 의사결정이 점점 더 많이 발생하는 엔드포인트다.

AhnLab AI PLUS는 빠르고 안전한 AI 전환을 지원합니다.
엔드포인트부터 CPS 환경까지, 보안 운영 전반을 지능화하는 AhnLab AI PLUS를 확인해보세요.

자세히 보기

출처 : AhnLab