[메가경제=황성완 기자] 생성형 인공지능(AI)의 발전이 산업 전반의 혁신을 이끌고 있지만, 이와 동시에 사이버 공격의 위협도 빠르게 키우고 있다는 분석이 나오고 있다. AI가 보안을 강화하는 '방패'인 동시에 공격에 악용될 수 있는 '창'으로도 활용될 수 있다는 우려가 커지면서 국내 보안업계의 긴장감도 높아지는 분위기다.

 

▲기사의 이해를 돕기 위해 생성형 AI로 제작한 이미지. [사진=챗GPT]

 

18일 업계에 따르면 최근 국내외에서는 AI를 활용한 해킹 시도와 보안 사고가 잇따르고 있다.

 

기존에는 해커가 수작업으로 수행하던 취약점 탐색과 공격 코드 제작 과정이 AI를 통해 자동화되면서 공격 속도와 정교함이 크게 향상되고 있다는 평가다. 특히 AI가 운영체제(OS)와 소프트웨어 코드를 분석해 취약점을 스스로 찾아내고 공격 경로까지 제시할 수 있는 수준에 이르면서 사이버 보안 패러다임 자체가 변화하고 있다는 업계의 분석도 나온다.

 

이런 논란의 중심에는 AI 기업 앤트로픽이 공개한 차세대 AI 모델 '미토스(Mythos)'가 있다. 최신 모델인 '미토스5'는 앤트로픽의 최상위 AI 모델 중 하나로, 글로벌 AI 보안 협력체인 '프로젝트 글래스윙(Project Glasswing)'을 통해 제한적으로 제공되고 있다. 프로젝트 글래스윙은 AI를 활용해 소프트웨어 취약점을 탐지하고 보완하는 국제 협력 프로그램으로, AI가 발견한 취약점을 실제 공격에 악용되기 전에 선제적으로 제거하는 것을 목표로 한다.

 

앤트로픽은 지난 4월 미토스5를 공개하며 해당 모델이 소프트웨어 보안 취약점을 탐지하는 데 뛰어난 성능을 갖췄다고 밝혔다. 

 

회사 측은 "미토스 프리뷰가 주요 운영체제와 웹 브라우저를 포함해 수천 건의 고위험 취약점을 발견했다"고 설명했다. 다만 "이런 기술이 보안 강화뿐 아니라 악의적인 사이버 공격에도 활용될 수 있다며 제한된 환경에서 운영하고 있다"고 덧붙였다.

 

실제로 미국에서는 미토스 공개 이후 AI 기반 사이버 공격 가능성에 대한 우려가 확산됐다. 이에 도널드 트럼프 행정부와 금융당국은 대응 방안 마련에 착수했으며, 이후 미토스5와 페이블5에 대한 수출 통제 검토에 나선 것으로 알려졌다.

 

▲SK쉴더스 보안센터 [사진=SK쉴더스]

 

◆ SK쉴더스, 보안관제 플랫폼 '시큐디움' 통해 AI 기반 MXDR 체계 고도화

 

업계에서는 AI 기반 공격이 앞으로 더욱 늘어날 것으로 보고 있다. 특히 리눅스(오픈소스 운영체제) 기반 서버와 클라우드 환경이 확대되면서 AI가 취약점을 탐지하고 공격 시나리오를 생성하는 사례도 증가할 것으로 예상된다.

 

이에 국내 보안업계는 AI를 활용한 공격에 대응하기 위해 AI 기반 방어 체계 구축에 속도를 내고 있다. 기존 시그니처 기반 탐지 방식만으로는 AI가 만들어내는 새로운 공격 패턴을 실시간으로 대응하기 어렵기 때문이다.

 

국내 보안 전문기업 SK쉴더스는 최근 AI 기반 공격과 리눅스·클라우드 서버를 노린 위협 증가에 대응하기 위해 ▲AI 기반 보안관제 ▲MXDR(관리형 확장 탐지·대응) ▲클라우드·OT 보안 ▲제로트러스트 강화에 집중하고 있다. 특히 보안관제 플랫폼 '시큐디움(Secudium)'을 AI 기반 관리형 확장 탐지·대응 서비스(MXDR) 체계로 고도화해 엔드포인트부터 네트워크, 클라우드까지 통합적으로 위협을 탐지·대응하는 체계를 구축했다.

 

또한 AI 기반 이상행위 분석을 활용해 공격 징후를 조기에 식별하고 자동 대응 기능을 강화하는 한편, 글로벌 위협 인텔리전스와 연계해 고객 환경 전반의 보안 리스크를 통합 관리하고 있다. 최근 확산되는 랜섬웨어와 서버 침해 공격에 대응하기 위해 클라우드 보안, 제로트러스트, OT(운영기술) 보안 서비스도 확대하고 있다.

 

아울러, 국내 최대 규모 화이트해커 조직 'EQST'를 중심으로 최신 사이버 위협 동향과 공격 기법을 분석한 'EQST 인사이트' 보고서를 정기 발간하고 있으며, 사고 대응을 넘어 사전 예방 중심의 보안 체계 구축을 지원하고 있다. 특히 글로벌 보안 컨퍼런스와 해킹대회 참여를 통해 확보한 위협 분석 역량을 기업 고객 보안 서비스에 반영하며 대응 체계를 고도화하고 있다.

 

▲안랩 CI. [사진=안랩]

 

◆ 안랩, 자사 XDR 중심 탐지·분석·대응 체계 고도화

 

안랩도 엔드포인트, 네트워크, 클라우드, 사이버물리시스템(CPS) 등에서 축적한 보안 기술을 통합 보안 플랫폼 '안랩 플러스(AhnLab PLUS)'로 연계하고, SaaS형 위협 분석 플랫폼 '안랩 XDR'을 중심으로 탐지·분석·대응 체계를 고도화하고 있다. 특히 외부에 노출된 서버와 서비스, 관리되지 않는 자산, 취약점 등을 식별하는 기능을 강화해 공격 표면을 사전에 줄이는 데 집중하고 있다.

 

더불어, 최근 AI를 활용한 공격 자동화가 확산되는 만큼, 보안업계 역시 AI 기반 대응 역량 확보에 나서고 있다. 안랩은 '안랩 AI 플러스(AhnLab AI PLUS)'를 통해 위협 식별부터 분석, 대응까지 보안 운영 전반의 자동화 수준을 높이고 있으며, 향후 기업 고객을 대상으로 보다 빠르고 선제적인 대응 체계를 제공한다는 계획이다.

 

업계에서는 생성형 AI가 보안 분야의 생산성을 높이는 동시에 공격자에게도 새로운 도구를 제공하고 있는 만큼, 앞으로는 AI를 활용한 공격과 AI 기반 방어가 동시에 고도화되는 'AI 대 AI' 경쟁 구도가 본격화될 것으로 보고 있다.

 

업계 관계자는 "최근 공격 증가를 특정 운영체제나 특정 AI 모델의 영향으로 단정하기는 어렵지만, 리눅스 기반 서버 환경 확대와 AI 기반 공격 자동화 가능성은 최근 위협 환경을 설명하는 주요 변화 요인 중 하나로 볼 수 있다"며 "앞으로는 AI를 활용한 공격에 대응하기 위해 AI 기반 탐지·분석·대응 체계를 갖추는 것이 기업 보안의 필수 요소가 될 것"이라고 말했다.

[ⓒ 메가경제. 무단전재-재배포 금지]