(이미지=S2W)
이번 사업은 다크웹, 텔레그램, 해킹 포럼 등에서 수집한 대규모 언어모델(LLM) 공격 기법을 즉시 적용할 수 있는 S2W 연구팀의 오펜시브 보안 전문성을 기반으로 추진된다. 국제 비영리 단체 OWASP가 제정한 ‘OWASP Top 10 for LLM’ 기준에 산업별 특수성을 고려한 항목을 더해 도메인 적합성도 확보했다.
S2W는 모델과 프롬프트, 데이터, 에이전트 등 AI 서비스를 구성하는 주요 요소의 보안 취약점을 정밀 진단한다. 이를 통해 공격자의 악용 가능성을 다면적으로 검증하고 구체적인 개선 방안을 제시해 기업이 내부 보안 점검 체계를 정립할 수 있도록 지원할 계획이다.
사업 확대 배경에는 AI가 기업 핵심 시스템에 빠르게 적용되면서 기존 보안 체계로는 대응하기 어려운 위협이 늘고 있다는 판단이 작용했다. 과학기술정보통신부와 한국인터넷진흥원(KISA)이 최근 ‘AI 보안 레드티밍 가이드’를 발간하는 등 공격자 관점의 사전 보안 검증 요구가 늘어난 점도 반영됐다.
S2W는 사업 개시와 함께 국내 대형 금융사의 AI 서비스 취약점 진단 사업을 수주해 진행 중이다. 금융권의 엄격한 규제 환경을 고려한 진단을 시작으로 향후 AI 도입이 늘어나는 다양한 산업군으로 범위를 넓힐 방침이다.
양종헌 S2W 통합분석실장은 “AI 서비스의 잠재적 위험을 사전에 찾아내기 위해서는 AI를 활용한 정교한 점검과 공격자 관점의 전문적인 검증이 함께 이뤄져야 한다”라며 “S2W는 자체 개발한 AI 기반 도구에 오펜시브 보안 전문가의 노하우를 결합해, 기업이 AI 서비스를 보다 안전하게 도입하고 운영할 수 있도록 실효성 높은 진단 서비스를 제공하고 있다”라고 말했다.
