|
|
|
|
AI가 커질수록 보안은 뒷전, 뒤늦게 ‘해킹 대응 지침’ 내놓고 기업 자체 점검 압박 |
|
 |
2026년 07월 09일 (목) 00:14:37 |
이정직기자
|
 |
|
|
|
|
인공지능(AI) 서비스가 산업 전반으로 빠르게 확산되는 가운데 정부가 AI 보안 체계를 전면 정비하기 위한 실무 지침을 내놨다. 생성형 AI를 겨냥한 새로운 해킹 기법과 정보 유출 위험이 현실화되면서 기업의 자체 보안 검증을 강화하는 방향으로 정책 무게중심이 이동하는 모습이다.
과학기술정보통신부와 한국인터넷진흥원(KISA)은 AI 서비스 운영 과정에서 발생할 수 있는 보안 위험에 대응하기 위해 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드'를 발간했다고 밝혔다.
최근 AI 기술은 금융·의료·공공·제조 등 다양한 분야에 빠르게 도입되고 있지만, 프롬프트 인젝션(Prompt Injection), 권한 오남용, 학습데이터 유출, 공급망 공격 등 기존 정보보호 체계만으로는 대응하기 어려운 새로운 보안 위협도 함께 증가하고 있다.
이에 정부는 공격자의 시각에서 AI 시스템의 취약점을 사전에 찾아내는 'AI 레드팀(AI Red Team)' 운영을 핵심 대응 전략으로 제시했다. AI 모델을 의도적으로 공격하거나 비정상적인 입력을 수행해 보안 취약성을 검증하는 방식이다.
이번에 공개된 'AI 보안 위협 대응 매뉴얼'은 AI 서비스에서 발생 가능한 위험을 데이터·모델·에이전트·공급망·고성능 모델 등 유형별로 구분하고, 금융·의료·공공행정·교육·제조·통신·법률·IT 등 8개 산업 분야별 실제 위협 시나리오와 대응 방안을 담았다.
특히 최고경영자(CEO) 등 의사결정권자는 AI 보안 위험을 이해하고 투자 방향을 결정할 수 있도록 했으며, 보안 담당자와 운영 실무자는 위협 진단 절차와 대응 기준을 현장에서 활용할 수 있도록 실무 중심으로 구성했다.
함께 발간된 'AI 보안 레드티밍 가이드'는 국내에서 처음으로 정부 차원의 AI 보안 점검 절차를 체계화한 기준서다. 레드팀 기획부터 조직 구성, 사전 준비, 공격 시나리오 수행, 결과 분석과 보고까지 전 과정을 단계별로 제시했으며, 점검 체크리스트와 검증 도구, 담당자 직무기술서까지 포함해 현장 활용성을 높였다.
가이드라인은 국제표준으로 추진 중인 ISO/IEC 42119-7 내용을 반영했으며, AI 보안 전문기업과 산업계 실무자, 학계 전문가 의견을 폭넓게 수렴해 마련됐다.
임정규 과기정통부 정보보호네트워크정책관은 “AI 기술의 확산과 함께 보안 위협도 빠르게 진화하고 있다.”며, “이번 가이드가 AI 서비스의 보안 수준을 높이고 현장에서 활용할 수 있는 실질적인 기준이 되기를 기대한다.”고 밝혔다. 이어 “앞으로도 AI 보안 레드팀 사업을 통해 공격 시나리오와 적용 도메인을 지속적으로 확대‧발굴하고, 최신 AI 기술과 동향을 반영해 가이드와 검증 체계를 고도화하여 AI 환경 변화에 선제적으로 대응해 나가겠다.”고 말했다.
-이정직기자 |
|
|
|
|
|
| ⓒ 재난포커스(http://www.diofocus.com) 무단전재 및 재배포금지 |
저작권문의 |
|
|
|
|
|
|
 |
전체기사의견(0) |
* 200자까지 쓰실 수 있습니다. (현재 0 byte/최대 400byte)
* 욕설등 인신공격성 글은 삭제 합니다. [운영원칙] |
|
|
|
| 전체기사의견(0) |
|
|
|
| 가장 많이 본 기사 |
|
|
 |
|
