"전 세계 보안 고칠 시간 딱 1년 남았다" AI 해킹 능력에 비상 걸린 보안업계

요약 오픈소스 AI 모델의 성능이 급격히 발전하면서, 개인용 하드웨어에서도 강력한 해킹 능력을 발휘할 수 있는 인공지능 모델이 보급되고 있다는 경고가 제기되었습니다. 최근 오픈 가중치(open-weight) 형태로 공개된 'GLM 5.3-flash'는 누구나 다운로드하여 자유롭게 수정하고 실행할 수 있는 모델입니다. 본래 개발사인 중국 Z.ai의 호스팅 환경에서는 법적인 제약이 걸려 있지만, 커뮤니티(DeAlignAI 등)를 통해 윤리적 가드레일이 완전히 제거된 '탈옥(abliterated)' 버전이 배포되고 있습니다. 해당 탈옥 모델은 사이버 범죄, 악성코드 제작, 무기 제조 등의 거부 여부를 평가하는 'Harmbench-320' 벤치마크에서 거부율 0%를 기록하며, 요청하는 모든 위험한 작업을 수행하는 것으로 나타났습니다. 더 큰 문제는 이 모델을 개인이 수천 달러 대의 일반 소비자용 하드웨어에서도 빠르게 구동할 수 있다는 점입니다. 약 6,000달러 수준의 엔비디아 GPU 환경에서 초당 약 20토큰 수준의 속도가 나오며, 256GB 통합 메모리를 갖춘 최신 Mac Studio(약 9,500달러 선) 등에서는 초당 30~45토큰 이상의 속도로 악성 스크립트나 취약점 분석 코드를 수 초 만에 작성할 수 있습니다. 즉, 일반적인 개인 예산 수준으로 고성능 AI를 24시간 내내 돌리며 취약점을 스캔할 수 있는 환경이 열린 셈입니다. 실제로 GLM 5.3은 실제 오픈소스 보안 취약점 패치 이력을 재현하는 'CyberGym' 벤치마크에서 84.5%를 기록해 기존 프론티어 상용 모델들을 제치고 1위를 차지했으며, 익스플로잇 능력을 평가하는 'ExploitBench'에서도 54.4%의 높은 점수를 기록했습니다. 이미 현업 보안 전문가들 사이에서도 LLM의 보조 없이는 보안 챌린지 경쟁이 불가능하다는 말이 나올 정도이며, 사람의 개입 없이도 인프라 취약점을 찾아내 공격하는 AI의 등장이 가시화되었습니다. 이에 따라 누구나 오픈 인터넷의 실제 서버와 서비스를 향해 탈옥된 고성능 AI를 겨누고 취약점을 털어버릴 수 있는 위협이 1년 이내로 닥쳐왔다는 지적이 나오고 있습니다.