핵심 요약
- 보안 연구원이 웹 핑거프린팅 스크립트를 분석하던 중 극단적인 유해 키워드로 가득 찬 의문의 자바스크립트 코드를 발견했습니다.
- 이는 AI(LLM)를 이용한 코드 난독화 해제를 방해하기 위해 모델의 안전 가이드라인 필터를 고의로 작동시키는 신종 방어 기법이었습니다.
- 실제로 주요 AI 모델에 해당 코드의 분석을 요청하자 안전 규정 위반을 이유로 분석을 거부하는 현상이 확인되었습니다.
요약 웹 브라우저 핑거프린팅 스크립트를 역공학하던 한 보안 연구원이 전 세계 인기 웹사이트 1만 개를 크롤링하여 캔버스(Canvas) 기반 브라우저 식별 스크립트들을 수집하고 시각화하는 프로젝트를 진행했습니다. 캔버스 핑거프린팅은 웹 브라우저가 화면에 특정 그래픽을 렌더링할 때 하드웨어나 드라이버, OS별로 발생하는 미세한 렌더링 차이를 추적해 이용자를 식별하는 기법입니다.
그런데 수집된 그래픽 중 인상적인 캔버스를 생성하던 한 특정 사이트의 자바스크립트 코드를 열어보자 황당한 함수들이 대거 발견되었습니다. 일반적인 난독화 수준을 넘어, 극도로 민감하고 유해한 키워드를 포함한 변수와 함수명이 코드 전체에 채워져 있었던 것입니다.
작성자가 이를 심층 분석한 결과, 이는 최근 개발자들이 코드 난독화 해제에 AI(대형 언어 모델, LLM)를 적극적으로 활용하는 점을 역이용한 '안티 LLM(Anti-LLM) 난독화' 기법인 것으로 밝혀졌습니다. 코드 내에 인공지능 안전 가이드라인을 강제로 위반하게 만드는 키워드와 시스템 프롬프트 무력화 문구를 심어둠으로써, AI가 안전 정책 위반으로 분석 요청을 스스로 거부하게 유도한 기발하고도 기괴한 난독화 사례입니다.
Sponsored · 광고