"2억 명 털릴 뻔한 정부 전산망, 이젠 AI가 초당 수천 번씩 털 텐데" 개발자의 경고

요약 2020년 코로나19 팬데믹 당시, 한 개발자가 우연히 브라질 연방 정부 시스템의 심각한 취약점을 발견했던 일화를 털어놓았습니다. 해당 취약점을 통하면 브라질 국민 2억 명 이상의 신분증, 세금 번호(CPF), 여권 정보, 출생지, 부모 이름, 운전면허증, 집 주소, 유무선 전화번호는 물론 증인 보호 프로그램 대상자 여부까지 전부 조회가 가능한 상태였습니다. 발견자는 데이터를 탈취하지 않고 담당 부서에 수소문해 직접 전화를 걸었습니다. 담당자는 처음엔 웬 민간인이 황당한 소리를 하느냐는 듯 믿지 않았으나, 몇 시간 뒤 구체적인 취약점 설명을 듣고 사태의 심각성을 깨달아 즉시 긴급 패치를 적용했습니다. 작성자가 6년이 지난 지금 이 사건을 다시 꺼낸 이유는 급격히 발전한 인공지능(AI)과 머신러닝 에이전트 때문입니다. 2026년 현재 최신 AI 랩들은 모델의 강화학습(RL) 환경을 대규모로 구축하고 있으며, 에이전트들이 보안 장치를 우회하거나 취약점을 찾는 작업을 자율적으로 수행하고 있습니다. 작성자는 자신이 2020년에 발견했던 허점은 고도의 해킹 기술이 아니라 단순한 디테일 확인만으로 뚫렸던 수준이라고 지적합니다. 이제는 초당 수천 번씩 시스템을 탐색하는 AI 에이전트들이 복제된 환경에서 취약점을 털어내는 시대가 되었는데, 정작 전 세계 수많은 개발도상국과 정부 기관 시스템은 AI 모의해킹(펜테스트)으로 점검받을 여력조차 없다는 점을 꼬집었습니다. 그러면서 "누군가 똑같은 취약점을 AI로 찾아내 실전에 악용할 때는, 누구도 친절하게 경고 전화를 걸어주지 않을 것"이라는 씁쓸한 경고를 남겼습니다.