핵심 요약
- 2025년 10월, 학교 AI 보안 시스템이 학생의 과자 봉지를 총기로 잘못 인식하는 오류가 발생했습니다.
- 이 오작동으로 인해 무장 경찰이 출동해 아무 잘못 없는 흑인 학생 4명을 무릎 꿇리고 수갑을 채워 수색했습니다.
- 학생 측은 AI 기술의 과도한 신뢰와 관리 소홀을 지적하며 학교와 경찰, 시스템 업체를 상대로 소송을 제기했습니다.
요약 지난 2025년 10월, 미국 메릴랜드주 볼티모어 카운티의 한 고등학교에서 기술의 맹신이 낳은 황당하고도 충격적인 사건이 벌어졌습니다. 학교에 도입된 AI 총기 탐지 시스템 'Omnilert'가 학생이 들고 있던 과자 봉지를 무기로 오인한 것입니다. 시스템은 무려 90%의 확률로 교내에 총기가 있다는 경보를 울렸고, 그 결과 무장한 경찰들이 학교로 급파되었습니다.
가장 큰 문제는 사후 대응이었습니다. 학교 직원과 경찰이 현장을 육안으로 확인하고도 시스템의 실수를 인지하지 못하거나 이를 무시하면서 사태는 걷잡을 수 없이 커졌습니다. 결국 아무 잘못 없는 흑인 고등학생 4명은 학교 정문 앞에서 출동한 무장 경찰에게 둘러싸였습니다. 이들은 무릎을 꿇은 채 수갑이 채워진 채 수색을 당하는 트라우마를 겪어야 했습니다. 당시 피해 학생 중 한 명을 데리러 왔던 학부모조차 현장에서 이 광경을 목격하고 경악을 금치 못했습니다.
현재 피해 학생들은 학교와 경찰, 그리고 AI 개발사를 상대로 소송을 제기한 상태입니다. 이들은 단순한 AI의 기술적 오류를 넘어, 경보를 철저히 검증하지 않은 경찰과 학교 측의 관리 부실을 강하게 비판하고 있습니다. 이번 사건은 AI 기술에 지나치게 의존하는 공공 안전 시스템의 위험성을 드러냈으며, 특히 기술적 불확실성이 소수자에게 disproportionate(불균형적인)한 피해를 입힐 수 있다는 점을 시사하며 미국 사회 내에서 큰 반향을 일으키고 있습니다.
Sponsored · 광고