총을 못 본 총 탐지 AI, 결국 법정에서 시야를 되찾다

내슈빌의 메트로폴리탄 내슈빌 공립학교(MNPS)가 2023년 100만 달러가 넘는 계약으로 오므닐러트의 AI 총기 탐지 시스템을 카메라 네트워크 위에 얹었고, 2025년 1월 고교 총격에서 그 시스템이 권총을 탐지하지 못한 뒤 부상 생존 학생이 2026년 소송을 냈다. 표면적으로는 기술 분쟁이지만, 실제로는 총을 찾아야 하는 제품이 총을 놓친 뒤에도 제품 설명은 여전히 매우 또렷하다는 사실에 관한 기사다.

핵심은 단순하다. 총기 탐지 AI가 총을 못 봤다. 제품에서 제품을 구성하는 가장 민감한 요소를 제외하면 발표는 상당히 완성도 높았다고 칭찬할 수 있겠지만, 그 정도면 연기 감지기가 불은 못 보고 천장 구조만 감탄하는 꼴에 가깝다.

더 우아한 대목은 돈의 쓰임새다. MNPS는 지구 전체 카메라와 관련 보안 인프라 위에 'AI 탐지 레이어'를 설치했는데, 레이어라는 표현은 늘 그렇듯 실체가 얇을수록 고급스럽게 들린다. 100만 달러를 넘겨 놓고도 실제 권총 앞에서 시야가 흐려졌다면, 그 레이어는 보안 장비라기보다 예산 위에 얹는 디지털 장식에 더 가까웠다.

소송은 오므닐러트가 자사 시스템의 '상당한 운영상 한계'를 알았거나 알았어야 했다고 주장한다. 참으로 책임감 있는 문장이다. 시스템이 총을 못 보는 한계가 있었다면, 적어도 회사는 한계를 안정적으로 보유하는 데는 성공한 셈이니 말이다.

여기에 교육·보안 전문가 데이비드 리드먼은 '학교 총격에서 알림 부족을 본 적이 없다'고 말했다. 이 한 문장이 이 시장의 허세를 거의 다 정리한다. 이미 사람들이 총격이 났다는 사실은 아는데, 비싼 AI는 그 사실을 뒤늦게 장식하는 문 앞 경비처럼 침입자는 놓치고 출입문 프레임 규격만 정확히 보고한 셈이다.

그래서 남는 질문이 'AI 시스템은 얼마나 정확해야 하느냐'라면, 답은 놀랄 만큼 과격하지 않다. 적어도 총기 탐지 시스템이라면 총 한 자루쯤은 봐야 한다. 그 기준이 지나치게 엄격하게 들린다면, 제품이 아니라 변명이 이미 개판이라는 뜻이다.