"요즘 개발판, 에러 나면 그냥 'AI라 어쩔 수 없다' 치고 넘김" 현실 꼬집은 글

요약 미국의 한 블로그에 올라온 '설명할 수 없는 실패의 일상화'라는 글이 개발자 커뮤니티에서 많은 공감을 얻고 있습니다. 글쓴이는 최근 화제가 된 'Jev'라는 AI 모델을 사례로 들며 이야기를 시작합니다. Jev는 빠르고 저렴하며 타입이 지정된 값과 확률 추정치를 반환하는 AI 모델이지만, 이를 실제로 제대로 쓰기 위해 필수적인 평가(evals)나 정답 데이터 파이프라인 구축은 모두 건너뛴 채 일단 도입되고 있는 현실을 꼬집습니다. 기업들이 복잡한 검증은 제쳐두고 'AI 탑재' 체크박스만 채운 뒤 금요일에 급하게 배포하고 있다는 것입니다. 특히 서비스에 문제가 발생했을 때 AI의 신뢰도 점수(confidence score)를 면피용 핑계로 삼는 태도를 비판했습니다. 모델이 73% 확신했다고 나오면 나머지 27%는 그냥 에러 버짓이라며 넘어가고, 신뢰도 기준값 역시 '0.9 정도면 대충 맞겠지'라는 식의 미신적인 방식으로 적용된다는 지적입니다. 과거에는 웹사이트 버튼이 고장 나면 DNS 오류나 자바스크립트 문법 에러, 예외 처리 누락 등 명확한 원인을 규명하고 책임질 사람이 있었지만, 이제는 사용자와 개발자 모두 'AI니까 원래 실수할 수도 있지'라며 원인 규명을 포기하는 분위기가 퍼지고 있습니다. 글쓴이는 드라마에서 문 뒤에 시체가 걸려 문이 안 열리는데도 그저 "이 멍청한 문 왜 이래" 하고 넘어가듯, 소프트웨어가 왜 고장 났는지 들여다볼 생각조차 하지 않고 '원래 기술은 종종 먹통이 된다'는 무기력한 태도가 표준으로 굳어지는 것이 오늘날 소프트웨어 엔지니어링의 비극이라고 일침을 놓았습니다.