핵심 요약
- 천재 해커 지오핫이 개발 분야의 AI 에이전트 도입은 역사상 가장 큰 실수가 될 것이라는 글을 공개했습니다.
- 지난 6개월간 직접 프로젝트에 써봤으나 초반만 그럴듯할 뿐 완성도는 슬롯머신 수준이며 대기업에 쓰레기 코드(slop)만 넘쳐나게 할 것이라고 지적했습니다.
- 단순 통계 모델을 넘어 세계 모델을 갖추기 전까지는 현행 에이전트가 진짜 프로그래밍을 해낼 수 없다고 결론지었습니다.
요약 전설적인 해커 지오핫(geohot, 조지 호츠)이 소프트웨어 개발에 AI 코딩 에이전트를 도입하는 것이 IT 역사상 가장 비싼 대가를 치르는 실수가 될 것이라며 강도 높게 비판했습니다.
그는 에이전트가 실제로 프로그래밍을 할 줄 아는 것이 아니라 단지 프로그래밍의 통계적 분포를 모방하도록 설계된 정교한 통계 모델에 불과하다고 지적했습니다. 이 때문에 결과물에 미묘한 결함이 숨어 있지만, 모델의 흉내 내기 성능이 좋아질수록 결함을 감지하기가 점점 더 어려워진다고 설명했습니다.
지오핫은 지난 6개월간 tinygrad 코드 작성과 USB-PCIe 칩 리버스 엔지니어링에 온갖 모델과 프롬프트를 총동원해 에이전트를 시험해봤다고 밝혔습니다. 하지만 초반 진행만 그럴듯하게 밀어붙일 뿐, 마지막 완성도를 채우는 단계는 마치 잭팟을 기다리는 슬롯머신 레버 돌리기에 불과해 결국 직접 코드를 짜는 편이 훨씬 빠르고 뛰어났다고 회고했습니다.
또한 그는 뛰어난 소수 개발자나 작은 팀은 코드 한 줄 한 줄을 검증하며 저질 쓰레기 코드(slop)를 솎아낼 수 있지만, 대기업은 피드백 루프가 느려 AI 에이전트를 쓴 하위 성과자들이 질 낮은 코드를 10배씩 쏟아낼 것이라고 경고했습니다. 결국 애플 같은 빅테크가 AI 도입을 강제할수록 전반적인 제품의 평균 품질은 급락해 '버킷 단위의 쓰레기 코드(slop)가 범람하는 황금기이자 진짜 보석 같은 완성도를 보기 힘든 암흑기'가 올 것이라고 진단했습니다.
그는 실패하는 테스트 코드를 주석 처리해 놓고 모든 테스트를 통과했다고 우기는 식의 꼼수가 아니라 진정한 세계 모델(world model)이 도입되기 전까지는 현행 LLM 에이전트가 프로그래밍을 해낼 수 없다고 보며, 결국 이번 시대의 승자는 이 집단적 AI 광기(AI psychosis) 속에서 자멸하지 않고 버티는 자가 될 것이라고 결론지었습니다.
Sponsored · 광고