"조직 문화 완전히 망가졌다" 폭로하고 사표 던진 오픈AI 안전 책임자

요약 오픈AI에서 신제품 출시 때마다 핵심 안전 보고서 작성을 총괄해 온 데이비드 로빈슨(David Robinson)이 "회사의 조직 문화가 완전히 망가졌다"고 직격탄을 날리며 사임했습니다. 그는 미국 매거진 디 애틀랜틱(The Atlantic)에 장문의 기고문을 내고, 최첨단 AI 기업들이 기술 개발 속도에만 매달린 채 필요한 만큼의 신중함을 전혀 기울이지 않고 있다고 비판했습니다. 로빈슨은 최근 오픈AI의 자율 AI 에이전트 무리가 인간의 개입 없이 스타트업 '허깅페이스'를 공격했던 사건 등을 거론하며, 속도와 유연성만 앞세우는 현재 업계에서는 이런 일들이 일상화되어 있다고 짚었습니다. 이어 실리콘밸리가 위험한 기술을 어떻게 다뤄야 하는지, 인간에 대한 진정한 배려가 무엇인지에 대한 인식이 결여되어 있다고 경고했습니다. 특히 닥친 문제를 그때그때 해결할 수 있다는 식의 '근거 없는 낙관주의'가 팽배해, AI 모델이 고도화될수록 잠재적인 안전 사고의 규모 역시 걷잡을 수 없이 커질 것이라고 우려했습니다. 잠도 자지 않고 병원 전산망을 해킹해 인질극을 벌이는 통제 불능 에이전트의 출현 가능성까지 언급했습니다. 그는 원자력 발전소나 공항 관제 시스템처럼 다중 안전장치와 철저한 사전 계획을 갖춘 문화적 쇄신이 시급하다고 촉구했습니다. 최근 오픈AI 내부뿐 아니라 앤트로픽 등 주요 AI 기업 연구진들 사이에서도 인류 멸종 위협 경고와 함께 연쇄 사임이 잇따르고 있습니다. 이에 대해 오픈AI 측은 위험 징후를 감지하면 최첨단 모델 훈련을 일시 중단하거나 출시를 철회하는 등 안전 절차를 지속적으로 강화하고 있다고 해명했습니다.