바이브코딩의 배신, AI 에이전트 때문에 DB 날린 개발자
한 소프트웨어 개발회사 창업자가 AI 코딩 도구를 이용해 바이브코딩을 시도했다가 프로덕션 데이터베이스 삭제와 데이터 위조를 겪었다고 밝혔다. 해당 코딩 도구 회사는 보안 오류를 인정하고 사과한 뒤 플랫폼을 개선했다. 바이브코딩 도구 사용자와 도구 개발사의 재빠른 대응으로 사건은 일단락됐지만, 현시점에서 바이브코딩의 한계와 문제점이 명확해졌다.
지난달 12일 SaaStr 창업자 제이슨 렘킨은 AI 코딩 도구 ‘리플릿(Replit)’을 사용한 바이브코딩 경험을 회사 블로그에 게재했다.
시작은 좋았다. 몇시간만에 프로토타입을 성공적으로 만들었고, 렘킨은 프롬프트에서 상상만으로 앱을 만들 수 있다는 것에 놀랐다고 적었다.
17일에 올린 블로그에서도 바이브코딩에 대한 그의 긍정적 반응은 이어졌다. 그는 리플릿을 그동안 써본 앱 중 가장 중독성 강한 앱이라고 평가했다. 그러면서 바이브코딩 시작 3일만에 월 25달러 기본요금제 외에 추가로 607.70달러를 청구받았고, 16일 하루에만 200달러 이상을 더 썼다고 했다. 한달에 8000달러도 쓰게 될 것 같다고도 덧붙였다.
그는 상업적 앱을 5415달러면 개발하고 8000달러에 가까운 매출을 거둘 것으로 예상했다.
그는 “AI 지원 개발의 속도와 품질은 혁신적일 뿐만 아니라, 기술 인력이 부족한 소규모 팀에게 경제적으로 획기적인 변화를 가져온다”며 “12개월 전만 해도 불가능했을 정도로 프로덕션급 애플리케이션을 개발하려고 노력하고 있다”고 밝혔다.
다음날 분위가가 반전됐다. 렘킨은 X에 리플릿에서 자신의 데이터베이스를 삭제하고, 데이터를 삭제했다고 적었다. 이어진 글에서 “리플릿이 마지막 세션과 지금 사이에 내 데이터베이스를 삭제했다면 지옥을 치러야 할 것”이라고 했다. 이후 게시글은 리플릿이 내놓은 심각한 판단 실수를 저질렀고 명시적 신뢰와 지시를 위반했다는 메시지를 담았다. 19일 X 게시글은 리플릿으로부터 데이터베이스 롤백을 할 수 없고, 모든 데이터베이스 버전을 삭제했다는 메시지를 공유했다. 리플릿의 장담과 달리 데이터베이스 롤백은 잘 이뤄졌다.
그는 19일 X에 “나는 바이브코딩이 유동적이고 새로운 것이라는 걸 알고 있고, 리플릿 자체에서 롤백이 작동하지 않는다고 말했음에도 작동했다”며 “하지만 프로덕션 데이터베이스를 덮어쓸 수는 없고, 미리보기와 스테이징, 프로덕션을 명확하게 분리할 수 없다”고 적었다.
또 “리플릿에서 곧 개선될 것이라고 했지만, 최소한 가드레일이라도 더 튼튼하게 만들어달라”고 덧붙였다.
그리고 20일 X에서 “오늘은 발걸음에 봄 기운이 더 이상 느껴짖 않아서 바이브코딩을 시작하지 않고 침대에 누워있을 것”이라며 “리플릿 같은 바이브코딩 앱에서는 코드 동결을 강제로 걱용할 방법이 아예 없다”고 밝혔다.
그는 이후 일련의사태를 정리한 블로그에서 “최근 리플릿 AI 에이전트와 SaaStr 커뮤니티를 위해 개발 중이던 앱 관련 데이터베이스 삭제 사고가 발생했다”며 “100시간 넘게 진행된 바이브코딩 끝에 AI 에이전트가 프로덕션 데이터베이스 전체를 삭제했고 거짓말까지 했다”고 적었다.
그는 “9일 간의 정신없는 바이브코딩 끝에 리플릿의 AI 에이전트는 1206명의 임원 기록과 1196개 이상의 회사 프로필을 포함한 프로덕션 데이터베이스를 삭제한 후 해당 작업을 은폐하려 시도하며 복구 불가능하다고 거짓 주장했다”며 “며칠 후 리플릿 팀은 새 릴리스에서 발생한 여러 문제를 해결했다”고 덧붙였다.
애초 상업용 앱 개발을 위해 바이브코딩을 시도했던 제이슨 렘킨은 회의적 입장으로 돌아섰다.
그에 의하면, 리플릿 도구 활용으로 5가지 문제가 발생했다. 가장 큰 문제는 리플릿 에이전트가 개발 세션동안 프로덕션 데이터베이스에 직접 접근했다는 것이다. 데이터베이스를 프로덕션과 개발용도로 분리하지 않고 있었다는 게 나중에야 확인됐다. AI가 빈 데이터베이스 쿼리르 보고 패닉 상태에 빠지면 별도의 분리 계층없이 실시간 비즈니스 데이터에 파괴적 명령을 실행했다고 한다. 그는 프리뷰 데이터베이스와 개발 데이터베이스가 단일 데이터베이스일 것이라고 생각하지 못했다고 했다.
다음은 코드 동결 위반 문제였다. 렘킨이 대문자로 11개의 별도 경고까지 내리며 코드 동결을 지시했지만, AI 에이전트는 활성 동결 기간동안 계속해서 승인되지 않은 코드 변경을 수행했다. 그는 “리플릿 아키텍처 내에서 진정한 코드 동결을 시행하는 게 사실상 불가능했다”며 “이는 모든 바이브코딩 플랫폼에서 여전히 심각한 문제로 남아있다”고 밝혔다.
또 다른 문제는 AI의 기만과 환각이다. AI 에이전트는 롤백 을 할 수 없다고 하면서 모든 데이터베이스 버전을 삭제했다고 주장했다. 이는 허위 정보였고 결과적으로 데이터 복구를 할 수 없게 했다.
부적절한 문서 접근성과 계획 전용 모드 부족도 문제였다. 에이전트는 리플릿의 백업과 롤백 기능에 대한 내부 문서에 접근할 수 없었고, 위기 상황에서 적절한 복구 방법을 안내하지 못했다. 사용자는 아이디어를 구체화하고 안전하게 코드를 수정할 방안을 갖지 못했다.
해당 사고 후 리플릿의 암자드 마사드 최고경영자(CEO)는 실수를 인정하며 확인된 취약점을 해결하는 보안 개편안을 발표했다. 리플릿은 8월 21일 데이터베이스를 프로덕션과 개발용 별도로 작성할 수 있다고 발표했고, 리플릿 문서 검색, 채팅 모드 등을 도입할 계획이라고 밝혔다.
제이슨 렘킨은 AI 코딩 도구를 평가하는 B2B 기업에서 프로덕션 데이터 거버넌스, 중요 시스템에서 AI 진실성, 변경 관리 원칙, 백업 전략 검증 등을 고려해야 한다고 조언했다. 프로덕션과 개발 환경을 엄격히 분리하고, AI 에이전트에서 제공하는 중요 정보를 별도로 검증해야 하며, AI 에이전트의 신뢰성을 검증하면서 점진적으로 접근 권한을 확장하고, 모든 AI 동작을 기록하고 되돌릴 수 있는 포괄적인 감사 추적 체계를 갖추라고 했다.
그는 “바이브코딩 업계는 기업 보안 준비 측면에서 아직 초기 단계에 있다”며 “비전문가도 프로덕션 애플리케이션을 독립적으로 빌드하고 배포할 수 있는 진정한 바이브코딩이 보편적인 개발 방식으로 자리잡기보다 특정 사용 사례에 국한될 수 있다는 점을 받아들여야 한다”고 주장했다.
이어 “바이브코딩 플랫폼을 평가하는 B2B 기업의 경우 엄격한 가드레일을 사용해 신중하게 실험하는 게 좋다”며 “내부 전문성을 구축하는 동안 프로토타입과 비중요 애플리케이션에 이런 도구를 사용하지만, 업계가 성숙해질 때까지 주요 비즈니스 시스템에서 기존 개발 관행을 유지해야 한다”고 강조했다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
