오픈AI, 챗GPT ‘락다운 모드’ 확대…외부 연결 줄여 보안 강화

오픈AI가 지난 4일 챗GPT의 고급 보안 설정인 ‘락다운 모드(Lockdown Mode)’를 모든 로그인 사용자와 워크스페이스로 확대했다.

이번 업데이트의 핵심은 챗GPT가 웹과 외부 서비스에 연결되는 방식을 제한하는 데 있다. 챗GPT가 더 많은 도구와 외부 앱을 다룰수록 편의성은 커지지만, 공격자가 이를 악용해 대화 내용이나 연결된 서비스의 데이터를 밖으로 빼낼 위험도 함께 커진다. 오픈AI는 이 위험을 줄이기 위해 락다운 모드 적용 대상을 넓혔다.

락다운 모드는 프롬프트 인젝션(prompt injection) 공격에 따른 데이터 유출 가능성을 낮추기 위한 선택형 보안 설정이다. 프롬프트 인젝션은 웹페이지, 문서, 외부 데이터 등에 숨겨진 악성 지시문으로 인공지능(AI)이 원래 사용자의 의도와 다른 행동을 하도록 유도하는 공격 방식이다.

오픈AI가 이번에 강조한 지점은 ‘공격 지시문 자체를 완전히 없애는 기능’이 아니라 ‘민감정보가 외부로 나가는 마지막 통로를 줄이는 기능’이다. 예를 들어 챗GPT가 웹을 실시간으로 탐색하거나 외부 서비스에 요청을 보낼 수 있다면, 악성 지시문이 이를 이용해 대화 내용이나 연결된 데이터 일부를 외부로 보내도록 유도할 수 있다. 락다운 모드는 이런 외부 요청을 제한해 유출 가능성을 낮추는 방식이다.

락다운 모드를 켜면 챗GPT의 여러 기능이 제한된다. 실시간 웹 탐색은 캐시된 콘텐츠 접근으로 제한된다. 딥 리서치(Deep Research), 에이전트 모드(Agent Mode), 캔버스(Canvas)의 네트워크 접근, 파일 다운로드 기능도 제한되거나 꺼진다. 웹에서 가져온 이미지 표시 등 일부 이미지 지원도 제한된다.

다만 모든 기능이 사라지는 것은 아니다. 사용자가 직접 올린 파일을 분석하는 기능은 계속 사용할 수 있다. 이미지 생성 기능도 별도 제공 대상이라면 계속 쓸 수 있다. 락다운 모드는 메모리, 파일 업로드, 대화 공유 기능, 모델 개선을 위한 데이터 사용 여부 설정을 바꾸지 않는다. 이들 항목은 별도 설정에서 관리해야 한다.

개인 사용자는 챗GPT 설정의 보안 메뉴에서 락다운 모드를 켤 수 있다. 기업이나 기관 워크스페이스에서는 관리자가 역할 기반 접근제어를 통해 구성원을 대상으로 락다운 모드를 적용할 수 있다.

오픈AI는 락다운 모드가 모든 프롬프트 인젝션 공격을 막는 기능은 아니라고 설명했다. 악성 지시문은 캐시된 웹 콘텐츠나 사용자가 올린 파일 안에도 포함될 수 있다. 이 경우 챗GPT의 답변 정확도나 행동에는 여전히 영향을 줄 수 있다. 락다운 모드는 이런 공격이 민감정보 유출로 이어질 가능성을 낮추는 방어층에 가깝다.

이번 업데이트는 AI 서비스의 보안 기준이 모델 자체의 안전성에서 외부 연결 통제까지 넓어지고 있다는 점을 보여준다. 챗GPT가 웹, 파일, 앱, 에이전트 기능과 결합할수록 보안의 핵심은 “무엇을 할 수 있느냐”뿐 아니라 “어디까지 연결할 수 있느냐”로 이동하고 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network