ChatGPT 데이터 유출: 무슨 일이 있었고 무엇을 배워야 하는가

ChatGPT 및 유사한 챗봇을 통해 기밀 데이터가 유출된 가장 잘 알려진 사례들을 보면, 데이터가 유출된 경로는 세 가지 중 하나였습니다. 누군가 데이터를 입력했거나, 사용자가 잊고 있던 곳에 사본이 저장됐거나, 공유 기능으로 공개된 경우입니다. 제공업체 측의 소프트웨어 버그는 더 드문 네 번째 경로입니다. 각 경로에는 이를 막는 고유한 습관이 있으며, 아래 사례에서 어떤 습관이 필요한지 확인할 수 있습니다.

사람들이 기밀 자료를 입력했다

삼성, 2023년. 2023년 3월, 삼성 반도체 사업부 엔지니어들은 세 차례 ChatGPT에 회사 데이터를 입력했습니다, Economist Korea2023년 3월 삼성 반도체 부문 엔지니어들이 세 차례에 걸쳐 회사 데이터를 ChatGPT에 입력했습니다. 한 명은 측정 데이터베이스 프로그램의 결함 있는 소스 코드를 붙여 넣고 수정을 요청했습니다. 다른 한 명은 결함 있는 장비를 식별하는 코드를 붙여 넣고 최적화를 요청했습니다. 세 번째 사람은 회의 녹음 내용을 텍스트로 변환한 뒤 ChatGPT에 회의록 작성을 요청했습니다. 보도에 따르면 삼성은 이후 프롬프트마다 입력 가능한 길이를 1,024바이트로 제한했습니다.

2023년 5월 2일, 삼성은 CNBC에 회사 컴퓨터에서 생성형 AI 사용을 일시적으로 제한한다고 확인했습니다. Bloomberg는 해당 정책을 발표한 사내 공문을 보도했습니다.

누구도 시스템에 침입하지 않았습니다. 직원들이 데이터를 회사 외부의 서비스로 보냈고, 그것만으로 데이터가 회사 밖으로 나가기에 충분했습니다.

CISA 대행 국장, 2025년. 2026년 1월 27일, Politico는미국 국토안보부 관계자 4명의 말을 인용해, 미국 사이버보안·기반시설 보안국(CISA) 국장 대행인 Madhu Gottumukkala가 2025년 여름 "공무상 사용 전용"이라고 표시된 계약 문서를 ChatGPT 공개 버전에 업로드했다고 보도했습니다. 보도에 따르면 파일 중 기밀로 분류된 것은 없었습니다. 이 업로드로 자동 보안 경보가 발생했습니다. 다른 국토안보부 직원들이 앱 사용을 차단당한 동안, 그는 ChatGPT 사용 예외를 부여받았습니다.

교훈은 삼성 사례와 같습니다. 문서에 붙은 표시는 누군가가 그 내용을 붙여 넣는 일을 막지 못합니다. 어떤 도구가 어떤 데이터를 받을 수 있는지 정하는 규칙과, 붙여 넣기 전에 확인하는 습관이 이를 막습니다.

버그로 한 사용자의 데이터가 다른 사용자에게 표시됐다

2023년 3월 20일, OpenAI는 ChatGPT를 오프라인으로 전환했습니다. 사후 분석 게시물에서 사후 분석회사는 오픈소스 라이브러리 redis-py의 버그로 인해 일부 사용자가 다른 활성 사용자의 대화 제목을 볼 수 있었다고 밝혔습니다. 새 대화의 첫 메시지가 다른 사람의 대화 기록에 표시됐을 가능성도 있습니다.

같은 버그로 인해 9시간의 기간 동안 활동 중이었던 ChatGPT Plus 구독자의 1.2%에 대해 결제 정보가 노출됐을 수 있습니다. 노출 가능성이 있었던 정보는 이름, 이메일 주소, 결제 주소, 카드 종류, 카드 번호 마지막 4자리와 만료일입니다. OpenAI는 전체 카드 번호는 노출되지 않았다고 밝혔습니다.

열흘 뒤 이탈리아의 개인정보 보호 당국인 Garante는 임시 제한 조치를 명령해 OpenAI가 이탈리아 사용자의 데이터를 처리하지 못하도록 했습니다. 당국은 데이터 유출, 사용자에게 정보가 제공되지 않은 점, 개인 데이터를 학습에 사용하는 데 법적 근거가 없었던 점, 연령 확인 절차가 없었던 점을 이유로 들었습니다. 2024년 12월 Garante는 OpenAI가 2023년 3월의 데이터 유출을 당국에 알리지 않은 점 등을 들어 OpenAI에 1,500만 유로의 벌금을 부과했습니다Garante는 OpenAI가 2023년 3월의 침해 사고를 자신에게 알리지 않았다는 점 등을 지적했습니다. 같은 페이지에 Garante가 추가한 설명에 따르면, 로마 법원은 2026년 3월 18일 공개된 판결에서 해당 결정에 대한 OpenAI의 항소를 받아들였습니다.

이 목록에서 사용자가 잘못한 것이 없는 유일한 사례입니다. 이런 버그는 사용자 측에서 예방할 수 없습니다. 버그가 발생했을 때 대화에 어떤 정보가 들어 있는지 결정할 수 있을 뿐입니다.

공유된 대화가 Google 검색에 나타났다

ChatGPT에서는 대화 링크를 만들어 다른 사람에게 보낼 수 있습니다. 한동안 공유 대화창에는 검색 엔진이 대화를 색인할 수 있게 하는 "이 대화를 검색 가능하게 만들기" 체크박스도 있었습니다. 2025년 7월 30일, Fast Company는 개인 정보가 포함된 대화도 일부 있는 가운데, ChatGPT에서 공유된 대화 수천 건이 Google 검색 결과에 나타나고 있다고 보도했습니다.

다음 날 OpenAI의 최고 정보 보안 책임자 Dane Stuckey는 X에 글을 올려 OpenAI가 해당 선택지를 삭제했다고 밝혔습니다. 그는 이 기능을 "사람들이 공유하려고 하지 않았던 내용을 실수로 공유할 기회를 너무 많이 만들었던" 단기간의 실험이라고 불렀습니다. 또 OpenAI가 검색 엔진에 색인된 콘텐츠를 삭제하기 위해 노력하고 있다고 말했습니다. TechCrunch가 지적했듯이 이 기능은 사용자가 직접 선택해야만 작동했습니다. TechCrunch가 지적했듯이사용자가 링크를 만들고 체크박스를 선택한 뒤에야 대화가 공개됐습니다.

영향을 받은 사용자는 모두 체크박스를 선택했습니다. 하지만 공유 링크는 대화의 공개 사본인데도, 링크를 만들 당시에는 그렇게 생각하지 않은 사람들이 있었습니다.

저장된 대화가 증거가 됐다

뉴욕타임스 대 OpenAI 사건, 2025년. 2025년 5월 13일, 뉴욕타임스와 다른 언론사가 제기한 저작권 소송에서 미국 치안판사 Ona Wang은 통상 삭제될 출력 로그 데이터를 OpenAI가 보존하라고 명령했습니다. OpenAI가 설명했듯이,이 명령은 Free, Plus, Pro, Team 사용자가 삭제한 ChatGPT 대화와 API 데이터를 대상으로 했으며, 해당 데이터는 통상 30일 이내에 OpenAI 시스템에서 삭제됩니다. ChatGPT Enterprise, ChatGPT Edu 및 제로 데이터 보존(Zero Data Retention) 옵션을 사용하는 API 고객은 영향을 받지 않았습니다.

이 의무는 법원이 10월 9일 승인한 합의에 따라 2025년 9월 26일 종료됐습니다. 이미 보존된 로그는 유럽경제지역의 로그를 제외하고 계속 보존됐습니다. OpenAI는 원고 측의 요구에 따라 2025년 4월부터 9월까지의 제한된 데이터를 여전히 저장하고 있다고 밝혔습니다. 이와는 별도로 법원은 OpenAI가 비식별 처리된 소비자 ChatGPT 로그 2,000만 건 가운데 표본을 원고 측에 제공하도록 명령했으며, Sidney Stein 판사는 2026년 1월 5일 해당 명령을 확정했습니다 .

이 대화들은 공개되지 않았습니다. 그럼에도 사용자가 삭제한 대화는 사용자가 아무런 관련이 없는 소송 때문에 수개월 동안 보관됐습니다. "삭제"는 제공업체의 일반적인 정책을 뜻하며, 법원은 그 정책을 중단시킬 수 있습니다.

미국 대 Heppner 사건, 2026년. 이 사건은 ChatGPT가 아닌 Claude에 관한 사건이지만, 법리는 모든 소비자용 챗봇에 적용될 수 있습니다. 연방 형사 사건의 피고인은 소비자용 Claude를 사용해 변호를 위한 보고서를 작성한 뒤 이를 변호인에게 공유했습니다. 2026년 2월 17일, 뉴욕 남부지방법원의 Jed Rakoff 판사는 해당 문서가 변호사와 의뢰인 사이의 비밀유지특권이나 변호사 업무 산출물 보호 원칙의 적용을 받지 않는 이유를 서면으로 설명했습니다 그 문서들이 변호사-의뢰인 비밀유지특권이나 업무성과물 원칙의 보호를 받지 않은 이유는 Claude가 변호사가 아니기 때문입니다. Anthropic의 개인정보 처리방침은 정부 당국을 포함한 제3자에게 데이터를 공개할 수 있도록 했으므로 대화는 기밀이 아니었습니다. 또한 그의 변호인들은 그에게 해당 도구를 사용하라고 지시하지 않았습니다.

법원은 이 문제를 처음으로 다루는 사안이라고 설명했습니다. 이는 한 국가의 한 연방 지방법원 판결일 뿐이며, 다른 법원은 다르게 판단할 수 있습니다. 고객에게 자문하거나 비밀유지특권의 보호를 받는 업무를 한다면, 이 판결이 자신의 업무에 어떤 의미가 있는지 해당 관할 지역의 변호사에게 문의하세요.

표 하나로 보는 사례 6건

반복되는 양상과 각 단계에 필요한 습관

목록에 있는 사례 중 버그가 원인이었던 것은 하나뿐입니다. 나머지는 사람들이 무엇을 보냈는지, 사본이 어디에 보관됐는지, 무엇을 공유했는지에 달려 있었습니다.

저장: 설정과 이용 중인 요금제를 확인하세요. 대화가 학습에 사용되는지, 대화 기록이 얼마나 오래 보관되는지, 삭제하면 어떤 일이 일어나는지 확인하세요. 뉴욕타임스 사건의 명령에서 비즈니스 요금제와 데이터 보존을 하지 않는 API 사용은 소비자 계정과 다르게 취급됐다는 점에 유의하세요. 각 설정의 위치를 안내하는 가이드는 ChatGPT, Claude, Gemini의 데이터 설정 2026년 10월 기준으로 정리돼 있습니다.

공유: 공유 링크는 게시물처럼 취급하세요. 공유 링크를 만들기 전에 낯선 사람이 읽을 것처럼 대화를 살펴보세요. 더 이상 필요하지 않은 링크는 삭제하세요.

전송: 식별 정보를 붙여 넣지 마세요. 이 습관은 나머지 세 가지 유출 경로에도 적용됩니다. 고객 이름, 주소, 계좌 번호가 없는 대화라면 저장되거나 공유되거나 법원에 제출되거나 버그로 노출되더라도 드러나는 정보가 훨씬 적습니다. 붙여 넣기 전에 식별 정보를 자리표시자로 바꾸고, 답변을 받은 뒤 자신의 컴퓨터에서 원래 정보로 되돌리세요. 전체 절차는 다음에서 확인할 수 있습니다. 고객 문서로 ChatGPT, Claude 또는 Gemini를 사용하는 방법.

자신의 컴퓨터에서 바꾸세요. 온라인 익명화 도구를 사용하면 원본 정보를 받는 서비스가 하나 더 생깁니다. 두 방식을 구별하는 방법은 로컬 정보 삭제 도구와 온라인 정보 삭제 도구 에서 확인하세요.

ClientSafe는 이 작업을 PC에서 처리합니다. 이름, 회사, 주소, 전화번호, 이메일 주소, 계좌 및 신분증 번호, 생년월일을 찾아 Person_1 및 Company_1와 같은 자리표시자로 바꿉니다. 목록을 검토하고 개인 정보가 아닌 항목은 선택 해제한 뒤, 놓친 정보에는 표시합니다. 그런 다음 안전하게 바뀐 사본을 대화창에 복사합니다.

자주 묻는 질문

ChatGPT 자체가 해킹당해 대화가 도난당한 적이 있나요?

위 사례 중 시스템 침입이 원인이었던 것은 없습니다. 가장 가까운 사례는 2023년 3월의 버그로, 일부 사용자에게 다른 사용자의 대화 제목과 결제 정보 일부가 표시됐습니다. 다른 사례들은 사람들이 보냈거나 공유했거나 보관한 데이터에 관한 것이었습니다.

대화를 삭제하면 정말 사라지나요?

2026년 10월 기준으로, OpenAI 고객지원 센터는 삭제된 대화는 OpenAI가 보안 또는 법적 이유로 더 오래 보관해야 하는 경우를 제외하면 30일 이내에 영구 삭제되도록 예약된다고 설명합니다. 뉴욕타임스 사건의 법원 명령은 수백만 사용자에게 한꺼번에 법적 예외가 적용될 수 있음을 보여 줬습니다.

비즈니스 요금제를 쓰면 문제가 해결되나요?

이용 약관은 달라집니다. OpenAI는 기본적으로 비즈니스 데이터로 학습하지 않으며, Enterprise 요금제에서는 관리자가 보존 기간을 관리한다고 밝혔습니다. 하지만 사용자가 보내는 정보는 달라지지 않습니다. 붙여 넣은 데이터는 여전히 제공업체에 전달되며, 법원이 계속 보관하라고 명령할 수도 있습니다.

AI와 나눈 대화가 소송에 사용될 수 있나요?

그럴 수 있습니다. 뉴욕타임스 대 OpenAI 사건에서는 저장된 대화가 증거로 보존되고 표본으로 제공됐습니다. Heppner 사건에서는 피고인의 AI 대화가 비밀유지특권의 보호를 받지 않는다고 판단됐습니다. 같은 판단이 사용자에게도 적용되는지는 국가와 사건에 따라 다릅니다.

ClientSafe 고객 이름, 주소, 계좌 번호 및 기타 식별 정보를 PC에서 자리표시자로 바꾸고, AI의 답변에서는 실제 이름으로 되돌립니다. 감지가 완벽하지 않으므로 복사하기 전에 목록을 검토하세요.