채팅에 비밀번호를 넣지 않는 이유와 AI 서비스별 데이터 학습 설정 확인법 | DAKER 커뮤니티

AI 채팅은 이제 메모장처럼 자주 열게 됩니다. 급하게 코드를 묻고, 문장을 다듬고, 계약서 일부를 요약해 달라고 붙여 넣는 일도 흔합니다. 그런데 편의가 커질수록 놓치기 쉬운 전제가 하나 있습니다. 채팅창은 금고가 아니라는 점입니다.

특히 해커톤이나 데모 제출처럼 속도가 중요한 순간에는 .env 값, 고객 원문, 미공개 계약, 신분 정보가 무심코 프롬프트나 공개 링크에 섞여 들어가기 쉽습니다. 이 글은 KNN NEWS 영상이 짚은 경고를 바탕으로, 각 서비스의 공식 페이지가 안내하는 데이터 학습 설정을 함께 확인하며 무엇을 채팅에 넣지 말아야 하는지 정리한 기록입니다.

비밀번호는 / 채팅에 넣지 않습니다

참고 영상은 KNN NEWS의 AI와 대화하다 정보 다 털린다? "실명 대신 이렇게 해야 안전" / KNN이며, 채널은 KNN NEWS입니다. 이 글은 유튜브 화면을 삽입하지 않고 주소만 남깁니다. 또 KNN 워치 페이지 자막과, 그 뒤에 확인한 공식 도움말 페이지 범위 안에서만 내용을 다룹니다.

워치 페이지 자막이 말하는 출연자는 노드 시큐리티의 제럴드 카슐리스이며, 영문 표기는 Gerald Kasulis입니다. The Shreveport-Bossier City Advocate는 그의 직함을 Vice President of Global Affairs at Nord Security로 적고 있습니다.

영상이 분명하게 말한 것

영상 자막은 편리함이 중요해도 절대 알려 주면 안 되는 정보가 있다고 말합니다. 다만 자막이 실제로 이름을 붙인 묶음은 넷입니다. 비밀번호, 금융 정보, 신분 데이터, 그리고 회사 계약과 고객과 업무 기밀입니다. 자막에 없는 다섯 번째 항목을 이 글에서 새로 채우지는 않습니다.

비밀번호와 금융 정보, 신분 데이터, 계약과 고객과 업무 기밀은 채팅 편의보다 먼저 빼야 하는 값입니다.

자막이 가장 먼저 위험하다고 짚는 것은 비밀번호와 금융 정보입니다. 이용자가 편의를 위해 비밀번호를 기억하게 하거나 카드번호와 계좌 정보를 넣는 상황을 경고하며, 이런 값이 유출되면 이메일과 SNS, 금융 서비스까지 연쇄적으로 이어질 수 있다고 설명합니다. 또 일부 서비스는 대화 기록을 학습에 활용할 수 있으므로 인증 정보를 입력하지 말아야 한다고 덧붙입니다.

신분 데이터로는 여권 사진과 주민등록 정보가 언급됩니다. 회사 영역에서는 회사 계약서와 고객 관련 업무 기밀이 나옵니다. 여기서 중요한 점은, 영상이 단순히 조심하라고만 말하지 않는다는 것입니다. 추가 수칙으로는 AI 설정에서 대화 내용을 학습에 쓰지 못하도록 데이터 학습을 끄는 일, 그리고 개인적인 고민을 말할 때 실명 대신 제 친구 이야기인데 같은 간접 표현을 쓰는 일이 제시됩니다.

다만 이 조언의 범위는 분명합니다. 실명 대신 역할이나 간접 표현을 쓰라는 말은 고민의 주체를 가리라는 뜻이지, 비밀번호나 계약 원문을 넣어도 된다는 뜻이 아닙니다. 인증 값과 신분증 정보, 고객 원문, 계약 원문은 그 틀 안에서도 제외해야 합니다.

영상이 말하지 않은 것까지 늘리지 않는 이유

이 영상은 특정 제품의 메뉴 경로를 통일해서 알려 주지 않습니다. 유출 건수를 제시하지도 않고, HIPAA 같은 미국 의료 규정을 다섯 번째 항목으로 끌어오지도 않습니다. 그래서 이 글도 그 범위를 넘지 않습니다.

한국어 블로그에서 자주 보이는 의료 기록, 집 주소, 전화번호 같은 항목이 위험하지 않다는 뜻은 아닙니다. 다만 그것이 이 클립의 자막에 직접 나온 내용은 아니므로, 여기서는 자막과 공식 페이지에 있는 표현만 씁니다. 없는 항목을 덧붙여 권위를 만드는 방식은 피하는 것이 좋습니다.

공식 페이지가 안내하는 데이터 학습 스위치

영상의 조언을 실제 사용 환경에 연결하려면, 각 서비스가 공식 문서에서 어떤 이름으로 데이터 학습 설정을 안내하는지 확인할 필요가 있습니다. 중요한 점은 제품마다 이름과 경로가 다르다는 것입니다.

NordPass와 Gerald Kasulis 인터뷰

Nord 쪽 공식 글은 Data privacy and security in AI: how to stay secure입니다. 작성은 Joanna Krysińska, 날짜는 그 페이지 기준 2026년 8월 4일입니다. 이 글은 사용자가 붙여 넣은 정보를 모델이 기억할 수 있고, 다른 이용자에게 공유될 수 있다고 적습니다. 또 직원이 개인 데이터나 민감한 회사 데이터를 AI 모델에 넣으면 설정에 따라 기억될 수 있다고 설명합니다.

이 글이 제시하는 기본 원칙은 데이터 최소화와 마스킹입니다. 개인 정보를 걷어 내거나 합성 값, 자리 표시로 바꾼 뒤 입력하라는 뜻입니다. 그래서 이 글에서도 YOUR_API_KEY, 카드번호, 주민등록번호처럼 단어로만 남기고 실제처럼 보이는 숫자는 예시로도 만들지 않습니다.

Advocate 기사에서 카슐리스는 모든 조직이 AI 정책을 가져야 한다고 말합니다. 직원이 이미 AI를 쓰고 있으므로, 회사가 사용할 도구를 정하고 통제해야 한다는 취지입니다.

연락처와 고객 정보, 저작권에 걸릴 수 있는 정보를 소비자용 AI 채팅에 넣으면 그 정보가 조직 밖으로 옮겨지고 도구 개선에 쓰일 수 있습니다.

해커톤 팀이나 작은 프로젝트 팀에도 이 기준은 그대로 적용됩니다. 고객 원문, 미공개 계약, 안심존 덤프는 소비자용 채팅창에 넣을 자료가 아닙니다.

ChatGPT

ChatGPT 개인 요금제의 공식 설명은 How your data is used to improve model performance입니다. 이 글을 연 시점에 페이지는 며칠 전 갱신으로 표시되어 있었습니다. 여기에는 개인용 ChatGPT와 Codex의 콘텐츠가 학습에 쓰일 수 있으며, 거부 방법으로 프라이버시 포털의 do not train on my content를 안내한다고 적혀 있습니다.

또 대화와 작업의 학습을 끄려면 Data Controls FAQ를 따르라고 설명합니다. 로그인한 웹에서는 프로필, Settings, Data Controls로 가 Improve the model for everyone을 끄면 됩니다. 꺼도 기록에는 남고 학습에는 쓰이지 않는다고 적혀 있습니다.

What if I want to keep my history on but disable model training?에는 Temporary Chat이 기록에 남지 않고, 기억을 쓰거나 만들지 않으며, 학습에도 쓰이지 않는다고 적혀 있습니다. 다만 피드백을 주면 그 대화 전체가 학습에 쓰일 수 있다고 설명합니다. 비즈니스와 엔터프라이즈, API는 기본으로 입력과 출력을 학습하지 않는다고도 적고 있습니다.

Claude

Claude 소비자 요금제의 공식 글은 How do I change my model improvement privacy settings?입니다. 대상은 Claude Free, Pro, Max와 그 계정으로 쓰는 Claude Code입니다. 데스크톱과 브라우저에서는 이름 메뉴, Settings, Privacy로 가 Help Improve our AI models를 끄거나 켤 수 있다고 적혀 있습니다.

이 설정을 끄면 새로운 채팅과 코딩 세션을 이후 모델 학습에 쓰지 않는다고 설명합니다. 다만 이미 시작된 학습과 이미 학습된 모델에는 남을 수 있다고 적고 있습니다. 또 안전 분류기가 대화를 표시하면 내부 신뢰와 안전 모델, 유해 콘텐츠 탐지, 정책 집행, 안전 연구에 쓰일 수 있다고 안내합니다. 상업용 Claude for Work와 API는 별도 문서로 연결됩니다.

Gemini

Gemini 앱의 공식 허브는 Gemini Apps Privacy Hub입니다. 이 글을 연 시점에 Privacy questions 쪽 갱신 표시는 2026년 8월 10일이었습니다. 이 페이지는 인간 검토자가 일부 데이터를 볼 수 있다고 적고 있으며, 검토자가 보거나 Google이 서비스 개선에 쓰길 원하지 않는 기밀은 넣지 말라고 안내합니다.

Keep Activity를 끄면 이후 채팅은 Activity에 나타나지 않고, 피드백을 보내지 않는 한 AI 모델 학습에도 쓰이지 않는다고 적혀 있습니다. 다만 응답과 보호, 피드백 처리를 위해 72시간은 계정에 남는다고 설명합니다.

활동 관리 페이지는 Manage and delete your activity in Gemini Apps입니다. 컴퓨터에서는 gemini.google.com의 Settings and help, Activity로 가라고 적고 있으며, 직접 주소는 myactivity.google.com/product/gemini입니다. 18세 이상은 Keep Activity가 기본으로 켜져 있고, Turn off 또는 Turn off and delete activity로 끌 수 있다고 설명합니다. 기본 자동 삭제는 18개월이며, 3개월이나 36개월로 바꿀 수 있다고 적고 있습니다.

Grok

Grok의 공식 설명은 xAI Consumer FAQs입니다. 페이지 날짜는 2025년 5월 12일입니다. 이 문서는 프라이버시를 지키려면 Grok 질문에 개인 정보나 민감한 정보를 공유하지 말라고 적고 있습니다.

모바일에서는 Settings, Data Controls에서 Improve the model을 고르거나 해제할 수 있고, grok.com에서는 Settings, Data, Improve the Model 경로를 안내합니다. 학습에 쓰지 않기로 고르면 새 대화는 학습에 쓰이지 않는다고 설명합니다. 또 Private Chat을 쓰면 콘텐츠와 상호작용이 학습에 들어가지 않으며, 화면 오른쪽 위 유령 모양 아이콘이라고 적고 있습니다. 기록은 이용자에게 보이지 않고, xAI 시스템에서 30일 안에 삭제된다고 설명합니다.

다만 학습을 꺼도 나중에 피드백을 주면 그 피드백은 학습에 쓰일 수 있다고 적혀 있습니다. 로그인하지 않은 이용자는 일부 지역에서 거부 선택이 없을 수 있으며, 비즈니스와 엔터프라이즈 콘텐츠는 모델 개선에 쓰지 않는다고도 안내합니다.

학습 스위치는 제품마다 다르지만, 민감한 값을 넣지 말라는 원칙은 모든 스위치보다 앞에 있습니다.

네 제품의 스위치 이름은 서로 다릅니다. Improve the model for everyone, Help Improve our AI models, Keep Activity, Improve the model입니다. 한 제품의 경로를 다른 제품에 그대로 옮기면 안 됩니다. 메뉴가 바뀌었을 수 있으므로, 지금 쓰는 제품의 공식 페이지를 직접 열어 확인하는 것이 가장 정확합니다.

이 글이 하려는 말과 하지 않으려는 말

이 글은 유출 건수를 세는 기사도 아니고, 각 서비스의 보관 기간을 사고 규모처럼 해석하는 글도 아닙니다. Gemini의 72시간과 18개월, OpenAI와 xAI의 30일은 각 페이지가 적은 보관 설명일 뿐입니다.

또 한 제품의 설정 화면을 모든 모델의 공통 메뉴처럼 다루지도 않습니다. ChatGPT의 Data Controls를 Claude에 붙이지 않고, Claude의 Privacy를 Gemini에 붙이지 않으며, Gemini의 Keep Activity를 Grok에 붙이지 않습니다. 제품마다 공식 문서를 따로 보는 것이 맞습니다.

무엇보다 학습 스위치를 껐다고 해서 무엇이든 넣어도 된다는 뜻은 아닙니다. 서버는 응답을 만들기 위해 입력을 받습니다. 인간 검토, 안전 분류, 피드백 처리처럼 스위치와 별도로 움직이는 예외도 공식 페이지에 적혀 있습니다. 그래서 비밀번호, 금융 정보, 신분 데이터, 계약 원문은 스위치 상태와 관계없이 채팅에 넣지 않는 것이 기본입니다.

제출 전에 확인할 최소한의 점검

해커톤 제출은 결국 올린 링크입니다. 배포가 제출이고, 다른 사람 브라우저에서 열리는 주소가 제출입니다. 그 링크에 키가 남아 있으면 제출이 아니라는 말은 과장이 아닙니다.

배포가 제출입니다. 올린 링크가 제출입니다. 그 링크에 키가 없어야 합니다.

오늘 범위를 넓힐 필요는 없습니다. 새 보안 제품을 사거나 전체 워크플로를 바꾸기보다, 지금 쓰는 채팅과 지금 올리는 저장소에서 먼저 빼야 할 값을 걷어내면 됩니다.

한 줄로 줄이면 이렇습니다. 비밀번호는 채팅에 넣지 않고, 실명 대신 역할을 쓰며, 학습 스위치는 그 제품의 공식 페이지에서 확인하고, 저장소 스캔을 마친 뒤에 링크를 올리면 됩니다.

참고 자료

AI와 대화하다 정보 다 털린다? "실명 대신 이렇게 해야 안전" / KNN
KNN NEWS
NordPass, Data privacy and security in AI
Advocate, Gerald Kasulis 인터뷰
OpenAI, How your data is used to improve model performance
OpenAI Data Controls FAQ
OpenAI, What if I want to keep my history on but disable model training?
Anthropic, model improvement privacy settings
Gemini Apps Privacy Hub
Gemini Apps Activity
xAI Consumer FAQs

여러분은 AI 채팅이나 공개 저장소를 제출 전에 어떤 기준으로 한 번 더 점검하고 계신가요?