생성형 AI 문제점, 개인정보 수집 논란…내 정보도 학습에 사용될까? 삭제·차단 방법
생성형 AI를 쓰면서 이름, 회사 자료, 계약서, 사진 등을 입력했다면 가장 먼저 드는 의문은 “내가 입력한 내용이 AI 학습에 그대로 사용되는 것 아닐까?”입니다.
결론부터 말하면 서비스와 계정 설정에 따라 다릅니다. 개인용 생성형 AI 중에는 사용자가 입력한 대화나 파일을 모델 개선에 활용할 수 있는 서비스가 있고, 사용자가 이를 끌 수 있도록 별도 설정을 제공하는 곳도 있습니다. 따라서 단순히 대화를 삭제하는 것과 앞으로 내 데이터를 학습에 사용하지 못하도록 설정하는 것은 따로 생각해야 합니다.
함께 확인하면 좋은 글
AI에 입력한 개인정보는 어디까지 수집될까?
생성형 AI에 질문을 입력하면 질문 문장만 전달되는 것은 아닙니다. 서비스에 따라 대화 내용, 업로드한 문서·사진·동영상, 피드백, 서비스 이용 정보 등이 함께 처리될 수 있습니다.
예를 들어 Gemini는 활동 기록 설정이 켜져 있으면 채팅과 공유한 파일·사진·화면 등의 활동을 저장하며, 이를 생성형 AI 모델을 포함한 Google 서비스 개선에 사용할 수 있다고 설명합니다. 일부 데이터는 품질·안전 개선을 위해 사람의 검토 대상이 될 수도 있습니다.
그렇다고 이메일함이나 스마트폰 안에 있는 개인정보를 AI가 마음대로 전부 학습한다는 뜻은 아닙니다. 어떤 정보를 처리하는지는 사용자가 연결한 서비스, 기능, 개인정보 설정에 따라 달라집니다.
그래서 회사 기밀자료, 주민등록번호, 계좌번호, 카드번호, 고객명단처럼 유출됐을 때 손실이 큰 정보는 애초에 입력하지 않는 것이 가장 안전한 방법입니다.
ChatGPT에서 AI 학습 차단하는 방법
개인용 ChatGPT에서는 설정을 통해 앞으로 생성하는 대화가 모델 개선에 사용되지 않도록 선택할 수 있습니다.
경로는 비교적 간단합니다.
프로필 → 설정 → 데이터 제어 → ‘모두를 위한 모델 개선’ 끄기
이 설정을 끄면 이후 새로 만드는 대화는 모델 학습에 사용되지 않습니다. 다만 기존 채팅 자체가 삭제되는 것은 아닙니다. 채팅 기록과 모델 학습 허용 여부는 별도의 기능이기 때문입니다.
민감한 내용을 일시적으로 물어봐야 한다면 임시 채팅도 방법입니다. 임시 채팅은 기록에 표시되지 않고 모델 개선에도 사용되지 않지만, 안전 목적 등의 이유로 최대 30일간 보관될 수 있습니다.
기존에 입력한 대화까지 없애려면?
학습 차단 버튼만 끄면 과거 채팅은 그대로 남아 있습니다.
기존 대화를 없애려면 채팅 목록에서 해당 대화의 메뉴를 열어 삭제해야 합니다. 삭제한 채팅은 계정 화면에서는 즉시 사라지고 일반적으로 시스템에서 영구 삭제되도록 처리됩니다. 다만 이미 개인과 분리된 형태로 처리됐거나 법적·보안상 보존해야 하는 경우에는 예외가 있을 수 있습니다.
따라서 개인정보가 들어간 대화가 있다면 순서는 다음처럼 잡는 편이 좋습니다.
- 학습 활용 설정을 끕니다.
- 개인정보가 포함된 기존 채팅을 삭제합니다.
- 필요하면 계정의 개인정보·데이터 설정을 다시 확인합니다.
- 앞으로 민감한 질문은 익명화하거나 임시 채팅을 이용합니다.
Gemini는 ‘활동 기록 보관’을 확인해야 합니다
Gemini에서는 Gemini 앱 활동 설정이 핵심입니다.
활동 기록 보관이 켜져 있는 경우 채팅과 공유 콘텐츠가 활동에 저장되고 Google 서비스와 생성형 AI 모델 개선에 활용될 수 있습니다. 기본 자동삭제 기간은 18개월이며 사용자가 3개월·36개월 등으로 바꾸거나 활동을 직접 삭제할 수 있습니다.
차단하려면 Gemini에서
설정 및 도움말 → 활동 → 활동 기록 보관 → 사용 중지
순으로 들어가면 됩니다.
필요하면 ‘사용 중지 및 활동 삭제를 선택해 기존 활동까지 정리할 수 있습니다. 다만 활동 기록을 꺼도 서비스 제공과 안전 등의 목적으로 새 대화가 최대 72시간 보관될 수 있다는 점은 알아둘 필요가 있습니다.
또한 사람이 이미 검토한 일부 데이터는 계정 활동을 삭제하더라도 계정과 분리된 상태로 별도 보관될 수 있다고 Google은 설명합니다. 따라서 민감정보는 ‘나중에 삭제하면 된다’보다 처음부터 입력하지 않는 방식이 더 확실합니다.
Claude도 개인정보 설정을 확인해야 합니다
Claude의 개인용 서비스는 현재 사용자가 모델 개선을 허용했거나 안전 검토 대상이 되는 등 특정 조건에서 대화가 모델 개선에 사용될 수 있다고 안내합니다. 반대로 기업용 Claude와 API는 기본적으로 입력·출력을 모델 학습에 사용하지 않는 정책을 적용합니다.
즉 같은 생성형 AI라도 개인용 계정과 기업용 계정의 데이터 처리 방식이 다를 수 있습니다.
회사에서 AI를 업무에 사용한다면 개인 계정에 고객자료를 붙여 넣기보다 회사가 승인한 기업용 서비스와 내부 보안정책을 따르는 편이 안전합니다.
개인정보를 안전하게 쓰려면 이것부터 확인하세요
생성형 AI의 개인정보 문제는 “AI를 쓰면 무조건 정보가 유출된다”와 “아무 걱정 없이 입력해도 된다” 둘 다 정확하지 않습니다.
실제로는 어떤 서비스를 쓰는지, 학습 설정이 켜져 있는지, 어떤 자료를 입력했는지에 따라 위험이 달라집니다.
특히 이름 정도를 넣는 것과 주민등록번호+주소+전화번호, 또는 회사 계약서 전체를 업로드하는 것은 위험 수준이 전혀 다릅니다. 문서를 분석시키고 싶다면 이름은 A씨, 회사명은 B사처럼 바꾸고 계좌번호나 연락처 같은 정보는 먼저 지우는 방식이 좋습니다.
자주 묻는 질문과 실질적인 답변
대화를 삭제하면 이미 AI가 학습한 내용도 전부 사라지나요?
반드시 그렇다고 볼 수는 없습니다. 서비스별 정책과 데이터 처리 단계가 다르기 때문에 대화 삭제와 모델 학습 차단은 별도로 실행하는 것이 안전합니다.
학습 차단을 하면 채팅 기록도 없어지나요?
아닙니다. 예를 들어 ChatGPT에서는 모델 개선 설정을 꺼도 일반 채팅은 기록에 남을 수 있습니다. 기록까지 없애려면 채팅을 별도로 삭제해야 합니다.
회사 자료를 AI에 넣어도 될까요?
회사 내부 규정에서 허용된 서비스인지 먼저 확인하는 것이 좋습니다. 고객 개인정보·미공개 실적·계약조건·소스코드처럼 외부 공개가 곤란한 자료는 개인용 AI 계정에 그대로 입력하지 않는 편이 안전합니다.
결국 가장 현실적인 방법은 학습 활용 설정을 끄고, 기존 민감 대화를 정리하고, 앞으로 입력할 자료에서 개인정보를 먼저 제거하는 것입니다. 삭제 기능만 믿기보다 입력 단계에서 정보량을 최소화하는 습관이 개인정보 보호에는 더 효과적입니다.
공식 확인자료
Finzoom
댓글 0
첫 댓글을 남겨보세요.