안전 · 읽는 데 약 6분
AI 챗봇에 넣으면 안 되는 정보와 안전한 사용 습관
AI 챗봇은 대화하듯 질문에 답해 주는 AI 프로그램이에요. 글쓰기, 번역, 궁금한 것 묻기에 편리하지만, 입력한 내용은 대개 내 휴대폰 안에만 머물지 않아요. 넣지 말아야 할 정보와 안전하게 쓰는 습관을 정리했어요.
입력한 내용은 서비스 회사로 가요
대부분의 AI 챗봇은 내가 쓴 글을 서비스 회사의 서버(데이터를 보관하고 처리하는 컴퓨터)로 보내 처리해요. 2024년 3월 개인정보보호위원회는 주요 AI 서비스 사업자 6곳을 점검한 결과를 발표했어요. 사업자들은 검토 인력을 두고, 이용자의 질문과 AI의 답을 사람이 직접 읽고 고쳐서 AI 학습과 서비스 개선에 쓰고 있었어요.
이용자는 이런 '사람의 검토'가 있는지 알기 어려웠어요. 위원회는 이 사실을 분명히 알리고, 입력한 데이터를 지우거나 쓰지 않게 하는 기능을 쉽게 찾을 수 있게 하라고 권고했어요.
위원회는 2025년에 생성형 AI(글이나 그림을 새로 만들어 내는 AI) 안내서를 냈어요. 이 안내서는 AI가 학습한 정보를 '암기'했다가 답변에 그대로 내놓을 수 있다는 위험을 짚었어요. 또 AI 학습에 쓰인 데이터는 그 특성상 열람이나 삭제 요구 같은 권리 행사가 일부 제한될 수 있다고 적었어요. 한 번 넣은 정보는 완전히 되돌리기 어려울 수 있다는 뜻이에요.
이런 정보는 넣지 마세요
개인정보 보호법은 건강, 정치적 견해 같은 정보를 '민감정보'로 따로 정해 엄격하게 다뤄요. 주민등록번호는 회사나 기관도 법에 근거가 있는 경우 등이 아니면 다룰 수 없게 막아 두었어요. 그만큼 조심해야 하는 정보라는 뜻이에요.
위원회 점검에서도 이용자가 중요한 개인정보나 이메일 같은 민감한 내용을 입력하면 사생활 침해로 이어질 수 있다고 지적했어요. 다른 사람의 정보는 더 조심해야 해요. 동의 없이 넣으면 그 사람의 사생활을 대신 드러내는 셈이에요. 아래 정보는 질문이 급해도 그대로 넣지 마세요.
- 주민등록번호, 여권번호, 운전면허번호처럼 나를 특정하는 번호
- 계좌번호, 카드번호, 비밀번호, 문자로 받은 인증번호
- 비밀번호를 찾을 때 쓰는 질문의 답(첫 학교 이름 같은 것)
- 진료 기록, 먹는 약, 정치적 견해처럼 사생활과 깊이 관련된 정보
- 가족, 친구, 고객 등 다른 사람의 이름, 연락처, 사진
- 신분증·통장 사진, 집 주소가 보이는 서류
- 회사 내부 문서와 고객 자료
꼭 물어야 한다면 가리고 바꿔서
개인 사정이 담긴 질문도 나를 알아볼 수 있는 부분을 빼고 넓게 물으면 충분히 도움을 받을 수 있어요. 이름 대신 '60대 여성', 정확한 주소 대신 '수도권 아파트'처럼 바꿔 쓰세요.
예를 들어 이름, 주민등록번호, 처방전 사진을 올리는 대신 '혈압약을 먹는 60대가 감기약을 먹을 때 일반적인 주의점'을 물으면 돼요. 약이나 건강 문제는 AI 답만 믿지 말고 약사나 의사에게 꼭 확인하세요.
서류나 화면 사진을 올릴 때는 이름, 번호, 얼굴, 주소를 먼저 가리세요. 휴대폰 사진 편집의 자르기나 그리기 기능으로도 충분해요.
AI에게 '이 내용은 기억하지 마'라고 말해도, 그 말만으로 서버에 남지 않는다는 보장은 없어요. 가리고 바꾸는 습관이 가장 확실한 보호 장치예요.
설정과 대화 기록을 점검하세요
서비스에 따라 설정 메뉴에서 대화 내용을 AI 학습에 쓸지 고르거나, 대화 기록을 남기지 않게 할 수 있어요. 개인정보보호위원회 안내서에 실린 비교를 보면, 개인용 서비스는 대화를 기본으로 학습에 쓰고 원하면 끌 수 있게 한 경우가 있어요. 처음 쓸 때 설정을 한 번 살펴보고, 원하지 않으면 학습 사용을 꺼 두세요.
개인정보 처리방침(회사가 내 정보를 어떻게 다루는지 밝힌 문서)에서 대화를 얼마나 보관하는지, 사람이 검토하는지도 확인할 수 있어요. 지난 대화에 민감한 내용이 있다면 지우세요.
대화 공유 기능으로 만든 링크는 받은 사람이 그대로 열어 볼 수 있어요. 공유 전에 개인정보가 없는지 살피고, 공용 컴퓨터에서 썼다면 꼭 로그아웃하세요.
계정과 앱도 함께 지키세요
챗봇 계정에는 그동안의 대화가 쌓여 있어서, 다른 사람이 내 계정에 몰래 들어오면 대화도 함께 볼 수 있어요. 개인정보보호위원회는 사이트나 앱이 2단계 인증을 제공하면 적극 쓰라고 권해요. 2단계 인증은 비밀번호에 더해 문자 인증번호 같은 확인을 한 번 더 거치는 방식이에요.
비밀번호가 새어 나갔다면 같은 비밀번호를 쓰는 다른 사이트 계정도 바꾸세요. 쓰지 않는 서비스는 탈퇴해 두면 정보가 샐 곳이 줄어요. 앱은 공식 앱 장터에서 개발사를 확인하고 내려받고, 문자나 광고 링크로 받은 AI 앱은 깔지 마세요.
가족이 함께 쓰는 휴대폰이나 태블릿이라면 챗봇 앱에 남은 대화를 다른 사람이 볼 수 있어요. 기기에 화면 잠금을 걸고, 대화 기록을 정리해 두세요.
답변은 참고하고, 중요한 일은 다시 확인하세요
AI 챗봇은 사실이 아닌 내용을 그럴듯하게 지어내기도 해요. 이를 '환각'이라고 불러요. 말투가 자신 있어 보여도 틀릴 수 있다는 점을 기억하세요.
건강, 법률, 돈 문제처럼 중요한 결정은 AI 답을 출발점으로만 삼고 전문가나 공식 기관에 확인하세요. AI가 알려 준 전화번호나 사이트 주소도 그대로 쓰지 말고 공식 홈페이지에서 다시 찾아보세요.
AI로 만든 글이나 사진을 다른 사람에게 보낼 때도 마찬가지예요. 그 안에 내 정보나 다른 사람의 정보가 섞이지 않았는지 한 번 더 살펴보세요.
오늘부터 해 볼 것
- 주민등록번호, 계좌번호, 비밀번호, 인증번호는 어떤 경우에도 입력하지 않는다.
- 가족이나 고객 등 다른 사람의 이름, 연락처, 사진은 넣지 않는다.
- 개인 사정은 '60대 여성'처럼 넓게 바꿔서 묻는다.
- 사진을 올리기 전에 이름, 번호, 얼굴, 주소를 가린다.
- 설정에서 학습 사용 여부와 대화 기록 보관을 확인한다.
- 계정에 2단계 인증을 켜고 다른 사이트와 다른 비밀번호를 쓴다.
읽은 내용을 글링코에게 가르쳐 줄까요?3분 수업을 풀면 글링코가 배우고 자라요.
「내 정보 지키기와 AI 사기」 수업 풀기이 글에 나온 용어
자주 묻는 질문
대화 기록을 지우면 회사 서버에서도 완전히 사라지나요?
서비스마다 보관 방식이 달라서 단정하기 어려워요. 개인정보보호위원회 안내서도 AI 학습에 이미 쓰인 데이터는 삭제 요구 같은 권리 행사가 일부 제한될 수 있다고 봐요. 그래서 나중에 지우기보다 처음부터 넣지 않는 것이 가장 확실해요.
이름 하나 정도는 넣어도 괜찮지 않나요?
이름 하나보다 여러 정보가 합쳐질 때 누구인지 알아보기 쉬워져요. 이름에 사는 동네, 나이, 병원 이야기가 더해지면 특정 개인이 드러날 수 있어요. 꼭 필요하지 않다면 이름은 빼고, 다른 사람의 이름은 더욱 넣지 마세요.
사진 속 얼굴이나 배경도 조심해야 하나요?
네. 개인정보 보호법은 이름이나 번호뿐 아니라 영상 등으로 개인을 알아볼 수 있는 정보도 개인정보로 봐요. 얼굴이 또렷한 사진이 그런 예예요. 우편물, 차량 번호판, 창밖 풍경에서 사는 곳이 드러나기도 해요. 올리기 전에 가릴 것이 없는지 살펴보세요.
참고한 자료
- https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=10027
- https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=11410
- https://www.pipc.go.kr/np/cmm/fms/FileDown.do?atchFileId=FILE_000000000559959&fileSn=3&fileExtsn=pdf
- https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=12586
- https://casenote.kr/법령/개인정보_보호법/제2조
- https://casenote.kr/법령/개인정보_보호법/제23조
- https://casenote.kr/법령/개인정보_보호법/제24조의2
