생성형 AI 정보보안은 무엇을 넣고 넣지 말아야 하는지 구분하는 일에서 시작됩니다. 이 글에서는 입력한 내용이 어디까지 가는지, 지워야 할 항목을 고르는 기준을 다룹니다.
📌 3줄 요약
- 입력한 내용은 내 손을 떠나 어딘가에 저장되거나 학습에 쓰일 수 있다
- 개인정보·내부자료·미공개 문서는 넣기 전에 걸러내는 습관이 필요하다
- 기관에서 쓸 땐 이용약관·학습 사용 여부·승인된 도구를 먼저 확인한다
재난 대응 상황실에서 급하게 보고서를 다듬어야 할 때, 누군가 주민 명단이 섞인 엑셀 파일을 통째로 AI 챗봇에 올려 "정리해줘"라고 입력하는 모습을 본 적이 있습니다. 결과는 빠르고 깔끔했지만, 그 순간 주민의 이름과 전화번호, 주소가 외부 서버로 전송됐다는 사실은 아무도 신경 쓰지 않았습니다. 생성형 AI는 질문을 넣으면 답을 주는 도구처럼 보이지만, 그 입력값이 어디로 가서 어떻게 쓰이는지는 도구마다, 설정마다 다릅니다. 편리함만 보고 쓰다 보면 정작 중요한 정보보안 문제를 놓치기 쉽습니다. 특히 재난안전 업무는 주민 개인정보, 시설 취약점, 미공개 대응계획처럼 민감한 자료를 다루는 경우가 많아 더 조심스러운 접근이 필요합니다.
🛰️ 내가 입력한 내용은 어디로 가나요?
생성형 AI에 글을 입력하면 그 내용은 서비스를 운영하는 회사의 서버로 전송됩니다. 서버에서는 답을 만들기 위해 내용을 분석하고, 서비스 정책에 따라 일정 기간 저장하거나 대화 기록으로 남기기도 합니다. 일부 서비스는 사용자의 입력을 모델 성능 개선, 즉 다음 버전 AI를 학습시키는 데 활용할 수 있다고 약관에 명시합니다. 이 말은 내가 입력한 문장이 다른 사용자의 답변에 재료로 쓰일 가능성이 있다는 뜻입니다. 도구마다 저장 기간과 학습 반영 여부, 삭제 요청 방법이 다르므로 "안전하다" "위험하다"를 일반화해서 말할 수는 없습니다. 재난 상황에서 수집한 피해 현장 사진이나 주민 제보 내용을 올리기 전에는, 그 정보가 어디까지 흘러갈 수 있는지부터 따져보는 습관이 필요합니다.
🌊 개인정보·내부자료를 넣으면 왜 위험한가요?
이름, 주민등록번호, 전화번호, 주소 같은 개인정보는 한 번 외부로 나가면 되돌릴 방법이 없습니다. 내부 공문, 미공개 대응계획, 시설 취약점 목록도 마찬가지입니다. 이런 자료가 AI 서비스에 저장되거나 학습에 활용되면, 전혀 관련 없는 사람의 질문에 조각난 형태로 나타날 가능성을 완전히 배제할 수 없습니다. 특히 공공기관 자료는 정보공개법이나 개인정보보호법 같은 법적 의무가 걸려 있어서, 담당자 개인의 판단으로 "편하니까 넣어본다"고 할 수 있는 문제가 아닙니다. 홍수 대응 매뉴얼 중 아직 승인되지 않은 초안, 산사태 위험지구의 정확한 좌표와 주민 수 같은 정보는 유출됐을 때 피해가 구체적으로 발생할 수 있는 자료입니다. 이런 내용을 다룰 때는 AI에 맡기기 전에 "이게 외부로 나가도 되는 정보인가"를 한 번 더 물어야 합니다.
🔥 지워야 할 항목, 어떻게 걸러내나요?
자료를 AI에 넣기 전에는 민감한 항목을 먼저 지우는 절차를 거쳐야 합니다. 이름과 연락처는 "주민 A" "주민 B"처럼 바꾸고, 정확한 주소는 동 단위까지만 남기거나 빼는 식입니다. 내부 문서라면 기관명, 담당자 이름, 결재 라인, 미공개 수치를 지우고 핵심 내용만 남기는 것이 안전합니다. 이 과정을 매번 수동으로 하기 번거롭다면, 자료를 올리기 전에 "이 문서에서 개인정보나 민감 정보로 보이는 부분이 있는지 표시해줘" 같은 요청을 먼저 해보는 것도 방법입니다. 다만 이 경우에도 원본 전체를 올리지 않고, 일부만 떼어내 확인하는 편이 안전합니다. 산불 대응 보고서를 AI로 정리할 때도 실제 피해 가구의 개인정보는 빼고 통계 수치와 대응 절차만 남기는 식으로, 지울 항목을 먼저 골라내는 습관이 결과물의 품질보다 먼저 와야 합니다.
🏢 기관에서 쓸 때 꼭 확인해야 할 것은 뭔가요?
공공기관이나 회사에서 생성형 AI를 쓰려면 개인 판단보다 기관 차원의 확인이 먼저입니다. 첫째는 이용약관에서 입력 데이터의 저장 기간과 처리 방식을 확인하는 것이고, 둘째는 그 데이터가 모델 학습에 쓰이는지 여부입니다. 설정 화면에 "대화 기록을 모델 개선에 사용하지 않음" 같은 옵션이 있는 경우도 있으니 찾아서 꺼두는 것이 기본입니다. 셋째는 기관이 승인한 도구인지 확인하는 것입니다. 보안 담당 부서나 정보화 부서가 검토해 사용을 허가한 도구와, 개인이 임의로 가입한 서비스는 보안 수준이 다를 수 있습니다. 재난안전 업무처럼 민감한 자료를 다루는 조직이라면, AI 도입 전에 보안 부서와 함께 "어떤 자료는 올려도 되고 어떤 자료는 안 되는지" 기준을 문서로 정리해두는 것이 실무에서 가장 효과적인 예방책입니다.
🧭 애매할 때는 어떻게 판단하나요?
규정만으로는 모든 상황을 다 정하기 어렵습니다. 이럴 때는 직접 해봐야 아는 것들이 있습니다. 예를 들어 어떤 서비스를 쓸지 정하기 전에, 그 서비스의 설정 메뉴에 들어가 데이터 저장이나 학습 활용 옵션이 실제로 존재하는지, 끌 수 있는지를 눈으로 확인해보는 절차가 필요합니다. 또한 같은 문서라도 "이 정도면 괜찮겠지"라는 혼자의 판단보다, 동료나 보안 담당자에게 "이 자료 올려도 되나요"라고 한 번 물어보는 습관이 사고를 줄입니다. 판단이 애매한 자료는 아예 올리지 않거나, 익명화한 샘플 일부만 넣어 테스트해보는 쪽이 안전합니다. 재난 훈련 시나리오나 보고서를 AI로 다듬을 때도, 최종 결과물을 외부에 공개하기 전에 민감 정보가 섞여 있지는 않은지 한 번 더 검토하는 단계를 업무 절차에 넣어두는 것이 좋습니다.
🖥️ 화면에서 따라하기
- 약관 찾기
서비스 설정 화면이나 하단 링크에서 '이용약관' 또는 '개인정보처리방침' 항목을 연다 - 학습 활용 여부 확인
설정 메뉴에서 '데이터 사용' '모델 개선' 관련 옵션이 있는지 찾아본다(위치는 버전마다 다르니 '설정' 또는 '개인정보' 메뉴를 먼저 살핀다) - 옵션 끄기
학습 활용을 끌 수 있는 토글이 있으면 꺼두고 적용 여부를 확인한다 - 자료 걸러내기
올리기 전 문서에서 이름·연락처·주소·기관명을 지우거나 가명으로 바꾼다 - 기관 승인 확인
보안 담당 부서에 문의해 사용 가능한 도구 목록이 있는지 확인한다 - 최종 점검
올릴 자료의 일부만 떼어 테스트하고, 결과물에 민감 정보가 남아있지 않은지 재확인한다
※ 프로그램 버전에 따라 메뉴 이름이 조금씩 다를 수 있습니다. 위 그림은 순서를 정리한 도식입니다.
✍️ 그대로 복사해 쓰는 프롬프트
문서에서 민감 정보로 보이는 부분을 먼저 찾아내게 하는 프롬프트
너는 문서 검토를 돕는 보조자야. 아래 문서 일부를 보고 이름, 연락처, 주소, 기관명, 미공개 수치처럼 외부에 공개하면 안 될 것 같은 항목을 목록으로 뽑아줘. 원문을 고치지 말고 어떤 부분이 민감한지와 그 이유만 설명해줘. 확실하지 않으면 "확인 필요"라고 표시해줘. [검토할 문서 일부를 여기 붙여넣기]
익명화한 자료로 보고서 초안을 정리하는 프롬프트
너는 [기관명 생략 가능] 재난안전 업무 보고서 작성을 돕는 보조자야. 아래 내용은 이미 개인정보와 기관명을 지운 상태야. 이 내용을 바탕으로 [대상 재난, 예: 산사태] 대응 경과를 시간 순서로 정리한 보고서 초안을 작성해줘. 실제 이름이나 좌표가 없다는 점을 전제로 작성하고, 빠진 정보가 있으면 추측해서 채우지 말고 "추가 확인 필요"라고 표시해줘. [익명화한 자료 내용] 확인할 점: AI가 만든 결과물에 원본에 없던 지명, 숫자, 이름을 임의로 채워 넣었는지 반드시 대조해봐야 합니다.
※ 대괄호 부분을 상황에 맞게 바꿔서 쓰세요. 받은 답은 그대로 쓰지 말고 사실 확인을 거치세요.
🧪 직접 해보기
- 자주 쓰는 AI 서비스의 설정 메뉴에서 데이터 저장·학습 활용 옵션을 찾아본다
- 업무 자료 하나를 골라 올리기 전에 지울 항목(이름, 주소, 기관명)을 먼저 표시해본다
- 소속 기관에 AI 도구 사용 승인 목록이나 가이드라인이 있는지 담당 부서에 물어본다
❓ 자주 묻는 질문
Q. 회사 내부 문서를 AI에 올리면 무조건 유출로 보나요?
A. 서비스 정책과 기관 보안 규정에 따라 다릅니다. 승인된 도구에서 학습 활용을 끈 상태로 쓰는 것과, 임의로 가입한 서비스에 그대로 올리는 것은 위험도가 다릅니다.
Q. 개인정보를 가명으로 바꾸면 완전히 안전한가요?
A. 위험을 줄여주지만 완전히 없애지는 못합니다. 주소나 날짜 같은 다른 정보와 합쳐지면 다시 특정인이 식별될 수 있어 여러 항목을 함께 가려야 합니다.
Q. 무료 버전과 유료 버전의 보안 수준이 다른가요?
A. 서비스와 시점에 따라 다르므로 단정할 수 없습니다. 해당 서비스의 이용약관과 설정 화면을 직접 확인하는 것이 가장 정확합니다.
생성형 AI는 업무를 빠르게 만들어주지만, 그 빠름 뒤에는 내가 입력한 내용이 어디로 가는지 모른 채 넘기는 위험이 숨어 있습니다. 다음 편에서는 이런 보안 습관을 바탕으로 AI를 재난 상황실 업무에 실제로 어떻게 적용할 수 있는지 살펴보겠습니다.
생성형AI 사용법 시리즈 11편 · 전체 15편
재난안전과 GeoAI 이야기를 더 보고 싶다면 아래 채널도 함께 보세요.
📌 바로가기
댓글 없음:
댓글 쓰기