2장. 윤리와 보안 - 책임있는 AI 활용
핵심 주제: AI를 안전하고 책임감 있게 사용하는 방법
왜 AI 윤리와 보안인가?
AI 활용이 늘어나면서 새로운 리스크도 등장합니다:
| 리스크 | 사례 |
|---|---|
| 데이터 유출 | 고객 정보를 AI에 입력 → 학습 데이터로 사용 |
| 저작권 침해 | AI 생성 이미지의 저작권 문제 |
| 허위 정보 | AI가 만든 가짜 정보 확산 |
| 책임 불명확 | ”AI가 그랬어요”는 변명이 안 됨 |
Part 1: 데이터 보안
절대 입력하면 안 되는 정보
⛔ 입력 금지 목록
1. 개인정보
- 이름, 연락처, 이메일, 주민번호
- 고객/거래처 실명 및 연락처
2. 기밀 정보
- 미공개 재무 정보
- 영업 비밀, 원가 구조
- 인사 정보, 급여 데이터
3. 인증 정보
- 비밀번호, API 키
- 시스템 접속 정보
4. 계약/법률 정보
- 계약 조건, 합의 내용
- 소송 관련 문서안전한 활용 방법
Before (위험)
김철수 고객(010-1234-5678)에게
연체료 50만원 안내 메일 써줘After (안전)
연체 고객에게 보내는 안내 메일 템플릿을 작성해줘.
- 상황: 30일 연체, 연체료 발생
- 톤: 정중하지만 명확하게
- 담당자명, 금액, 연락처는 [ ] 공란으로도구별 보안 설정
| 도구 | 학습 차단 설정 |
|---|---|
| ChatGPT | Settings → Data Controls → Chat history OFF |
| Gemini | Activity → Gemini Apps Activity OFF |
| Claude | 기본적으로 학습 안 함 |
Part 2: 저작권과 지적재산
AI 생성물의 저작권
| 유형 | 저작권 | 주의사항 |
|---|---|---|
| AI 생성 텍스트 | 사용자 소유 (일반적) | 상업적 사용 시 약관 확인 |
| AI 생성 이미지 | 복잡함 | 도구별 약관 상이 |
| AI 수정 콘텐츠 | 원본 저작권 유지 | 원작자 허락 필요 |
이미지 생성 시 주의사항
금지:
- 실존 인물 생성 (초상권)
- 유명 캐릭터 모방 (저작권)
- 브랜드 로고 포함 (상표권)
안전:
- 일반적인 장면, 풍경
- 추상적 개념 시각화
- 명확히 가상임을 표시
참고 문서 활용 시
✅ 올바른 활용:
"이 문서를 요약해줘" → 요약본 + 출처 표시
⚠️ 주의 필요:
"이 내용을 내 보고서에 넣어줘" → 인용 표시 필수
❌ 금지:
"이 논문을 조금 바꿔서 새 논문으로" → 표절Part 3: Hallucination과 팩트체크
AI는 자신있게 틀린다
| 상황 | AI 행동 | 결과 |
|---|---|---|
| 모르는 정보 | 그럴듯하게 지어냄 | 가짜 논문, 가짜 통계 |
| 오래된 정보 | 최신인 것처럼 제시 | 잘못된 의사결정 |
| 복잡한 계산 | 틀린 답을 확신 | 재무/법률 오류 |
필수 검증 항목
| 정보 유형 | 검증 방법 |
|---|---|
| 숫자/통계 | 원본 출처 직접 확인 |
| 법률/규정 | 공식 사이트, 전문가 |
| 최신 뉴스 | 여러 언론사 교차 확인 |
| 인물 정보 | 공식 프로필, 링크드인 |
검증 프롬프트
위 정보의 출처를 알려주세요.
각 수치가 어디서 나온 건지 구체적으로 명시해주세요.
이 정보가 최신인지 확인해주세요. 언제 기준인가요?Part 4: 책임과 의사결정
AI 시대의 책임 원칙
"AI가 그렇게 했어요" ← 변명 안 됨
"AI가 제안하고, 제가 검토해서 결정했습니다" ← 올바른 태도의사결정 체크리스트
| 단계 | 질문 |
|---|---|
| 1. 입력 전 | 민감 정보가 포함되어 있나? |
| 2. 결과 확인 | 출처가 명확한가? |
| 3. 검증 | 다른 소스로 확인했나? |
| 4. 책임 | 이 결과에 내 이름을 걸 수 있나? |
| 5. 공유 | AI 활용 사실을 밝혀야 하나? |
투명성 원칙
내부 문서: AI 활용 여부 명시 선택적 외부 문서: AI 활용 시 명시 권장 공식 문서: 최종 검토자 명시 필수
Part 5: 조직 AI 가이드라인
가이드라인 구성 요소
# [회사명] AI 활용 가이드라인
## 1. 목적
- AI 도구의 안전하고 효과적인 활용
## 2. 적용 범위
- 전 임직원
- 모든 AI 도구 (ChatGPT, Gemini, Claude 등)
## 3. 허용 범위
- 일반 업무 보조 (초안 작성, 요약, 번역)
- 아이디어 브레인스토밍
- 코드 작성 보조
## 4. 금지 사항
- 개인정보, 기밀정보 입력
- 최종 의사결정 AI 위임
- 검증 없는 결과물 외부 공유
## 5. 검토 및 승인
- [민감도 높은 업무]는 팀장 검토 필수
## 6. 교육
- 신규 입사자: 필수 교육 이수
- 전 직원: 연 1회 리프레시 교육
## 7. 위반 시
- 경고 → 교육 이수 → 징계🎯 실습: 나의 AI 행동 강령
미션: 개인 AI 행동 강령 작성하기
나의 AI 행동 강령
1. 입력 전 확인:
□ 개인정보 포함 여부
□ 기밀정보 포함 여부
□
2. 결과 검증:
□ 숫자/통계 출처 확인
□
□
3. 책임 원칙:
□ 최종 책임은 내가 진다
□
□
서명: ____________ 날짜: ____________핵심 정리
| 개념 | 핵심 |
|---|---|
| 데이터 보안 | 개인정보, 기밀정보 절대 입력 금지 |
| 저작권 | AI 생성물도 저작권 주의 필요 |
| Hallucination | AI는 자신있게 틀림 → 검증 필수 |
| 책임 | ”AI가 그랬어요”는 변명 안 됨 |
| 가이드라인 | 조직 차원의 명확한 규칙 필요 |