"우리도 안전신뢰문서를 써야 하나요?"

AI기본법은 고영향 AI 사업자에게 안전신뢰문서 작성을 요구합니다. 위험관리 체계, 데이터 관리 정책, 사고 대응 절차 등을 문서화해야 합니다.

대기업은 법무팀과 컴플라이언스팀이 전담하지만, 직원이 5~20명인 재활센터나 소규모 SaaS 스타트업에게는 막막한 요구입니다. "안전신뢰문서"라는 이름 자체가 부담스럽게 느껴집니다.

하지만 실제로 필요한 것은 거창한 문서가 아닙니다. **"우리가 AI를 어떻게 사용하고 있고, 문제가 생기면 어떻게 대응하는지"**를 정리한 문서면 됩니다. 이 글에서는 법무팀 없이도 작성할 수 있는 최소 템플릿을 제공합니다.

안전신뢰문서에 들어가야 할 5가지

1. AI 시스템 개요

"우리가 어떤 AI를 쓰고 있는가"를 설명합니다.

작성 항목:

항목 작성 예시
AI 시스템 명칭 (서비스명) AI 스케줄 최적화 모듈
목적 치료사-아동 스케줄 자동 배정
AI 유형 외부 API 활용 (GPT-4 기반 추천)
입력 데이터 치료사 가용 시간, 아동 선호 시간, 치료 유형
출력 스케줄 초안 (관리자 확인 후 확정)
고영향 해당 여부 비해당 (관리자가 최종 결정)

외부 SaaS에 내장된 AI도 포함해야 합니다. "우리가 직접 만든 AI가 아니니까"는 면책 사유가 되지 않습니다.

2. 위험 평가

"이 AI에 어떤 위험이 있는가"를 식별합니다.

위험 평가 테이블:

위험 유형 발생 가능성 영향도 위험 수준 대응 방안
AI가 부적절한 스케줄 배정 중간 낮음 낮음 관리자 확인 프로세스
AI가 개인정보를 외부로 전송 낮음 높음 중간 데이터 전송 차단, 로컬 처리
AI 서비스 장애로 업무 중단 낮음 중간 낮음 수동 배정 대안 절차
AI 결과에 대한 이용자 불만 중간 중간 중간 이의 신청 절차 마련

3. 안전 조치

"위험을 어떻게 관리하고 있는가"를 설명합니다.

필수 안전 조치:

  • 사람의 검토: AI 결과를 사람이 확인한 후에만 적용
  • 접근 제한: AI 시스템에 접근할 수 있는 인원을 제한
  • 데이터 보호: AI에 입력되는 개인정보를 최소화, 암호화
  • 로그 보관: AI의 입력/출력 기록을 5년간 보관
  • 대안 절차: AI 장애 시 수동으로 업무를 처리할 수 있는 절차

4. 사고 대응 절차

"문제가 생기면 어떻게 하는가"를 정합니다.

대응 단계:

1단계: 사고 인지 → AI 담당자에게 즉시 보고
2단계: 영향 범위 파악 → 피해 이용자 식별
3단계: 응급 조치 → AI 기능 일시 중단, 수동 전환
4단계: 이용자 통보 → 피해 가능성 있는 이용자에게 알림
5단계: 외부 보고 → 필요시 과기정통부 신고 (24시간 내)
6단계: 원인 분석 → 재발 방지 대책 수립

책임자 지정:

역할 담당자 연락처
AI 위험관리 책임자 (이름) (전화번호)
대외 커뮤니케이션 (이름) (전화번호)
기술 대응 (이름) (전화번호)

소규모 조직은 대표가 겸임해도 됩니다. 중요한 것은 역할이 지정되어 있는 것입니다.

5. 이용자 권리 보호

"이용자가 AI에 대해 어떤 권리가 있는가"를 정리합니다.

  • AI 사용 사실 고지 방법과 위치
  • AI 판단에 대한 이의 신청 절차
  • AI 판단 대신 사람의 판단을 요청할 수 있는 방법
  • 개인정보 열람/정정/삭제 요청 절차

작성 팁: 중소 센터가 흔히 하는 실수

실수 1: 너무 완벽하게 쓰려고 한다

첫 버전은 2~3페이지로 충분합니다. 완벽한 문서보다 존재하는 문서가 중요합니다. 이후 운영하면서 보완하면 됩니다.

실수 2: 한 번 쓰고 방치한다

안전신뢰문서는 살아있는 문서입니다. AI 시스템이 변경되거나, 새로운 AI를 도입하거나, 사고가 발생하면 업데이트해야 합니다. 최소 반기 1회 검토를 권장합니다.

실수 3: 기술팀만 작성한다

안전신뢰문서는 기술 문서가 아니라 운영 문서입니다. 실제로 AI를 사용하는 현장 담당자, 이용자와 접점이 있는 서비스 담당자가 함께 참여해야 합니다.

문서 버전 관리

항목 내용
문서 버전 v1.0
최초 작성일 YYYY-MM-DD
최종 수정일 YYYY-MM-DD
작성자 (이름/직위)
검토자 (이름/직위)
다음 정기 검토 YYYY-MM-DD (반기 1회)

크로노젠이 안전신뢰문서를 자동으로 채워줍니다

안전신뢰문서의 핵심은 **"기록이 있느냐"**입니다. AI가 무엇을 했는지, 사람이 어떻게 검토했는지, 문제는 없었는지 — 이 기록이 있어야 문서가 의미를 갖습니다.

크로노젠은 안전신뢰문서에 필요한 기록을 자동으로 생성합니다.

  • AI 실행 로그: AI의 모든 입력/출력이 DPU에 자동 기록
  • 검토 이력: 사람의 확인/수정 과정이 해시 체인에 보존
  • 사고 대응 기록: 이상 감지 시 자동 알림, 대응 이력 기록
  • 정기 보고서: 반기별 AI 운영 현황 보고서 자동 생성
  • 감사 패키지: 규제 기관 요청 시 즉시 제출 가능한 증빙 생성

문서를 쓰는 것보다 어려운 것은 문서에 채울 기록을 만드는 것입니다. 크로노젠이 그 기록을 자동으로 만들어줍니다.

AI기본법 전체 의무 확인 → AI기본법 FAQ 20선

고영향 AI 판단 기준 → 고영향 AI 10개 분야 판단 기준

AI 감사 대응 가이드 → AI 감사 대응 완벽 가이드