AI기본법, 복지·재활 센터에도 적용되나?
2026년 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI기본법)이 시행되었습니다. 많은 센터 운영자가 "우리는 대기업도 아니고, AI 회사도 아닌데 해당되나?"라고 생각합니다.
결론부터 말하면, AI를 활용하는 모든 사업자가 대상입니다. 직접 AI를 개발하지 않더라도, AI 기반 서비스를 이용하여 업무를 처리한다면 '이용사업자'로서 의무가 발생합니다.
특히 복지·재활 분야는 사람의 건강과 권리에 직접 영향을 미치는 서비스를 다루기 때문에, 고영향 AI 규제와의 접점이 생각보다 넓습니다.
고영향 AI란 무엇인가
AI기본법은 AI를 위험도에 따라 분류합니다. 그중 고영향 AI는 사람의 생명, 신체, 기본권에 중대한 영향을 미칠 수 있는 분야에서 운영되는 AI를 말합니다.
고영향 AI 10대 분야
| 분야 | 예시 |
|---|---|
| 의료 | AI 진단 보조, 치료 추천 |
| 금융 | 대출 심사, 신용평가 |
| 채용 | AI 면접, 이력서 스크리닝 |
| 교육 | 입시 판정, 학습 평가 |
| 사회보장 | 복지 수급 자격 판정 |
| 사법 | 양형 보조, 범죄 예측 |
| 에너지 | 전력 배분 최적화 |
| 교통 | 자율주행, 신호 제어 |
| 국방·안보 | 군사 의사결정 보조 |
| 기타 | 과기정통부 장관이 지정하는 분야 |
핵심 판단 기준
고영향 AI의 핵심 기준은 **"AI가 사람의 권리에 직접적인 영향을 주는 결정을 내리는가"**입니다.
중요한 예외가 있습니다: 최종 의사결정에 사람이 개입하는 경우, 고영향 AI 규제 강도가 크게 낮아질 수 있습니다.
센터별 AI 활용 유형과 고영향 해당 여부
복지·재활 센터에서 AI가 활용되는 주요 영역을 정리하고, 고영향 AI 해당 가능성을 판단합니다.
| AI 활용 유형 | 구체적 사례 | 고영향 해당 가능성 | 판단 근거 |
|---|---|---|---|
| 스케줄 자동 배정 | 치료사-아동 매칭 최적화 | 낮음 | 관리자가 최종 확인/수정 |
| 치료 기록 분석 | 아동 발달 추이 분석, 이상 징후 감지 | 중간 | 의료 판단 보조 성격, 치료사가 최종 결정 |
| 바우처 정산 자동화 | 이용 내역 대조, 오류 감지 | 낮음 | 재무/행정 업무, 권리 침해 가능성 낮음 |
| AI 치료 추천 | 아동 상태에 따라 치료 프로그램 자동 추천 | 높음 | 건강·발달에 직접 영향, 의료 분야 근접 |
| 보호자 챗봇 | AI 기반 상담, 정보 안내 | 낮음 | 정보 제공 성격, 의사결정 아님 |
| AI 기반 평가도구 | 인지/언어 발달 자동 평가 | 중간~높음 | 평가 결과가 서비스 방향에 영향 |
| 출석/위치 관리 | GPS/QR 기반 자동 출석 | 낮음 | 행정 보조, 권리 영향 미미 |
"사람이 최종 결정" 원칙의 실무 적용
AI기본법에서 가장 중요한 실무 원칙은 **"최종 의사결정에 사람이 개입하는가"**입니다. 이 원칙을 지키면, 대부분의 복지·재활 센터 AI 활용은 고영향 규제에서 벗어날 수 있습니다.
실무에서 이 원칙을 지키는 방법
잘 지키고 있는 경우:
- AI가 치료 프로그램을 "추천"하고, 치료사가 검토 후 확정하는 구조
- AI가 발달 추이를 분석하여 "알림"을 보내고, 전문가가 판단하는 구조
- AI가 스케줄 초안을 생성하고, 관리자가 확인/수정 후 확정하는 구조
위험한 경우:
- AI가 치료 프로그램을 자동으로 적용하고, 사람의 확인 없이 실행되는 구조
- AI 평가 결과가 서비스 중단/변경으로 자동 연결되는 구조
- AI가 수급 자격을 자동으로 판정하는 구조
"사람이 확인한다"는 것은 형식적인 승인 클릭이 아닙니다. AI의 판단 근거를 확인하고, 필요시 수정할 수 있는 실질적인 검토 과정이어야 합니다.
센터 운영자를 위한 자가 점검 체크리스트
Step 1: AI 활용 현황 파악
- 우리 센터에서 AI가 사용되는 모든 영역을 목록으로 작성했는가
- 각 AI의 역할이 "보조/추천"인지 "결정/실행"인지 구분했는가
- 외부 SaaS에 내장된 AI 기능도 포함하여 파악했는가
Step 2: 고영향 해당 여부 판단
- AI가 아동의 건강, 발달, 서비스 접근권에 직접 영향을 주는가
- AI 판단에 대해 사람이 실질적으로 검토하고 수정할 수 있는가
- AI 오류가 발생했을 때 피해를 최소화할 수 있는 절차가 있는가
Step 3: 의무 이행 상태 점검
- 이용자(보호자)에게 AI 사용 사실을 고지하고 있는가
- AI가 생성한 콘텐츠에 AI 표시를 하고 있는가
- AI 운영 기록을 보관하고 있는가 (5년 보관 권장)
계도기간 활용 전략
정부는 AI기본법 시행 초기 최소 1년 이상 계도기간(2027년 1월까지)을 운영합니다. 이 기간에는 과태료 부과 대신 안내와 컨설팅 중심으로 의무 이행을 유도합니다.
센터가 이 기간에 해야 할 것
| 시기 | 할 일 | 목표 |
|---|---|---|
| 즉시 | AI 활용 현황 목록 작성 | 현재 상태 파악 |
| 3개월 내 | 고영향 해당 여부 자체 판단 | 리스크 분류 |
| 6개월 내 | AI 사용 고지 문구 마련, 기록 보관 체계 구축 | 투명성 확보 |
| 12개월 내 | 내부 AI 거버넌스 규정 수립 | 제도 안착 |
비용 지원 활용
과기정통부는 계도기간 동안 AI 기본법 통합안내지원센터를 운영하며, 다음을 지원합니다:
- AI 검/인증 및 영향평가 수행 비용 지원
- 투명성 확보 의무 이행 전문가 컨설팅
- 고영향 AI 사업자 책무 이행 상담
복지·재활 센터도 이 지원을 받을 수 있습니다.
AI 실행 증빙으로 투명성과 안전성을 확보하세요
AI기본법이 요구하는 핵심은 두 가지입니다: 투명성(AI가 무엇을 했는지 보여줄 것)과 안전성(문제가 생겼을 때 대응할 것).
크로노젠의 DPU(Decision Proof Unit)는 이 두 가지를 기술적으로 해결합니다.
- AI 판단 기록 자동 저장: AI가 추천, 분석, 생성한 모든 결과와 그 근거가 자동으로 기록됩니다
- 사람의 검토 이력 증빙: 치료사나 관리자가 AI 결과를 확인하고 수정한 이력이 해시 체인에 저장됩니다
- 투명성 고지 자동화: 보호자에게 AI 사용 사실을 안내하는 프로세스를 시스템에 내장합니다
- 감사 대응 즉시 가능: 규제 기관이 AI 운영 기록을 요청할 때, 클릭 한 번으로 증빙 패키지를 생성합니다
AI를 쓰되, AI가 무엇을 했는지 증명할 수 있어야 합니다. 그것이 AI기본법이 요구하는 것이고, DPU가 제공하는 것입니다.
AI기본법 전체 내용이 궁금하다면 → AI기본법 FAQ: 실무자가 가장 많이 묻는 질문 20선
과태료 기준을 확인하려면 → AI기본법 과태료·제재 총정리
AI 실행 증빙의 개념부터 알고 싶다면 → AI 실행 증빙이란?