과학기술정보통신부는 이달부터 국가 AI 안전 생태계 마스터플랜을 짜는 공공·민간 작업반을 본격 가동했다. 12월까지 제출이 목표다. AI 기본법 시행령은 1년 유예 기간에 들어가 있어 행정 과징금은 사회적 위해가 심각하게 입증되지 않으면 대부분 보류된다.
작업반의 임무
과기부는 작업반이 글로벌 안전 논의를 한국형 실행 경로로 옮기게 한다고 했다. 사고 신고, 평가 인력, 금융·의료·공공서비스 고영향 시스템 기준이다. 이민수 국장은 해외 제도를 그대로 복제하지 않고 현장 수용성을 맞추는 것이 목표라고 기자들에게 말했다.
마스터플랜은 AI 데이터센터 특별법과는 별개다. 다른 팀이 전력망 평가, 인허가 타임아웃, AI 준비 시설 정의 같은 하위 규칙을 쓰고 있다. 데이터센터 개발사는 지방 산업단지 4분기 입찰 전에 선명한 규칙을 원한다.
기본법이 이미 요구하는 것
법은 1월 22일 시행됐고 생성형 모델 투명성, 고위험 배포 영향평가, 과기부의 AI 안전연구소 운영 권한을 담는다. 사업자 의무·고급 AI 안전 가이드는 한국정보화진흥원·업계 협회를 통해 나왔다.
매출·일일 이용자 기준을 넘는 해외 제공자는 국내 대리인을 두어 과기부와 소통해야 한다. 컴플라이언스 법무는 공증 서류 번역 때문에 등록에 수주가 걸릴 수 있다고 말한다. 한국소프트웨어산업협회 헬프데스크가 유예 기간 기술 질문을 받는다.
업계가 걸린 이슈
클라우드 하이퍼스케일러와 국내 대기업이 콜센터·공장에 엔터프라이즈 코파일럿을 넣고 있다. 작업반에는 수출 규제를 걱정하는 칩메이커, 에이전트 워크플로를 시험하는 은행, RAG 고객 서비스 스타트업이 포함된다. 각자는 조달 시즌이 닫히기 전에 예측 가능한 감사 기준을 원한다.
통신사는 안전 시험이 이미 망 보안 검토와 겹친다고 초기 회의에서 주장했다. 과기부 직원은 모델 행동 실패는 패킷 플러딩과 다른 실패 모드라고 답했다고 두 참석자가 전했다.
12월 마감 압박
부처는 11월에 부처 간 의견 수령용 초안을 돌리고 예산 심의 전 12월에 확정하겠다고 했다. 야당은 안전 계획에 예산이 붙는지 구호뿐인지 물을 수 있다. 모든 업무에 원화 숫자가 아직 안 붙었다.
국정감사 시즌의 공공 챗봇·학습 데이터 출처 논의는 마스터플랜과 겹치지만 다른 위원회 소관이다.
해외 움직임과 비교
서울 당국은 EU AI법·미 행정명령을 참고점으로 삼지만 수출 제조 기반을 강조한다. 공장 비전 모델의 꼬리 위험은 소비자 챗앱과 다르고, 작업반 소위원회가 그 지도를 그려야 한다.
패널 학자들은 국내에 공유 레드팀 데이터셋을 두어 중소기업이 독점 프롬프트를 해외로 보내지 않고 탈옥 내성을 검사하자고 밀었다.
지금 기업이 할 일
법무팀은 모델 카드, 인간 오버라이드 로그, 제3자 임베딩 목록을 과징금이 드물어도 문서화하라고 조언한다. 유예는 면책이 아니다. 과기부는 중대 사건을 조사할 수 있고, 금융·보건 규제기관은 자체 면허 규칙을 적용한다.
연말까지 한국은 스타트업 수가 아니라 쓰여진 안전 구조를 보여주려 한다. 목요일 회의는 절차적이지만, 유예가 끝날 때 규제자가 쓸 어휘를 고정한다.
작업반은 금융·의료 소위원회를 나눠 시나리오별 사고 신고 양식을 검토한다. 공공조달 챗봇 사례는 이미 지방자치단체에서 파일럿 중이라, 마스터플랜 초안에 지자체 표준 계약 조항을 넣을지가 실무 논점이다. 법무법인들은 유예 기간 중에도 내부 감사 로그를 3년 보관하라고 고객사에 촉구하고 있다. 과기부는 12월 마스터플랜에 공공 AI 안전연구소 예산 초안을 첨부할지 아직 결정하지 않았다.