네이버 클라우드, 국내 피싱 모의훈련 후 가우스 엔터프라이즈 가드레일 강화

네이버 클라우드는 국내 피싱 모의훈련에서 사무직 직원이 내부 코파일럿을 속여 기밀 계약 조항을 반복시킬 수 있었다는 결과 후, 가우스 엔터프라이즈 대규모언어모델의 기본 가드레일을 강화했다고 금요일 밝혔다.

훈련에서 드러난 취약점

한국인터넷진흥원(KISA)은 14개 상장사와 2주간 훈련을 진행했고, 익명화된 인사·조달 문서로 학습한 샌드박스 어시스턴트와 상호작용하도록 했다. 임원을 가장한 시도 11%에서 제한 템플릿과 충분히 맞는 문구가 나와 컴플라이언스 담당자가 데이터 유출로 표시했다.

여러 참가사 모델을 호스팅하는 네이버 클라우드는 11월 1일부터 신규 가우스 배포에 더 엄격한 프롬프트 필터와 세션 로깅을 기본 켠다고 했다. 기존 고객은 콘솔에서 즉시 옵트인할 수 있다.

업데이트는 벡터 DB에 저장된 주민등록번호 패턴, 계좌번호, 프로젝트 코드명에 대한 검색 시점 삭제를 추가한다. 네이버는 이메일 플러그인 연동의 최대 컨텍스트 창도 줄여 쿼리당 모델이 볼 스레드 이력을 제한한다.

개인정보보호위원회는 생성 AI를 검색엔진처럼 다뤄도 침해 통지 의무가 사라지지 않는다고 상기시켰다. 위원회는 연말 전 엔터프라이즈 모델 로그 보관 가이드라인을 마무리 중이다.

KT클라우드·NHN클라우드 등 경쟁사도 유사 기본값을 검토 중이라고 했다. 업계는 과도한 필터가 생산성을 깎을 수 있다며 10년 전 이메일 DLP 도입 때와 같은 논쟁이 벌어질 것이라 주장했다.

훈련에도 불구 네이버는 시민 FAQ 자동화를 하는 보험사·지자체의 가우스 구독이 늘었다고 보고했다. 최고제품책임자 이혜수는 단일 전역 설정보다 ‘창의’와 ‘컴플라이언스’ 모드 간 명확한 토글을 고객이 요구했다고 말했다.

APEC 보안 봉쇄 기간 코파일럿을 배포하는 한국 사무실에게 금요일 패치는 GPU만큼 사회공학이 모델 안전의 핵심이라는 상기다.

보험 업계 초기 도입사 몇 곳은 연말 감사가 끝날 때까지 보험금 조정용으로 필터 모델과 실험 모델을 병행하겠다고 했다. 네이버 클라우드 PM은 이중 트랙이 GPU 비용을 올리지만 사업부가 섀도 IT로 안전팀을 우회하는 것을 막는다고 인정했다.

금요일 갱신된 교육 자료에는 KISA 훈련에서 공격자가 쓴 샘플 프롬프트가 회사명을 가린 형태로 실린다. 프롬프트 방화벽 장비를 파는 보안 업체는 구매를 미뤘던 한국 은행의 문의가 늘었다고 전했다.

네이버는 2027년 중반까지 가우스 배포를 ISO 42001 AI 관리 표준으로 인증할 계획이며, 글로벌 하이퍼스케일러와 경쟁적인 일정이다. 그 전까지 CISO들은 코파일럿을 권한 관리자 계정처럼 다루며 세션마다 다단계 인증을 요구하겠다고 말했다.

경기도 지자체는 가우스 가드레일이 제3자 침투 테스트를 통과할 때까지 시민 챗봇 롤아웃을 미루겠다고 했다. 네이버는 공공 부문에 할인 감사 패키지를 제안했다.

교육부는 가우스를 쓰는 에듀테크 업체에 겨울방학까지 학생용 플러그인을 끄라고 요청했는데, 피싱 훈련과 별개로 시험 시즌 부정행위 우려 때문이다.

네이버는 고객 데이터를 노출하지 않으면서 규제기관 신뢰를 쌓기 위해 차단된 프롬프트 집계 통계를 월별 공개하겠다고 했다.

서울 대형 로펌은 금요일 고객 메모를 갱신해 소송 보존 기간에는 가우스 쿼리마다 로그를 남기고 모델 출력을 발견 가능 문서로 다루라고 권했다.

한국 오픈소스 모델 호스트들은 자체 안전 레이어를 설명하는 블로그를 서둘러 올렸고, 기업은 브랜드만 보지 말고 감사 추적을 비교해야 한다고 주장했다.