업스테이지는 이번 달 두 한국 은행에 랙 규모 ‘Solar’ 언어모델 어플라이언스를 납품하기 시작했다. 공용 하이퍼스케일 클라우드로 오디오를 보내지 않고 수년치 콜센터 음성 아카이브를 전사·요약·삭제한다. 규제가 고객 통화 전량 업로드가 암호화를 약속해도 도청법·신용정보법을 건드릴 수 있다고 명확히 한 뒤 생성형 AI 파일럿이 멈춘 컴플라이언스 팀을 겨냥한다.

어플라이언스가 하는 일

각 유닛은 한국 금융 표현에 맞춘 Solar Pro 계열과 국내 클라우드 파트너와 맞춘 GPU 또는 AMD 가속기를 묶는다. 테이프 이관이나 라이브 녹음 서버에서 SFTP로 오디오가 들어와 장치 내 화자 분리 후 계좌번호·주민번호 조각을 자동 마스킹한 검색 가능 텍스트가 나온다. 컴플라이언스 담당자는 어떤 모델 버전이 각 파일을 건드렸는지 감사 추적을 받는다. 2025 핀테크 점검에서 개인정보보호위원회가 강조한 요구다.

업스테이지 CEO 성일 김은 신한투자증권·케이뱅크와 맺은 사설 LLM 거래를 축소한 형태지만, 전체 데이터홀이 아니라 은행이 기존 DR 사이트에 넣을 4-post 랙이라고 말했다. 은행이 키를 보관하고 업스테이지는 서명된 컨테이너 이미지와 분기 보안 패치만 보낸다.

왜 음성 아카이브가 쐐기인가

은행은 팬데믹 시대 원격 판매로 수억 시간을 녹음했고, 키워드 검색이 한국 동음이의어·지역 억양을 놓쳐 near-line에 쌓여 있다. 공공 클라우드 음성 API는 정확도는 나았지만 법무팀이 통신비밀보호법과 금융감독원 고객 데이터 위탁 가이드를 인용해 막았다. 온프레미스 어플라이언스는 분쟁 조사—차지백·잘못 판 보험 특약—용 요약을 위험위원회가 승인하게 하면서 새 오프사이트 데이터 관리자를 만들지 않는다.

업스테이지가 계약 비밀을 이유로 이름을 밝히지 않은 한 은행은 2019–2022 주택담보 통화 120TB 시험에서 평균 검색 시간을 일에서 분으로 줄였고 삭제 모델이 수동 감사에서 말한 계좌 숫자 94%를 잡았다고 말했다. 나머지는 숫자를 너무 빨리 말한 트레이더 케이스다. 사람 검토자가 여전히 릴리스에 서명한다.

규제 배경

개인정보보호위원회가 클라우드 AI를 전면 금지하지는 않았지만 2025 체크리스트는 처리자가 내용을 복호화할 수 있는지 묻는다. 벤더가 마스터 키를 쥐면 공공 API는 어렵다. 도청 규칙은 QA 목적이라도 제3자가 동의 없이 듣으면 형사 책임을 더한다. 업스테이지 제안은 어플라이언스가 은행 보안 경계 안에 머물며 코어뱅킹 DB처럼 접근을 로깅한다.

금융감독원 검사관은 InfoHandle에 현장 검토에서 모델 출력을 샘플링해 감독자가 재사용할 스크립트에 환각 정책 인용이 있는지 볼 것이라 말했다. 업스테이지는 RAG로 내부 정책 PDF에 인용 링크를 추가했지만 은행이 문서를 최신으로 두지 않으면 자신 있게 틀린 답 위험이 있다.

경쟁 환경

네이버 클라우드·KT 클라우드는 주권 GPU 리전을 팔고 글로벌 벤더는 기밀 컴퓨팅을 제안한다. 업스테이스는 금융 특화 튜닝이 한국 경어·대출 용어에 일반 Llama 배치보다 낫다고 말한다. 은행 레퍼런스 없는 AI 업체는 3년 사고 이력을 묻는 벤더 리스크 설문을 통과하기 어렵다.

조달에서 하드웨어 선택이 중요하다. 한 은행은 3월 협력 발표 후 AMD 노드를 골랐고 다른 은행은 기존 HPC와 부품 호환으로 NVIDIA에 머물렀다. 어느 은행도 인간 QA를 없앨 계획은 없다. 어플라이언스는 분석가가 분쟁이 아니라 타이핑에 쓰도록 1차 전사를 한다.

배치 마찰

테이프 이관이 여전히 느린 단계다. 로봇이 LTO 카세트를 빼는 동안 모델은 대기한다. 업스테이스는 SI와 협력해 거래일 통화는 주 서버에 계속 녹음되도록 야간 배치를 스테이징한다. 서울 구식 백오피스는 랙 업그레이드가 필요했다. 한 곳은 레거시 CRAC이 30kW GPU 서랍을 못 버텨 인로우 칠러를 추가했다.

노사협의회는 요약이 콜센터 일자리를 위협하냐 물었다. 경영 답변은 복잡한 불만으로 인력을 옮기는 것이지 해고가 아니라고 강조했지만 InfoHandle에는 인력 계획을 공유하지 않았다.

성공의 모습

업스테이스는 연말까지 금융 설치 5곳을 더 목표로 하고 삭제 모델이 법무를 통과하면 음성에서 채팅·내부 메일로 확장한다. 수익은 어플라이언스 마진과 연간 지원 계약이 섞인다. 상거래·공공 Solar 확대 속에서도 금융 수직이 이미 매출 절반 이상인 회사에게 API 토큰만큼 안정적인 선이다.

규제자에게는 온프레미스 박스가 정말 온프레미스인지가 시험이다. 은행은 아웃바운드 텔레메트리를 막고 패치가 승인 프록시로 오는지 증명해야 한다. 업스테이스는 10월 KISA 정렬 강화 가이드와 참조 아키텍처를 공개할 것이라 말했다. 그 전까지 납품된 랙은 고객 음성을 남의 클라우드에 맡기지 않고 아카이브를 현대화할 수 있다는 베팅이다.