AI 모델 안에 보안 OS 심었다…비드래프트, 정보 유출 차단 기술 개발

인공지능(AI) 에이전트가 기업 정보를 외부로 유출하려는 행동을 차단하고 이상 상황에서는 작동을 멈추는 보안 기술이 등장했다. 기존처럼 AI 바깥에 안전장치를 설치하는 대신 모델 내부에 보안 기능을 구현한 방식이다.

AI 기업 비드래프트는 AI 모델 가중치 안에서 작동하는 보안 운영체제(OS) '바이커널'을 개발하고 공개 시연 서비스를 제공한다고 3일 밝혔다. 회사는 정보 유출 차단부터 개인정보 보호, 이상 행동 감지와 실행 기록 관리까지 모델 내부에서 처리하도록 설계했다고 설명했다.

가중치는 AI가 학습한 결과를 저장하는 수치 데이터다. 일반적으로 AI 보안은 모델 외부에서 입력과 출력, 시스템 접근을 검사하는 방식으로 구현된다. 비드래프트는 보안 기능을 가중치와 결합해 모델을 다른 서버로 옮기더라도 통제 장치를 함께 유지하는 방식을 개발했다고 밝혔다.

바이커널은 AI 에이전트가 실행하려는 작업을 미리 정한 보안 규칙에 따라 검사한다. 승인받지 않은 외부 전송은 차단하고 주민등록번호나 계좌번호 등 개인정보는 외부로 전달하기 전에 가릴 수 있도록 설계했다.

이상 행동이 감지되면 '킬스위치'를 통해 AI 실행을 중단하는 기능도 갖췄다. 멈춘 시스템을 다시 작동시키려면 운영자가 서명한 인증키가 필요하다.

AI가 어떤 작업을 시도했고 허용 또는 차단됐는지도 기록한다. 각 기록을 암호화 기술인 해시로 연결해 이전 내용을 수정하면 검증 과정에서 변경 사실을 확인할 수 있도록 했다.

비드래프트는 자체 시험에서 정보 유출 차단 성능도 확인했다고 밝혔다. 공개 AI 모델 4종을 대상으로 모의 도구와 가짜 데이터를 활용해 661회 시험한 결과 승인되지 않은 외부 전송은 발생하지 않았다는 설명이다.

다만 해당 수치는 회사 내부 시험 결과다. 실제 기업 환경에서 발생할 수 있는 다양한 공격에 동일한 수준으로 대응하는지는 추가 검증이 필요하다.

기술 구현에는 AI 모델 내부에 연산과 메모리 기능을 수행하는 회로를 구성하는 방식을 활용했다. 비드래프트는 자체 270억 매개변수급 모델과 구글 젬마, 알리바바 큐원 등 여러 모델 계열에 해당 기술을 적용했다고 밝혔다.

300자리 숫자 두 개를 곱해 600자리 결과를 정확하게 계산하는 실험도 수행했다고 설명했다. 회사는 이러한 연산 기술을 바탕으로 보안 규칙 판정과 실행 기록 관리 기능을 모델 내부에 구현했다고 주장했다.

일반 이용자가 기술을 살펴볼 수 있는 데모도 공개했다. AI 개발 플랫폼 허깅페이스에 마련한 '바이커널 데스크톱'에서는 윈도 운영체제와 유사한 화면에서 킬스위치와 정보 유출 차단, 개인정보 가림 처리, 감사 기록 검증 기능을 체험할 수 있다.

다만 공개된 데모는 보안 OS가 앞서 생성한 응답을 기록해 재생하는 방식이다. 실제 AI 모델이 매번 실시간으로 보안 작업을 수행하는 구조를 그대로 검증하는 환경은 아니다.

비드래프트는 이 기술을 국내 AI 기본법과 유럽연합(EU) 인공지능법(AI Act) 등 규제 대응에도 활용할 계획이다. EU AI Act는 고위험 AI 시스템에 작동 기록을 자동으로 남길 수 있는 기능을 요구한다. 다만 감사 기록 기능을 갖췄다는 사실만으로 관련 규제 요건을 모두 충족했다고 볼 수는 없다.

비드래프트는 네이버클라우드가 참여하는 국가 사이버보안 특화 AI 파운데이션 모델 개발 컨소시엄에도 참여하고 있다. 해당 사업에서 AI 모델 안전성 진단과 평가를 맡고 있으며, 바이커널을 기업용 AI 에이전트의 보안 관리 기술로 발전시킬 계획이다.

김민식 비드래프트 대표는 "기업이 AI를 믿고 쓰려면 막는 것, 기록하는 것, 멈추는 것이 한곳에서 이뤄져야 한다"며 "그 자리가 모델 안이어야 가중치를 옮겨도 보안이 함께 간다"고 말했다.