문제점
2023년 5월, 삼성 반도체 부문의 엔지니어들은 독점 소스 코드를 디버깅하기 위해 ChatGPT에 붙여넣었습니다. 그들은 반도체 업계에서 가장 철저하게 보호되는 비밀 중 하나인 칩 수율 데이터를 업로드했습니다. 또 다른 직원 한 명은 회의록을 작성하기 위해 내부 회의 녹음 파일을 이 도구에 입력했습니다. 그중 누구도 악의를 품고 있지 않았습니다. 그들은 "작업을 디버깅"하고 "직원의 생산성과 효율을 높이려던" 고성과 엔지니어였을 뿐입니다. 그들은 ChatGPT를 계산기처럼 대했습니다 — 무언가를 입력하고, 답을 받고, 다음 업무로 넘어가는 식이었습니다. 그들은 OpenAI의 서비스 약관이 제공사가 모델 학습을 위해 입력값을 보존하는 것을 허용한다는 사실을 깨닫지 못했습니다.
삼성은 생성형 AI에 대한 전사적 금지와 해고 경고로 대응했습니다. 하지만 피해는 이미 끝난 뒤였습니다. 이들의 독점적 제조 로직, 오류 감지 코드, 기밀 전략 논의는 모두 제3자의 서버에 안착해 있었습니다.
이 이야기는 삼성만의 사례가 아닙니다. 직원들에게 안전한 대안을 주지 않은 채 "아니오"만 말하는 정책이 낳는 예측 가능한 결과입니다. 여러분의 인력도 같은 압력에 놓여 있습니다. 사람들이 보안 정책을 업무 수행의 걸림돌로 여기면, 정책을 우회합니다. 문제는 직원들이 AI 도구를 쓰느냐 마느냐가 아닙니다. 그들이 무엇을 보내는지 여러분이 볼 수 있는가입니다.
귀사의 비즈니스에 중요한 이유
이 숫자들은 리스크, 컴플라이언스, 재무 성과를 책임지는 모든 경영진이 주목해야 할 이야기를 들려줍니다.
- **지식 근로자의 50%**가 이제 업무에서 AI 도구를 사용합니다. 인력의 절반이 검증되지 않은 도구로 IT 거버넌스 바깥에서 움직이고 있습니다.
- **직원의 46%**는 조직이 금지하더라도 AI를 계속 쓰겠다고 답합니다. 여러분의 정책은 집행 불가능합니다.
- **직원의 38%**가 고용주에게 알리지 않고 민감한 업무 데이터 — 지식재산, 개인식별정보, 재무 데이터 — 를 AI 도구와 공유했다고 인정합니다.
- **기업 AI 사용량의 72%**는 개인 계정을 통해 발생합니다. 조직은 그 직원들이 동의한 데이터 보존 조항을 전혀 볼 수 없습니다.
- 생성형 AI 앱으로 전송되는 데이터량은 전년 대비 30배 증가했습니다. 이 도구들에 붙여넣어진 소스 코드는 485% 급증했습니다.
이것이 재무제표에 의미하는 바를 생각해 보세요. 영업비밀이 얽힌 단 한 번의 데이터 유출 사고도 수년간 쌓아 온 경쟁 우위를 무너뜨릴 수 있습니다. GDPR이나 업종별 규정에 따른 규제 과징금은 수천만 단위에 이를 수 있습니다. 그리고 여러분의 데이터가 미국 서버에 놓여 있다면 — API를 통하는 경우라도 — 미국 CLOUD Act는 서버가 물리적으로 어디에 있든 관계없이 미국 법집행기관이 그 데이터에 대한 접근을 강제할 수 있게 합니다. 유럽에서 사업을 운영하는 모든 조직에게 이것은 GDPR과의 직접적인 충돌입니다.
보이지 않는 리스크는 관리할 수 없습니다. 섀도우 AI(Shadow AI) — 승인되지 않은 AI 도구를 사용하는 직원들 — 는 새로운 형태의 데이터 유출입니다. 다만 이 경우에는 여러분의 사람들이 데이터를 자발적으로 넘겨준다는 점이 다릅니다.
내부에서 실제로 일어나는 일
대부분의 조직은 AI 리스크에 두 가지 방식 중 하나로 반응합니다. 전면 차단하거나, "AI 래퍼"를 사거나 — OpenAI의 API 같은 공개 AI 서비스 위에 얹히는 얇은 소프트웨어 층입니다. 어느 쪽도 핵심 문제를 해결하지 못합니다.
차단이 실패하는 이유는 직원들이 독립적인 5G 연결을 가진 개인 스마트폰을 들고 다니기 때문입니다. 기업 네트워크 필터는 직원 책상 위에 놓인 개인 기기까지는 닿지 않습니다. 회사 노트북과 개인 휴대폰 사이의 "에어갭"은 누군가 데이터를 타이핑하거나 촬영해 공개 AI 도구에 붙여넣는 순간마다 가교됩니다. 게다가 막아야 할 AI 앱이 서너 개가 아닙니다. 보안 회사 Netskope는 기업 환경에서 쓰이는 317개가 넘는 서로 다른 생성형 AI 앱을 추적합니다. 유명 서비스들을 막으면 직원들은 데이터 프라이버시 정책이 더 형편없는 더 작고 덜 안전한 스타트업으로 옮겨갈 뿐입니다.
래퍼는 다른 이유로 실패합니다. AI 래퍼를 외국 은행의 브랜드 ATM 인터페이스라고 생각해 보세요. 화면은 다르게 보이지만 여러분의 현금은 여전히 남의 시스템을 통해 흐릅니다. AI 래퍼는 직원의 프롬프트를 받아 숨겨진 지시문("당신은 유능한 법률 어시스턴트입니다")을 덧붙이고 곧장 API 제공사의 서버로 보냅니다. 여러분의 데이터는 여전히 네트워크를 떠납니다. 주권 문제 — 데이터를 누가 통제하고 어느 법적 관할 하에 놓이는가 — 는 완전히 해결되지 않은 채입니다. 여러분은 같은 리스크의 더 예쁜 버전에 돈을 지불하고 있을 뿐입니다.
근본 원인은 아키텍처에 있습니다. 데이터가 여러분의 경계를 벗어나 제3자 클라우드에 들어가면 기술적 통제권을 잃습니다. 데이터 무보존을 약속하는 "엔터프라이즈" API 등급조차 흔히 어뷰즈 모니터링을 위해 데이터를 최대 30일간 보관합니다. 즉, 여러분의 가장 민감한 정보가 남의 스토리지에 머무는 30일의 노출 기간이 존재합니다.
효과가 있는 것과 없는 것
실패하는 세 가지 흔한 접근 방식:
AI 전면 금지: 직원들은 금지를 무시합니다. 46%가 공공연히 그렇게 말합니다. 사용은 지하로 숨고, 위험은 적어지는 게 아니라 커집니다.
방화벽으로 도메인 차단: 직원들은 개인 기기와 모바일 핫스팟으로 우회합니다. AI 앱은 317개가 넘게 존재합니다 — 전부 막을 수는 없습니다.
API 래퍼 구매: 데이터는 여전히 처리를 위해 제3자 클라우드로 이동합니다. 더 나은 인터페이스를 얻지만 데이터 노출은 같습니다. 미국 CLOUD Act는 여전히 적용됩니다.
실제로 효과가 있는 것은 프라이빗 엔터프라이즈 LLM — 완전히 여러분의 자체 인프라 안에서 구동되는 대규모 언어 모델 — 을 배포하는 것입니다. 이 아키텍처가 작동하는 방식을 세 단계로 보겠습니다:
입력은 사내에 머뭅니다. 개발자가 독점 코드를 담은 프롬프트를 보내면 그 코드는 노트북에서 여러분의 자체 Virtual Private Cloud(VPC) — 클라우드 안에 마련된 보안이 적용된 프라이빗 구역 — 내부의 GPU 서버로 이동합니다. 공용 인터넷을 건너는 일이 없습니다. 제3자 서버를 건드리는 일도 없습니다.
처리는 여러분이 통제하는 하드웨어에서 이뤄집니다. Meta의 Llama 3 같은 오픈 웨이트(open-weight) 모델은 자체 GPU 인프라에서 구동할 수 있습니다. 700억 파라미터 버전은 GPT-4에 필적하는 추론 품질을 제공합니다. 모델 웨이트를 한 번 내려받아 로컬에서 구동하면 됩니다. API로 지능을 빌리는 것이 아니라 역량 자체를 소유하는 것입니다.
출력은 벤더의 규칙이 아니라 여러분의 규칙을 따릅니다. 모델을 guardrails로 감쌉니다 — 본질적으로 AI 프롬프트를 위한 방화벽입니다. NVIDIA NeMo Guardrails 같은 도구는 입력이 모델에 닿기 전에 모든 입력에서 개인식별정보를 검사합니다. 주제를 벗어난 요청은 차단합니다. 탈옥(jailbreak) 시도를 탐지합니다. 그리고 결정적으로, 이 시스템은 기존 접근 통제를 존중합니다. 직원이 SharePoint의 문서를 볼 권한이 없다면 AI는 질문에 답하기 위해 그 문서를 가져오지 않습니다.
감사 추적(audit trail) 이점이야말로 컴플라이언스 및 법무팀에 이것을 현실로 만들어 주는 부분입니다. 모든 로그를 여러분이 통제합니다. 누가 언제 무엇을 물었고 AI가 무엇을 반환했는지 정확히 볼 수 있습니다. 모든 상호작용에 대해 데이터 출처 및 추적성 검사를 수행할 수 있습니다. 법무 총괄은 민감한 데이터가 여러분의 환경을 떠난 적이 절대 없다는 사실을 규제기관에 증명할 수 있습니다 — 벤더의 계약상 약속이 아니라 검증 가능한 기술 아키텍처를 통해서 말입니다.
경제성도 규모가 커지면 여러분에게 유리하게 기웁니다. 월 10억 토큰을 처리하는 중견 기업은 GPT-4급 API에 매달 5,000달러에서 15,000달러를 지불할 수 있습니다. 같은 워크로드를 A100 GPU 두 장에서 구동하는 자체 호스팅 Llama 3로 처리하면 매달 약 2,000달러에서 4,000달러 — 50~70% 절감입니다. 그리고 프라이버시는 추가 요금 없이 기본으로 포함됩니다.
AI 시대의 보안은 더 이상 "아니오"라고 말하는 능력의 문제가 아닙니다. "예, 안전하게"라고 말할 수 있는 아키텍처 역량의 문제입니다. 직원들은 이미 AI를 원한다고 말했습니다. 문제는 여러분이 직원들에게 안전하고 주권적인 배포 환경을 제공할 것인가, 아니면 그들이 여러분의 기밀을 계속 남의 시스템에 흘려보내게 두느냐입니다.
앞으로 번영할 조직은 AI를 가장 강경하게 금지한 조직이 아닙니다. 번영할 조직은 인프라를 소유하고 데이터를 통제한 조직입니다.
핵심 요점
- 직원의 절반은 이미 IT 부서의 관리 없이 AI 도구를 사용하고 있으며, 46%는 어떤 금지 명령에도 불복하겠다고 답합니다.
- 방화벽으로 AI 도메인을 차단하는 것은 보안 쇼에 불과합니다 — 직원들은 개인 기기로 우회하며, 추적해야 할 AI 앱은 317개가 넘습니다.
- API 래퍼는 데이터 주권 문제를 해결하지 못합니다. 데이터는 여전히 네트워크를 떠나 미국 CLOUD Act의 적용을 받는 제3자 서버에 놓이기 때문입니다.
- 자체 클라우드 인프라 안에서 구동되는 프라이빗 엔터프라이즈 LLM은 데이터를 방화벽 안에 지키며, 규모가 커지면 AI 연산 비용을 50-70% 절감할 수 있습니다.
- 삼성 사건이 증명했듯 가장 큰 AI 보안 위협은 해커가 아니라 안전한 도구가 없는 선의의 직원들입니다.
결론
AI를 금지해도 직원들의 사용은 멈추지 않습니다 — 다만 그 사용이 여러분에게 보이지 않게 될 뿐입니다. 자체 인프라 안에 프라이빗 LLM을 배포하면 데이터 주권 문제를 근본에서 해결하면서 규모가 커질수록 비용도 절감됩니다. AI 벤더에게 물어보세요: 우리 데이터가 처리를 위해 네트워크 밖으로 나간 적이 있는가? 그리고 계약서가 아니라 아키텍처로 그것을 증명할 수 있는가?