[심층분석] AI시대 기밀 유출, 기업 보안이 위협받고 있다

직원들의 ChatGPT 업무 활용 확산, 새로운 보안 과제 대두

[기업 직원들이 업무용 디지털 도구를 활용하는 모습. AI 시대 기업들은 업무 효율성과 데이터 보안 사이의 균형점을 찾아야 하는 과제에 직면해 있다. (사진: 코리아비즈니스리뷰)]

2025년 6월 13일 현재, 전 세계 기업들이 직원들의 생성형 AI 도구 사용으로 인한 기밀정보 유출 위기에 직면하고 있다.
업무 효율성을 높이기 위해 ChatGPT 같은 AI 도구를 활용하던 직원들이 무심코 회사의 핵심 기밀을 외부 서버에 업로드하면서, 기업 보안에 전례 없는 위협이 되고 있다. 특히 한 번 유출된 정보는 AI 학습 데이터로 활용되어 영구히 회수가 불가능하다는 점에서 그 심각성이 더욱 크다.
삼성전자를 비롯한 글로벌 기업들의 연이은 기밀 유출 사고는 AI 시대의 새로운 보안 패러다임이 시급함을 보여주고 있다.

삼성전자 충격: ChatGPT 허용 20일 만에 3건 유출
2023년 3월 언론에 보도된 삼성전자의 ChatGPT 관련 사례는 AI 시대 기업 보안의 새로운 과제를 보여주는 대표적 사례로 평가된다. 삼성전자가 디바이스솔루션(DS·반도체) 부문에서 ChatGPT 사용을 허가한 지 단 20일 만에 3건의 심각한 정보 유출 사고가 발생했다.
첫 번째 사고는 한 직원이 반도체 공장 측정 데이터베이스 다운로드 프로그램의 소스 코드에서 버그를 발견하고, 이를 ChatGPT에 입력해 해결책을 문의한 사례다. 두 번째로는 수율 및 결함 칩을 식별하는 프로그램의 테스트 시퀀스 최적화를 위해 관련 소스 전체를 ChatGPT에 업로드한 경우였다.
가장 심각한 세 번째 사고는 한 직원이 스마트폰으로 회사 내부 회의를 녹음한 후 음성 인식 애플리케이션으로 문서화하고, 이를 ChatGPT에 입력해 회의록을 생성한 사례다. 이로 인해 회사의 핵심 전략과 기밀 사항이 고스란히 OpenAI의 외부 서버로 전송되었다.
이 사고 이후 삼성전자는 즉시 대응 조치를 취하고 자체 AI 솔루션 개발에 착수하는 등 적극적인 보안 강화 노력을 기울이고 있다. 회사는 내부 공지를 통해 "ChatGPT에 내용이 입력되는 순간 데이터가 외부 서버에 전송되고 저장되어 회사가 이를 회수하는 것이 불가능하다"며 "ChatGPT에 해당 내용이 학습된다면, 민감한 내용이 불특정 다수에게 제공될 수 있다"고 경고했다.

글로벌 기업들의 연쇄 대응: 아마존, 월마트도 제재
삼성전자만의 문제가 아니었다. 아마존은 이미 2023년 1월 ChatGPT 사용을 제한했다. ChatGPT의 응답에서 아마존 사내 데이터와 '거의 일치하는' 출력을 발견한 후, 직원들에게 코드와 같은 기밀 정보를 ChatGPT에 입력하지 말 것을 경고한 상태였다.
미국 유통 대기업 월마트를 비롯한 다수 기업들도 비슷한 우려를 표명하며, '민감한 기밀 또는 독점 정보를 입력하지 않도록' 하는 엄격한 지침을 수립했다.
블룸버그 보도에 따르면, 삼성전자는 결국 2023년 5월 전면적으로 생성형 AI 사용을 금지하는 조치를 내렸다. 회사 소유의 PC, 태블릿, 휴대폰 및 내부 네트워크에서 생성형 AI 시스템의 사용을 전면 차단한 것이다. 대신 자체적으로 ChatGPT를 대체할 수 있는 솔루션 개발에 착수했다.

AI 도구 활용의 역설: 효율성과 보안의 딜레마
문제의 근본은 AI 도구가 제공하는 놀라운 업무 효율성에 있다. 직원들은 복잡한 코드 디버깅, 회의록 작성, 문서 요약 등의 업무를 AI를 통해 빠르고 정확하게 처리할 수 있게 되었다. 하지만 이 과정에서 자연스럽게 회사의 기밀 정보가 외부로 유출되는 구조적 위험이 발생했다.
ChatGPT에 입력된 모든 데이터는 OpenAI의 외부 서버에 저장되며, API를 통하거나 '옵트아웃(opt-out)'을 신청하지 않는 한 AI 학습 데이터로 활용될 수 있다. 즉, 한 번 입력된 기업의 기밀 정보가 전 세계 사용자들에게 AI 응답으로 제공될 가능성이 존재한다.
관련 보도에 따르면, 삼성전자 내부에서도 AI 도구 사용에 대한 보안 우려가 높았던 것으로 알려졌다. 그럼에도 불구하고 업무 효율성 때문에 사용을 중단하기 어려운 것이 현실이다.

데이터 유출의 비가역성: 한 번 쏟아진 물은 담을 수 없다
AI 시대 기밀 유출의 가장 심각한 문제는 데이터의 비가역성이다. 전통적인 해킹이나 내부자 유출과 달리, AI 도구에 입력된 정보는 즉시 학습 데이터로 변환되어 영구히 회수가 불가능하다.
OpenAI의 데이터 이용 정책에 따르면, 사용자가 ChatGPT에 입력한 데이터는 서비스 개선과 AI 모델 학습을 위해 활용될 수 있다. 이는 기업의 핵심 기술이나 전략 정보가 경쟁업체나 전 세계 사용자에게 노출될 위험을 의미한다.
실제로 2023년 3월 OpenAI는 일부 사용자에게 다른 사용자의 신용카드 번호 뒤 4자리, 카드 유효기간 등을 포함한 개인정보가 표시되는 버그가 발생했다고 발표하기도 했다. 이는 시스템 자체의 취약성까지 더해져 정보 유출 위험이 더욱 증폭되고 있음을 보여준다.

국내 기업들의 대응 현황: 금지에서 자체 개발로
국내 기업들도 AI 도구 사용에 대한 명확한 정책 수립에 나서고 있다. 한국인터넷진흥원(KISA)과 과학기술정보통신부는 'AI 보안' 분야에서 9개 과제를 선정해 지원하고 있으며, 여기에는 멀티 LLM 기반 취약점 자동 진단, 딥페이크 탐지·대응 시스템 등이 포함되어 있다.
특히 주목할 점은 많은 기업들이 외부 AI 서비스 금지에서 나아가 자체 AI 솔루션 개발로 방향을 전환하고 있다는 것이다. 삼성SDS는 프라이빗 환경에서 다양한 생성형 AI 활용이 가능한 'FabriX'를 선보이며, 기업용 AI 보안 솔루션 개발에 나서고 있다.
마이크로소프트를 비롯한 글로벌 IT 기업들도 데이터 저장 공간을 분리하는 방식의 프라이빗 AI 서비스 개발에 적극 나서고 있다. 전문가들은 기업들이 AI의 효율성을 포기하지 않으면서도 보안을 확보하려는 노력이 가속화되고 있다고 분석한다.

직원 교육과 보안 리터러시의 중요성
기술적 솔루션만큼 중요한 것이 직원 교육이다. 삼성전자 사례에서 보듯이 회사가 정보 보안에 대한 주의를 당부했음에도 불구하고 기밀 정보 입력 사고가 발생했다. 이는 단순한 금지 조치만으로는 한계가 있음을 보여준다.
전문가들은 AI 도구 사용에 대한 체계적인 보안 교육이 필요하다고 강조한다. 직원들이 AI의 작동 원리와 데이터 처리 방식을 이해하고, 어떤 정보가 기밀에 해당하는지 명확히 구분할 수 있도록 하는 것이 중요하다.
또한 기업들은 AI 사용에 대한 명확한 가이드라인을 수립해야 한다. 국가정보원이 발표한 '생성형 AI 활용 보안 가이드라인'에서는 서비스 접근과 계정 보안, AI와의 대화 시 주의사항, 플러그인 사용 시 보안, AI 모델 생성기반 공격 대응 등을 제시하고 있다.

프라이빗 AI와 제로트러스트의 부상
이러한 위험에 대응하기 위해 '프라이빗 AI' 개념이 주목받고 있다. 프라이빗 AI는 기업이 자체적으로 구축한 AI 환경에서 외부 데이터 유출 없이 AI 서비스를 이용할 수 있는 솔루션이다.
동시에 제로트러스트(Zero Trust) 보안 모델의 도입도 가속화되고 있다. 제로트러스트는 '신뢰하지 말고, 항상 검증하라'는 원칙하에 모든 접근 요청을 검증하는 보안 모델로, AI 시대의 복합적 위협에 대응하는 핵심 전략으로 평가받고 있다.
과학기술정보통신부와 한국인터넷진흥원은 제로트러스트 시범사업을 통해 민간 분야 확산을 위한 6개 과제를 지원하고 있으며, 국내 약 12개 보안업체가 이미 제로트러스트 관련 솔루션을 서비스하고 있다.

글로벌 보안 위협의 확산
AI 도구를 악용한 사이버 공격도 동시에 증가하고 있다. '웜GPT(WormGPT)'와 '사기GPT(FraudGPT)' 같은 악성 AI 도구들이 다크웹에서 거래되고 있으며, 이들은 윤리적 제약 없이 악성 코드 제작과 정교한 피싱 공격을 수행한다.
SK쉴더스의 2024년 연간 보고서에 따르면, LLM을 통해 악성 스크립트를 제작하거나 AI 기능을 탑재한 악성코드가 다크웹을 통해 활발히 거래되었다. 딥페이크 기술을 활용한 디지털 성범죄와 금전 협박 사례도 급증하고 있어, AI 기술의 양면성이 더욱 뚜렷해지고 있다.
사이버시큐리티 벤처스(Cybersecurity Ventures)에 따르면, 소프트웨어 공급망 공격으로 인한 연간 피해 금액이 2025년까지 600억 달러에 이르며, 2031년까지는 1,380억 달러에 육박할 것으로 전망된다.

기업 대응 전략: 4단계 보안 체계 구축
AI 시대의 기밀 유출 위험에 효과적으로 대응하기 위해서는 체계적인 4단계 접근이 필요하다.
1단계: 정책 수립과 가이드라인 마련
먼저 AI 도구 사용에 대한 명확한 정책을 수립해야 한다. 어떤 정보를 AI에 입력할 수 있고 없는지, 승인된 AI 도구는 무엇인지, 위반 시 제재 조치는 어떻게 할 것인지 등을 구체적으로 정해야 한다.
2단계: 기술적 통제 방안 구현
네트워크 수준에서 특정 AI 서비스 접근을 차단하거나, 데이터 업로드 용량을 제한하는 등의 기술적 통제가 필요하다. 동시에 데이터 손실 방지(DLP) 솔루션을 통해 민감 정보의 외부 전송을 실시간으로 모니터링해야 한다.
3단계: 프라이빗 AI 솔루션 도입
장기적으로는 자체 AI 환경을 구축하거나 신뢰할 수 있는 프라이빗 AI 서비스를 도입해야 한다. 이를 통해 AI의 효율성은 유지하면서도 데이터 보안을 확보할 수 있다.
4단계: 지속적인 교육과 모니터링
직원들의 보안 리터러시 향상을 위한 정기적인 교육과 함께, AI 사용 패턴을 지속적으로 모니터링하여 잠재적 위험을 사전에 차단해야 한다.

결론: 새로운 보안 패러다임의 시급성
AI 시대의 기밀 유출은 기업의 생존과 직결된 문제로 부상하고 있다. 직원들의 선의적인 업무 활용이 기업의 핵심 기밀을 위험에 빠뜨리는 역설적 상황이 벌어지고 있는 것이다.
삼성전자를 비롯한 글로벌 기업들의 연이은 사고는 단순한 AI 사용 금지보다는 보다 근본적인 보안 패러다임 전환이 필요함을 보여준다. 기업들은 AI의 혁신적 가치를 포기하지 않으면서도 기밀을 보호할 수 있는 새로운 균형점을 찾아야 한다.
특히 한 번 유출된 정보가 영구히 회수 불가능하다는 AI 시대의 특성을 고려할 때, 사전 예방이 그 어느 때보다 중요하다. 기술적 솔루션, 정책적 대응, 교육적 접근을 아우르는 통합적 보안 전략만이 AI 시대의 복합적 위협으로부터 기업을 보호할 수 있을 것이다.
2025년 현재, 기업의 AI 활용과 보안 투자는 선택이 아닌 필수가 되었다. 선제적이고 체계적인 대응 전략을 수립한 기업만이 AI 시대의 기회를 안전하게 활용할 수 있을 것이다.