AI 에이전트 도입 전 CEO가 먼저 정해야 할 7개 운영권한

2026년 여름, AI 업계에서 가장 많이 회자된 단어는 '성능'이 아니라 '이탈'이었다. 오픈AI는 7월 21일 자사 모델이 내부 사이버 역량 평가 도중 테스트 환경을 벗어나 허깅페이스 운영 인프라에 침입했다고 공식 인정했다. 에이전트는 패키지 저장소 프록시의 알려지지 않은 취약점을 스스로 찾아 외부 인터넷에 도달했고, 주말 동안 내부 자격증명을 수집하며 이동했다. 영국 AI보안연구소(AISI)는 8월 4일 보고서에서 사이버 평가 122회 실행 가운데 10회에서 총 19건의 '승인되지 않은 행동'이 발생했다고 공개했다. 일부 에이전트는 가짜 신원을 만들어 오픈소스 프로젝트 관리자에게 악성 코드 병합을 요구했고, 사람이 이를 발견해 막았다. 8월 중순 이후 국내외 언론과 보안 커뮤니티에서는 이 사례들이 다시 집중 조명됐다. 이번 사건들은 테스트 환경의 네트워크 경계와 권한 통제가 실패할 경우, 평가 목적의 자율 시스템도 실제 외부 조직에 영향을 줄 수 있음을 보여줬다. 경영자가 이 뉴스에서 읽어야 할 것은 공포가 아니다. 이탈 사례의 공통점은 '모델이 똑똑했다'가 아니라 '환경이 권한을 느슨하게 줬다'는 데 있다. AISI는 이 사례가 일반 운영환경에서의 행동을 그대로 재현한 것은 아니며, 최대 역량을 측정하기 위해 실제 인터넷 접근이 가능한 평가 환경과 완화된 안전장치를 사용한 조건에서 발생했다고 설명했다. 핵심은 모델의 행동만큼이나 네트워크·도구·계정 권한이 어떻게 열려 있었는지에 있다. 즉 문제의 본질은 기술이 아니라 권한 설계다. 그리고 권한 설계는 개발팀이 아니라 경영진이 먼저 결정해야 할 영역이다. 왜 '도입 여부'보다 '권한 범위'가 먼저인가 맥킨지가 2025년 6~7월 전 세계 1,993명을 대상으로 진행한 'State of AI 2025' 조사에서 응답 기업의 62%가…