![견고한 거버넌스 프레임워크와 대비되는 불안정한 구조물은 AI 도입의 성패가 기술이 아니라, 이를 뒷받침하는 기업의 구조와 전략에 달려 있음을 보여준다. [사진 = 코리아비즈니스리뷰 자료 사진]](/_next/image?url=https%3A%2F%2Fepzvqcvbpcduaglyoici.supabase.co%2Fstorage%2Fv1%2Fobject%2Fpublic%2Fnews-images%2Flegacy-cgi%2F2026%2F01%2F02%2F1767317494_77132.jpg&w=1200&q=75)
'AI 골드러시'의 그림자, 기술이 아닌 구조를 탓하라
바야흐로 '대 AI 시대(Great AI Era)'다. 2022년 말, 챗GPT(ChatGPT)가 쏘아 올린 생성형 AI의 신호탄은 전 세계 산업 지형을 송두리째 뒤흔들었다. 이제 기업의 신년사에서 'AI 전환(AX, AI Transformation)'이라는 단어를 빼놓고는 경영을 논할 수 없는 지경에 이르렀다.
주식 시장에서는 AI 관련주가 폭등하고, 모든 기업이 앞다퉈 AI 솔루션 도입을 천명하며 막대한 예산을 쏟아붓고 있다. 겉으로 보기에는 기술 혁명의 장밋빛 미래가 눈앞에 와있는 듯하다.
그러나 화려한 청사진 뒤에는 매우 불편한 진실이 숨겨져 있다. 최근 여러 분석에 따르면, 기업이 추진하는 AI 및 생성형 AI 프로젝트의 상당수가 PoC(개념 증명) 단계에서 멈추거나 기대한 성과를 내지 못하고 있다.
실제로 가트너(Gartner)는 현재 테스트 중인 생성형 AI 프로젝트 중 최소 30%가 2025년 말까지 PoC 이후 중단될 수 있다고 경고했다. 더욱 충격적인 것은 MIT NANDA의 최신 보고서(The GenAI Divide: State of AI in Business 2025)다.
이 보고서는 기업용 생성형 AI 파일럿의 약 95%가 6개월 이내에 유의미한 재무 성과(ROI)를 내지 못한다고 분석한다. 막대한 비용을 투입하고도 뚜렷한 비즈니스 가치를 만들지 못해, 사실상 ‘AI 돈 먹는 하마’가 되고 있다는 우려가 커지고 있는 것이 작금의 냉혹한 현실이다.
도대체 왜 이런 일이 벌어지는 것일까? 최신 GPU가 없어서일까, 아니면 알고리즘이 부족해서일까? 핵심 문제는 기술 그 자체라기보다, 이를 담아내지 못하는 기업의 '낙후된 구조'와 '전략의 부재'에 있는 경우가 압도적으로 많다.