AI 기술이 전례 없는 속도로 발전하며 모든 산업을 뒤흔들고 있지만, 그 이면에 숨겨진 거대한 걸림돌이 있다는 경고가 나왔다. 최근 사이버 보안 기업 팔로알토 네트웍스의 CEO 니케시 아로라(Nikesh Arora)는 기업들이 인공지능을 대규모로 도입하는 데 있어 ‘AI 토큰 비용’이 너무 높다고 지적했다. 그는 이 비용이 무려 90%나 떨어져야 비로소 AI가 진정한 대중화를 이룰 수 있다고 강조했는데, 여기에 AI 산업의 진짜 고민이 숨어 있다. 단순히 기술적 한계를 넘어선, 시장의 근본적인 변화를 요구하는 이 발언의 의미는 무엇일까.
AI 대중화의 ‘보이지 않는 장벽’, 토큰 비용의 그림자
니케시 아로라 CEO는 최근 CNBC와의 인터뷰에서 현재의 AI 토큰 비용이 기업들의 AI 도입을 가로막는 주요 장벽이라고 분명히 밝혔다. 여기서 말하는 ‘AI 토큰 비용’이란 대규모 언어 모델(LLM)과 같은 AI 서비스를 사용할 때 발생하는 추론(inference) 비용을 의미한다. 즉, AI 모델을 학습시키는 데 드는 막대한 비용뿐만 아니라, 일단 학습된 모델을 실제 비즈니스에 적용하고 데이터를 처리할 때마다 발생하는 ‘사용료’가 기업들에게는 감당하기 어려운 수준이라는 것이다.
그는 “우리는 AI를 사용하는 데 너무 많은 비용을 지불하고 있다”며, 현재의 고비용 구조로는 AI 기술의 잠재력을 최대한 발휘하기 어렵다고 경고했다. 특히 기업 환경에서는 방대한 양의 데이터를 AI로 처리하고, 복잡한 비즈니스 로직에 AI를 통합해야 하므로, 토큰 사용량이 기하급수적으로 늘어날 수밖에 없다. 이는 결국 기업들이 AI 솔루션 도입을 망설이거나, 소규모 파일럿 프로젝트에만 머무르게 하는 주요 원인이 되고 있다. AI 기술 발전의 속도와는 별개로, ‘실질적인 확산’의 측면에서 예상치 못한 걸림돌이 등장한 셈이다. 이처럼 비용 문제가 AI 대중화의 핵심 변수로 떠오른 상황에서, AI 서비스 제공 기업들은 과연 어떤 선택을 해야 할까?
‘90% 가격 인하’ 요구, 그 진짜 의미는?
아로라 CEO가 언급한 ‘90% 가격 인하’ 요구는 단순히 가격 경쟁을 넘어 AI 생태계 전반에 걸친 구조적 변화를 촉구하는 강력한 메시지다. 현재 AI 시장은 초기 투자 단계로, 고성능 AI 칩과 복잡한 모델 개발에 막대한 자본이 투입되고 있다. 하지만 이러한 투자가 실제 기업들의 ‘효율성 개선’과 ‘비용 절감’으로 이어지지 않는다면, AI의 장기적인 성장 동력은 약화될 수밖에 없다.
이 요구는 AI 서비스 제공 기업들의 수익성에 직접적인 압박으로 작용할 것이다. 현재 높은 토큰 비용은 이들 기업의 주요 수익원 중 하나이기 때문이다. 하지만 장기적으로는 가격 인하를 통해 시장 규모를 폭발적으로 키우는 것이 더 큰 이익으로 돌아올 수 있다는 역설적인 시각도 존재한다. 과거 클라우드 컴퓨팅 서비스 역시 초창기에는 고비용으로 인식되었으나, 점차 가격이 하락하면서 기업들의 전폭적인 도입을 이끌어냈고, 이는 클라우드 산업의 폭발적인 성장을 견인했다. AI 산업도 이와 유사한 경로를 겪을 가능성이 크다.
최근 앤트로픽(Anthropic)이 벤 버냉키 전 연준 의장을 독립 신탁에 임명하며 AI 기술의 신뢰성과 거버넌스 강화에 힘쓰는 모습은 AI 산업의 성숙도를 보여준다. 그러나 아무리 신뢰할 수 있고 강력한 AI 기술이라 할지라도, 기업들이 감당하기 어려운 비용 구조를 가지고 있다면 그 확산에는 한계가 따를 수밖에 없다. 결국, AI 기술의 발전만큼이나 ‘비용 효율성’이라는 현실적 숙제가 AI 생태계의 다음 단계를 결정할 핵심 요소로 부상하고 있다. 그렇다면 투자자들은 이러한 변화의 흐름 속에서 무엇을 주목해야 할까?
AI 투자, 이제 ‘비용 효율성’에 주목할 때
그동안 AI 관련 투자는 주로 고성능 AI 칩을 생산하는 반도체 기업, 대규모 언어 모델을 개발하는 빅테크 기업, 그리고 AI 학습에 필요한 데이터를 제공하는 기업에 집중되어 왔다. 하지만 팔로알토 네트웍스 CEO의 발언은 AI 투자 패러다임의 전환을 시사한다. 이제는 AI 기술의 ‘도입과 활용’을 저해하는 비용 문제를 해결할 수 있는 기업들에 대한 관심이 필요하다.
투자자들은 다음 두 가지 측면에 주목해야 한다. 첫째, AI 모델의 경량화 기술, 효율적인 추론 엔진 개발, 그리고 전력 소비를 줄이는 하드웨어 솔루션 등 ‘AI 비용 최적화’ 기술을 가진 기업들이다. 이러한 기술은 AI 서비스의 운영 비용을 획기적으로 낮춰, 아로라 CEO가 요구하는 90% 가격 인하를 가능하게 할 잠재력을 가지고 있다. 둘째, 자체적으로 비용 효율적인 AI 인프라를 구축하거나, 특정 산업에 특화된 저비용 AI 솔루션을 제공하여 경쟁 우위를 확보하는 기업들이다. 이들은 고비용 AI 모델에 의존하지 않고도 실질적인 비즈니스 가치를 창출할 수 있는 방안을 제시할 수 있다.
AI 서비스 제공 기업들은 단기적인 수익성 방어와 장기적인 시장 확대를 위한 가격 인하 압박 사이에서 균형점을 찾아야 할 것이다. 이 과정에서 기술 혁신을 통해 비용 효율성을 확보하는 기업만이 지속 가능한 성장을 이룰 수 있다. 이는 AI 산업 전반의 경쟁 구도를 재편하고, 새로운 시장 리더를 탄생시킬 중요한 변수가 될 수 있다.
마무리
AI 기술의 발전이 눈부시지만, 그 확산의 속도는 결국 ‘비용’이라는 현실적 장벽에 달려 있다는 사실이 명확해지고 있다. 앞으로 AI 산업의 진정한 승자는 단순히 혁신적인 기술을 개발하는 것을 넘어, 그 기술을 ‘합리적인 비용’으로 대규모 확산시킬 수 있는 역량과 전략을 가진 기업이 될 것이다. 투자자들은 이러한 비용 효율성이라는 새로운 키워드를 중심으로 AI 시장의 다음 움직임을 예의주시해야 할 때다.