모든 기술 혁신은 중앙 집중의 시기에서 출발합니다. 초창기에는 수력이라는 막강한 에너지 원천에 끌려 공장들이 강가에 모여들었습니다. 전력망은 에너지를 소수의 산업 중심지로 집중 공급하며 경제 전반을 변화시켰습니다. 영화 산업도 비슷한 길을 걸으며, 막대한 자본이 대형 스튜디오와 그들의 엄격히 통제된 배급망으로 쏠렸습니다. 콘텐츠와 보안 역시 중앙 집중식으로 시작되었습니다.
그러나 모든 경우에서 이러한 시스템은 결국 분산형으로 전환되었습니다.
지역 독점 대신 현지 전력 생산이 자리 잡았습니다.
스트리밍 서비스가 기존 극장 중심 모델을 뒤흔들며, 엔터테인먼트를 가정으로 직접 가져왔습니다.
정보와 미디어는 사람들이 생활하고 일하는 ‘엣지’로 이동하면서, 뉴스와 엔터테인먼트를 더 쉽고 즉각적으로 접할 수 있게 되었습니다.
콘텐츠는 사용자 가까이로 이동했고, 보안은 클라우드로 옮겨져 공격이 표적에 도달하기 전에 로컬에서 차단할 수 있게 되었습니다.
오늘날 AI의 변곡점
AI 역시 비슷한 변곡점에 다다랐습니다. 같은 전략으로는 확장할 수 없는 상태에 이른 것입니다. 업계 전체가 점점 더 거대한 데이터 센터 안에서 점점 더 큰 모델을 구축하는 데 집착해 왔습니다. 뉴스 헤드라인마다 수십억 달러 규모의 계약, 기가와트 단위의 데이터 센터 캠퍼스, 기록적인 GPU 클러스터 이야기가 쏟아지고 있습니다. 하지만 규모가 크다고 해서 더 좋은 것은 아닙니다. 그런 시대는 지났습니다.
중앙 집중화는 오히려 제약이 되었습니다. 대륙 너머로 전송되는 모든 요청은 소중한 연산 자원과 전력, 비용을 낭비합니다. 거래, 결제, 게임, 대화 등에서 지연은 사용자 경험을 저해합니다. 전력망은 이러한 압박감 아래에서 신음하고 있습니다. 기업은 모델을 훈련하는 데 수십억 달러를 투자하지만 이그레스 비용과 몇 초의 지연으로 인해 규모를 확장할 경우 그러한 모델의 실용성이 떨어진다는 사실만 깨닫게 됩니다.
미래의 폭발적인 추론 수요
지능형 에이전트, 자율 시스템, 물리적 AI의 등장함에 따라 인간이 직접 요청하는 연산량을 훨씬 뛰어넘는 '추론 폭발'이 발생할 것입니다. 모든 자율 주행 차량, 로봇, 스마트 시스템은 분산형 엣지 추론의 지속적인 수요처가 될 것이며, 오늘날 모든 스마트폰이 로컬에 저장할 수 없는 비디오를 스트리밍하듯이 로컬 컴퓨팅을 보완하게 될 것입니다.
그러나 중앙 집중화만이 유일한 제약은 아닙니다. 오늘날 AI는 아직 본격적인 실사용 단계에 이르지 못했다는 우려로 인해 제약을 받고 있습니다.
답변이 정확할까요? 아니면 모델에 환각 문제가 발생할까요?
반응형이 빠를까요? 아니면 지연 시간이 흐름을 방해할까요?
비용 구조가 맞을까요? 아니면 추론 비용으로 비즈니스 모델이 무너질까요?
안정적으로 작동할까요? 아니면 가장 중요한 프로덕션 단계에서 실패할까요?
AI는 증가하는 추론 비용과 지연 문제로 인해, 수십 년간 유지되어 온 클라우드 모델의 한계를 깨고 있습니다. CFO들은 비용 증가에 제동을 걸고 있고, CIO들은 데이터와 사용자가 실제로 있는 곳에 더 가까이 다가가기 위해 최선을 다하며 워크로드를 조용히 재조정하고 있습니다. 걸림돌은 GPU가 아니라 바로 근접성입니다.
이제 틀을 깰 시점
오늘 Akamai는 코어 데이터 센터에서 인터넷 엣지까지 추론을 확장해 AI가 사용되는 장소와 방식을 재정의하는 플랫폼, Akamai Inference Cloud를 발표했습니다.
NVIDIA와 함께 구축한 Akamai Inference Cloud는 Akamai의 글로벌 분산 아키텍처 역량과 NVIDIA Blackwell AI 인프라 및 AI 리더십을 결합해, AI의 진정한 잠재력을 발휘하기 위해 필요한 시스템을 근본적으로 재구상하고 확장합니다.
기존 시스템과 달리 이 플랫폼은 NVIDIA의 가속 컴퓨팅 인프라를 데이터가 생성되고 의사결정이 이뤄지는 지점 가까이에 배치해, 전 세계 규모로 저지연 실시간 엣지 AI 처리를 제공하도록 설계되었습니다.
거리를 좁히는 인텔리전스
수십 년 동안 기술은 더 큰 데이터 센터를 짓고 방대한 데이터 세트를 관리하며, 컴퓨팅과 데이터에 대한 통제를 강화한 기업에 보상을 안겨 주었습니다. 그 시대는 막강한 역량을 낳았지만, 동시에 데이터와 사람, 혁신과 접근성 사이의 거리를 벌려 놓기도 했습니다.
이제 그 거리를 좁힐 수 있는 이들이 우위를 점할 수 있을 것입니다. 필요한 곳에서 더 가깝게 작동하는 인텔리전스는 멀리 있는 데이터 센터에 갇혀 있는 그 어떤 것보다 더 높은 가치를 발휘하게 될 것입니다.
Akamai와 함께 미래를 더 가까이로
AI는 클라우드 인프라의 초점을 전력에서 근접성, 메가와트에서 밀리초로 전환하며 이를 재정의하고 있습니다. 이러한 전환을 고객이 헤쳐 나가도록 지원하기에 Akamai만큼 적합한 기업은 없습니다. Akamai는 미래를 기다리고만 있지 않습니다. 대신 그러한 미래를 더 가깝게 당겨오고 있습니다.
자세히 알아보기
Akamai는 공식 보도 자료를 통해 Akamai Inference Cloud 출시를 발표했습니다. Akamai 제품 담당 수석 부사장인 존 알렉산더(Jon Alexander)가 작성한 이 블로그 게시물에서 Akamai Inference Cloud의 배경과 세부 내용을 더 깊이 살펴보실 수 있습니다. Akamai Inference Cloud에 대한 자세한 내용은 Akamai 웹사이트를 참조하시기 바랍니다.
태그
