🪦 애플리케이션 소프트웨어는 또다시 죽었다

3년이 지난 지금, AI의 가치 창출(Value Accrual)에 대한 논쟁은 더욱 격렬해졌습니다. Model Lab들이 과거의 기존 기업들과는 비교할 수 없는 속도로 뛰어난 소비자 및 개발자용 제품을 출시하는 '제품 기업'으로 변모했기 때문입니다.

이번 주 X(구 트위터)에서 이 논쟁에 다시 불이 붙었습니다.

원작자의 사려 깊은 후속 트윗 내용을 요약하면 대략 이렇습니다. "과거 기술 사이클에서는 스타트업이 가치를 창출하고 확보할 시간이 충분했습니다. 하지만 AI 분야에서는 모델 레이어가 9~12개월마다 바뀌기 때문에, 스타트업이 엔터프라이즈 관계를 구축하고 지속 가능한 브랜드를 만들어 도태되지 않기에는 시간이 터무니없이 부족합니다."

애플리케이션 소프트웨어에 대한 담론은 물론 소프트웨어가 근본적으로 어떻게 변화하고 있는지, 그리고 중요하게는 그 변화가 어떤 시계열에서 일어나는지에 대한 더 넓은 논의의 일부입니다.

Lakehouse 위에 구축되는 에이전트

제가 이전에 썼던 미래에 대한 한 가지 관점은, 기업들이 에이전트 경제(Economies of Agents)가 엔드투엔드로 업무를 수행할 수 있도록 자사의 데이터 자산(Data Estates)을 준비하는 방향으로 나아가고 있다는 것입니다.

최신 스택의 언번들링(Unbundling)과 번들링(Bundling) 과정은 시사하는 바가 큽니다.

Ethan Ding이 fivetran과 dbt의 합병에 대해 쓴 글을 보면 다음과 같습니다.

"dbt에 1달러가 쓰일 때마다 Snowflake에는 10달러가 들어갑니다. 수많은 Snowflake 영업 담당자들은 dbt가 최근 매출 1억 달러를 넘겼을 뿐이지만, Snowflake 비용으로는 5억 달러를 발생시키고 있다고 확인해 주었습니다. 그래서 Snowflake 담당자들은 모든 거래에서 dbt를 함께 파는 것을 좋아합니다. 이는 dbt 커뮤니티가 엄청나게 성장하는 계기가 되었습니다. 즉, Snowflake 영업 담당자들이 사실상 dbt의 수수료 없는 영업팀이었던 셈입니다. 돈을 나누는 대신 dbt가 2%를 갖고 Snowflake가 98%를 가졌다는 점만 빼면요. 아주 관대한 파트너십 구조죠."

데이터와 가치에 지출되는 비용의 대부분은 항상 컴퓨팅과 쿼리가 발생하는 Databricks나 Snowflake로 흘러 들어갔습니다. 한동안 그들은 상류/하류 소비를 촉진하는 한, 인접 툴 생태계를 지원하는 데 만족했습니다.

결국 Lakehouse들은 고객의 TCO(총 소유 비용)를 낮춘다는 전제하에(여러 벤더를 관리할 인력이 적게 듦) 방대하게 펼쳐진 데이터 인프라 벤더들을 통합하기로 결정했습니다.

이 관점에서 보면 기업들은 계속해서 개방형 테이블 포맷(Open Table Formats)을 채택하고, 데이터를 통합하여 저렴하게 저장하며, 가장 중요한 '어떤 쿼리 엔진을 사용할지'를 결정하게 될 것입니다.

같은 논리가 Salesforce가 Informatica를 인수하려 했던 이유(역주: 실제 인수는 무산됨), ServiceNow가 Data Fabric에 집중하는 이유, SAP가 Databricks와 파트너십을 발표한 이유를 설명해 줍니다. 즉, 고객이 데이터를 통합하고 여러분의 환경에서 작업을 수행하도록 돕는 것입니다.

유일한 차이점은 쿼리를 수행하는 주체가 인간이 아니라 결국에는 에이전트가 될 것이라는 점입니다.

관측 가능성(Observability), 거버넌스, 분석, 보안을 위한 툴링은 기업이 데이터 자산 전반에 걸쳐 에이전트를 자율적으로 배포하기 위해 여전히 필요할 것입니다.

이 관점이 우세하려면 고객의 비즈니스 로직이나 도메인 특화 추론이 코드화되어야 합니다. (도메인 특화 추론에 집중하는 버티컬 AI 벤더가 패키징하든, 주제별 전문가와 함께하는 Palantir FDE가 캡처하든, 혹은 데이터 말뭉치를 처리하며 학습하든 말이죠.)

물론 이는 수백, 수천 개의 프로세스에 걸쳐 있으므로, 각 특정 프로세스에 튜닝된(추론 비용/COGS가 거의 들지 않는 로컬 구동) 수많은 소형 언어 모델(Small Language Models) 개념이 매우 타당해집니다.

AI의 확산 속도

그럴듯하게 들리지만, 이 시나리오는 두 가지 핵심 이유 때문에 아직 몇 년은 더 걸릴 이야기입니다.

첫째, AI가 전례 없는 확산 속도를 보이고 있지만, '포스트 AI' 세계에서 운영 방식을 바꾸기 위해 기업에 요구되는 변화 관리(Change Management)는 그 어떤 때보다 큽니다.

Satya Nadella는 Dwarkesh Patel 및 Dylan Patel과의 인터뷰에서 소프트웨어의 미래에 대해 이렇게 말했습니다.

"오늘날 최종 사용자 도구 비즈니스인 우리 사업은 본질적으로 작업을 수행하는 에이전트를 지원하는 인프라 비즈니스가 될 것입니다."

하지만,

"산업 혁명이 70년, 어쩌면 100~150년 걸렸던 일이 20~25년 만에 일어날 수도 있습니다. 운이 좋다면 200년의 산업 혁명을 20년으로 압축하고 싶습니다."

"이번 기술의 확산 속도가 빠르더라도, 진정한 경제 성장이 나타나려면 업무와 업무 결과물, 워크플로우가 변하는 지점까지 확산되어야 합니다. 기업이 진정으로 변화하기 위해 필요한 변화 관리를 과소평가해서는 안 된다고 생각합니다."

두 번째 핵심 제약은 에이전트의 개발입니다. Andrej Karpathy가 주장했듯, 이는 수년이 아니라 수십 년의 시계열로 측정해야 합니다.

"에이전트에 대해 이야기할 때, 혹은 연구소나 제가 염두에 둔 것은 마치 함께 일할 직원이나 인턴처럼 생각해야 한다는 것입니다. 예를 들어, 여러분은 직원들과 함께 일합니다. 언제 Claude나 Codex 같은 에이전트가 그 일을 대신하길 원하나요? 물론 지금은 못 합니다. 그렇게 하려면 무엇이 필요할까요? 왜 지금 당장 하지 않나요?"

"지금 하지 않는 이유는 그냥 작동하지 않기 때문입니다. 지능이 충분하지 않고, 멀티모달 능력도 부족하고, 컴퓨터 사용 능력도 없고... 이전에 언급한 많은 것들을 하지 못합니다. 지속적인 학습 능력도 없어서 말한다고 기억하는 것도 아니죠. 인지적으로 부족하고 그냥 안 됩니다. 이 모든 문제를 해결하는 데 약 10년은 걸릴 것이라고 생각합니다."

이는 소비자의 AI 확산 속도를 과소평가하는 것이 아닙니다. 소비자 쪽은 웨어러블 같은 새로운 컴퓨팅 인터페이스는 고사하고 AI 네이티브 경험 구축의 초기 단계에 있습니다.

컴퓨터를 사용하는 에이전트는 여행이나 쇼핑 같은 일반적인 소비자 사용 사례에서는 곧 신뢰할 수 있게 될 것이며, 에이전트 커머스를 위한 인프라도 빠르게 갖춰져 채택을 가속화할 것입니다. 엔터프라이즈 소프트웨어의 소비자화(Consumerisation)는 AI 침투의 순풍이 될 것이며, AI는 소프트웨어 도입에 저항해 왔던 버티컬 분야 SMB들의 채택을 촉진할 것입니다.

엔터프라이즈의 현실(Ground Truth)은 절반 이상의 기업이 아직 첫 번째 AI 프로젝트를 프로덕션에 올리지 못했다는 점입니다.

Microsoft가 AI 워크로드의 가장 큰 수혜자가 될 것으로 예상됨에도 불구하고 말이죠.

여기엔 여러 이유가 있지만, 구조적인 이유인 변화 관리와 모델 역량이 가장 큰 두 가지 요인입니다.

물론 고객 지원(Customer Support)처럼 역량이 최소한의 품질 기준을 충족하고 아웃소싱이 기본이었던 분야에서는 이미 대규모 기업들이 만들어지고 있습니다.

하지만 그런 버티컬의 '브레이크아웃(Breakout)' 기업들은 애플리케이션이나 인프라 기업으로 명확히 정의되지 않습니다. 둘 다에 해당합니다.

Agent Labs

저는 최종 사용자에게 가장 가까운 응용 AI 기업들이 가치 있는 훈련/보상 데이터를 수집할 권리를 얻게 되고, 이를 통해 AI 제품이 엔터프라이즈의 '라스트 마일(Last Mile)'을 커버하는 데 도움이 되는 난해한 인프라/연구 문제를 해결할 수 있다고 쓴 적이 있습니다. 이 라스트 마일은 항상 가장 긴 여정이었습니다.

고객 지원 시장이 이를 보여주는 초기 지표입니다. 더 높은 해결률(AI 스타트업을 평가하는 핵심 지표 중 하나)을 이끄는 커스텀 모델(예: Reranker 모델)을 훈련하기 위해 리서치 엔지니어/과학자 채용이 흔해지고 있습니다.

저는 역사적으로 '애플리케이션 소프트웨어' 기업으로 간주되던 곳에서 'Member of Technical Staff(기술 스태프)'라는 직함이 훨씬 더 흔해질 것이라고 예상합니다.

이러한 관점에서는 AI 스택의 레이어 간 경계가 지속적으로, 어쩌면 현재 AI 기업 집단에서 보이는 것보다 더 빨리 흐려질 것입니다. Model Lab은 스택 위로 이동하고, Agent Lab은 마진을 더 확보하기 위해 끊임없이 스택 아래로 이동할 것입니다.

오랫동안 Model Lab 제품의 첨부율(Attach-rate)을 분석해 보고 싶었습니다. 그래야 연구소(Labs)들이 가졌다고 여겨지는 '이길 수밖에 없는 권리(Right-to-win)'가 정당한지 더 잘 알 수 있을 테니까요. 물론 IBM, Microsoft, Google은 가능한 많은 시장에서 승리하려는 야망을 가진 서로 다른 기술 패러다임의 모놀리스(Monoliths)였습니다.

이번은 다를 것이라는 생각은 매력적입니다.

제1원칙(First Principles)에서 생각해보면, 모델은 우리가 제공하는 데이터의 함수로서 계속 발전하며, 초점은 추론(Reasoning) 데이터로 옮겨가고 있습니다. Lab들은 Mercor 같은 마켓플레이스를 통해 전문가의 추론 데이터를 얻기 쉬운 특정 버티컬을 필연적으로 공략할 것입니다.

그러나 버티컬 소프트웨어에서는 워크플로우/추론 단계/데이터 세트/통합/GTM 채널의 이질성 때문에, Model Lab이 전용 Agent Lab만큼의 집중력을 가지고 각 기회를 실행하기는 매우 어려울 것입니다.

수평적(Horizontal) 소프트웨어에서는 특정 사용 사례에 대해 여러 모델을 벤치마킹할 때 멀티 모델(Multi-model)이 강점이 됩니다.

에이전트가 기존 워크플로우를 엔드투엔드로 처리할 수 있게 됨에 따라, 미래의 최고의 기업들은 AI를 활용해 우리가 상상만 할 수 있는 새로운 가치 창출 방식을 정의할 것입니다.

Cursor, Sierra, Cognition 및 기타 여러 기업의 매출 증가세가 증명하듯, 그 미래는 멀지 않았습니다. 결국 최근 기억에 남는 가장 큰 기업들 중 일부는 다른 기술 기업에 판매하며 거대한 비즈니스를 구축했습니다.

이 고객들은 미래를 받아들이고 성능을 위해 기술 스택을 바닥부터 구축합니다.

이 AI 기업 집단이 어떤 버전의 미래를 만들어갈지는 시간이 말해줄 것입니다.

Application Software Is Dead, Again

Data Fabrics, Agent Labs, Moving Up And Down The Stack

Software SynthesisAkash Bajwa