버티컬 AI의 Integration 문제

버티컬 AI의 통합 문제

미국 노동부(Department of Labor)가 집계한 산업 분야만 해도 천 개가 넘습니다. 자동차 대리점(Car Dealerships), 법무법인(Law Firms), 병원(Doctors’ Offices), 연료 판매점(Fuel Dealers), 보석상(Jewelry Stores) 등 그 목록은 방대하죠. 이러한 각 산업 분야에는 해당 분야에 특화된 다양한 버티컬 소프트웨어 애플리케이션이 존재합니다.

거의 모든 버티컬 산업에서 주요 산업별 소프트웨어 공급업체는 대부분 SOR(System of Record), 즉 업무 관리 시스템 또는 ERP입니다. 다시 말해, 모든 사업주나 직원이 특정 비즈니스 내에서 발생하는 모든 상호작용을 기록해야 하는 곳이죠.

버티컬 소프트웨어가 상당한 규모로 성장하는 데 가장 큰 걸림돌 중 하나는 수많은 산업에서 업무 관리 시스템이 통합을 차단한다는 사실입니다. 이들은 제3자 도구(예: 스타트업이나 신규 업체)가 이 데이터에 접근하는 것을 허용하지 않습니다. 허용하더라도 제3자 공급업체가 전체 데이터 세트 중 일부에만 선택적으로 접근하도록 제한하는 경우가 많습니다.

예를 들어, 병원 기록 분야의 절대 강자인 Epic Systems는 높은 통합 비용과 고객별로 복잡하고 고유한 배포 방식으로 악명이 높습니다. 마찬가지로 부동산 분야의 Yardi나 치과 분야의 Dentrix와 같은 기존 소프트웨어는 중요한 데이터를 보유하고 있지만, 이를 쉽게 공유하도록 만들어지지 않았습니다.

이러한 독점적인 버티컬 플랫폼들은 영향력을 유지하거나 통합 수수료를 얻기 위해 "힘을 과시"합니다. 때로는 경쟁적으로 악의적인 의도가 아닐 수도 있지만, Salesforce나 Toast와 같은 개방형 데이터 생태계를 구축할 만큼의 수요가 없었을 수도 있습니다.

이는 대형 레거시 소프트웨어 공급업체에게는 훌륭한 전략입니다. 그들은 해당 분야의 핵심 플랫폼을 구축했고, 고객들이 이를 떠나는 것이 얼마나 고통스러운지 잘 알고 있습니다. 그래서 고객들이 이러한 불만을 느끼고 비즈니스를 개선할 것이라고 믿는 새로운 기술을 도입할 수 없게 되면서 시간이 지남에 따라 NPS(순추천고객지수)는 아마도 하락하겠지만, 대부분의 고객은 그저 형편없는 구식 시스템에 머무릅니다.

버티컬 소프트웨어 통합 문제

몇 주 전, 저(Nic)는 초기 단계 버티컬 AI 기업들의 주요 과제에 초점을 맞춘 라운드테이블을 주최했습니다(자세한 내용은 여기에서 다루었습니다). 참석자 중에는 헬스케어, 공급망, 소매, 건설, 보험 등 다양한 버티컬 분야의 창업자들이 있었습니다. 그중에서도 특히 한 가지 문제가 두드러졌습니다. 한 창업자는 자신의 딜레마를 이렇게 공유했습니다: "어떤 고객들은 '이건 정말 놀랍지만, 우리 핵심 시스템과 통합되지 않으면 사용할 수 없어요.'라고 말합니다."

하지만 다시 한번 강조하자면, 기존 업체들이 버티컬 AI 기업에 필요한 종류의 연결성을 촉진할 동기나 능력이 없는 경우가 많습니다. 다른 몇몇 창업자들도 의견을 더했습니다: "이러한 레거시 [공급업체] 중 다수는 기술적으로 앞서 있지 않고 공개 API도 없습니다. 많은 업체가 경쟁적인 이유로 우리 제품을 통합하고 싶어 하지 않으며, 더 많은 업체는 공개 API를 구축할 엔지니어링 팀조차 없습니다." 게다가, 개방형 데이터에 대한 그들의 회의적인 시각은 어떤 경우에는 구매자들에게까지 퍼져나갔습니다. 또 다른 CEO는 "CIO들과 임원들은 자신들의 SOR(기록 시스템)에 접근하는 것을 허용하지 않을 겁니다. 그들에게는 그냥 안 되는 일이죠."라고 말했습니다.

통합 문제는 초기 기업 시스템 시절부터 소프트웨어 업계를 괴롭혀 왔지만, 버티컬 AI에게는 특히 심각한 문제가 되고 있습니다. 다행히도 AI는 몇 가지 새로운 잠재적 해결책을 제시하기도 합니다.

버티컬 AI 창업자들을 위한 해결책

버티컬 SaaS 창업자들이 이 문제를 해결하기 위해 사용해 온 창의적인 전략들이 많이 있습니다. 가장 일반적인 전략은 웨지 프로덕트(wedge product)를 구축하여 SOR(기록 시스템)과의 "선택적" 데이터 통합 요소를 확보한 다음, 몇 가지 모듈로 확장하고, 결국에는 어려운 결정을 내려 자체 관리 시스템/ERP를 제공하는 것입니다. 이 방법은 효과가 있지만, 일반적으로 10년 이상 걸리는 여정입니다. 저(Luke)는 직업 학교(Trade Schools) 분야에서 바로 이 전략을 실행했고, 이를 실현하는 데 11년 이상이 걸렸습니다.

이 문제를 해결하는 두 번째 방법은 이러한 시스템에 들어가 데이터를 추출하여 고객이 더 쉽게 이전할 수 있도록 하는 데이터 추출 제품을 만드는 것입니다. 대형 레거시 기업들은 이를 좋아하지 않고 일반적으로 소송을 제기하지만, 이 방법이 효과가 있는 경우도 보았습니다. 특히 EDI처럼 파일 교환이 표준화된 시스템에서 운영될 때 그렇습니다. 레거시 시스템이 API나 교환 기능을 명시적으로 제공하지 않는 경우, 이는 다소 신중하고 위험한 전략일 수 있지만... 효과가 있을 수 있습니다.

제가 본 세 번째이자 마지막 방법은 시간 지정 파일 드롭(timed file drop)과 같은 다소 불안정한 통합 방식을 구축하는 것입니다. 이는 기존 ERP 시스템의 가져오기/내보내기 기능을 활용할 수 있습니다. 라운드테이블의 한 창업자는 이렇게 말했습니다. "우리는 [그것을] 리버스 엔지니어링했습니다... API 통합이 전혀 없었어요. [그래서 우리는] Windows 머신에 들어가서 데이터베이스에 데이터를 주입했습니다." 이 방법은 효과가 있지만, 일반적으로 중소 규모 고객에게만 수용 가능합니다. 중대형 기업은 보안 위험이나 실시간 데이터 부족을 용납하지 않을 것입니다. 이는 현재 아마도 가장 일반적인 해결책인 단순 플랫 파일(flat file) 교환으로 이어집니다.

지난 10여 년간 상황이 이랬지만, 버티컬 AI는 정말 흥미로운 기회입니다. 만약 버티컬 AI 앱이 실제로 정규 직원을 대체할 수 있다면, 버티컬 AI 도구는 해당 직원의 급여보다 약간 낮은 비용을 청구할 수 있고, 많은 버티컬 분야에서는 실제로 해당 산업의 관리 시스템보다 비용이 더 많이 들 수도 있습니다.

하지만 대부분의 경우 버티컬 AI 직원은 여전히 업무 관리 시스템/ERP와 상호작용해야 합니다. 그리고 어떤 면에서는 AI 시대에 데이터의 필요성이 초기 SaaS 물결 때보다 훨씬 더 커질 것입니다. 많은 버티컬 워크플로우에서 가장 중요한 데이터 중 일부는 어떤 SOR(기록 시스템)에도 존재하지 않습니다. 이메일 스레드, 종이 파일, 전화 통화 또는 단순히 직원들의 머릿속, 즉 순수한 부족 지식(tribal knowledge)으로 존재합니다.

버티컬 AI는 종종 바로 이러한 비정형 프로세스를 목표로 하며, 이것이 버티컬 AI가 큰 가능성을 지닌 이유 중 하나입니다. 하지만 이는 전통적인 의미의 통합이 모든 것을 포괄하지 못한다는 것을 의미합니다. 법률 AI 솔루션은 이메일로 교환된 계약서 의견을 읽거나 협상 행동을 분석해야 할 수 있는데, 이 중 어느 것도 Clio와 같은 공식적인 사건 또는 업무 관리 시스템에는 존재하지 않습니다. 건설 AI 솔루션은 현장 감독의 일일 작업 일지나 현장 사진에서 통찰력을 얻을 수 있습니다. 이러한 풍부한 데이터 소스는 일반적인 SaaS 통합 범위를 벗어납니다. 결과적으로 버티컬 AI 개발자는 "통합"의 개념을 확장하고 표준 SaaS API를 넘어서는 창의적인 방법을 모색해야 합니다.

그렇다면 이 문제를 어떻게 극복할 수 있을까요? 몇 가지 아이디어가 있습니다…

옵션 #1: 클루지 (Kludge, 임시방편)

SOR(기록 시스템)에 인접한 버티컬 AI 웨지 프로덕트를 가진 많은 창업자들이 고객으로부터 로그인 자격 증명을 받는 것을 보고 있습니다. 그러면 "AI 직원"이 백그라운드에서 데이터를 읽고 쓰면서 ERP에서 직접 작업을 수행할 수 있게 됩니다.

이것은 놀라운 해결책이지만, 복잡하고 법적으로 확실히 회색 지대에 있습니다. 최근 한 법정 소송이 이 문제를 수면 위로 끌어올렸습니다. 작년에 요양 시설 분석 서비스 제공업체인 Real Time Medical Systems (RTMS)는 고객이 데이터 접근을 승인했음에도 불구하고 CAPTCHA나 계정 제한과 같은 전술을 사용하여 자사의 자동화된 환자 데이터 접근을 차단한 EHR(전자의무기록) 업체 PointClickCare를 고소했습니다. 지난 3월, 법원은 PointClickCare의 조치가 개방형 EHR 법규를 위반했을 가능성이 높고 불공정 경쟁에 해당한다고 판결하며 RTMS의 손을 들어주었습니다. 이 판결이 소프트웨어 개방성에 대한 선례가 되기를 바라지만, 헬스케어 분야는 다른 버티컬 분야에는 없을 수 있는 특별한 보호 조치(21st Century Cures Act 및 기타 법률을 통해)를 받고 있습니다.

그리고 모든 버티컬 AI 회사가 자체적인 임시방편을 시도하는 것에 대한 정당한 우려도 있습니다. HIPAA나 GDPR과 같은 규제를 고려할 때 규정 준수가 매우 중요합니다. 하지만 제대로 구축되지 않은 생태계는 프롬프트 인젝션(prompt injection) 공격이나 민감한 자격 증명 노출에 취약할 수 있습니다. OpenAI와 Anthropic 모두 이와 관련하여 방어책을 적극적으로 개발하고 있습니다(예: Anthropic의 컴퓨터 비전(computer vision) 단계에서의 콘텐츠 분류기). 따라서 여러 버티컬 분야에서 이 AI 임시방편의 장기적인 전망은 여전히 상당히 불확실합니다.

옵션 #2: 파트너십

레거시 소프트웨어 공급업체/ERP의 AI 파트너가 되는 것입니다. 만약 실제로 레거시 회사(아마도 AI를 유행으로 생각하고 저녁 식사 메뉴를 정하는 데나 도움이 된다고 생각할 수도 있는)와 파트너 관계를 맺고, 그들의 데이터 세트를 활용하면서 다양한 버티컬 AI 직원을 구축할 수 있다면 말입니다. 이렇게 하면 아마도 관리 시스템보다 더 큰 규모로 성장할 수 있을 것입니다. 왜냐고요? 여러분의 제품은 일반적인 사용자당 SaaS 계약이 아닌 직원 급여와 비교되기 때문입니다.

많은 레거시 회사들이 직접 구축하는 것보다 여러분에게서 10%의 수수료를 받는 것을 선호함에도 불구하고, 실제로 이 방법을 시도하는 사람들은 충분하지 않다고 생각합니다. 이 말은 물론 산업에 따라 매우 다르겠지만, 제 경험상 이러한 회사들 중 상당수는 10~15년 뒤처져 운영되고 있습니다.

이것은 그들이 정신을 차릴 때쯤 하류 위험(down-stream risk)을 야기하지만, 그때쯤이면 아마 자체 ERP를 구축할 수 있을 것입니다. 옵션 #1보다 훨씬 빠르게 할 수 있다고 생각합니다.

옵션 #3: 세분화

SMB(중소기업) 시장으로 가십시오. 업무 관리 시스템/ERP는 소규모 고객에게는 훨씬 덜 고착화되어 있습니다. 이들은 일반적으로 API를 갖춘 훨씬 현대적이고 개방적인 시스템을 사용하는데, 이는 중견 및 대기업 시장에서 ERP가 갖는 강력한 고객 잠금(lock-in) 효과가 없기 때문입니다. 여기서는 원하는 방식으로 그들의 데이터를 활용할 수 있을 것입니다. 다만, 특정 산업의 SMB 시장이 목표하는 사업 규모를 구축하기에 충분히 큰지 확인해야 합니다. 또한 약속한 바를 이행하는 놀라운 제품을 만들어야 하는데, 이곳의 경쟁은 일반적으로 매우 치열하기 때문입니다.

옵션 #4: 웨지(Wedge) 전략 선택

ERP/SOR(기록 시스템)과 상호작용할 필요가 없는 버티컬 AI를 제공하는 데 집중하십시오. 이를 건드리지 않고도 엄청난 가치를 제공하고 큰 사업을 구축할 수 있는 기회와 산업이 많이 있습니다. 특정 산업의 모든 것에 대해 훈련된 AI 영업 에이전트를 생각해 보십시오. 특정 산업을 위한 AI 고객 지원 담당자도 마찬가지입니다. 목록은 계속됩니다. 심지어 성과별로 요금을 부과할 수도 있습니다(예: 확보된 리드 수, 해결된 티켓 수 등). 성과가 충분히 좋다면 고객들은 기꺼이 이 정보를 자신들의 관리 시스템에 입력할 것입니다.

옵션 #5: AI 인프라

단기적으로 이 문제를 완화하는 데 도움이 될 AI 데이터 인프라 생태계에 기대를 걸어보십시오. 여기서 특히 유망하다고 보는 두 가지 발전 사항이 있습니다.

첫째는 표준화된 에이전트 통신 프레임워크의 등장입니다. 작년에 Anthropic은 AI와 도구 간 통합의 조합 폭발(combinatorial explosion) 문제를 해결하기 위해 설계된 개방형 표준인 Model Context Protocol (MCP)1을 발표했습니다. MCP는 AI 시스템이 표준화되고 모델에 구애받지 않는 방식으로 외부 데이터를 동적으로 가져오고 도구를 실행할 수 있도록 합니다. 이는 "AI 애플리케이션을 위한 USB-C 포트"와 같습니다. 클라이언트-호스트-서버 아키텍처를 기반으로 구축된 MCP는 AI 애플리케이션(클라이언트)이 조정된 환경(호스트)을 통해 외부 서비스(서버)에서 호스팅되는 리소스에 접근할 수 있도록 합니다. 버티컬 AI 창업자들에게 MCP와 같은 프레임워크는 통합 로직을 핵심 제품에서 분리하고, 불안정하고 일회성인 커넥터에 대한 의존도를 줄일 수 있는 방법을 제공할 수 있습니다.

둘째, 버티컬 AI는 레거시 시스템이나 심지어 사용자 자신의 행동 변화에 덜 의존하는 옵션을 가질 수 있습니다. 새롭게 등장하는 AI 기반 "컴퓨터 사용(computer use)" 개념은 기존 RPA(이미 스크립트 방식으로 버튼을 클릭할 수 있음)에 유연성과 이해력을 더하여 확장합니다. AI 에이전트는 새로운 상황을 해석하거나 경직된 스크립트를 망가뜨릴 수 있는 인터페이스의 사소한 변화에 적응할 수 있습니다. 예를 들어, OpenAI는 최근 ChatGPT "Operator"를 출시했습니다. 이는 GPT-4의 비전(이미지 이해) 능력과 강화 학습(reinforcement learning)을 결합한 새로운 CUA(Computer-Using Agent) 모델을 사용하여 사용자를 대신하여 클라우드 기반 브라우저를 고급 수준으로 조작합니다. 예를 들어, Operator에게 "다음 주에 야외 좌석이 있는 가장 평점 높은 이탈리아 음식점에서 예약 찾아줘"라고 지시할 수 있습니다.

더 강력한 엔터프라이즈 버전이 버티컬 AI 스타트업에게 얼마나 가치가 있을지 알 수 있습니다. 물론, 4억 달러 이상을 투자 유치한 Adept와 같은 많은 스타트업들이 이러한 B2B 사용 사례를 직접 목표로 하고 있습니다. 컴퓨터 사용(Computer Use) 기술은 아직 초기 단계이며 본격적으로 사용될 준비가 되지 않았지만, 빠르게 변화할 것으로 예상합니다.

결론

이것이 문제점에 대한 저희의 간략한 의견입니다. 완벽하지 않고 끊임없이 변화하지만, 이 문제에 대처할 수 있는 몇 가지 방법입니다.

이제 여러분의 의견을 듣고 싶습니다:

버티컬 AI의 통합 문제를 해결할 다른 창의적인 방법은 무엇이 있을까요?

위에 언급되지 않았지만 효과가 있었던 사례가 있다면 무엇인가요?

Vertical AI’s Integration Problem

And the 5 Ways Founders Are Solving It Today

Euclid InsightsEuclid Ventures