🦋 확률론적 시대의 AI 제품 구축하기

최근 저는 한 친구에게 ChatGPT가 세상의 모든 의료 기록을 암기한 것이 아니며, 친구가 자신의 혈액 검사 결과를 입력했을 때 모델이 OpenAI조차도 예측하지 못했던 방식으로 패턴 매칭을 하고 있었다는 점을 설득하려 했습니다. 친구는 제 말을 믿지 못했고, 저는 그 이유를 충분히 이해합니다. 우리가 온전히 이해하지 못하는 기술, 그리고 우리가 명시적으로 예상하지 못했던 행동을 보이는 기술을 발명했다는 사실을 받아들이기는 어렵습니다.

AI의 발전 속도를 목격했을 때 무시하는 것은 흔한 반응입니다. 사람들은 자신들의 세계관과 현재 AI가 할 수 있는 일, 그리고 그 방식을 조화시키는 데 어려움을 겪습니다.

이는 새로운 현상이 아닙니다. 주류의 직관과 문화적 영향력은 항상 새로운 기술적 역량에 뒤처집니다. 30년 전 우리가 인터넷을 기반으로 사업을 시작했을 때도 회의적인 시선은 비슷했습니다. 낯선 사람에게 수표를 보내고 서비스를 무료로 제공하는 것은 터무니없게 느껴졌습니다. 하지만 한계 비용 제로와 무한히 확장 가능한 유통으로 만들어진 새로운 현실을 파악한 사람들은 엄청난 부를 축적했습니다. 그들은 자신들의 세계관에 깊이 박혀 있던 낡은 가정들이 더 이상 통하지 않는다는 것을 이해하고 행동에 옮겼습니다.

결국 세상은 이를 따라잡았고, 우리는 새로운 균형에 도달했습니다. 지난 수십 년간 기술 산업은 온라인에서 디지털 제품을 만들고 성장시키는 방법에 대한 강한 직관을 발전시키며 진화해 왔습니다. 우리는 제품 관리부터 성장 책임자에 이르기까지 새로운 직업을 만들어냈고, 엔지니어링 리더십부터 퍼포먼스 마케팅에 이르기까지 기존의 직업들은 진화했습니다. 이들 모두 성공을 위한 각자의 플레이북을 만들어냈습니다.

이제 AI가 다시 한번 판을 뒤섞고 있습니다.

그 플레이북 중 다수가 쓸모없어졌습니다. 무언가 근본적인 것이 바뀌었습니다. 범용 인공지능은 기술 산업의 구조에 균열을 만들었고, 우리가 소프트웨어를 설계, 엔지니어링, 구축 및 성장시키는 방식, 즉 소프트웨어를 핵심으로 하는 비즈니스를 뒤엎고 있습니다.

우리는 지금 우리의 도구가 그것을 이해하기 위한 프레임워크를 앞지른 과도기적 순간에 있습니다. 이것은 기술적, 인식론적, 그리고 조직적인 변화이며, 뛰어난 AI 기업들은 지난 수십 년간 우리가 알고 있던 것과는 상당히 다른 방식으로 운영되기 시작했습니다.

물리학이 뉴턴의 결정론적 우주를 지나 파동 함수로 만들어진 기묘하고 반직관적인 세계로 들어서면서 개념적 혁명을 겪었듯이, 소프트웨어 역시 자체적인 퀀텀 시프트를 겪고 있습니다. 우리는 코드가 특정 입력을 받아 특정 출력을 안정적이고 결정론적으로 생산하는 세계를 떠나, 이제 기계가 대신 통계적 분포를 생산하는 매우 다른 세계로 진입하고 있습니다.

확률론적 소프트웨어를 구축하는 것은 우리가 이전에 해왔던 그 어떤 것과도 다릅니다.

I. 고전적 세계 (The Classical World)

오늘날의 기술 산업은 소프트웨어의 핵심 본질에 의해 형성되었습니다.

디지털 제품은 그것을 구성하는 소프트웨어처럼, 알려진 입력을 예상된 결과에 결정론적으로 매핑합니다. Instagram에서 사용자는 사진을 올리고, 메시지를 보내고, 댓글을 남기고, 계정을 팔로우할 수 있습니다. Netflix에서는 콘텐츠를 검색하고, 선택하고, 스트리밍할 수 있습니다. 사용자는 행동을 선택하고, 그 결과가 일어나기를 기대합니다.

이러한 제품들을 함수 F: X → Y로 표현해 봅시다.

각 입력 x는 "WhatsApp에서 메시지 보내기", "Uber에서 차량 예약하기", "Google Maps에서 주소 검색하기"와 같은 제품 내 사용자 행동입니다. 각 행동 x에 대해 제품은 결과 y를 산출합니다. 메시지가 전송되고, 차량이 예약되고, 주소가 검색됩니다.

이 프레임워크를 통해 스타트업과 기술 기업이 왜 그런 방식으로 작동하는지 이해할 수 있습니다.

이는 엔지니어링 관리에서 가장 명확하게 드러납니다.

소프트웨어 엔지니어링 팀의 성과를 관리하는 고전적인 방식은 다음과 같습니다.

개발자 경험이 있다면, 즉시 SLO Datadog 대시보드를 알아볼 것입니다. 이는 시스템의 신뢰도를 수량화하는 것입니다. 엔지니어의 임무는 F(x)를 구축하는 것이므로, 우리는 다음과 같이 묻습니다. 행동 x를 취하면 매번 결과 y가 나오는가? 몇 번을 시도하든 안정적으로 그렇게 되는가? 목표는 100%입니다. 함수는 항상 우리가 기대하는 대로 작동해야 합니다.

계층화, 신중한 리팩터링, 테스트 주도 개발이 소프트웨어 엔지니어링의 특징인 이유가 바로 이것입니다. 이 모든 것은 F 매핑 함수의 존재론적 특성에서 비롯됩니다. 해야 할 일은 항상 x를 입력했을 때 y를 생산하는 것이므로, 우리는 항상 그것이 사실인지 확인하는 테스트를 작성해야 하고, 일반적인 리팩터링에 매우 신중해야 하며, 화살표의 신뢰도에 영향을 줄 수 있는 새로운 기능을 도입할 때 조심해야 합니다.

제품 관리와 디자인 역시 x를 y에 안정적으로 매핑하는 것에 관한 것입니다. 단지 추상화 수준이 다를 뿐입니다. 이들 팀에게는 "사용자가 처음으로 Instagram 스토리를 시청했다"와 같은 입력 x가 "사용자가 한 달 후에도 여전히 제품을 사용하고 있다"와 같은 실제 세계의 결과 y를 만들어내는 함수 F를 구성하는 것이 중요합니다.

훌륭한 제품 관리(PM’ing)는 가치 퍼널을 통해 사용자를 유도하는 것입니다. 기능의 카디널리티는 사전에 알려져 있습니다. 입력 공간 X는 제한적이고 미리 결정된 기능 및 성장 실험의 집합입니다. 목표 또한 미리 결정되어 있습니다. 디자이너와 PM은 어떤 목표를 최적화하고 있는지 미리 알고 있습니다. 이는 엔지니어와 마찬가지로, 그들 역시 기능을 경험한 사용자가 비즈니스 성과를 내는 비율을 100%로 만드는 데 힘쓴다는 것을 의미합니다. 이들 팀에게는 다음과 같이 보입니다.

좋은 디자인이 항상 정량화될 수 있는 것은 아닙니다. 세련된 제품은 지표에 관한 것이 아닙니다. 하지만 궁극적으로 그들은 가치를 전달하기 위해 존재하며, 가치는 항상 퍼널 형태로 전달됩니다. 사람들이 특정 기능의 세련된 디자인을 높이 평가하여 더 오래 머무를 때, 그것 역시 퍼널로 간주될 수 있습니다. 해당 기능을 경험하는 것에서부터 장기적으로 계속 비용을 지불하는 것으로 이어지기 때문입니다.

전환율, 활성화율, 유지율은 모두 셀 수 있고 미리 정의된 입력과 결과가 필요한 비율입니다. 우리가 이 숫자들을 세고 비율을 구성할 수 있는 이유는 분자와 분모가 모두 제한적이고 미리 결정되어 있기 때문입니다. 즉, x와 y가 어떤 형태일 수 있는지는 함수가 만들어지기 전에 이미 알려져 있습니다! 그 카디널리티를 앎으로써 우리는 퍼널을 만들 수 있습니다.

Amplitude나 Mixpanel 같은 제품들이 퍼널을 중심으로 만들어지고, 제품 및 성장 팀의 업무가 전환율 최적화를 중심으로 이루어지는 이유가 바로 이것입니다.

엔지니어링 신뢰도 목표든 성장 전환율 목표든, 이 모든 비율은 우리가 소프트웨어 제품을 만들고 성장시키는 데 있어 전략적, 전술적 결정을 내리는 방식입니다. 우리가 성과를 측정하는 방식, 업무를 구조화하는 방식, 플레이북을 설계하고 실행하는 방식 등 기술 산업 전체의 운영 체제가 그것들에 의존합니다.

문제는 AI의 확률론적 세계에서 이러한 규칙들이 오히려 역효과를 낼 수 있다는 점입니다.

II. 양자의 영역 (The Quantum Regime)

2010년대 후반, AI 모델에서 진정한 일반화의 첫 징후를 목격하기 시작하면서 상황이 바뀌기 시작했습니다. 그 시점까지 기계 학습 시스템은 본질적으로 "유능한 제너럴리스트"라기보다는 "좁은 전문가"였습니다.

그러나 지난 10년간 연구자들은 딥러닝 모델을 대량의 데이터로 사전 훈련시키면 "모델이 범용 능력과 지식을 개발하게 하여 이를 다운스트림 작업으로 이전할 수 있게 한다"는 사실을 깨달았습니다. 아이디어는 AI에게 관심 있는 전체 도메인(예: 언어)의 근본 구조를 가르치는 데 집중하면, 스팸 메일 식별에서부터 퀴즈 질문 답변, 가상 캐릭터 역할극에 이르기까지 모든 종류의 작업을 사전에 정의할 필요 없이 한 번에 해결할 수 있다는 것입니다. Google의 T5는 "사전 훈련이 모델로 하여금 범용 능력과 지식을 개발하게 한다"는 것을 보여주었고, OpenAI의 GPT-2는 우리를 "많은 작업을 수행할 수 있는 더 일반적인 시스템을 향해" 나아가게 했습니다.

여기서 중요한 점은 이 모델들이 이 모든 작업에 대해 명시적으로 훈련되지 않았다는 것입니다. 대규모 데이터 코퍼스로 사전 훈련되고 특정 지침에 대해서만 미세 조정되었을 때, 우리는 "보지 못했던 작업에 대한 제로샷 성능을 상당히 향상시킬 수 있습니다."

저는 여기서 '보지 못했던(unseen)'과 '범용(general-purpose)'이라는 단어가 얼마나 중요한지 아무리 강조해도 지나치지 않습니다. 이것이 바로 컴퓨팅 역사상 진정한 분수령이 된 순간을 만든 요소들입니다. 이제는 기계에게 스팸을 인식하도록 가르치는 것이 아니라, 그들에게 말하는 법을 가르치는 것입니다. 기계에게 자전거를 인식하거나 동물을 구별하도록 가르치는 것이 아니라, 그들에게 시각 그 자체를 부여하는 것입니다.

생각해 보십시오. 우리는 우리가 아는 한 이제 무엇이든 받아들일 수 있는 특별한 종류의 함수 F'를 만들었습니다. 시를 짓고, 메시지를 번역하고, 심지어 코드를 디버깅하는 것까지 말이죠! 그리고 우리는 그것이 항상 합리적인 무언가로 응답하기를 기대합니다. 모든 의도와 목적에서, 우리가 입력 공간을 통제하기를 멈춘 것은 이번이 처음이며, 그 공간은 갑자기 개방형이 되었습니다. F(x)가 F'(?)가 되었습니다.

ChatGPT에게 법률 자문에서부터 연애 상담, 코드를 사용한 스프레드시트 분석, 점성술 예측에 이르기까지 무엇이든 물어볼 수 있습니다. Claude에게 스크립트, 웹사이트, 마케팅 페이지, 비디오 게임 등 어떤 소프트웨어든 만들어 달라고 요청할 수 있습니다. 심지어 의미 없는 말을 입력해도 무언가를 생성할 것입니다. 실용적이고 철학적인 관점에서 볼 때, 입력 공간의 카디널리티는 이제 기본적으로 무한합니다.

AI 제품을 만드는 입장에서 이는 상당히 골치 아픈 일입니다. 사용자들이 그것으로 무엇을 할까요? 모든 고객이 항상 훌륭한 경험을 하도록 어떻게 보장할 수 있을까요? 만약 사용자들이 이 모델들이 수행할 수 있는, 당신이 예측하지 못했던 놀라운 새로운 사용 사례를 발견한다면 어떨까요? 당신의 마케팅이 충분히 일반적인 내용을 담으려다 암시하게 된 나쁜 사용 사례를 발견한다면 어떨까요?

설상가상으로, 출력의 정확성이 항상 보장되지도 않습니다! 합리적으로 구성된 답변이라고 해서 그것이 정확하다는 의미는 아닙니다. 이 새로운 함수가 답할 내용은 추정치입니다. 때로는 환각(hallucination)일 수도 있습니다.

환각을 해결할 수 있을까요? 음, 우리는 항상 정확하게 답변하려는 완벽한 시스템을 훈련시킬 수는 있지만, 어떤 질문들은 단순히 "정확한" 답변이 없습니다. 질문이 "그 사람과 헤어져야 할까?"일 때 "정확한" 답변이란 대체 무엇일까요?

문제는 가장 흥미로운 질문들은 잘 정의되어 있지 않다는 것입니다. 완벽한 질문을 할 때만 완벽한 답변을 얻을 수 있지만, 대부분의 경우 인간은 자신이 무엇을 원하는지 모릅니다. "내 세차 사업의 랜딩 페이지를 만들어 줘." 이 목표를 달성할 수 있는 방법은 얼마나 많을까요? 거의 무한합니다. AI는 바로 그 창발적 속성 덕분에 모호함과 불확실성 속에서 빛을 발합니다. 1+1이 무엇인지 알아야 한다면 계산기를 사용해야 하지만, 최근 혈액 검사 결과가 당신의 건강에 어떤 의미인지 아는 데에는 미묘한 차이를 이해하는 능력이 필요합니다.

이것이 바로 인간과 기계 사이의 인터페이스를 구축할 때 가장 좋은 형태가 확률 분포("당신은 아마도 이 영웅 배너가 있는 이 HTML을 원할 것입니다", "당신은 아마도 비타민 D 결핍이니 풀밭을 더 밟아야 합니다")인 이유입니다. 이는 미묘한 차이를 자연스럽게 다룰 수 있는 형태입니다.

이것이 우리가 출력에 무작위성을 주입하고 추론 시에 샘플링을 하는 결정적인 이유입니다. 제품에 정확히 동일한 입력을 주어도 두 가지 다른 결과가 나오게 하여 출력을 확률적(stochastic)으로 만듭니다. 이는 이 기술의 근본적인 속성이며, 사용자들이 복잡한 문제 공간을 효율적으로 탐색할 수 있는 방법을 제공하기 때문에 매우 잘 작동하는 이유입니다. 사용자는 최종 결과물에 자신의 취향을 더하고, 자신의 판단에 따라 모든 합리적인 출력의 확률 분포를 탐색할 수 있습니다.

다음은 Claude 3.7을 사용하여 두 개의 동일한 프롬프트를 실행한 결과입니다.

처음에는 미묘하게 느껴질 수 있지만, 긴 궤적을 구성하는 연속된 생성 과정에서는 그 차이가 크게 증폭됩니다.

출력의 확률성과 창발적 행동(emergent behavior)은 우리가 AI로부터 전통적인 의미의 완벽한 신뢰도를 기대할 수 없는 이유입니다. 우리는 더 이상 x가 무엇이 될지 보장받지 못하며, 출력 y에 대해서도 더 이상 확신할 수 없습니다. 왜냐하면 이제 그것은 분포에서 추출되기 때문입니다.

AI 우선 세계로 이동하면서 우리는 퍼널에서 무한한 필드로 전환했습니다.

잠시 멈춰 이것이 무엇을 의미하는지 생각해 보십시오. 이 기술을 기반으로 제품을 만들 때, 우리 제품은 이제 우리가 상상조차 하지 못했던 방식으로 성공할 수도 있고, 의도하지 않았던 방식으로 실패할 수도 있습니다.

이는 현대 기술뿐만 아니라 인간의 도구 제작 역사 자체에 있어서도 믿을 수 없을 만큼 새로운 일입니다. 훌륭한 엔지니어라면 누구나 인터넷이 어떻게 작동하는지 알 것입니다. 우리가 설계했으니까요! 우리는 데이터 패킷이 어떻게 이동하는지, 바이트가 어떻게 동작하는지, 심지어 불안정한 연결과 같은 불확실한 환경에서도 알고 있습니다. 훌륭한 항공우주 엔지니어라면 우주선으로 달에 접근하는 방법을 알려줄 것입니다. 우리가 발명했으니까요! 지식은 완벽하며, 엔지니어링 분야의 초석입니다. 버그가 있다면 항상 알 수 있는 이유가 있습니다. 그것을 찾아내고 수정하는 것은 시간문제일 뿐입니다.

AI 제품의 경우, 이 모든 것이 더 이상 사실이 아닙니다. 이 모델들은 설계된 것이 아니라 발견된 것입니다. 그들 안에는 강력하면서도 무서운 깊은 미지의 무언가가 있습니다. 모델 제작자들조차 자신들의 창조물이 훈련될 때 무엇을 할 수 있는지 정확히 알지 못합니다. "분위기(vibe)"라는 단어가 그토록 적절한 이유가 바로 이것입니다. 이 본질적인 불확실성에 직면하여, 우리는 이 모델들이 진정으로 무엇을 할 수 있는지 판단할 때 우리 자신의 직감과 직관을 믿을 수밖에 없습니다.

이 모델들의 힘을 활용하는 제품과 상호 작용하는 사람들에게 이것은 받아들이고, 수용하고, 직관을 개발하기에 벅찬 일입니다. 사용자들은 AI 시스템을 다룰 때의 본질적인 불확실성을 정말 싫어합니다. 익숙하지 않기 때문입니다! 그들은 자신들이 아는 다른 모든 디지털 제품과 같은 것을 기대합니다. 앱에 행동을 지시하면 앱이 그것을 수행할 것이라고요. 불행히도, Replit에 잘못된 방식으로 프롬프트를 입력하면 사용자의 요청과 그에 매핑되는 확률 분포에 따라 작업에 버그가 발생할 수 있습니다. 소비자들은 이를 이해하는 데 정말 어려움을 겪습니다. AI가 기대한 대로 작동하지 않을 때 매우 화를 냅니다.

그들이 그토록 좌절하는 핵심적인 이유는 디지털 시대 최초로 한계 비용이 0보다 훨씬 크기 때문입니다. 사실, 그 비용은 너무 커서 90년대 이후 인터넷을 지배해 온 비즈니스 모델과 성장 플레이북을 완전히 무효화시킵니다. 이는 미래에 하드웨어 수준의 혁신과 상품화에 따라 변할 수 있지만, 현재로서는 지능의 비용이 놀라울 정도로 안정적입니다 (그리고 작년까지 우리가 예상했던 것만큼 디플레이션적이지도 않습니다).

우리는 결정론적 비용과 확률적 결과물을 가진 제품군을 가지고 있습니다. 이는 내재된 해결되지 않은 긴장입니다. 사용자는 확실하게 동전을 넣지만, 기대하는 것을 돌려받을 수 있을지는 불확실합니다. 이 결정론적 사고 모델과 확률론적 현실 사이의 근본적인 불일치는 좌절을 낳습니다. 이는 업계가 아직 메우는 법을 배우지 못한 격차입니다.

소프트웨어는 실질적으로 제로 마진 비용으로 미리 정의된 옵션 세트를 제공하고 미리 결정된 결과를 생산하는 마법의 블랙박스였습니다. AI 모델은 완전히 다른 존재입니다. 무한한 가능성의 필드를 받아들이고, 사용자에게 상당한 금액을 청구한 후 잠재적으로 예상치 못한 관측값으로 귀결되는 확률 분포를 생산합니다.

이 두 기술을 중심으로 제품을 생산하는 방식은 근본적으로 달라야 한다는 것이 분명합니다.

III. 과학자가 필요하다 (It Takes A Scientist)

양자 시대에 성공하기 위해, 성공적인 조직은 엔지니어링에서 경험주의로 전환해야 합니다.

확률론적 소프트웨어를 다룰 때, 구식 엔지니어링 리더십의 경향은 그 위에 신뢰도 지표를 덮어씌우는 것입니다. 이전처럼 오래되고 좋은 SLO 말이죠. 이것은 근육 기억이자 반사 작용입니다. 하지만 이는 비뚤어진 인센티브를 만듭니다. 100%의 신뢰도 목표를 달성하기 위해, 고전적인 엔지니어링 리더십은 자연스럽게 모델 주변에 점점 더 많은 가드레일과 제약을 추가하여 모델을 통제하고 제어하려고 합니다.

이것은 더 이상 작동하지 않습니다.

모델을 더 많이 통제하려고 할수록, 모델의 성능을 더 저하(nerf)시킬 것이며, 궁극적으로 제품 자체에 해를 끼칩니다. 특정 지점을 넘어서면, 지능과 통제는 상충하는 요구가 되기 시작합니다.

목표는 완벽이 아닙니다. 정의상 완벽을 목표로 할 수도 없고 해서도 안 됩니다. 목표는 불확실성을 관리하는 것입니다. AI 제품 개발자로서 당신은 당신이 운영하는 시장과 당신이 서비스하는 고객을 고려할 때, 모델이 복잡성을 다룰 수 있는 능력을 유지하면서 허용 가능한 예측 불가능성이 무엇인지 결정해야 합니다. 최소 실행 가능 지능(Minimum Viable Intelligence)의 관점에서 생각하십시오. 이는 시장에서 수용되면서도(일부는 다른 시장보다 더 민감할 수 있음), 모델의 고유한 유연성과 일반화 능력을 보존하는 가장 낮은 품질 임계값입니다.

최소 실행 가능 지능이라는 개념은 이 모델들의 창발적 속성에서 비롯됩니다. AI 제품을 만드는 회사들은 자신들의 제품이 실제로 얼마나 강력한지 모를 수 있으며, 모델을 궤도에 유지하려고 할 때 무심코 모델을 너무 많이 제약할 수 있습니다. 만약 Claude Code에게 폴더 안의 각 이미지에 워터마크를 추가하라고 요청했는데 "죄송합니다, 도와드릴 수 없습니다. 저는 웹사이트만 만들 수 있습니다"라는 답변이 나온다면 사용자가 얼마나 좌절할지 생각해 보십시오. 우리는 그것이 가능하다는 것을 알기 때문입니다! 건강한 균형을 유지한다면, 우리가 전혀 알지 못하는 놀라운 일들을 모델이 해낼 수 있기 때문에 당신의 제품은 원래 구상했던 것보다 훨씬 더 커질 수 있습니다.

이것이 바로 엔지니어링에서 경험주의로의 전환을 강요하는 것입니다. 이제는 일반적인 제품 관리 A/B 테스트뿐만 아니라 제품 자체를 구축하는 올바른 방식을 결정하는 것이 바로 과학적 방법입니다.

AI 제품을 구축하는 데는 과학자가 필요합니다.

기존의 것 위에 점진적으로 구축해야 한다는 오래된 지혜는 더 이상 유효하지 않습니다. 오히려 그것 또한 해로울 수 있습니다. 기존 모델의 새로운 세대(예: Sonnet에서 Opus로)든, 완전히 새로운 모델(예: GPT를 Gemini로 교체)이든, 새로운 모델이 나올 때마다 그 행동에 대한 이전의 모든 가정은 폐기되어야 합니다.

사실, 새로운 모델이 나오면 전체 시스템을 말 그대로 허물고 처음부터 다시 구축하는 것까지 고려해야 합니다. 신성불가침의 영역은 없습니다.

Replit이 Sonnet 3.5에서 3.7로 전환했을 때, Replit의 사장 Michele은 회사가 3주도 채 안 되어 전체 제품을 다시 작성하도록 했습니다. 우리는 그것을 Replit v2라고 불렀지만, 그것은 상당한 과소평가였습니다. 실제로는 완전히 새로운 제품이었습니다. 아키텍처, 데이터 모델, 프롬프팅 기술, 컨텍스트 관리, 스트리밍 설계... 모든 것이 새로웠습니다. 3.7은 완전히 새로운 방식으로 매우 에이전트적인 특성을 보였고, Michele은 이를 이해하고 통제하려 하기보다는 그것에 기대기로 결정했습니다. 팀은 시장에서 경쟁사를 이기기 위해 몇 주간 잠 못 이루는 밤을 보내야 했습니다. 당시 거의 2천만 달러의 ARR을 기록하던 제품을 단 3주 만에 완전히 재설계하고 처음부터 다시 구축하여, 그 매출이 변곡점을 찍고 한 분기도 안 되어 1억 달러 ARR로 성장하는 것을 상상할 수 있습니까? 그것은 과학자를 필요로 합니다. Michele이 실제로 과학자 출신이라는 것은 우연이 아닙니다.

앱 계층에서 모델을 교체하는 것은 큰일입니다. 이는 프론티어 랩이 외부에서 보이는 것보다 더 끈끈하게 만든다는 것을 의미합니다. 그것은 '그저 API 상품'이 아닙니다. 이 모델들은 평평한 인터페이스가 아닙니다. 그들은 개성과 특징을 가지고 있습니다. Gemini Pro 2.5가 여전히 예외적으로 좋은 모델임에도 불구하고 Claude 3.5 킬러가 아니었던 이유가 바로 이것입니다. 어떤 모델이 다른 모델보다 우수하다는 것을 완전히 증명하기 위해서는 힘든 노력이 필요합니다.

모든 모델 업데이트가 매번 완전한 재작성을 의미하는 것은 아니지만, 매번 가정을 근본적으로 재고하게 만들어 재작성을 완벽하게 타당한 가설로 만듭니다. 당신은 "나는 모른다"가 유일하게 유효한 가정인 경험적 방법을 따라야 합니다. 경험주의자가 먼저 되는 것은 엔지니어가 먼저 되는 것과 정반대입니다.

동일한 기본 모델에 대한 '단순한' 개선조차도 전문적인 데이터 작업을 필요로 합니다. 출시되는 모든 기능은 합성 평가를 사용하는 실험실 조건과 실제 사용 환경인 프로덕션 환경 모두에서 테스트되어야 합니다. 테스트는 엄격하고 철저해야 합니다. 단순히 이진적인 '통과 / 실패'의 집합이 될 수 없습니다. 특정 프롬프트 변경이 모델이 특정 도구를 다른 도구보다 선호하는 경향에 의미 있는 영향을 미쳐, 특정 사용자 세그먼트의 단위 경제를 적극적으로 바꾼다면 어떨까요? 특정 디자인 변경이 사용자가 입력 분포에 대해 생각하는 방식에 영향을 미치고, 이것이 다시 예측하지 못한 방식으로 모델 출력 분포를 형성한다면 어떨까요?

원자적으로 보이는 소프트웨어 개선을 테스트할 때 통계가 필요하다는 사실은 고전적인 프로그래머의 직관에 어긋납니다. 많은 엔지니어들은 이 고된 데이터 작업을 자신의 직무 설명의 일부가 아니라고 생각하며, 그들이 맞을 수도 있습니다!

바뀐 것은 직무 설명입니다.

IV. 데이터가 새로운 운영 체제다 (Data is the New Operating System)

모델의 행동이 본질적으로 알 수 없고 불확실하다는 사실에도 불구하고, 그것을 중심으로 효과적인 데이터 기능을 구축하는 방법을 알아내는 것은 매우 어렵습니다. 모델의 창발적 속성은 합성 테스트를 어렵게 만듭니다.

엔지니어는 평가 데이터셋을 실제 사용자 행동 분포에 맞춰 최신 상태로 유지해야 하지만, 정의상 그러한 데이터셋은 항상 뒤처질 것입니다. 입력 공간이 더 이상 제한되지 않기 때문에, 단순히 몇 가지 선택된 테스트를 작성하고 테스트 주도 개발을 따를 수 없습니다. 그러면 그 존재조차 인지하지 못했던 중요한 기능들을 망가뜨릴 위험이 있습니다. Replit의 프롬프트를 조정하거나 기본 모델을 교체하는 것은 우리가 처음에 생각하지도 못했던 게임 개발과 같은 잠재적 기능을 여는 것을 의미했습니다. 실제 과거 사용 사례에서 올바른 테스트 케이스를 지속적으로 샘플링하는 좋은 시스템을 갖추는 것은 오늘날 훌륭한 AI 제품을 구축하는 데 필요한 가장 중요한 새로운 작업 중 하나입니다.

이것이 바로 전통적인 A/B 테스트를 통한 프로덕션 환경에서의 테스트 또한 중요한 이유입니다. 이렇게 함으로써 서비스하는 일반 인구 집단에 최대한 가깝게 유지하고 롱테일 결과를 테스트할 가능성을 높일 수 있습니다. 그러나 프로덕션 테스트는 평가 테스트보다 훨씬 더 어려울 수 있습니다.

실제 라이브 A/B 테스트와 관련하여 가장 큰 문제(방 안의 코끼리)는 애초에 무엇을 최적화해야 하는지 알고 있다고 가정한다는 것입니다. 이는 성공의 정의를 알고 정량화하는 것을 의미합니다. AI 제품에서는 기본적으로 그럴 수 없습니다.

사용자들은 가능성의 필드를 탐색하며 공간을 통해 궤적을 구성하고 있습니다. 당신의 제품이 설정된 목표를 달성하고 있는지 이해하기란 정말 정말 어렵습니다! Replit 에이전트를 위한 훌륭한 새 기능을 막 출시했다고 가정해 봅시다. 사용자들이 "더 나은 소프트웨어"를 만들고 있는지 어떻게 알 수 있을까요? 더 긴 메시지 체인? 어쩌면 그들은 좌절하며 디버깅하고 있을 뿐일지도 모릅니다. 더 짧고 효율적인 메시지? 어쩌면 더 빨리 포기하고 있는 것일 수도 있습니다. 물론 장기적인 유지율을 측정할 수는 있지만, 기능을 출시하기 위해 몇 주(또는 더 나쁘게는 몇 달!)를 기다릴 여유는 없습니다.

이것이 바로 빠른 속도의 AI 제품 출시를 그토록 어렵게 만드는 것입니다. 하지만 불가능하지는 않습니다. 근본적으로 그것은 전통적인 성장 퍼널에서 '사용자 궤적'—가능한 작업과 모델 상태의 필드를 통과하는 경로—을 집계하는 방법을 찾는 것으로 이동하는 것입니다.

가장 쉽게 접근하는 방법은 사용자 입력을 세분화하는 것입니다. 더 작은 모델을 사용하여 더 큰 모델에 대한 사용자 요청을 분류하면, 데이터를 "사용 영역"으로 세분화할 수 있습니다. 이는 사용자 여정을 클러스터링하는 조잡한 방법입니다. Replit의 코딩 에이전트의 경우, 이는 코딩 사용 사례가 될 수 있습니다. "React 웹 앱에 대한 프롬프트를 제출한 모든 사용자에 대해, 3번의 채팅 상호 작용 후 사용자로부터 긍정적인 메시지를 받을 확률은 얼마인가?" 더 나아가, 동일한 접근 방식을 사용하여 여러 경로에 걸쳐 달성할 마일스톤을 정의할 수 있으며, 이는 모델의 내부 상태를 분류하는 것을 의미할 수 있습니다.

이는 제품 관리, 디자인, 시장 출시 전략, 그리고 심지어 (특히!) 재무에도 분명히 영향을 미칩니다. 기능이 창발적이 되면서, 이진 분석 이벤트는 더 이상 사용자 행동을 이해하는 데 이전만큼 유용하지 않습니다. TikTok을 통해 유입된 사용자들이 게임을 만들 가능성이 더 높고, 이는 토큰당 생성 비용이 더 비싸 마진 계산에 영향을 미친다는 사실을 아는 것은 회사 전체에 걸쳐 매우 가치가 있습니다. 엔지니어는 게임이 효율적으로 생성되도록 하고, 마케터는 퍼널 상단 전략을 더 지속 가능한 채널로 전환하며, 재무팀은 CAC와 LTV 분석을 적절하게 세분화할 수 있습니다. 게임 제작 사용자에서 전문 웹 앱 사용자로 20%가 이동하는 것은 지속 가능한 단위 경제와 모든 무료 사용자에게 돈을 쏟아붓는 것 사이의 차이를 의미할 수 있습니다. 그러나 이러한 통찰력은 전통적인 퍼널 지표가 아닌 AI 상호 작용의 실제 내용을 분석해야만 나타납니다. 이것이 상태를 분류하는 것이 그토록 중요한 이유입니다.

모든 것은 데이터로 귀결됩니다. 가치는 모델에 의해 생성되며, 데이터는 모델의 상류와 하류에 존재합니다. 우리는 상류 데이터(훈련용)에 대한 수년간의 문헌을 가지고 있으며, 업계는 그 중요성을 예리하게 인식하고 있습니다. 하지만 하류 데이터는 새로운 것입니다. 왜냐하면 우리는 불과 몇 년 동안만 글로벌 규모에서 진정한 창발성을 경험했기 때문입니다. 그러한 규모는 이 문제를 비싸고, 어렵고, 복잡하게 만들며, 막대한 데이터 엔지니어링을 요구합니다. AI 제품을 설계하는 것은 결코 작은 일이 아니며, 점점 더 정교해지는 다학제적 예술입니다.

확률적이고 예측 불가능한 행동의 시대에, 데이터는 기업의 성공을 결정하는 데 있어 점점 더 중요한 차별화 포인트가 되고 있습니다. 그것은 조직 전체를 관통하는 공유 운영 체제입니다. 현실을 기술하고 그것을 형성하기 위한 행동을 지시할 수 있는 공유된 언어이자 맥락입니다.

기술 회사의 어떤 핵심 구성 요소도 더 이상 사일로(silo)에서 일할 여유가 없습니다. 고객 기여도(마케팅, 영업), 관측 가능성(엔지니어링), A/B 테스트(제품, 디자인)와 같은 것들은 이전에는 분리되어 있었습니다. AI 제품에서는, 제품의 핵심 행동이 전환율에서 유지율에 이르기까지 퍼널의 상단과 최종 수익선 모두에 영향을 미치는 하나의 전체론적 시스템 관점으로 통합됩니다.

오직 데이터만이 이 새롭고 미지의 함수 F'를 이해하기 위한 지도를 제공할 수 있으며, 사용자들이 AI 제품의 창발적 속성을 탐색하고 헤맬 때 취하는 여정을 설명할 수 있습니다. 오직 데이터만이 그들이 어디로 가고 있는지, 목적지에 성공적으로 도달하고 있는지, 그곳에 도착할 여유가 있는지 알려줄 수 있습니다.

데이터는 단지 AI 모델을 훈련시키기 위한 새로운 석유가 아닙니다.

그것은 또한 우리가 그 힘을 진정으로 활용할 수 있는 방법이기도 합니다.

V. 이번에는 다르다 (This Time is Different)

수십 년간의 기술 혁신 끝에, 세상은 (당연하게도) 기술 과대광고에 대한 일종의 항체를 개발했습니다. 주류 대중은 "세상이 변하고 있다"는 거창한 주장에 대해 자연스럽게 회의적이 되었습니다. 심지어 "아무 일도 일어나지 않는다"는 유명한 밈도 있습니다.

저는 AI에 관한 한, 무언가 일어나고 있다고 굳게 믿습니다. 이번에는 정말 다르게 느껴집니다.

그것은 존재론적으로 다릅니다. 우리는 완벽한 정보와 완벽한 지식의 세계인 결정론적 기계주의에서 벗어나, 계획하고 설계하는 대신 관찰하고 가설을 세우는, 창발적이고 미지의 행동으로 만들어진 세계로 걸어가고 있습니다.

이 변화는 실재하며, 기술 산업의 모든 부분에 영향을 미치고, 우리가 제품을 만드는 방식, 그것을 연구하고 설계하는 방식, 그리고 그것을 중심으로 업무를 구조화하는 방식을 바꾸고 있습니다. 경험적 접근법을 사용하여 구축하고, 확률적으로 생각하며, 복잡한 궤적을 측정하는 조직이 다음 기술 시대를 정의할 것입니다. 나머지는 계속해서 파동 함수를 스프레드시트에 억지로 끼워 넣으려 애쓰면서, 왜 그들의 완벽하게 결정론적인 대시보드가 자신들의 제품을 마법처럼 만드는 것을 포착하지 못하는지 의아해할 것입니다.

이곳은 경이로움과 가능성의 세계, 발견하고 이해해야 할 세계입니다.

확률론적 시대에 오신 것을 환영합니다.

Building AI Products In The Probabilistic Era

AI turns products from deterministic functions into probabilistic systems. That requires expanding old playbooks (SLOs, funnels, siloed finance), and reasoning in terms of trajectories, Minimum Viable Intelligence thresholds, and data as company operating system.