🖼️ 에이전트 디자인 프레임워크: 1-5

AI 에이전트의 세계는 엄청난 속도로 발전하고 있습니다. 제품을 만드는 우리는 더 이상 단순히 기능을 출시하는 것이 아니라, 새로운 종류의 상호작용, 새로운 AI 기반 기능, 그리고 종종 완전히 새로운 제품 패러다임을 설계하고 있습니다. 이 흥미진진하고 때로는 어리둥절한 환경을 헤쳐나가기 위해, 저는 복잡함 속에서 명확성을 찾도록 도와주는 몇 가지 핵심적인 프로덕트 프레임워크를 반복해서 사용하곤 합니다.

이 프레임워크들을 공유함으로써, 여러분이 직접 에이전트를 만들고 있든, 혹은 이 기술이 어디로 향하고 있는지 이해하려고 노력하고 있든, 여러분의 생각에 도움이 되기를 바랍니다. 이것들은 엄격한 규칙이 아니라, 우리 앞에 놓인 도전과 기회를 검토하는 데 유용한 렌즈입니다.

프레임워크 1: 핵심 3요소 - 에이전트, 환경, 생태계

AI 에이전트를 처음 구상할 때, 저는 그 공간을 세 가지 기본 구성 요소, 즉 에이전트 자체, 그것이 작동하는 환경, 그리고 그것이 상호작용하는 더 넓은 생태계로 나누는 것이 도움이 된다는 것을 발견했습니다.

먼저, 핵심 지능인 에이전트(Agent) 자체를 생각해 봅시다. 그것의 근본적인 능력은 무엇일까요? 이는 에이전트의 필수적인 툴킷을 형성하는 기술과 도구를 이해하는 것을 포함합니다. 기본적인 추론 및 계획 능력을 넘어서, 우리는 에이전트가 실제로 무엇을 할 수 있는지 정의해야 합니다. Project Mariner처럼 웹을 탐색할 수 있나요? 코드를 실행하거나 이미지를 생성하는 것과 같은 복잡한 작업을 수행할 수 있나요? 여기서 여행을 예약하거나 전자상거래 거래를 완료하기 위해 외부 API를 호출하는 능력이 중요해집니다. 새롭게 떠오르는 표준인 MCP(Model Context Protocol)도 여기서 중요한데, 에이전트가 GitHub나 기업 시스템과 같은 다양한 도구 및 데이터 소스에 더 쉽게 연결하고 활용할 수 있도록 해줍니다. 당연히, 툴킷이 풍부할수록 더 다재다능하고 유능한 에이전트가 됩니다.

능동적인 기술 외에도, 에이전트의 학습 및 적응 능력은 그 컨텍스트와 메모리에 달려 있습니다. 순간적으로 어떤 정보를 사용할 수 있고, 과거의 상호작용에서 무엇을 기억할 수 있나요? 이 메모리는 어떻게 지속되고 미래의 행동에 정보를 제공하여, 시간이 지남에 따라 에이전트를 더 똑똑하고 개인화되게 만들까요?

마지막으로, 에이전트 자체는 제너럴리스트(generalist) 또는 스페셜리스트(specialist)가 될 수 있습니다. 에이전트가 Gemini App(개인 AI 비서로 포지셔닝됨)처럼 다양한 작업을 처리하도록 설계되었나요, 아니면 Jules(비동기식 코딩 에이전트)처럼 특정 도메인에서 뛰어난 성능을 발휘할까요? 제너럴리스트는 넓은 범용성을 제공하는 반면, 스페셜리스트는 자신의 틈새 시장에서 우수한 정확성과 효율성을 제공할 수 있습니다.

3요소의 두 번째 기둥은 에이전트가 작동하는 환경(Environment)입니다. 저는 여러 "차원"의 작동 방식을 생각하는 것을 좋아합니다: 포그라운드(사용자 기기 위, 직접 보이는 화면), 백그라운드(사용자 기기 위에 있지만 활발하게 보이지 않음), 그리고 클라우드(사용자 기기와 독립적인 서버의 가상 머신). 여기서 "기기"는 컴퓨터, 휴대폰, 또는 웨어러블일 수 있습니다. 예를 들어, 초기 Project Mariner는 사용자의 로컬 브라우저 내에서만 존재하는 Chrome 확장 프로그램이었습니다(포그라운드에서만 작동). 새로운 버전은 주로 클라우드에서 가상 머신을 사용하여 작동하지만, 탭을 다시 보내는 것과 같이 제한된 용량으로 사용자의 포그라운드 브라우저와 상호작용할 수 있습니다. 이러한 환경의 변화는 백그라운드 처리 및 멀티태스킹과 같은 새로운 기능을 가능하게 하므로 매우 중요합니다. 궁극적으로, 진정으로 매끄러운 에이전트는 이 세 가지 차원 모두에서 조화롭게 유동적으로 작동해야 할 것입니다.

3요소를 마무리하는 것은 생태계(Ecosystem)입니다. 대부분의 고급 에이전트는 고립되어 있지 않습니다. 필연적으로 다른 앱, API, 데이터 소스와 연결해야 합니다. 이러한 외부 의존성 및 통합 지점을 이해하는 것은 기능적이고 가치 있는 경험을 구축하는 데 매우 중요합니다. 이것은 단지 기술적 호환성(첫 번째 섹션에서 더 많이 다룸)에 관한 것이 아니라, 제품 고려사항(예: 외부 통합이 변경될 때 발생하는 일)과 비즈니스 모델 고려사항(에이전트가 다른 에이전트에게 마케팅을 하는?)을 포함합니다. 이 세 가지 기둥 – 에이전트, 환경, 생태계 – 을 통해 생각하면 처음부터 기본적인 아키텍처와 범위를 계획하는 데 도움이 됩니다.

프레임워크 2: 사용자 인터랙션 스펙트럼 - "함께 하기(Do It With Me)" vs. "대신 해주기(Do It For Me)"

기본적인 제품 아키텍처와 환경이 구체화되면, 이 다음 프레임워크는 사용자 경험에 대해 생각하는 데 도움을 줍니다. 결정적으로, 사용자는 주어진 작업에 얼마나 관여하고 싶어 하거나, 관여해야 할까요? 이것은 항상 이분법적인 선택이 아니며, 스펙트럼에 가깝습니다.

한쪽 끝에는 협업적 증강을 나타내는 "함께 하기(Do It With Me)" 시나리오가 있습니다. 이것들은 사용자가 계속해서 과정에 참여하는 작업입니다. 사용자는 핵심 과정을 즐기거나 작업 실행 중에 창의적인 방향을 제시해야 할 수 있지만, AI가 지루한 하위 단계를 처리함으로써 상당한 이점을 얻을 수 있습니다. 좋은 예는 콘텐츠 크리에이터가 YouTube에 새 비디오를 업로드하는 경우입니다. 그들은 창의적인 방향을 설정하고 촬영하는 행위를 좋아할 수 있지만, 기본 비디오 썸네일로 포함할 완벽한 스틸 프레임을 찾기 위해 영상을 뒤지는 과정은 고된 일이라고 생각할 수 있습니다. 에이전트는 비디오 콘텐츠를 기반으로 프레임을 제안하며 그들과 함께 작업할 수 있고, 크리에이터는 최종 선택을 하고 제어권을 유지합니다. 이러한 "함께 하기" 상호작용에서 사용자와 에이전트 간의 참여는 일반적으로 실시간으로 일어나며, 거의 확실히 앞에서 논의한 포그라운드 환경에서, 특정 처리 작업을 위해 백그라운드로 잠시 작업을 넘겨줄 수도 있습니다.

스펙트럼의 다른 쪽 끝에는 위임 자동화인 "대신 해주기(Do It For Me)"가 있습니다. 이것들은 종종 필요하지만 특별히 즐겁지 않거나, 혹은 매우 반복적인 작업들입니다. 이런 작업에 대해 사용자들은 에이전트가 정확하게 수행할 것이라고 신뢰한다면, 기꺼이 작업을 완전히 떠넘깁니다. 이러한 작업은 다음과 같은 것들을 포함할 수 있습니다:

• 시간이 많이 걸리지만 필수적인 일: 아이를 캠프에 보내기 위해 필요한 끝없는 양식을 작성하는 고된 과정을 생각해 보세요. 주소, 알레르기, 비상 연락처 등 다양한 양식에서 비슷한 정보를 반복적으로 요구하며, 대부분의 부모는 에이전트가 정확하고 안전하게 처리해 줄 것이라고 믿는다면 기꺼이 위임할 과제입니다. 여기서 가치는 순수한 시간 절약과 정신적 부담 감소입니다.
• 반복적이거나 규칙 기반인 일: 데이터베이스에서 주간 판매 보고서를 생성하거나, 키워드를 기반으로 고객 지원 티켓을 분류하거나, 팀의 가능한 시간을 기반으로 정기 회의를 예약하는 것과 같은 많은 일상적인 비즈니스 프로세스가 이 범주에 속합니다. "규칙"이 정의되면, 에이전트는 지치지 않고 이를 실행할 수 있습니다.
• 광범위한 정보 수집 및 종합이 필요한 일: 일부 AI 도구에서 나타나는 "심층 연구(Deep Research)" 기능을 고려해 보세요. 사용자는 "양자 컴퓨팅이 사이버 보안에 미치는 영향"과 같은 복잡한 주제에 대한 포괄적인 개요를 요청할 수 있습니다. 이러한 "대신 해주기" 시나리오에서 에이전트는 수백 개의 출처를 샅샅이 뒤지고, 관련성과 신뢰성을 평가하고, 결과를 종합한 다음, 최종 사용자에게 요약되거나 상세한 뷰를 제시하기 전에 클라우드에서 전체 연구 보고서를 구성합니다. 에이전트는 단순히 정보를 검색하는 것이 아니라, 분석과 구조화라는 중요한 인지 작업을 수행하는 것입니다.
• 에이전트의 고유한 능력에 더 적합한 일: 때로는 에이전트가 방대하고 다양한 비정형 정보를 지치지 않고 처리하고 종합할 수 있기 때문에 작업을 처리하는 데 가장 적합할 수 있습니다. 예를 들어, 에이전트가 지속적으로 들어오는 제품 기능 요청을 분류하고 요약한다고 상상해 보세요. 고객 지원 티켓, 커뮤니티 포럼 게시물, 내부 피드백 양식, 심지어 소셜 미디어 언급까지 여러 채널을 모니터링할 수 있습니다. 그런 다음 에이전트는 공통된 주제를 식별하고, 제품 영역이나 긴급도에 따라 요청을 분류하고, 잠재적으로 영향력이 큰 아이디어를 표시하고, 매일 아침 제품 팀에 가장 중요한 새로운 기능 요구 사항에 대한 간결하고 종합된 요약을 전달할 수 있습니다. 이를 통해 PM 팀은 명확하고 우선순위가 정해진 개요로 하루를 시작할 수 있으며, 수동으로 샅샅이 뒤지는 시간을 절약하고 매일 쏟아지는 피드백 속에서 귀중한 사용자 통찰력을 놓치지 않도록 보장합니다.

"대신 해주기" 시나리오의 핵심적인 심리적 장벽은 신뢰입니다. 사용자는 에이전트가 작업을 정확하고, 안전하게(특히 민감한 데이터의 경우), 그리고 안정적으로 수행할 것이라고 확신해야 합니다. 이러한 신뢰를 구축하는 것은 종종 에이전트가 자신의 계획, 진행 상황(작업이 오래 걸리는 경우), 그리고 마주치는 모호함에 대해 명확하게 소통하는 것을 포함합니다. 또한 주된 모드가 위임이더라도 사용자에게 적절한 수준의 감독과 필요한 경우 에이전트를 개입시키거나 수정할 수 있는 능력을 제공하는 것을 의미합니다.

작업이 이 스펙트럼의 어디에 속하는지 이해하는 것은 올바른 사용자 경험을 설계하는 데 매우 중요합니다. 사용자는 창의적인 활동에서 부조종사를 원할까요, 아니면 평범한 작업을 위한 완전 자율적인 대리인을 원할까요? 이 결정은 여러분이 만들고 있는 제품에 맞는 올바른 사용자 경험을 만드는 방법에 직접적인 정보를 제공합니다.

프레임워크 3: 작동 범위 - 개별 작업 vs. 다단계 워크플로우

사용자가 에이전트와 어떻게 상호작용하는지를 넘어서, 작동의 범위를 생각하는 것이 유용합니다: 개별적인 단일 작업을 위해 설계하고 있나요, 아니면 더 복잡한 다단계 워크플로우를 위해 설계하고 있나요?

개별 작업은 일반적으로 단일하고 비교적 독립적인 행동이나 요청입니다. 에이전트에게 "이 기사를 요약해 줘", "내일 날씨 예보를 찾아 줘", 또는 "내 온라인 쇼핑 카트에 계란을 추가해 줘"라고 요청하는 것을 생각해 보세요. 이러한 상호작용은 보통 더 짧고, 명확하고 즉각적인 결과물을 가집니다.

반면에, 워크플로우는 더 크고 포괄적인 목표를 달성하기 위해 시간의 흐름에 따라 수행되는 일련의 상호 연결된 작업을 포함합니다. "가족 휴가 계획하기"라는 워크플로우를 생각해 보세요. 이것은 단일 요청이 아닙니다. 다음과 같은 여러 개별 작업을 포함할 수 있는 여정입니다:

• 예산, 관심사, 이동 시간과 같은 기준에 따라 잠재적인 목적지 조사하기.
• 항공편 옵션 찾고 비교하기.
• 숙소 예약하기.
• 활동 식별하고 일정 잡기.
• 공유 가능한 일정 만들기.
• 아마도 다양한 단계에서 가족 구성원으로부터 피드백 수집하기.

더 큰 워크플로우는 종종 많은 개별 작업으로 구성되며, 그중 일부는 에이전트가 전적으로 수행할 수 있고, 다른 일부는 사용자 상호작용이 필요하며, 또 다른 일부는 사용자가 전적으로 처리할 수도 있습니다.

작업과 워크플로우를 구분하여 설계하는 것은 몇 가지 흥미로운 제품 고려사항을 제기합니다. 예를 들어, 단일 작업을 시작하는 것과 더 긴 워크플로우를 시작하는 것 사이에서 사용자 경험(UX)은 어떻게 달라지거나 진화해야 할까요? 더욱이, 에이전트가 워크플로우를 효과적으로 관리하려면, 한 작업의 결과, 컨텍스트, 그리고 생성된 모든 결과물이 후속 작업으로 어떻게 전달되는지를 처리하는 강력한 방법이 필요합니다. 이는 개별 작업과 전체 워크플로우에서 어떤 정보가 에이전트의 메모리에 저장되어야 하는지에 대한 더 정교한 접근 방식을 의미하며, 이를 통해 일관성을 유지하고 시간이 지남에 따라 학습할 수 있습니다. 이것들은 단지 기술적인 도전이 아니라, 더 큰 목표를 달성하는 데 진정으로 효과적인 파트너가 될 수 있는 에이전트를 설계하는 핵심입니다.

프레임워크 4: '학습'과 개인화의 수준

'학습'은 AI에서 의미가 많은 단어처럼 느껴질 수 있습니다. 제품 관점에서 저는 이것을 적어도 세 가지 뚜렷한 계층으로 나누는 것이 유용하다고 생각하며, 각 계층은 에이전트 제품에 다른 종류의 가치를 제공합니다.

첫 번째는 글로벌 학습(Global Learning)으로, 일반적인 능력 향상에 중점을 둡니다. 여기서 에이전트는 모든 사람을 위해 작업을 더 잘 수행하게 됩니다(보통 광범위한 데이터와 벤치마크를 기반으로). 이것은 보편적인 작업에 대한 핵심 역량을 지속적으로 향상시키는 것에 관한 것입니다. 이것을 기능 세트뿐만 아니라 기본 모델이나 시스템 수준에도 적용할 수 있는 고전적인 제품 피드백 및 반복 루프로 생각할 수 있습니다. 더 많은 사용자가 에이전트와 상호작용하고, 제품 제작자가 광범위한 시나리오에 걸쳐 성능에 대한 더 다양한 데이터를 수집함에 따라, 이 정보는 핵심 모델을 개선하거나, 프롬프트 전략을 다듬거나, 전체 제품을 향상시키는 데 다시 사용될 수 있습니다. 이러한 개선 사항은 일반적으로 모든 사용자에게 배포되어 모든 사람의 기본 능력을 높입니다. 이러한 지속적인 개선은 에이전트가 특히 일반적인 작업에서 시간이 지남에 따라 더 견고하고, 신뢰할 수 있고, 지능적으로 되기 위해 필수적입니다.

다음은 그룹 또는 조직 학습(Group or Organizational Learning)으로, 회사나 팀과 같은 특정 사용자 집합 내에서 워크플로우 표준화 및 최적화를 목표로 합니다. 예를 들어, 여러 직원이 고객 지원 티켓에 응답하는 것과 같은 유사한 다단계 프로세스를 수행하지만 각자 약간 다르게 수행하는 경우, 에이전트는 가장 효율적이거나 규정을 준수하는 버전을 학습하고 팀 전체에 걸쳐 표준화하는 데 도움을 줄 수 있습니다. 이는 흥미로운 질문을 제기합니다: 누가 "최고의" 워크플로우를 정의하는가 – 개인, 팀 리더, 아니면 많은 사람들을 관찰하여 도출되는가? 그리고 중요한 것은, "최고의" 워크플로우가 에이전트를 프로세스에 도입함으로써 통합될 수 있는 고유한 에이전트 기능을 활용하는 새로운 것인가?

마지막으로, 그리고 아마도 많은 응용 프로그램에서 가장 강력한 것은 개인 학습(Individual Learning) 또는 개인화입니다. 이것은 에이전트가 당신의 특정 선호도, 습관, 심지어 당신만의 "시그니처 무브"에 적응하는 곳입니다. 저는 제 아이들을 위해 생일 감사 카드를 보내는 매우 특정한 워크플로우를 가지고 있습니다. 사진을 선택하고, 특정 AI 예술 효과를 적용하고, 선물을 준 모든 사람에게 개인화된 메모를 작성하는 것을 포함합니다. 이 다단계 프로세스를 배우고 나서 제 방식에 완벽하게 맞춰진 일부를 돕거나 자동화할 수 있는 에이전트는 저에게 엄청나게 가치가 있을 것입니다.

일반적인 소비자 사용 사례의 경우, 이 개인적인 개인화는 에이전트가 진정으로 빛을 발할 수 있는 부분으로, 일반적인 지원을 넘어 사용자의 고유한 작업 및 생활 방식에 깊이 통합됩니다. 이것은 견고한 메모리와 개별 사용 패턴에 기반한 적응 능력에 크게 의존합니다. 반면에, 기업 사용 사례의 경우, 조직 또는 그룹 학습이 종종 상당한 가치를 창출하는 열쇠를 쥐고 있습니다.

프레임워크 5: '감탄' vs. '당연함'의 진화

AI에는 매혹적이면서도 때로는 좌절감을 주는 긴장감이 있습니다: 오늘날 사용자들을 감탄시키는 것이 내일은 금세 당연하게 여겨진다는 것입니다.

작년 12월에 Project Mariner Chrome 확장 프로그램을 처음 출시했을 때, 에이전트가 브라우저에서 클릭하고, 스크롤하고, 타이핑하는 것을 보는 것은 마법처럼 느껴졌습니다. 그것은 마치 에이전트를 위한 "Waymo 모먼트" 같았습니다 – 웹을 위한 자율주행을 엿보는 듯했죠. 텍스트 상자에 텍스트를 입력하는 것을 보는 그 첫 "감탄"은 부인할 수 없이 강력했습니다.

하지만 얼마 지나지 않아 신기함은 사라집니다. 질문은 바뀝니다: "좋아, 이걸 할 수 있군. 그런데 이제 내 브라우저도 좀 쓸 수 있을까?" 이것은 자연스러운 일입니다. 사용자들은 적응하고, 그들의 기대치는 높아집니다. 오늘날의 최첨단은 내일의 기본이 됩니다. 최첨단 AI 제품을 만드는 모든 사람에게 교훈은 분명합니다: 그 첫 "감탄"은 특히 지금 가능한 것에 익숙하지 않은 새로운 사용자들의 관심을 끌고 가능성을 보여주는 데 환상적입니다. 그러나 장기적인 가치는 핵심 사용자 문제를 효과적이고 안정적으로 해결하는 데서 나옵니다. "마법"은 신뢰할 수 있는 유용성으로 전환되어야 합니다. 새로운 것의 즐거움과 견고한 핵심 가치에 대한 지속적인 필요 사이의 균형을 맞추는 것은 끊임없고 중요한 행위입니다. 아마도 가장 중요한 교훈은 기술이 빠르게 발전하고 있고, 오늘 감탄을 자아내는 것이 내일은 당연한 것이 되기 때문에, 지금 당장 끊임없이 결과물을 출시해야 한다는 것입니다.

종합하기: 프레임워크에서 제품으로

물론 이 프레임워크들이 전부는 아니지만, 에이전트 디자인의 다면적인 도전과 기회를 분석하는 데 유용한 출발점을 제공합니다. 이것들은 제가 에이전트의 능력, 운영 컨텍스트, 원하는 사용자 경험, 그리고 사용자 기대치의 역동적인 본질에 대해 총체적으로 생각하고 있는지 확인하는 데 도움을 줍니다.

궁극적으로, 훌륭한 AI 에이전트를 만드는 것은 사용자를 이해하고, 작업에서 워크플로우에 이르는 스펙트럼을 이해하고, 인간-AI 협업의 미묘한 차이를 이해하고, 기능적일 뿐만 아니라 진정으로 즐겁고 개인화된 경험을 만들기 위해 AI를 활용하는 방법에 관한 것입니다.

AI 에이전트에 대해 생각할 때 어떤 프레임워크가 도움이 되나요? 여러분의 생각을 듣고 싶습니다

How I Think About Agent Design as a PM: 5 Product Frameworks

Key lenses: capabilities, environments, user experience, and the evolving nature of “learning.”

Thursday Thoughts on AIJaclyn Konzelmann