AMA | 에피소드 1 - AI 에이전트의 인수: 과대 광고와 현실을 구분하기 (AG2 출연)

이번 AMA에서 우리는 가장 중요한 질문 중 하나를 다루며 AI 에이전트 인수 시리즈를 시작합니다: AI 에이전트와 관련하여 무엇이 과대 광고이고 무엇이 진짜인가요? 우리의 마케팅 팀장 Joules Barragan이 진행하고, Sahara AI의 CEO이자 공동 창립자 Sean Ren과 Chi Wang, AG2의 창립자이자 Google DeepMind의 연구원이 함께하며, 우리는 오픈 소스 에이전트 프레임워크의 미래, 소유권 및 귀속에서 분산형 AI의 역할, 그리고 진정한 자율 시스템 구축의 도전 과제에 대해 이야기합니다. 초기 단계의 개발자이든 최전선에서 연구하고 있든, 이 세션은 에이전틱 AI 생태계를 형성하는 혁신, 장애물, 기회에 대해 탐구합니다. 

링크: https://x.com/i/spaces/1eaKbWYmEOYGX

전사

Joules: 안녕하세요 여러분. 제 이름은 Joules이고 Sahara AI와 함께합니다. 오늘 여러분의 진행자가 될 것입니다. 오늘 우리는 AI 분야의 두 명의 놀라운 인물들과 함께하는 흥미진진한 AMA를 준비했습니다. 우리는 Sahara AI의 CEO이자 공동 창립자인 Sean Ren을 모셨습니다. 여러분은 그가 여러 번 이야기하는 것을 들어보셨을 겁니다. 그를 다시 모시는 건 언제나 기쁩니다. 그리고 우리의 특별 게스트인 Chi Wang도 있습니다. 이제 Chi, 이번 AMA는 당신의 첫 번째 시간입니다.

Chi: 환영합니다.

Joules: 여러분 중 모르는 분들을 위해 그는 AG2의 창립자이며, 이전에 AutoGen으로 알려졌던, 에이전틱 AI를 지원하기 위한 오픈 소스 에이전트 OS와 그 부모 오픈 소스 프로젝트 FLAML, AutoML 및 조정을 위한 빠른 라이브러리에서 15년 이상의 연구 경험을 가지고 있습니다. 제가 발음이 맞았나요, Chi?

Chi: Tsinghua. 

Joules: 그리고 그는 그의 분야에서 여러 상을 수상했습니다. 오늘 함께 해 주셔서 감사합니다, Chi.

Chi: 감사합니다. 여기 오게 되어 기쁩니다.

Joules: 훌륭합니다. 만약 여러분이 듣고 계시고 AMA 진행 중에 질문이 있다면, 아래 댓글에 남겨주시면 끝날 때 저희가 답변해 드리겠습니다. 아, 그리고 Sean에게 감사합니다. 제가 당신이 말을 할 수 있는 기회를 드리지 않았네요.

Sean: 저는 말하고 있지 않습니다. 계속 진행하세요.

Chi: 죄송합니다. 감사합니다.

Joules: Chi. AG2는 AI 에이전트 개발을 단순화하기 위한 방법으로 시작되었습니다. 궁금합니다, AI 생태계에서 당신이 본 문제는 무엇이었고 그것이 존재해야 한다고 정말 느끼게 한 이유는 무엇인가요?

Chi: 네, 질문 감사합니다. 저는 방금 소개한 것처럼 AutoML과 하이퍼 파라미터 튜닝에 대해 작업하고 있었습니다. 제가 AI 에이전트를 위한 AutoGen에서 작업하기 전에 AutoML에 대해 작업하면서, 언어 모델의 힘을 보았습니다. 저는 AutoML 아이디어를 이러한 언어 모델의 추론 파라미터를 조정하는 데 적용하려고 했고, 우리가 모델을 애플리케이션을 위해 사용하는 방식을 바꿀 때 얼마나 큰 차이가 나는지 보았습니다. 큰 차이가 생겼고, 그 점이 출발점이었습니다. 특히 모델이 더 큰 시스템에서 어떻게 사용되는지에 대한 것입니다. 이것은 이러한 새로운 유형의 모델에 대한 완전히 새로운 질문이었습니다. 이전 세대의 기계 모델과 비교할 때, 이들은 단순히 예측을 할 뿐만 아니라 열린 공간에서 열린 생성을 할 수 있습니다. 이들은 심지어 시스템이 작동하는 방식에 대한 새로운 제어 평면과 같은 새로운 두뇌가 될 수 있습니다. 이로 모든 디자인의 큰 공간이 열리게 됩니다. 그리고 여전히 나는 좋은 프레임워크를 보지 못했습니다. 제가 이 문제에 대해 작업하기 위해 2년 전쯤 시작했을 때, 이러한 새로운 유형의 모델을 중심으로 한 좋은 솔루션이나 운영 체제를 보지 못했습니다. 그래서 우리는 이러한 새로운 유형의 모델에 최적화된 새로운 유형의 운영 체제가 필요하며, 그 위에 다양한 응용 프로그램을 구축할 수 있도록 개발자들에게 힘을 주어야 합니다. 그래서 제가 본 누락된 요소가 바로 그것이었으며, 그것이 제 시작점이었습니다.

Joules: 정말 놀랍습니다. Sean, 당신은 AI 분야에 이미 10년 이상 계셨습니다, 맞죠? 지금 당신은 Web3와 AI의 교차점에 계신데 정말 놀랍습니다. 오늘날 AI 에이전트 기술에서 가장 흥미로운 혁신은 무엇이라고 생각하십니까?

Sean: 네, 저는 아마 AI 에이전트보다 더 일반적인 관점에서 바라볼 수 있을 것 같습니다. 이 새로운 시대에서 우리가 본 것은 사람들이 인터넷에 자신의 콘텐츠를 게시할 수 있게 되면서 서로가 생성하는 것을 효율적으로 탐색하고, 물리적 및 시간적 제한 없이 서로 소통할 수 있게 되었다는 것입니다. 그리고 오늘날 우리가 이 새로운 AI 및 AI 에이전트 시대를 바라볼 때, 저는 사람들이 흥미로운 애플리케이션과 콘텐츠를 더욱 창조할 수 있는 장벽이 낮아졌다고 느낍니다. 예를 들어, 코딩 에이전트를 생각해 보세요. 이는 비전문가와 비기술자들이 몇 시간 내에 애플리케이션, 전면 및 모든 사용자 상호작용 애플리케이션을 만들 수 있도록 하는 가능성이 매우 큽니다. 그리고 이는 우리에게 창의적인 아이디어를 소통할 기회를 더 확대했습니다. 그래서 제가 여기서 내다보는 것은, 사람들이 아이디어를 혁신하고 생산하는 훨씬 더 쉬운 방법들이 늘어나기 때문에, 사람들의 창의적인 아이디어를 보호하고 이러한 애플리케이션 및 수익화할 수 있는 것에 대한 소유권 문제에 대해서도 새로운 도전이 생길 것이라는 것입니다. 따라서 기본적으로 저작권 보호, 추적 가능한 소유권, 귀속에 대한 문제가 정말로 떠오르는 문제입니다. 그래서 우리는 Sahara AI를 시작하여 이 문제들을 해결하기 위해 시작했습니다. 이는 에이전트들의 능력과 능력을 향상시키는 것과 평행이라고 생각합니다.

Joules: 훌륭합니다. 정말 훌륭한 포인트입니다. 당신은 장벽을 낮추고 이 모든 AI 도구에 대한 개방적 접근이 증가하는 혁신에 대한 좋은 포인트를 말씀하셨습니다. 그 일환으로서 오픈 소스 운동이 있으며, Chi, AG2가 이 공간에서 앞장서고 있고 거대한 오픈 소스 운동이 성장하고 있는 것을 알고 있습니다. 여러분은 Google, IBM, Meta 및 많은 최고의 대학교에서 20,000명이 넘는 빌더들과 함께하고 있습니다. 오픈 소스 협력이 AG2의 발전에 어떤 가장 놀라운 방식으로 영향을 미쳤나요?

Chi: 네, 정말 좋은 질문입니다. 저는 6년 전부터 오픈 소스 프로젝트에서 작업을 시작했습니다. FLAML이라는 AutoML 라이브러리에서 시작했습니다. 그리고 AutoGen은 실제로 FLAML 내에서 시작되었습니다. 그래서 코드의 모든 행이 오픈 소스에서 작성되었으며, 몇 달 후에는 독립된 레포로 이동했습니다. 그 후에도 여전히 계속 오픈 소스였습니다. 개발이 닫혀 있지 않고, 처음부터 열린 개발이었습니다. 예를 들어, Chung Yu 교수는 FLAML에서 저와 오래 협력해 온 분이며, AutoGen의 주요 저자 중 두 명입니다. 그리고 그것이 특정 형태로 발전했을 때, 더 많은 사용자가 커뮤니티와 전 세계에서 참여하게 되었습니다. 

가장 놀라운 것은 우리가 AutoGen 프레임워크를 구축할 때, 매우 강력한 에이전트를 목표로 했다가, 빠르게 큰 벽을 직면하게 되었다는 것입니다. 매우 어려운 문제입니다. 이러한 메모리 모델들이 매우 강력한 가능성을 보였음에도 불구하고, 해결해야 할 문제들은 무수히 많습니다. 그래서 우리는 그 사명에 대해 혼자 나아가는 대신, 기본 프레임워크를 먼저 구축하고, 다른 사람들이 그 위에서 구축하고 아이디어를 시도하는 것을 더 쉽게 할 공통 인프라를 만드는 것이 더 효과적이라고 깨닫게 되었습니다. 그리고 그것이 실제로 제품이 발전해 나가는 가장 효과적인 방식으로 나타났습니다. 그래서 많은 아이디어가 실제로 커뮤니티에서 나왔고, 우리는 그 아이디어를 흡수하고, 그것들을 반복하고 다듬어 나가며, 프레임워크를 더 강화하는 데 기여했습니다. 예를 들어, 여러 에이전트가 같은 그룹에서 대화하고 서로 대화하며 같은 컨텍스트를 공유하고 함께 문제를 해결하는 그룹 채팅 대화 패턴이 있습니다. 이는 실제로 오픈 소스 협력에서 처음 제안된 실험적 기능이었습니다. 이것이 추가된 것은 예제일 뿐이었습니다. 그러나 실제로는 매우 인기 있는 기능으로 개발되고, 더 풍부한 기능으로 다듬어졌습니다. 그러나 계속 발전되고 사용되는 매우 유용한 패턴으로 입증되었습니다. 그리고 이러한 예시는 많습니다. 오픈 소스 기여가 커뮤니티를 매우 활발하게 만들었고, 라이브러리 자체도 흥미로운 발전을 이끌어냈습니다. 뿐만 아니라, 많은 사람들이 실제로 그들의 아이디어를 시도하고 있으며 때로는 주요 연구나 엔지니어링 팀보다 훨씬 더 일찍 그들을 선보이는 것도 놀랍습니다. 

예를 들어, 매우 발전된 기능에 대한 초기 고급 탐구가 진행되었으며, 오늘 우리가 보았던 깊이 있는 연구가 적어도 1년 정도 더 빠르게 오픈 소스 커뮤니티에서 진행되었습니다. 그들은 매우 강력한 결과를 달성했습니다. 그래서 이러한 초기 탐구와 매우 고급 기능들은 새 아이디어를 배우고 작업하는 제 방식에 근본적인 변화를 주었습니다. 그래서 현재 오픈 소스 커뮤니티는 저의 주요 영감의 원천이 되었습니다.偶然이 아닌, 제가 그들로부터 지속적으로 배워야 한다는 것입니다. 네. 그들은 때로는 도전적인 벤치마크에서 매우 높은 성능을 달성하기도 하고, 소프트웨어 공학에 대한 최고의 성능을 예로 들 수 있습니다. 네, 그렇기 때문에 이것이 제가 이 여정에서 배운 큰 배움입니다.

Joules: 네, 정말 놀랍습니다. 오픈 소스 개발은 이 공간에서 저를 놀라게 하지 않습니다. Web3는 오랫동안 오픈 소스에 관한 것이었고, 저는 2015년부터 여기에서 지내왔습니다. AI 커뮤니티가 오픈 소스에서 그렇게 많이 발전하고 있는 모습을 보는 것은 정말 놀랍습니다. Sean, 궁금합니다. 오픈 소스 AI와 분산형 AI는 같은 동전의 양면과 같습니다. 둘 다 힘을 커뮤니티의 손에 쥐어주려는 것이지만, 그 접근 방식은 다르고 서로 다른 것을 다룹니다. 이러한 두 접근 방식이 서로를 보완하거나 도전하는 방식은 무엇이라고 생각하십니까? 특히 이전에 언급하신 소유권 및 저작권 문제를 다루는 관점에서요.

Sean: 네, 제가 이 질문을 조금 더 세분화할 수 있는 좋은 질문이라고 생각합니다. 실제로 분산형 AI는 다소 과중한 용어가 되었고 많은 사람들에게 모호한 의미를 가질 수 있습니다. 오픈 소스 AI 또한 다양한 회사에 의해 과중하게 사용되었습니다. 예를 들어, Llama에 대해 말하자면, Llama는 오픈 소스 모델이라고 할 수 있을까요? 그들은 이를 오픈 가중치로 이해할 수도 있지만, 레시피와 모든 프로세스에 대해서는 전혀 오픈 소스가 아닙니다. 그래서 Joules의 질문으로 돌아가면, 그들은 공존할 수 있으며 서로를 보완할 수 있다고 생각합니다. 연구자 모자를 쓰면, 저는 오픈 소스 AI를 사랑합니다. 이는 기본적으로 과학 발전과 오픈 과학을 촉진하는 것입니다. 모든 사람은 DeepSeek이 제로에서 원으로 어떻게 만들어졌는지에 대한 모든 세부 사항을 알고 있습니다. 가중치뿐만 아니라 모델을 교육하는 데 사용된 모든 데이터도 볼 수 있기를 바랍니다. 

또 다른 좋은 예시는 인공지능 연구소에서 나온 OMO 모델입니다. 그들은 실제로 모델을 생성하는 데 사용된 모든 데이터 세트를 사전 훈련 및 후 훈련 단계에서 공개했습니다. 이를 통해 연구자들은 기존의 데이터 및 모델과 레시피를 기반으로 흥미로운 현상을 탐구하고 다음 반복을 개선하는 데 영감을 받을 수 있습니다. 저는 오픈 소스 AI는 과학의 기반입니다라고 생각합니다. 그것이 없었다면, 단순히 말하자면, 연구자들과 박사 과정 학생들은 산업의 현재 발전을 따라잡는 데 많은 어려움을 겪게 될 것입니다. 

한편, 분산형 AI의 정의는 데이터 세트와 모델의 소유권과 통제를 다시 소유자에게 돌려주는 것입니다. 오늘날 중앙 집중형 AI 패러다임에서 개발자와 데이터 서비스 제공자는 모두 AI 기업에 고용되어 일부 작업을 수행하며 최종 제품과 결과는 회사에 의해 통제되고 회사에 의해 수익화됩니다. 수익과 사용자가 애플리케이션 게이트를 통해 흐르게 되며, 회사가 이러한 돈과 혜택이 다양한 당사자 간에 어떻게 분배될지를 일반적으로 통제합니다. 오늘날 우리는 모델 개발자들이 꽤 괜찮은 삶을 살고 있으며 매우 높은 급여를 받고 있다는 것을 볼 수 있습니다. Open AI와 모든 큰 AI 모델이 제공하는 패키지를 살펴보세요. 그러나 데이터, 모델에 대한 피드백을 기여하는 수많은 사람들이 그들이 모델을 개선하는 데 어떤 기본적으로 유익한 기여에 대해서도 보상이 없습니다. 

그래서 저는 이러한 금전적 결과가 기여자에게 재분배되는 방식의 세트편향이 있다고 생각합니다. 그리고 그것이 분산형 AI가 파괴하려고 하는 것입니다. 그 방법론은 기본적으로 처음부터 시작하는 것입니다. 데이터 세트가 생성될 때, 우리는 공동 소유자와 주주가 누구인지 정확하게 알고 있습니다. 그 추적은 모델 소유자, 에이전트 소유자, 애플리케이션 소유자에게까지 이어집니다. 그런 후 이 추적을 사용하여 수익 공유를 통해 upstream 기여자에게 되돌려줄 수 있습니다. 이것이 분산형 AI의 희망입니다. 창작자와 기여자에게 모든 힘을 돌려줌으로써 이는 보다 지속 가능한 경제를 만듭니다. 각자가 자기 몫을 가져가는 것이죠. 이제 이 분배를 자율적이고 공정하며 알고리즘 기반의 방식으로 수행하는 방법에 대한 기술적인 도전이 이 질문을 훨씬 넘어서 있다는 점을 강조하고 싶습니다. 그리고 오늘 Sahara를 포함한 많은 연구 질문들이 그 문제에 대해 작업하고 있습니다.

Joules: 감사합니다, Sean. 정말 잘 말씀하셨습니다. Chi, 그 전에 하고 싶은 말이 있나요?

Chi: 아니요, 더 이상 없습니다.

Joules: 훌륭합니다. 조금 초점을 전환하고 싶습니다. 시간이 부족해지고 있는 것 같아서, 우리는 이 AI 에이전트들이 실제로 어떻게 사용되고 있는지에 대한 몇 가지 사례에 대해 이야기하고 싶습니다. 우리는 몇몇, 에이전트를 사용하여 이메일, 캘린더, YouTube 전사 및 웹 스크래핑 등을 자동화하는 소위 솔로프리너들을 보았습니다. 이전에 언급한 몇 가지 추가 사례가 있었죠. 어떤 경우가 정말 놀랍고, "와, 정말 멋지다"라고 생각하게 만들었나요?

Chi: 네. 많은 예제가 있습니다. 그러나 여기 커뮤니티와 가장 밀접한 예를 드리자면, AG2로 구축된 자율 거래 에이전트를 본 적이 있습니다. 그들은 에이전트를 사용하여 웹3 자산을 관리하고 항상 자동 거래를 수행합니다. 여러분이 잠들어 있을 때조차 에이전트는 잠들지 않으며, 24시간, 주 7일 자산을 관리하고 자동으로 사고 팔면서 포트폴리오를 늘립니다. 그것은 저에게 꽤 놀라운 사용 사례였습니다.

Joules: 네, 저는 DeFi에서 AI가 더 많이 사용되는 것을 봤습니다. 정말 신기하네요. Sean, 그에 대해 추가할 내용이 있나요?

Sean: 네, 내가 관찰한 것에 대해 추가하고 싶습니다. 자율 거래 봇이나 에이전트는 Web3에서 큰 일이 되고 있습니다. 비록 그들이 현재는 완전하게 다가가지도 못하고 사용 가능하지 않다는 점을 반박하겠습니다. 그들은 더 프로토타입이나 MVP 개념일 뿐이며, 잘 작동하는 것을 볼 수 있습니다 - 예를 들어, 이 에이전트가 비트코인 100달러를 솔 100달러로 교환할 수 있습니다. 이는 성공적으로 수행될 수 있습니다. 하지만 사용자의 모호한 의도를 수용하고, 예를 들어, 제가 특정 종류의 미미 코인에 대해 10,000달러를 사용하길 원한다고 하더라도, 그 자금을 어떻게 할당할지를 아는 것은 여전히 매우 모호합니다. 이러한 지시를 주면 거래 에이전트가 이를 수용하고, 실현 가능한 결과를 낼 수 있을까요? 우리는 아직 그 지점에서 매우 멀리 떨어져 있습니다. 저는 그것이 적어도 1년 정도는 더 필요할 것이라고 생각합니다.

그래서 본론에 들어가면, 우리는 규칙 기반, 프로그래밍 방식의 AI에서 더 많은 행동 지향적 AI로 전환하면서 매우 큰 발전을 보였습니다. 우리는 AI가 인간의 자연어 코멘트를 이해하고 있는 것을 볼 수 있습니다. 이러한 코멘트들은 종종 불완전하게 설명되기도 하죠. 그럼에도 불구하고 그들은 여전히 합리적인 행동과 가능성을 가진 행동을 취할 수 있습니다. 그렇기 때문에 이는 큰 도약입니다. 우리는 이것이 올바른 일을 수행하기 위해 더 많은 성과를 내기 위한 장애를 낮추기를 기대하고 있습니다. 예를 들어, 저는 모든 종류의 지갑에 대해 매우 익숙하지 않으며, 아마도 몇 가지에만 익숙할 것입니다. 하지만 저에게 모든 DEX에서 작동하고 실행할 수 있는 에이전트를 제공할 수 있을까요? 이는 실제로 향후 대중 채택에 매우 도움이 될 것입니다.

Joules: 네, 여러분 두 분이 정말 좋은 점을 지적해 주셨습니다. 이 에이전트들이 점점 더 많은 일을 자동화하고 자율성이 생길수록, 완전한 자율성은 여전히 매우 큰 도전 과제입니다. 두 분은 오늘날 AI 에이전트를 진정으로 자율적으로 만들기 위한 가장 큰 장애물이 무엇이라고 생각하는지, 우리가 무엇을 기다리고 있는지에 대해 공유해 주실 수 있으신가요? Sean, 예를 들어, DeFi 에이전트에 대해 말씀하셨을 때, 우리는 여전히 1년 정도 여전히 멀리 있다고 하셨죠.

Sean: Chi가 먼저 말씀해 주시죠.

Chi: 알겠습니다. 만약 여러분이 생각해보신다면, 에이전트를 자율적으로 돌리는 것이 어렵지는 않습니다. 그들이 올바른 일을 자율적으로 하고 자기 수정하는 것을 시간 내에 하는 것이 어렵습니다. 왜냐하면 단순히 그들이 계속 작업을 하도록 하고 싶다면, 지시를 주고 계속 운행할 수 있습니다. 그러나 그들은 어느 순간 잘못된 일을 할 수 있습니다. 만약 그들이 뭔가 잘못하기 시작한다면, 점점 더 잘못된 방향으로 나아갈 수도 있죠. 이는 인간과의 큰 차이점입니다. 인간이 자율적으로 행동하더라도 우리는 모두 또한 실수를 저지릅니다. 우리는 항상 올바른 길에 있을 수는 없지만, 가끔은 우리는 알게 되고, "오, 나는 지금 어리석은 행동을 하고 있다. 내 행동을 바꿔야 해"라고 깨닫죠. 저는 이것이 에이전트에게 결여되어 있는 큰 능력이라고 생각합니다. 우리가 이를 해결할 수 있다면, 그들은 과제를 자율적으로 해결하는 데 매우 큰 진전을 이루게 될 것이라고 생각합니다. 그러나 한 발 더 나아가 보시면, 인간마저도 정말로 자율적이지 않습니다. 만약 동료에게 어떤 일을 맡겨서 그들이 자동으로 할 수 있다 하더라도, 그들이 항상 당신이 원했던 대로 하고 있지는 않습니다. 당신은 여전히 그들에게 더 많은 지시와 피드백을 제공해야 하지요.

그리고 인간은 현재 에이전트보다 높은 수준의 자율성을 가지긴 하지만, 그들도 완전 자율적이지는 않습니다. 따라서 완전 자율성에 대한 정의에 따라 병목 현상은 다를 수 있습니다. 인간 수준의 자율성에 도달하게 되면, 우리는 더 나아가, "더 나은 수준으로 할 수 있을까?"라는 질문을 해야 할 것입니다. 왜냐하면 사람들은 당신과 함께 더 오랜 시간 동안 일하고 당신의 습관을 더 잘 알게 되어 점점 더 자율적으로 행동할 수 있기 때문입니다. 결국에는 그들이 당신의 밀착 후속 조치 없이도 대부분의 일을 처리할 수 있게 됩니다. 에이전트도 그런 능력을 가져야 할 것입니다. 현재의 병목 현상을 해결하면, 그들이 시간의 경과에 따라 능력을 향상시키고 점점 더 자율적으로 변할 수 있기를 원합니다. 처음부터 모든 것을 홀로 처리하는 것이 아니라, 시간이 지남에 따라 인간의 간섭이 덜 필요하게 되는 것입니다.

Sean: 네, Chi가 말한 내용에 대해 빠르게 추가하자면, 저는 그가 하는 말에 동의하며, 우리는 오히려 프로그래밍 AI에서 점점 더 명시적이어야 하는 것에서 목표 지향적인 AI로 이동하고 있다는 생각이 듭니다. 그들은 높은 수준의 목표를 취하고 그 목표를 실현하려고 노력할 수 있습니다. 그러나 우리는 여전히 그 스펙트럼의 끝에서 매우 멀리 떨어져 있다고 생각합니다. 그리고 또 하나의 큰 발전은 도구를 사용하는 에이전틱 기능입니다. 이는 이전 세대의 AI에서는 보기 어려운 일입니다. AI는 브라우저, 데이터베이스, Microsoft Office를 사용하고 Twitter에 접근하며 목표를 달성하기 위해 여러 가지 조합 작업을 수행할 수 있습니다. 그래서 우리는 이러한 전환의 시작점에 있으며, 매우 흥미로운 발전이 이루어지고 있다고 생각합니다. 그러나 사람들이 이르지 않기를 바랍니다, 우리는 여전히 이 지점에서 많은 거리가 있습니다.

Joules: 네, 여러분 두 분이 정말 좋은 포인트를 지적하셨습니다. 이것은 정말로 흥미로운 생각입니다. 특히 Chi가 언급하신 점이 좋습니다. 인간과 동료에 대해 언급하신 부분은, 그들이 과연 정말로 자율적인지에 대해 생각해보는 데 있어 깨달음을 주는 부분 같았습니다. 저는 이 점을 더욱 깊이 파고들고 싶습니다. 에이전트가 발전함에 따라 그들이 우리가 작업하는 방식을 재편성한다는 것이죠. 어떤 사람들은 단순히 우리의 도우미가 될 것이라고 생각하고, 다른 사람들은 그들이 많은 직업을 대체할 것이라고 두려워합니다. 여러분 두 분은 어디로 나아갈 거라고 생각하십니까?

Joules: 먼저 Chi가 말씀하실까요?

Chi: 저는 빠르게 말할 수 있습니다. 아, 그래 가세요. 네, 정말 어려운 질문입니다. 저는 AI 에이전트들이 직무 배분을 변화시킬 것이라고 생각합니다. 여러 가지 변화를 우리는 모두 상상할 수 있습니다. 하지만 하나의 경향은 AI 에이전트들이 개인이나 소규모 팀들이 더 많은 것을 성취할 수 있도록 도와줄 것입니다. 그래서 우리는 더 많은 소규모 팀들이 놀라운 일을 하게 될 것이라고 생각합니다. 이것이 향후 직무 배분의 한 유형 변화일 수 있습니다. 제가 또 강조하고 싶은 점은, 우리가 미래에 AI가 해결할 수 없던 문제를 다시 해결해야 하는 새로운 직업이 생길 수 있다는 점입니다. 만약 우리가 그 문제를 고민한다면, 새로운 기회를 창출할 수 있을 것입니다.

Sean: 맞습니다. 우리는 AI 에이전트의 모더레이터와 같은 새로운 직업 유형이 탄생할 것으로 이미 예측했습니다. 만약 오늘날 그들이 목표를 유지하는 데 도전이 있다면, 우리는 그들을 감시하기 위해 인간의 도움이 필요하게 될 것입니다. 그리고 많은 에이전트들이 자율적으로 또는 반자율적으로 온라인으로 운영될 것이므로, 우리는 그들을 조정할 수 있는 좋은 사용자 경험(UI)을 모더레이트할 필요가 있습니다. 그래서 결과적으로 모든 일의 결정자는 여전히 인간이라는 것입니다. 우리는 인간이 우리 에이전트-인간 사회의 일체로서 결정-makers 역할을 할 것입니다. 우리는 그들에게 우리가 원하지 않는 지루한 작업을 맡기고, 그로 인해 우리가 에이전트와 함께 협력할 수 있는 새로운 흥미로운 작업을 창출하려고 합니다. 이는 아마도 계속 진행될 것이며, 그 중간적인 변화가 일어날 때까지는 이어질 것입니다. 그런 점에서 에이전트는 시스템 역할을 할 것입니다. 비록 자율주행 에이전트를 보조하는 역할로 구분할 수 있지만, 서로 충돌하지 않습니다. 그래서 저는 이 경향이 지루한 일들이 가능한 한 대체될 것이며, 많은 지루한 작업들이 여전히 인류의 고유한 물리적 상호작용을 요구할 것이라고 확신합니다.

Joules: 훌륭합니다. 우리는 이러한 미래에 다가가면서, 모든 AI 개발자가, AG2, Sahara AI 또는 기타 AI 프로젝트에서 작업하든 간에, AI 및 특히 AI 에이전트를 설계할 때 고려해야 할 하나의 사항은 무엇이라고 생각하십니까?

Chi: 네, 제 생각에는 주목해야 할 한 가지 중요한 측면은 이 에이전트들이 실수를 할 수 있으며, 바람직하지 않은 결과를 낼 수 있으며, 실패할 수 있다는 점입니다. 따라서 처음에 이러한 가능성을 고려하고 오류 허용성과 안전 장치를 추가하면 성공할 가능성을 높일 수 있습니다.

Sean: 네, 저는 Sahara AI의 가치를 반영하고자 합니다. 우리는 기여자들에게 힘과 소유권을 돌려줘야 합니다. 에이전트를 구축할 때, 데이터 세트 소유자, 에이전트 교육을 위한 컴퓨팅 제공자 및 모두의 레시피들을 잊지 말아야 합니다. 그들은 가치가 있으며 끊임없이 수익화되는 당사자들이 되어야 합니다.

Joules: 훌륭합니다, 두 분 모두 훌륭한 대답이었습니다. 청중의 질문을 위해 약간의 시간을 남겨두고 싶습니다. 몇 가지 질문이 있으므로 이를 확인해보겠습니다. 첫 번째 질문은: 에이전틱 AI에 새롭게 참여하는 개발자들을 위한 가장 가파른 학습 곡선은 무엇인가요? 시작하는 데 어떤 팁이 있나요?

Chi: 네, 제 경우에 에이전트 API에 대해 생각할 때 몇 단계 앞서 생각하며 미래 지향적인 사고를 하려고 애씁니다. 그래서 전통적 소프트웨어에서의 큰 패러다임 시프트가 이루어질 수 있습니다. 이는 전통 소프트웨어의 기능 프로그래밍이나 객체 프로그래밍에 대한 생각에서 크게 벗어나게 됩니다. 많은 사람들에게 이것은 관심을 끌 수 있는 열린 질문일 수 있습니다. 그것들이 무엇인지에 대해 확실히 이해하고 있어야 합니다. 이러한 기술을 배운다면 이러한 기술을 오랫동안 활용할 수 있을지 아니면 얻은 기술이 빠르게 모호해질지 불확실합니다. AI 기술이 오늘날 매우 빠르게 발전하고 있기 때문에, 이번 달에 배우는 것들이 다음 달에는 관련이 없을 수도 있습니다. 그래서 저는 가장 유망한 방식으로 사고하는 경향이 있습니다. 에이전트를 단순한 강력한 능력과 자연어 인터페이스를 가진 애플리케이션으로 보면, 이는 새로운 유형의 소프트웨어 아키텍처의 일부가 될 것입니다. 

미래에는 에이전트 암체어 프로그래밍 방식을 사용할 수 있게 될 것입니다. 이것이 가장 폭발적인 생각이 될 것입니다. 그러나 그런 사고 패러다임에 익숙지 않다면 처음에는 매우 어려울 수 있습니다. 하지만 이러한 사고 방식을 활용한다면, 기존 소프트웨어를 작성할 때보다 훨씬 더 쉽게 문제를 해결할 수 있는 방법이 됩니다. 그래서 우리는 에이전트를 함께 활용할 수 있는 역할에 대해 생각하는 방법을 배우고, 그들이 함께 작업하는 방식을 가져오도록 도와줄 수 있습니다. 이는 비전통적이지만, 사람들이 이러한 접근 방식을 숙지하고 사유하면, 디자인 과정이나 논리적 과정이 훨씬 더 단순해질 수 있습니다. 물론 하위 수준 세부 정보를 처리할 수 있는 훌륭한 프레임워크가 필요합니다. AG2와 같은 프레임워크가 여러분이 이러한 고수준 프로그래밍 패러다임을 보다 체계적으로 활용할 수 있도록 도와줍니다. 여러분은 이 에이전트와 에이전트 AI 시스템을 훨씬 더 쉽게 다룰 수 있을 것입니다.

Sean: 네, 저는 추가적으로 말씀드리자면, 에이전트를 구축하는 것은 기존의 AI 또는 소프트웨어 모델 구축처럼 전통적인 컴퓨터 프로그래밍 관점에서 접근하는 것이 아닙니다. 에이전트를 작성하려면 다양한 도구와 API를 사용해야 하며, 데이터 및 다른 데이터베이스와 상호작용해야 합니다. 이는 매우 복잡한 계획을 생성해야 합니다. 즉, 여러 디지털 축이 서로 상호작용하고 오류 전파와 누적이 기존보다 훨씬 더 복잡합니다. 그래서 저는 에이전트 개발을 단순한 컴퓨터 프로그램 관점이 아니라 시스템으로 바라보아야 하며, 위험 평가 및 완화 방법을 생각해야 한다고 생각합니다.

Joules: 감사합니다. 둘 다 통찰력 있는 답변이었습니다. SIWA에 대한 질문이 몇 가지 있습니다. 모두 주의하세요, 이번 주 후반에 SIWA에 대해 구체적으로 논의하는 AMA가 Discord에서 있을 것입니다. 마지막으로 청중에게 질문할 시간이 있습니다. Sean과 Chi, 현재 AI 공간에서 스타트업을 위한 가장 큰 기회는 어디라고 보십니까? 인프라 도구, 특정 수직의 에이전트 등 어떤 것인가요?

Chi: 네, 특정 수직의 에이전트는 전반적으로 스타트업에 대해 진입 장벽이 가장 낮은 공간 중 하나라고 생각합니다. 특정 수직의 에이전트를 구축하는 데 필요한 주요 요소는 여러분이 깊은 도메인 지식에 대해 가지고 있으며 잘 알고 있어야 한다는 것입니다. 모든 사람이 더 이상이거나 덜이겠지만, 오늘날 제가 본 가장 성공적인 AI 에이전트는 여전히 정확하게 특정 도메인 전문 지식을 활용하는 방법입니다. 기본 모델은 이미 매우 강력하며 강력한 기본 기능을 가지고 있습니다. 하지만 진정으로 유용하게 만들기 위해서는 몇 가지가 여전히 부족합니다. 그 격차를 메우는 많은 기회들이 있으며 매우 다양합니다. 여러분이 다른 사람들보다 특정 도메인에서 더 깊이 이해하고 있다면, 여러분은 특정 하나의 문제를 훨씬 더 잘 해결할 수 있는 독특한 AI 에이전트를 구축할 수 있을 것입니다. 그러므로 일반적으로 이는 좋은 방법입니다. 물론 인프라 분야나 도구 분야에서 특별한 기술이 있다면, 강점을 활용하여 가능한 최선을 다하면 됩니다. 그래서 네, 제 대답은 그 질문에 대한 간결한 대답입니다.

Sean: 맞아요. Chi가 언급한 내용을 추가하자면, 에코 시스템 내에서 여전히 필요한 기본 툴이 부족하다고 생각합니다. 예를 들어, 우리는 좋은 에이전트 평가 환경과 리더보드가 부족합니다. 예를 들어, DeFi를 위한 거래 에이전트에 대해 동의할 수 있지만, 어떤 에이전트가 더 발전되어 있는지 확인하려고 함에도 불구하고 결론이 없다면 매우 초기 단계에 있을 것 같습니다. 몇 개월 후에 몇몇 성숙한 에이전트가 있을 때, 우리는 어떤 에이전트가 어떤 용도에 대해 더 잘 수행하는지 이해할 수 있는 전투 같은 인프라가 필요합니다.

Chi: 네.

Sean: 우리는 그러한 인프라 도구가 필요하고, 그 구축의 기회가 있다고 생각합니다. 물론 이것은 기존의 Web2 에이전트나 기본 모델 회사들이 수거하지 않을 것입니다.

Chi: 훌륭합니다.

Joules: 감사합니다. 시간이 다 되어가고 있습니다. 마지막으로 여러분이 조정할 생각이 있으신지 궁금합니다. Sean과 Chi, 이제 떠나야 할 시간이라면, 마지막 생각이나 강조하고 싶은 사항이 있으면 말씀해 주세요.

Sean: 저는 다시 강조하고 싶습니다. 이러한 에이전트의 능력을 향상시키는 것과 에이전트의 능력을 향상시키는 것과 마찬가지로, 이러한 에이전트를 개선하는 과정에서 기여자들의 기여를 추적하고 기록하는 것 또한 중요하다고 생각합니다. 특히 이런 수직의 에이전트에는 매우 구체적인 수익화 기회가 생깁니다. 그래서 Sahara AI를 포함하여, 우리는 이 생태계를 늘리고 이러한 방향에 더 많은 внимание를 기울이는 것이 필요합니다.

Chi: 흥미롭습니다. 그래서 저도 중요하게 생각하는 점은 오픈 소스 기여자들이 AG2 성장의 중요한 부분이라는 것입니다. 이 기여자들에게 보상을 제공하거나 신용을 주고, 그들이 계속 기여할 수 있도록 돕는 방법과 더 많은 사람들이 가입할 수 있도록 하는 아이디어들은 모두 제가 연령 속에 들고 있습니다. 네, 만약 그 문제를 해결할 수 있는 좋은 아이디어가 있다면, 저는 이를 시도해 보도록 하겠습니다. Sahara도 이와 관련해 좋은 해결책을 제시할 수 있을 것 같습니다. 저는 여러분의 진전을 지켜보는 것이 정말 흥미롭습니다.

Joules: 훌륭합니다. 두 분 모두에게 큰 감사를 드립니다. AG2의 Chi Wang과 Sahara AI의 Sean에게 감사드립니다. 오늘의 대화가 여러분에게 어떤 새로운 아이디어를 불러일으켰다면, AG2의 최신 정보를 확인하고, 탈중앙화 AI 운동에서 앞서 나가기 위해 Sahara AI를 팔로우하세요. 모두 나와 주셔서 감사합니다. 멋진 하루 되세요.

Sean: 저희를 초대해 주셔서 감사합니다. 감사합니다, 여러분.

Chi: 매우 감사드립니다. 감사드립니다.