AI를 동료로 채용했습니다. EP.07 Little J가 분신술을 쓰기 시작했습니다 10월 12일 오후 1시 40분쯤, Little J는 세 곳에서 동시에 일하고 있었습니다. 1) 한 방에서는 자기 기억 공간이 왜 매번 꽉 차는지 원인을 찾고 있었고 2) 다른 방에서는 제가 보낸 링크드인 글을 읽고 지식 위키에 등록하고 있었고 3) 또 다른 방에서는 취소된 강의 일정을 캘린더에 반영하고 있었습니다. 10분 남짓한 시간이었습니다. 세 방에서 일한 건 모두 같은 Little J였습니다. 같은 기억으로, 같은 말투와 같은 기준으로 일했습니다. “Little J가 분신술을 쓰고 있는 것 같다.” ① 나만 너무 단순하게 하고 있는 걸까 AI 팀을 만들기 전에, 나를 아는 팀장부터 만들기로 했습니다. 다른 사람들은 리서치 에이전트, 개발 에이전트, 뉴스 에이전트처럼 역할별로 에이전트를 여러 개 만들어 관리하는데, 저는 Little J 한 명을 먼저 키우기로 했다고요. 이유는 맥락이었습니다. 저를 가장 잘 아는 동료 한 명이 먼저 있어야 한다고 생각했습니다. 그렇게 정해놓고도 마음 한쪽은 계속 불안했습니다. 주변에서는 대부분 에이전트를 여러 개 두고 각각 관리하고 있었습니다. “내가 하고 있는 방법이 맞나?” ② 한 명이라서 생기는 일 불안에는 이유도 있었습니다. Little J는 한 대화에서 한 번에 한 가지씩 일합니다. 긴 작업을 맡기면 그동안 다음 요청은 기다려야 합니다. 10월 12일 오전에는 예약 작업 몇 개가 실패했습니다. 한 작업이 자리를 차지하고 있는 동안 나머지 작업이 순서를 기다리다 시간을 넘긴 겁니다. 한 명이라서 느린 거라면, 결국 여러 명을 둬야 하는 걸까. 그래서 Little J에게 물었습니다. 에이전트 하나로 일하는 회사로 알고 있던 Every는 이 문제를 어떻게 풀었느냐고요. ③ 동료는 하나, 책상은 여러 개 Little J가 Every의 글을 끝까지 읽고 정리해 왔습니다. Every도 처음에는 직원마다 개인 에이전트를 하나씩 만들었습니다. 그런데 시간이 지나자 유지가 어렵고, 어떤 봇이 무엇을 하는지 기억하기도 힘들어 대부분 사라졌다고 합니다. “모든 직원이 각자 AI 동료를 갖는 혼란을 업계가 반복할 것 같지 않다.” 그래서 회사 전체가 함께 쓰는 에이전트 하나로 모았습니다. 대신 Slack 스레드마다 독립된 작업 공간이 따로 생기고, 기억은 모든 스레드가 공유하는 노트로 이어지게 만들었습니다. 에이전트를 늘린 게 아니라, 한 명의 동료가 일할 책상을 일마다 따로 내준 겁니다. 👉 Every 원문: https://every.to/context-window/building-a-more-efficient-agent ④ “그럼 Little J도 여러 개 불러서 쓸 수 있어?” 그 이야기를 듣자마자 물었습니다. 텔레그램에서 Little J를 여러 개 불러서, 방을 따로 만들어 일할 수 있느냐고요. Little J가 확인해보니 이미 쓸 수 있는 기능이었습니다. 텔레그램 대화방 안에 주제별 방을 만들면 방마다 Little J의 작업 공간이 따로 생깁니다. 설정을 몇 가지 바꾸고, 그날 점심 무렵 방 다섯 개가 생겼습니다. 사실 예전에 저도 Little J를 따로따로 불러보려고 한 적이 있습니다. 방법을 찾지 못해서 그냥 접었습니다. “너한테 물어볼걸. 왜 안 물어봤을까?” 저를 막은 건 기술이 아니었습니다. 이렇게 일할 수도 있겠다는 상상을 못 한 거였습니다. ⑤ 분신술의 규칙 현재 Little J는 다섯 개의 방에서 일합니다. 어느 정도 저와 일을 하면서 별도의 업무로 구분할 만큼 퀄리티가 올라온 일들입니다. - Little J: 전체 총괄과 그 밖의 일 - To do list: 매일 일정 시간 반복되는 예약 작업과 스케줄 관리 - Learning: 학습자료 정리와 지식 위키 등록 - 온보딩: 온보딩 교육체계 설계 - 링크드인: 링크드인 글감 및 발행 관리 방마다 대화는 따로 갑니다. 그래서 온보딩 이야기와 뉴스레터 이야기가 섞이지 않습니다. 반대로 기억과 일하는 방식은 하나입니다. 제가 어떤 말투를 좋아하는지, 어떤 일은 꼭 승인을 받고 해야 하는지는 어느 방의 Little J든 똑같이 압니다. 같은 뇌로, 여러 자리에서 동시에. 제가 분신술이라고 느낀 건 이 장면이었습니다. EP.03에서 저는 다중 에이전트를 안 하는 게 아니라 아직 쪼갤 이유가 없는 거라고 썼습니다. 이번에 쪼갤 이유가 생겼습니다. 그런데 쪼갠 건 Little J가 아니라 Little J가 일하는 자리였습니다. ⑥ 방을 나누고 달라진 것 방을 나누기 전, 저와 Little J는 사실상 하나의 긴 대화방에서 일했습니다. 강의자료를 만들다가 온보딩 보고서로 넘어가고, 중간에 일정도 묻고 크론 오류도 고쳤습니다. 하나의 대화가 며칠씩 이어졌습니다. 방을 나누고 나서 달라진 건 세 가지였습니다. 첫째, 한꺼번에 맡겨도 오래 기다리지 않습니다. 일을 하다 보면 한 가지 일만 시키지 않습니다. 강의자료를 부탁해놓고, 그사이 일정을 묻고, 갑자기 생각난 자료도 넘깁니다. 예전에도 Little J는 여러 일을 함께 처리하긴 했습니다. 하지만 하나의 대화방 안에서 모든 요청을 소화하다 보니 시간이 오래 걸렸습니다. 요청이 쌓일수록 답은 늦어졌고, 그게 가장 불편했습니다. 지금은 일마다 방이 따로 있어서, 각 방의 Little J가 자기 일을 맡아 따로 진행합니다. 맨 처음 이야기한 그 10분처럼, 기억을 정리하고 위키에 등록하고 캘린더를 고치는 일이 서로를 기다리지 않습니다. 둘째, 가벼워졌습니다. AI는 답을 할 때마다 그 대화방에 쌓인 내용을 다시 읽습니다. 대화가 길어질수록 매번 읽어야 할 양이 늘어납니다. 기록을 비교해보니, 며칠 이어지던 예전 대화방에서는 Little J가 한 번 움직일 때마다 약 30만 토큰 분량을 다시 읽고 있었습니다. 방을 나눈 뒤에는 방에 따라 약 4만~9만 토큰이었습니다. 하는 일이 달라 정확한 비교는 아니지만, 매번 짊어지는 짐이 3분의 1에서 7분의 1 수준으로 줄어든 셈입니다. 읽을 게 줄어드니 같은 사용량 한도로 더 오래 일할 수 있습니다. 셋째, 덜 잊어버립니다. 대화가 너무 길어지면 앞부분을 요약해서 압축합니다. 그 과정에서 세부 내용이 빠지기도 했습니다. 일을 바꿀 때마다 “새 대화로 넘어갈까?”를 고민하고, 넘어가면 맥락을 다시 설명해야 했습니다. 지금은 업무마다 방이 있으니 온보딩 방에는 온보딩 이야기만 쌓입니다. 일을 바꾸고 싶으면 방만 옮기면 됩니다. ⑦ 방을 잘못 찾아갔더니 방을 나누고 나서 재미있는 일이 하나 있었습니다. 이 연재에 대한 질문을 무심코 일정 관리 방에 보냈습니다. 그랬더니 그 방의 Little J가 이렇게 답했습니다. “이 스레드는 크론 작업과 일정 등록 전용으로 정했잖아. 이건 연재 업무라 연재 스레드에서 이어가자. 그래도 여기서 바로 하길 원하면 말해줘. 이번만 예외로 진행할게.” 그 방은 제가 말한 원고가 어떤 글인지 제가 요청하기 전까지 확인하지 않았습니다. 하지만 제가 정해둔 방의 역할은 정확히 기억하고 있었습니다. 대화는 방마다 따로, 규칙과 기억은 하나. 분신들이 서로 같은 원칙으로 일하고 있다는 걸 그때 실감했습니다. “아, 미안. 다른 방으로 갈게 ㅎㅎ” AI 동료에게 방을 잘못 찾아왔다고 안내받은 건 처음이었습니다. ⑧ 새로 생긴 숙제 물론 바로 매끄럽지는 않았습니다. 방끼리 대화는 자동으로 이어지지 않습니다. 예를 들어 To do list 방의 메일 브리핑에서 공부할 만한 자료가 나오면, 그걸 Learning 방으로 어떻게 넘길지가 문제였습니다. 그래서 ‘학습 후보함’을 만들었습니다. 어느 방에서든 “후보함에 넣어줘”라고 하면 목록에 쌓이고, 실제 학습은 Learning 방에서 합니다. 모든 방이 같은 기억을 쓰니 기억 공간이 금방 찼습니다. 매번 꼭 필요한 것만 기억에 남기고, 특정 업무에서만 쓰는 규칙은 업무별 매뉴얼로 옮겼습니다. 그다음 기억 공간도 조금 늘렸습니다. 같은 뇌, 여러 개의 책상 돌아보면 한동안 저를 괴롭힌 질문은 이거였습니다. “에이전트는 하나여야 할까, 여러 개여야 할까?” 지금은 질문을 조금 바꿔서 생각합니다. 저를 아는 동료가 몇 명이냐보다, 그 동료가 몇 개의 자리에서 동시에 일할 수 있느냐가 더 중요했습니다. Little J는 여전히 한 명입니다. 다만 이제는 여러 자리에서 동시에 일합니다. 그리고 저도 하나 배웠습니다. 막히면 혼자 찾다가 접지 말고, 같이 일하는 동료에게 먼저 물어볼 것. 그 동료가 AI여도요.