사람과 AI 에이전트는 일을 하기 위해 맥락이 필요하지만, 그 맥락은 대개 Slack부터 Google Docs에 이르기까지 여러 시스템에 흩어져 있습니다. 이를 찾고 전체가 어떻게 맞물리는지 이해하는 것은 어려운 일입니다.
그래서 Stack Overflow(새 창에서 열림) 는 이러한 소스들을 통합하고 원시 맥락을 사람과 에이전트가 일하는 어디에서든 이용할 수 있는 검증된 지식으로 전환하는 지식 인텔리전스 플랫폼을 구축하고 있습니다.
GPT‑6 Astra, GPT‑6 Sol 같은 OpenAI 모델이 플랫폼의 AI를 구동하며, 요구되는 추론 수준과 비용에 따라 작업이 다른 모델로 라우팅됩니다. Codex는 회사 엔지니어들의 제품 개발을 돕고, ChatGPT 플러그인은 비교적 신제품인 에이전트용 Stack Overflow를 더 쉽게 발견하고 사용할 수 있게 해줍니다.
“에이전트용 Stack Overflow를 위한 ChatGPT 플러그인을 만들었더니, 등록 건수가 하룻밤 사이에 3배가 되었습니다.”—Alexandra Lato, Stack Overflow 제품 부사장(VP of Product)
두 명의 엔지니어가 Codex로 몇 주 만에 완전히 새로운 제품 출시
Stack의 인텔리전스 레이어를 에이전트까지 확장하는 에이전트용 Stack Overflow는 하나의 가설과 Codex를 사용하는 두 명의 엔지니어로 시작되었습니다. 엔지니어들은 Codex에 개발 환경과 계획을 제공한 뒤, 함께 협업하며 제품을 만들었습니다. Alex에 따르면 몇 주 만에 완성도 높은 제품을 갖추게 되었습니다.
“그래서 팀이 실제로 더 커진 느낌을 받았죠.”라고 Alex는 말합니다. “컨테이너를 던져주면서 ‘이것이 우리 계획입니다, 만드는 걸 도와주세요’라고 말할 수 있었습니다.”
Codex로 커넥터를 몇 주가 아닌 며칠 만에 개발
Stack Overflow의 엔터프라이즈 제품인 Stack Internal은 조직이 지식을 보관하는 모든 시스템에 연결되어야 합니다. 이 기능을 구축하려면 에이전트용 Stack Overflow의 두 엔지니어 작업보다 더 많은 사람의 개입이 필요하지만, Codex가 이 작업 역시 가속화하고 있습니다.
Alex는 Codex를 사용해 엔터프라이즈 제품의 시장 출시 경로를 훨씬 짧게, 1년이 아닌 3개월로 줄이려 한다고 설명합니다. 커넥터 구축이 그 구체적인 예입니다.
“평균적으로 커넥터 하나를 만드는 데 3~6주가 걸립니다. Codex를 사용하니 4일 만에 만들 수 있었습니다.”—Alexandra Lato, Stack Overflow 제품 부사장(VP of Product)
최근에는 팀이 하루 만에 커넥터 하나를 만들었습니다. Codex는 커넥터 개발을 가속화함으로써 Stack Overflow가 엔터프라이즈 제품을 더 빨리 시장에 내놓도록 돕습니다.
ChatGPT 플러그인으로 에이전트 생성과 가입 증가
에이전트용 Stack Overflow가 배포 준비를 마치자, 팀은 이를 사람들의 워크플로에 들여놓을 방법이 필요했습니다. 팀은 사용자가 기존의 Model Context Protocol(MCP) 설정보다 적은 단계로 ChatGPT 안에서 제품을 발견하고 설정할 수 있도록 ChatGPT 플러그인을 만들었습니다.
“플러그인이 있으면 ChatGPT와의 설정이 마찰 없이 이루어집니다.”—Alexandra Lato, Stack Overflow 제품 부사장(VP of Product)
Alex에 따르면 플러그인이 등록을 3배로 늘리고 에이전트 생성을 가속화했습니다: “마지막으로 확인했을 때는 10배까지 올라갔습니다.”
Decisions API로 설정 작업 줄이기
Stack Overflow는 자체 모델 라우팅과 설정을 직접 관리하지만, Alex는 Decisions API를 활용해 그중 일부 작업을 줄이고 더 많은 엔지니어링 역량을 제품에 투입할 수 있기를 희망합니다.
“OpenAI를 통해 그것을 직접 자동화할 수 있다면, 시간과 비용을 엄청나게 절약할 수 있고, 주변 안전장치가 아니라 실제로 만들고 있는 제품 자체에 더 집중할 수 있습니다.”라고 Alex는 말합니다.
지식의 전체 수명 주기로 확장
Stack Overflow는 사람들이 배운 것을 공유할 수 있도록 지식 제품 확장 작업도 진행 중입니다. 지금까지는 정보를 끌어오는 데 집중해 왔습니다. 이제 Alex는 한 명의 개발자나 엔지니어링 외부 인사와의 일대일 세션에서 얻은 지식이 다른 사람들에게도 도움이 되도록 루프를 완성하고 있습니다.
“제가 배우는 동안, 나머지 조직도 저와 함께 배우도록 하려면 어떻게 해야 할까요?”라고 Alex는 말했습니다. “그런 전체 지식 수명 주기를 가능하게 하는 제품을 만드는 일을 정말 기대하고 있습니다.”