사람과 AI 에이전트가 일을 하려면 맥락(context)이 필요하지만, 그 맥락은 보통 Slack부터 Google Docs까지 여러 시스템에 흩어져 있습니다. 이를 찾고 전체가 어떻게 맞물리는지 이해하는 것은 어려운 일입니다.
그래서 Stack Overflow(새 창에서 열림) 는 이러한 소스들을 통합하고 원시 맥락을 검증된 지식으로 전환하여 사람과 에이전트가 일하는 어디에서든 사용할 수 있게 만드는 지식 인텔리전스 플랫폼을 구축하고 있습니다.
GPT‑6 Astra와 GPT‑6 Sol 같은 OpenAI 모델이 플랫폼의 AI를 구동하며, 필요한 추론 수준과 비용에 따라 작업이 서로 다른 모델로 라우팅됩니다. Codex는 회사 엔지니어들이 제품을 만들도록 돕고, ChatGPT 플러그인은 Stack Overflow for Agents를 더 쉽게 발견하고 사용할 수 있게 해줍니다.
“우리는 Stack Overflow for Agents를 위한 ChatGPT 플러그인을 만들었고, 그 결과 등록이 하룻밤 사이에 3배가 되었습니다.”—Alexandra Lato, Stack Overflow 제품 부사장(VP of Product)
두 명의 엔지니어가 Codex로 몇 주 만에 완전히 새로운 제품 출시
Stack의 인텔리전스 레이어를 에이전트로 확장하는 Stack Overflow for Agents는 한 가지 가설과 Codex를 사용하는 두 명의 엔지니어로 시작되었습니다. 엔지니어들은 Codex에 개발 환경과 계획을 제공하고, 함께 제품을 만들어 나갔습니다. Alex에 따르면 몇 주 만에 완전한 형태의 제품을 갖추게 되었습니다.
“그래서 팀이 실제로 더 커진 느낌을 받았습니다.”라고 Alex는 말합니다. “컨테이너를 던져주면서 ‘이것이 우리 계획이다, 만드는 걸 도와달라’고 말할 수 있었습니다.”
Codex로 커넥터를 몇 주가 아닌 며칠 만에 개발
Stack Overflow의 엔터프라이즈 제품인 Stack Internal은 조직이 지식을 보관하는 모든 시스템에 연결되어야 합니다. 이 기능을 구축하려면 Stack Overflow for Agents의 두 엔지니어 작업보다 더 많은 사람의 개입이 필요하지만, Codex는 이 작업 역시 가속화하고 있습니다.
Alex는 Codex를 사용해 엔터프라이즈 제품의 시장 출시 경로를 1년이 아닌 3개월로 크게 단축하고자 한다고 설명합니다. 커넥터 구축이 그 구체적인 예입니다.
“평균적으로 커넥터 하나를 만드는 데 3~6주가 걸립니다. Codex를 사용하니 4일 안에 만들 수 있었습니다.”—Alexandra Lato, Stack Overflow 제품 부사장(VP of Product)
최근에는 팀이 하루 만에 커넥터를 만들기도 했습니다. 커넥터를 가속화함으로써 Codex는 Stack Overflow가 엔터프라이즈 제품을 더 빠르게 출시하도록 돕습니다.
ChatGPT 플러그인으로 에이전트 생성과 가입 증가
Stack Overflow for Agents가 배포 준비를 마치자, 팀은 이를 사람들의 워크플로에 도입할 방법이 필요했습니다. 팀은 ChatGPT 플러그인을 만들어 사용자가 기존의 Model Context Protocol(MCP) 설정보다 적은 단계로 ChatGPT에서 제품을 발견하고 설정할 수 있게 했습니다.
“플러그인이 있으면 ChatGPT와의 설정이 마찰 없이 이루어집니다.”—Alexandra Lato, Stack Overflow 제품 부사장(VP of Product)
Alex는 플러그인이 등록을 3배로 늘리고 에이전트 생성을 가속화했다고 말합니다: “마지막으로 확인했을 때 10배까지 늘었습니다.”
Decisions API로 구성 작업 줄이기
Stack Overflow는 자체적으로 모델 라우팅과 구성을 관리하고 있지만, Alex는 Decisions API를 활용해 이 작업 중 일부를 줄이고 더 많은 엔지니어링 역량을 제품에 투입할 수 있기를 희망합니다.
“이를 OpenAI를 통해 직접 자동화할 수 있다면 시간과 비용을 크게 절약할 수 있고, 주변 가드레일보다 실제로 만들고 있는 제품 자체에 더 집중할 수 있습니다.”라고 Alex는 말합니다.
전체 지식 수명 주기로 확장
Stack Overflow는 사람들이 배운 내용을 공유할 수 있도록 지식 제품을 확장하는 작업도 진행 중입니다. 지금까지는 정보를 가져오는 데 집중해 왔습니다. 이제 Alex는 개발자나 엔지니어링 외부 인사와의 일대일 세션에서 얻은 지식이 다른 사람들에게도 도움이 될 수 있도록 루프를 닫고 있습니다.
“제가 배우는 동안 조직의 다른 구성원들도 저와 함께 배우도록 하려면 어떻게 해야 할까요?”라고 Alex는 말했습니다. “그러한 전체 지식 수명 주기를 가능하게 하는 제품을 만드는 것을 정말 기대하고 있습니다.”