Codex가 출시되었을 때, 팀원 중 한 명이 나에게 물었습니다. “지난 몇 달 동안 우리가 만든 사용 사례들을 Codex가 한 번에 제거할 수 있다면 우리는 어떻게 해야 하나요?”
그 질문은 OpenAI에서 FDE가 무엇을 의미하는지의 핵심에 도달합니다. 우리는 고객들과 함께 일하여 그들이 직면한 가장 어려운 문제를 이해하고, 그들이 신뢰할 수 있는 솔루션을 만들어냅니다. 우리가 배우는 내용은 우리 제품을 형성하는 데 도움이 되며, 연구팀에게 해결해야 할 구체적인 문제를 제공합니다.
그것이 진전입니다. 몇 달마다 스스로를 구식으로 만들어도, 우리 FDE 팀은 자신의 역할을 잘 하고 있습니다.
2025년 초에 팀을 설립하여 우리가 “배포 격차”라고 부르는 것을 해소하고자 했습니다. 이는 모델이 할 수 있다고 보이는 것과 사람들이 작업을 수행하는 데 실제로 사용할 수 있는 것 사이의 간극입니다.
모델의 기능은 그 모델을 활용하기 위해 필요한 시스템과 프로세스보다 더 빠르게 발전하고 있습니다. 때로는 부족한 요소가 제품이 되기도 합니다. 때로는 모델이 벤치마크에서 잘 작동하지만 실제 환경의 변수와 제약 조건에서는 그 기능을 수행할 수 없습니다.
우리는 고객의 가장 어려운 문제에 집중합니다. 우리 모델이 오늘날에는 해결할 수 있는 부분에서는 제품팀과 고객과 함께 해결책을 반복 가능하게 만들고, 우리가 미처 해결하지 못하는 부분에서는 고객과 연구팀과 협력하여 격차를 파악하고 개선을 이루어냅니다. 우리의 목표는 각 과정이 다음 고객에게 더 나은 출발점을 제공하도록 하는 것입니다. 만약 우리가 이러한 문제를 해결하기 위해 FDEs가 필요하지 않은 수준으로 기준을 높인다면, 우리는 잘한 일을 한 것입니다.
존 데어라는 200년 역사의 농업 기업에게 주어진 과제는, 농부들에게 맞춤형 조언을 제공하는 방식을 확대하는 것이었습니다.
한 가지 예시는 See & Spray입니다. 이 회사는 카메라와 머신러닝을 활용하여 잡초를 식별하고 뿌려서 제거하는 정밀한 잡초 방제 기술을 사용합니다. 이를 통해 전체 밭을 처리하는 방식 대신 화학 물질 사용량을 최대 70%까지 줄일 수 있습니다.
하지만 그러한 이점을 실현하려면 농부들이 기술을 적절히 설정하고 계절을 계획하며 환경이 변할 때 방식을 조정할 수 있어야 합니다.
존 디어는 OpenAI의 API를 활용하여 지원을 개인화하고 확장 가능하게 만들었습니다.
AI는 농부들의 질문에 자연어로 답변할 수 있으며, 맞춤형 설정 지침과 권장 사항을 제공합니다. 또한 장비가 전체 잠재력을 발휘하지 못하는 경우를 파악하고, 농부들이 기술에서 얻는 가치를 이해하도록 도와줍니다.
기회는 단일 상호작용을 넘어서는 것입니다: 고객의 여정 전반에 관련된 지침을 제공하여 농부들이 장비를 더 잘 활용하도록 돕고, 효율성과 지속 가능성을 향상시킬 수 있습니다.
이것이 바로 OpenAI FDEs가 해결하고자 하는 과제입니다: 조직들이 복잡하고 실제 환경에서 실질적인 가치를 제공하는 시스템으로 발전하도록 돕는 것입니다.
하지만 문제들은 종종 넓게 펼쳐져 있으며, 확립된 정확한 기준이 없고, 해결 방안도 없습니다. 모든 사람은 아직 존재하지 않은 것을 만들고 싶어 합니다. 그 목표를 달성하기 위해 필요한 일을 하는 사람은 훨씬 적습니다.
“충분히 괜찮은” 기준을 높이면서 재능 있는 FDE를 찾는 것은 지속적인 실험과 적용을 의미했습니다.
결과부터 시작하세요
모든 FDE 팀 세션의 시작 시에, 저는 하나의 핵심 가치를 담은 슬라이드를 올립니다: “결과부터 시작하고, 성공을 위해 필요한 일을 하며, 그 다음에 규모를 확대한다.”
놀라운 데모는 실제 세계에서 작동하는지 묻는 사람이 나타나기 전에 큰 성과를 거둘 수 있습니다.
우리의 임무는 고객의 문제를 생산 환경에서 지킬 수 있는 기준에 맞게 해결하는 것입니다.
2025년 중반에, 우리는 15명의 FDE 팀이 대규모 반도체 고객과 10개 이상의 사용 사례를 다루고 있었습니다. 목표는 그들의 검증 프로세스를 AI 기반으로 만드는 것이었으며, 다음을 포함합니다:
지시된 테스트 생성
원인 분석 및 디버깅
아키텍처 조수
이 업계에서 프로젝트의 노력 중 약 70%는 검증 작업에 해당합니다. 기회는 매우 크고, 시작할 수 있는 곳도 많습니다.
며칠 전에 OpenAI에 합류한 일부 FDE들은 반도체 분야에서 근무한 경험이 없었습니다. 그들은 고객의 검증 팀과 협력하여 여가 시간에 칩 설계를 연구하고, 엔지니어들과 함께 시뮬레이션을 만들어 AI가 유용한 테스트를 생성하고 칩 고장을 정확하게 진단할 수 있는지 확인했습니다.
그러한 학습과 함께, 우리는 각각의 사용 사례에 맞는 맞춤형 하네스를 개발했습니다. 처음 3~6개월 동안 모두 생산 단계에 도달했고 초기 사용자가 증가했습니다. 결과로 얻은 성과는 다음과 같습니다:
AI 기반 지시형 테스트 생성을 통해 48%의 시간이 절약되었습니다.
커널 최적화를 통해 22%의 중간값 성능 향상이 발생했습니다.
시간 단위로 압축된 몇 주의 디버깅
우리가 이 모든 것을 다시 보았을 때, 수석 하드웨어 책임자가 물었습니다. “여러분은 여기 오기 전에 칩 설계자로 일했나요?”
우리의 FDEs는 첫날에 업계에 대해 알 필요가 없지만, 그 업계를 배우는 것은 그들의 책임입니다.
코딩 조수가 소프트웨어를 더 빠르게 개발할 수 있도록 하면, 고객의 비즈니스를 이해하는 것이 더욱 중요해집니다. 우리는 일반 전문가와 분야 전문가가 혼합된 팀을 구성합니다.
적절한 판단을 내릴 수 있는 충분한 지식이 필요하며, 현재 상황에 대한 가정에 의문을 제기할 만큼 충분한 호기심도 필요합니다.
예를 들어 생명과학 분야에서, 우리의 FDEs의 과학적 배경은 표적 검증 및 우선순위 결정, 유전자 발현 분석, 화학 합성 경로 재구성과 같은 임상 전 단계 약물 발견 작업을 수행하는 연구원들로부터 신뢰를 얻는 데 도움이 됩니다. 이러한 전문 지식 덕분에 그들은 이러한 워크플로우가 어떻게 개선될 수 있는지에 대한 통찰력 있는 판단을 제공할 수 있습니다.
성공을 반복 가능하게 만드세요
우리는 이러한 워크플로우가 가치를 제공할 수 있음을 보여주었지만, 각각의 경우에 너무 많은 맞춤형 통합이 필요하여 다른 팀으로 확장하기 어려웠습니다. 다음 과제는 그 결과를 유지하면서 소프트웨어를 더 쉽게 배포하고 유지 관리할 수 있도록 하는 것이었습니다.
그때쯤이 되면 코덱의 기능은 더욱 강화되었다. 한 FDE 팀이 그 코덱을 기반으로 애플리케이션을 재구축해 보았고, 이후 팀과 함께 사용 사례를 코덱을 핵심으로 하는 공통적인 시스템에 통합하는 작업을 진행했다.
사용자 정의 애플리케이션은 플러그인이 되었고, 일반적인 코덱 원리 위에 구축된 기술이 되었습니다. 코덱은 또한 인터페이스가 되어, 개별 사용 사례를 위해 작성했던 별도의 터미널 UI와 CLI를 폐기할 수 있게 했습니다.
각 프로젝트에서 약 90%의 커스텀 코드를 제거할 수 있었으며, 이로 인해 워크플로우를 구축하고 유지 관리하며 확장하는 방식이 바뀌었습니다.
Codex에 대한 중앙 집중식 개선을 통해 각 개별 사용 사례에 필요한 코드의 양을 줄일 수 있어 이익을 얻을 수 있습니다.
주요 기능들은 기술과 플러그인으로 묶여 있어 서로 쉽게 공유할 수 있으며 AI CoE에 의해 중앙에서 제어될 수 있었습니다. 이로 인해 한 팀에서 다른 팀으로 확장하는 것은 새로운 커넥터/MCP 서버를 설치하고 새롭게 테스트를 구축하며 작동시켜야 하는 것만큼 간단해졌습니다.
2026년 8월의 한 사례에서, 초기 배포에는 2개월이 걸렸습니다. 두 번째 팀에 솔루션을 확장하는 데는 하루가 걸렸습니다. 이후 팀들은 규모가 커질수록 더 빠르게 참여했습니다. 이러한 추세는 계속되었으며, 2026년 8월의 한 사용 사례에서는 초기 배포가 2개월이 걸린 후 두 번째 팀이 1일 만에 작업을 완료했습니다.
그것은 우리 자신을 쓸모없게 만드는 한 가지 방식입니다. 생산 단계에 이르기 위해 수행한 작업이 무엇이 중요한지 확립했습니다. 기본 제품이 개선됨에 따라, 우리는 많은 맞춤형 구현을 대체할 수 있었고 그가 제공하는 가치를 유지할 수 있었습니다.
이것이 바로 순서가 중요한 이유입니다. LLM을 활용하면 빠르게 개발할 수 있습니다. 그 속도를 이용해 유용한 결과물을 사용자에게 전달하고, 실제로 어떤 것이 성공하는지 배우고, 그 후에는 효과적인 방식을 확장할 수 있습니다.
같은 원칙이 모든 활동에 적용됩니다.
OpenAI Presence는 기업용 음성 및 채팅 에이전트 제품으로, 실제 고객의 도입을 통해 개발되었습니다. 이 작업은 Swarm(새 창에서 열림)로 시작하여 Agents API를 거쳐 발전했습니다. 오늘날 한 고객은 AI를 통해 전체 통화의 절반 이상을 처리하고 있습니다.
이러한 배포를 실제 환경에 적용하는 과정에서 어떤 문제에 맞춤형 솔루션이 필요한지, 그리고 다른 팀들이 활용할 수 있는 구성 요소가 무엇인지 알게 되었습니다. 우리는 이러한 구성 요소들을 Presence에 도입하여 개발자들이 기반 인프라를 재구축하지 않고 규제된 워크플로우를 자동화하기가 더 쉬워졌습니다. 각 배포는 제품의 발전에 기여했으며, 다음 고객에게 더 나은 시작점을 제공했습니다.
Thrive Holdings를 통해 OpenAI의 FDEs와 연구원들은 엔지니어 및 회계사들과 협력하여 크레타의 회계법인을 위한 Tax AI를 개발했습니다. 시범 운영 기간 동안 Tax AI는 7,000건의 세금 신고서를 처리했으며 처리량이 약 50% 증가했습니다.
가장 어려운 과제 중 하나는 임대 부동산의 회수 작업 자동화였습니다. 이를 위해 6주간의 엔지니어링 및 실무자 검토가 필요했으며, 90%의 정확도와 재인식률을 달성해야 했습니다. 이 작업을 통해 재사용 가능한 패턴이 만들어졌고, 이를 통해 Tax AI를 다른 복잡한 세금 체계에도 확장하기가 더 쉬워졌습니다.
팀들은 이제 회계 처리, 감사 및 IT 지원에 동일한 접근 방식을 적용하고 있습니다. 실무자의 피드백과 실제 사용을 통해 시스템이 개선되는 방식으로 시스템을 구축하고 있습니다.
등장하는 정보 격차를 해소하라
때로는 더 나은 제품이 우리가 만든 것을 단순화할 수 있지만, 때로는 모델 자체가 아직 그 일을 할 수 없습니다.
오늘날의 모델들이 이미 가능하게 하는 것을만 만들어낸다면, 지능의 격차를 발견하지 못할 것입니다. 연구는 이 격차를 해소해야 합니다. 따라서 우리의 중요한 프로젝트들은 고객과 FDE 및 연구 부서가 함께 협력하여 그 한계에서 시작됩니다.
우리는 이미 대규모 통신 고객과 함께 고객 서비스 플랫폼을 개발했으며, 그 고객은 이를 음성 서비스로 확장하고 싶어 했습니다.
음성 서비스가 고객 서비스 업무의 약 90%를 차지했습니다. 이러한 사례들은 채팅보다 처리 비용이 더 많이 들었으며, 억양, 톤, 지연/정확도 등을 생산 수준으로 만드는 데 다양한 새로운 기술적 문제들이 발생했습니다. 올바르게 처리하는 것은 그들의 사업에 큰 차이를 만들어 줄 것입니다.
스코프링 과정에서, 우리가 생산 환경에서 작업을 수행할 수 있는지 판단하기 위해 사용한 주요 평가 테스트에서 우리 모델의 점수는 약 60%였습니다. 우리는 그 모델의 능력 한계에 도달했습니다. 고객 서비스 시나리오에서의 함수 호출과 명령어 따르기 기능이 개선되어야 합니다.
우리는 고객에게 설명했으며, 연구를 작업에 포함시켰습니다. FDE는 고객과 함께 플랫폼을 구축하고 모델이 무엇을 해야 하는지 정의했습니다. Research는 기능 격차를 해소하기 위해 노력했으며, 여러 모델 스냅샷을 통해 고객의 요구사항에 맞게 진행 상황을 테스트할 수 있었습니다.
6개월 동안 주요 테스트에서의 성능이 약 60%에서 80%로 증가했고, 그 후 90% 이상으로 높아져서 생산에 필요한 수준에 도달했습니다.
생성된 음성 모델은 이제 해당 고객의 배포, 다른 맞춤형 고객 서비스 배포, 그리고 Presence를 통한 관리형 배포를 지원합니다. 한 고객의 비즈니스에서 발생한 문제는 많은 다른 고객에게도 유용할 수 있는 개선점을 파악하는 데 도움이 되었습니다.
각 부분이 중요했습니다. 고객은 모델이 아직 해결할 수 없는 문제를 해결하기 위해 노력했습니다. FDE는 그 문제를 파악하고 플랫폼을 구축하며, 처음부터 끝까지 참여도를 높이는 데 충분히 가까운 위치에 있었습니다. 연구를 통해 기반 모델의 기능이 향상되었습니다.
이는 우리 자신을 쓸모없게 만드는 또 다른 방식입니다. 오늘날의 모델들이 해결할 수 없는 문제를 미래의 모델들이 해결할 수 있는 능력으로 바꾸는 데 도움을 주는 것입니다. 우리의 노력이 가져오는 이익은 단순히 특정 고객과 함께 보낸 시간 너머까지 미칩니다.
더 어려운 문제를 찾아가세요
저는 AI가 사람들의 일상적인 업무에서 유용하게 활용될 수 있도록 돕기 위해 OpenAI에 합류했습니다. 그 점이 여전히 팀을 이끄는 원칙입니다. 저는 팀에게 종종, LLM 개발의 대부분의 경우에 옥캄의 날카로운 이빨 원칙이 적용된다고 말합니다—가장 간단한 해결책이 최선입니다. 첨단 연구로 정의되는 회사에서, 과장된 표현으로 얼룩진 산업 분야에서, 우리는 사람들이 신뢰할 수 있는 안정적인 제품을 만들고자 합니다.
목표는 각 협력 관계를 통해 다음 단계에서 더 나은 결과를 얻는 것입니다: 더 쉽게 배포할 수 있는 제품, 더 어려운 작업을 처리할 수 있는 모델, 또는 다음 고객에게 더 적은 맞춤형 작업이 필요한 것.
만약 해결하고 싶은 어려운 문제가 있다면, 우리는 당신과 함께 일하고 싶습니다. 그런 문제들을 도와서 해결하고자 한다면, 우리와 함께하시길 바랍니다.
그렇다면 우리가 몇 달에 걸쳐 만들어온 작업을 코덱이 처리할 수 있게 되면 어떻게 해야 할까요?
더 어려운 문제를 찾아보세요.