열일곱 살 천광위가 보여 준, 경력에 얽매이지 않는 AI 시대의 창의력

열일곱 살이면 아직 장래에 무엇을 하고 싶은지 묻는 말을 자주 듣는다. 천광위는 이미 대규모 언어 모델의 기반 아키텍처 연구에 참여하고 있었다. 2026년 3월 16일 제출된 논문 「Attention Residuals」에는 장위, 쑤젠린과 함께 공동 제1저자로 이름을 올렸다.[2]

10월 15일, 그는 X를 통해 최근 Kimi를 떠났다고 밝혔다. 연산 커널, 어텐션 잔차 연결, 최적화 알고리즘 등 자신이 참여한 작업을 돌아보며, 당시 열여섯 살이던 자신을 믿고 채용해 준 두위룬에게 특히 감사를 전했다. 이 작별 인사에는 다음 직장이 공개되지 않았다.[1]

물론 이를 ‘신동 이야기’라고 부를 수도 있다. 하지만 그가 배우고 일한 흔적을 따라가면 더 생각해 볼 만한 질문이 생긴다. 한 젊은이는 어떻게 짧은 시간 안에 지식을 받아들이는 사람에서 최전선의 문제에 참여하는 사람으로 바뀔 수 있었을까? AI는 그 변화를 어떻게 키웠을까?

학습과 협업의 연결을 표현한 개념 삽화이며, 천광위 본인의 사진이 아니다.

성장 경로와 공개 기록

그의 성장을 ‘아무 기초도 없이 몇 달 만에 이룬 역전’으로 묘사하면 중요한 축적을 놓친다. 개인 웹사이트에는 2024년으로 표시된 결정 트리 프로젝트 글이 있다. 그는 일상의 관찰을 데이터로 정리하고 예측 모델을 학습시키려 했으며, 변수 선택과 추론 과정이 충분히 엄밀하지 않았다는 점도 스스로 짚었다. 이 작은 실험이 보여 주는 것은 관찰에서 질문과 데이터, 검증으로 나아가는 습관이다.[12]

그의 GitHub 프로필에는 Codeforces 계정 링크와 손동작 인식 프로젝트 gestureX도 있다. 알고리즘 연습과 프로젝트 제작은 이후의 대규모 언어 모델 연구와 같은 일은 아니다. 그래도 이런 공개 기록은 새로운 분야에 빠르게 진입하는 힘이 기존에 쌓은 실천 역량에도 바탕을 둔다는 점을 알려 준다.[15]

더 이른 공개 기록은 2023년까지 거슬러 올라간다. 그의 프로젝트 페이지는 OpenTeens를 청소년을 위한 오픈소스 커뮤니티로 소개하며 자신을 공동 발기인으로 명시한다. 같은 해 오픈소스 행사의 주최 측 일정표도 천광위를 같은 자격으로 소개했다. 프로젝트 페이지에는 손동작 인식과 해변 쓰레기 탐지 등의 시도도 올라 있다. 지속해서 무언가를 만들고 커뮤니티에 참여한 경험이므로, 2025년에야 처음 AI를 접했다고 단순하게 요약할 수는 없다.[17][18]

2025년 2월의 중고등학생 해커톤은 또 하나의 계기였다. 그는 ThirdArm 관련 구상을 가지고 참가해 둥커한을 만났고, 이후 더 앞선 연구자와 문제를 접하기 시작했다. 같은 해 여름 Tilde Research에서 인턴으로 일한 뒤 11월 Kimi에 합류했다. 2026년 3월에는 AttnRes 논문이 공개되었다.[2][5][6][23]

개인 글, 연구 논문, 기관 기록, 본인의 작별 인사를 바탕으로 정리한 연표다. 초기에 머신러닝을 접한 시기와 나중에 Transformer 연구에 집중한 시기는 서로 다른 단계다.[1][2][5][11][12][14][18][23]

2026년 4월 11일 칭화대학교 야오반 세미나 공고는 그와 장위를 발표자로 명시하고, 두 사람을 문샷 AI Scaling 팀의 연구자이자 AttnRes의 주요 저자로 소개했다. 구체적인 연구 교류 기록으로, 그의 작업에 이미 동료 연구자들이 논의할 만한 내용이 담겨 있었음을 보여 준다.[14]

AI에 질문하던 학생이 동료 연구자의 눈에 띄기까지

천광위는 선전 출신이며 영어 이름은 Nathan Chen이다. 2026년 3월 논문 발표 당시에도 고등학생이었다. 2025년 여름 Tilde Research에서 인턴으로 일했고, 같은 해 11월 Kimi에 합류했다. 보통 대학이나 대학원에 들어간 뒤에야 마주치는 여러 단계를 이미 거친 셈이다.[6][23]

그는 자신이 쓴 글에서 2025년 중고등학생 해커톤에 참가한 뒤 둥커한을 알게 되었고, 그의 소개로 DeepSeek 연구원 위안징양과 교류하게 되었다고 회고했다. 입문할 때는 논문에서 출발해 이해하지 못한 부분을 캡처한 뒤 Gemini에 설명을 요청하고 거듭 질문했다. 동시에 GitHub 코드와 연구자들의 블로그도 읽었다. 중요한 판단이 필요할 때는 여전히 사람인 멘토에게 조언을 구했다.[5]

이 방법의 가치는 막힌 부분에 더 빨리 답을 얻을 수 있다는 데 있다. 수식 하나, 개념 하나, 코드 한 토막을 이해하려고 다음 수업까지 기다릴 필요가 없다. 학습자는 눈앞의 문제에 맞춰 오가며, 다시 유도하고 구현하고 검증할 수 있을 때까지 이해를 이어 갈 수 있다.

AI의 설명도 틀릴 수 있다. 이해한 내용은 결국 논문, 코드, 실험으로 확인해야 한다. 천광위가 나중에 공개한 Triton과 FlashAttention 튜토리얼은 GPU 메모리 접근과 커널 구현을 구체적으로 다룬다. 독자는 그가 얼마나 빨리 배웠다는 이야기만 듣는 대신, 코드를 따라가며 그의 이해를 직접 살펴볼 수 있다.[8]

그의 공개 기록에는 시행착오도 있다. 2025년 5월 최적화 알고리즘 과제를 기록한 글에서, AI로 개념을 이해하고 자료를 찾으며 유도와 실험을 진행했지만 학습이 끝난 뒤 과제의 뜻을 잘못 이해했다는 사실을 깨달았다고 썼다. 그는 그 과정과 문제점도 그대로 남겼다. 학습 속도가 빨라져도 실수는 함께 생길 수 있으며, 오류를 찾아 설명하는 일 자체도 역량의 일부라는 점을 보여 준다.[21]

그의 학습 과정은 동료들이 그를 발견할 수 있는 통로도 남겼다. 본인의 설명에 따르면, 기술에 관한 생각을 공개한 덕분에 실리콘밸리 AI 스타트업의 책임자가 그를 알게 되었고, 대화와 인턴 기회로 이어졌다. 이후 Tilde의 오픈소스 프로젝트 MoMoE는 Nathan Chen을 저자 명단에 올렸다. 구체적인 협업의 결과가 남은 것이다.[5][7]

MoMoE는 혼합 전문가 모델의 구현, 특히 학습과 미세 조정 때의 메모리 효율과 연산 성능을 다룬다. 이후 AttnRes가 다룬 층간 정보 결합과는 다른 문제지만, 알고리즘을 이해하는 데서 나아가 하드웨어에서 효율적으로 작동하게 한다는 비슷한 지향이 보인다. 저자 명단은 그가 프로젝트에 참여했다는 사실을 확인해 주지만, 명단만으로 각자가 어떤 코드를 완성했는지까지 나눌 수는 없다.[7]

이 점은 특히 젊은 사람들이 참고할 만하다. 문제를 깊이 생각하고, 작동하는 것을 만든 뒤, 그 과정을 글로 남기면 낯선 사람도 자신의 작업을 직접 평가할 수 있다. 개인 웹사이트, 기술 블로그, 오픈소스 기여는 이력서 외에 실력을 보여 주는 증거가 될 수 있다.

공동 제1저자는 실제로 무엇을 했나

천광위가 참여한 Attention Residuals는 대규모 언어 모델의 서로 다른 층 사이에서 정보를 어떻게 전달하고 모을지 연구한다.

일반적인 잔차 연결은 앞선 각 층의 출력을 계속 더한다. AttnRes는 모델의 깊이 방향으로 어텐션을 도입해, 뒤쪽 층이 앞선 표현에 선택적으로 가중치를 부여하고 종합하게 한다. 층과 층 사이의 정보 결합을 다루는 기술이므로, 챗봇이 ‘더 앞서 나온 한마디를 기억하는 것’이라고 단순하게 이해해서는 안 된다.[2][3]

이 설계를 대규모 학습에 적용하려면 GPU 메모리와 통신 비용 문제도 해결해야 한다. 쑤젠린은 연구 회고에서 최초의 발상과 소규모 실험은 자신이 시작했다고 설명했다. 이후 천광위와 장위가 더 큰 규모의 검증에 참여했고, 함께 Block AttnRes 설계를 제안했다. 층을 블록으로 나누어 구현에 드는 비용을 낮추는 방식이다.[4]

편집부가 그린 원리 개념도다. 일반 잔차 연결은 계속 더하고, Full AttnRes는 앞선 층의 표현을 선택하며, Block AttnRes는 블록 사이에서 선택한다. 전체 네트워크 구조를 그린 그림은 아니다.[2][3]

이는 그의 기여가 원리 이해, 방안 설계, 공학적 제약 해결에 걸쳐 있었음을 보여 준다. 유효한 아이디어도 실제 시스템에 들어가려면 실험과 구현을 더 거쳐야 한다. 젊은 연구자도 그 과정에서 핵심 업무를 맡고, 경험 많은 연구자와 함께 성과를 인정받을 수 있다.

프로젝트 공식 자료에 따르면, 해당 스케일링 실험에서 Block AttnRes는 기준 모델이 1.25배의 학습 연산량을 써야 도달하는 검증 손실 수준에 도달했다. 환산하면 같은 손실 수준에 필요한 연산량이 약 20% 적다는 뜻이다. 이 수치는 특정 실험 조건에 따른 것으로, 모든 모델이나 Kimi 전체의 실제 비용이 20% 줄어든다는 의미로 바로 받아들일 수는 없다.[3]

그가 제안에 참여한 Block AttnRes는 이후 Kimi K3에도 적용되었으며, 기술 보고서에도 이 설계가 명시되어 있다. 기여의 효과가 더 커질 수 있는 경로가 생긴 것이다. 기반 기술의 개선은 모델 시스템에서 반복해 사용된다. 개인이 맡은 일부 작업도 팀과 소프트웨어를 거쳐, 그 사람이 직접 일한 시간을 훨씬 넘어서는 범위에 영향을 줄 수 있다. K3의 전체 성능은 여러 기술과 학습 작업이 결합한 결과이며, 특정 설계나 한 사람에게 모두 돌릴 수는 없다.[11]

연산 커널과 최적화 알고리즘도 연구했다

천광위는 작별 인사에서 KDA 연산 커널 최적화를 초기 작업 중 하나로 꼽으며 장위와 여러 설계를 시도했다고 밝혔다. 연산 커널은 알고리즘을 GPU에서 실행하는 역할을 하며, 효율은 데이터를 어떻게 읽고 쓰고 재사용하느냐에 크게 좌우된다. 따라서 그가 참여한 작업은 모델 설계와 시스템 구현 모두에 걸쳐 있었다.[1]

오픈소스 코드에는 더 세밀한 기록이 남아 있다. FLA 프로젝트는 2025년 9월 그가 제출한 DeltaFormer 모델 구현을 병합했고, 같은 해 12월에는 그가 참여한 KDA 역전파 연산 커널 융합 수정도 병합했다. 이 기록에는 코드와 검토, 병합 과정이 포함되어 있어 외부에서도 그가 구체적으로 어떤 구현 작업에 참여했는지 살펴볼 수 있다.[19][20]

그는 최적화 알고리즘 연구를 통해 학습 동역학을 가장 많이 배웠다고도 말했다. 최적화 알고리즘은 학습할 때 매개변수를 어떻게 갱신할지 결정하며, 잔차 연결과는 다른 문제다. 개인 블로그 목록에도 최적화 알고리즘 분석과 행렬 곱셈, FlashAttention, Triton 구현 튜토리얼이 있다. 지속적인 학습의 범위를 보여 주는 자료지만, 모두 실제 서비스 모델에 채택된 독창적 성과로 자동으로 셀 수는 없다.[1][8][16]

이런 구체적인 작업을 보면, 그가 영감 하나만으로 저자 명단에 들어간 것은 아님을 알 수 있다. 논문 읽기, 구현 이해, 설계 시도, 실험 실행, 제약 해결이 함께 성과를 이룬다. AI는 그중 일부를 도울 수 있지만, 논문의 서명과 기술 결과에는 여전히 구체적인 작업에 대한 책임이 따른다.

AI는 젊은이와 실제 문제 사이의 거리를 어떻게 좁히나

천광위의 경험에서는 서로 연결된 몇 가지 변화를 볼 수 있다.

첫째는 학습 피드백이 더 촘촘해진다는 점이다. AI는 낯선 용어를 언제든 설명하고, 복잡한 문제를 나누는 일을 도우며, 다음에 보충해야 할 지식을 더 빨리 찾게 해 준다. 주도적으로 움직이는 사람에게 연습 기회가 더 많아지는 것이다. 그 연습이 능력이 되는지는 계속 확인하고, 유도하고, 실천하는가에 달려 있다.

둘째는 성과를 검토받고 발견되기가 더 쉬워진다는 점이다. 공개 코드와 논문, 기술 토론은 평가의 일부를 구체적인 작업 자체로 옮겨 놓는다. 명료한 분석이나 근거 있는 수정은 학력과 직함보다 먼저, 그 문제에 관심을 가진 사람의 눈에 들어갈 수 있다.

마지막으로 협업은 개인의 기여를 더 큰 시스템에 넣을 수 있게 한다. 최전선의 연구에는 여전히 연산 자원, 팀의 경험, 엄밀한 검증이 필요하다. 젊은 사람이 이런 작업에 참여할 기회를 얻으면, 빠른 학습을 재사용할 수 있는 기술적 성과로 바꿀 가능성이 생긴다.

이 세 가지가 연결되어야 여기서 말하는 증폭이 이루어진다. AI가 학습을 돕고, 공개한 작업이 동료들과 연결해 주며, 팀이 검증된 기여를 실제 모델에 적용한다. 기술과 개인의 행동, 조직이 제공하는 기회가 함께 작용하는 것이다.

개인의 기여가 더 큰 시스템으로 들어가는 경로를 나타낸 개념도이며, 공통된 효율이나 영향력의 배수가 측정되었다는 의미는 아니다.

따라서 인재를 평가할 때 나이와 경력을 능력의 대리 지표로 삼는 데 따르는 한계는 점점 더 분명해질 것이다. 몇 년을 일했는지는 배경의 일부를 알려 준다. 무엇을 이해했고, 무엇을 해결했으며, 결과를 설명하고 재현할 수 있는지는 더 직접적인 판단 근거가 된다.

경험의 가치는 협업에서 드러나야 한다

연공서열에 반대하면서도 경험의 가치는 진지하게 살펴야 한다. 천광위가 성장하는 과정에는 연구자의 지도, 오픈소스 커뮤니티의 축적, 실제 문제를 맡겨 준 팀이 있었다. AttnRes 자체도 서로 다른 경험을 가진 연구자들이 함께 완성한 작업이다.[4][5]

경험 많은 사람이 지닌 실패 경로, 실험 설계, 시스템 제약에 관한 판단은 젊은 사람의 시행착오를 줄일 수 있다. 젊은 사람의 몰입, 질문, 탐색도 팀에 새로운 방안을 가져올 수 있다. 이런 역량이 문제를 중심으로 협력할 때, 경험의 가치는 작업 결과에 드러난다.

이 경로에 필요했던 조건도 함께 보아야 한다. 국제학교의 학습 환경, 멘토 네트워크, 해외 인턴 기회, 연구팀의 자원이 모두 천광위의 경험에 등장한다. AI 덕분에 설명을 얻기 편해졌지만, 모든 사람이 같은 시간과 지원, 실험 조건을 자동으로 갖게 된 것은 아니다.[6]

학교와 기업에 더 건설적인 방법은 능력을 보여 줄 기회를 늘리는 것이다. 명확한 소규모 연구 문제를 제시하고, 검토할 수 있는 결과물을 제출하게 하며, 적시에 전문적인 피드백을 주고, 기여를 정확히 기록해야 한다. 그러면 아직 직함을 쌓지 못한 더 많은 사람에게도 자신을 증명할 입구가 생긴다.

젊은이에게 줄 여지에는 다음 길을 탐색할 자유도 포함된다

천광위는 개인 웹사이트에 주도성은 초능력이고, 판단력은 배울 수 있다고 썼다. 또한 소셜미디어의 조회 수 목표가 독창적인 연구에 쓸 주의를 빼앗을 수 있다는 성찰을 별도의 글로 남겼고, 내실 있는 대화에 더 많은 힘을 쏟고 싶다고 밝혔다.[9][10]

이런 말들은 그의 경험을 더 구체적으로 보여 준다. 그는 힘을 쏟을 만한 문제를 찾고 있으며, 기회와 관심, 일 사이에서 자신의 관계도 조정하고 있다. 열일곱 살에 내린 퇴사 결정은 그 탐색 과정의 한 지점일 뿐이다.

우리는 젊은 사람의 잠재력을 기대하면서도 계속 배우고, 방향을 바꾸고, 실수할 여지를 줄 수 있다. 한 편의 논문 성과는 진지하게 평가할 가치가 있으며, 계속 기적을 만들어 내야 한다는 부담이 될 필요는 없다.

AI 시대에 추구할 만한 변화는 더 많은 젊은 사람이 좋은 질문이 떠올랐을 때 탐색을 시작하고, 좋은 작업을 했을 때 진지한 응답을 얻도록 하는 것이다. 검증된 개선은 오픈소스 커뮤니티, 연구팀, 모델 시스템을 통해 빠르게 퍼지고 그 효과가 커질 수 있다.

한 사람의 기여를 직접 살펴볼 수 있게 될수록 연공서열을 따를 이유는 줄어든다. 천광위의 이야기는 문제를 해결할 수 있는 사람에게 기회를 주고, 아직 성장 중인 사람에게도 일찍부터 세상에 참여할 입구를 열어 주어야 한다는 점을 일깨운다.