노우(鹭羽)가 오비사(凹非寺)에서 전함
양자위(量子位) | 공중계정 QbitAI
GPT-6 Astra가 이제 소형 모델의 가중치를 직접 읽고 편집할 수 있게 되었다.
MIT가 방금 실험 하나를 공개하며 대형 모델 업계를 순식간에 들끓게 했다——
0.8B의 ‘원신(源神)’ Qwen3.5를 Astra에 넘기고, 그중 일부0.016%가중치만 수정했더니 모델 성능이 곧바로 급상승했다.
전 과정에서 훈련도, 경사 하강법도 사용하지 않았다.
동일한 샘플링 설정에서 MATH-500 점수가 7.9%에서 48.1%로 치솟았고, 수학 연산 능력은 기존의 약6배。
에 달하며, 최적화 대상에 없었던 지시 수행 능력마저 모두 3배 향상되었다.
게다가 모델 수정으로 끝난 게 아니라, Astra에게小游戏 네트워크의 가중치를 처음부터 작성하게했더니 그 결과도 꽤 좋았다.
한 번의 응답으로 결과물을 제출했고, 5억 스텝을 훈련한 PPO 기준선보다 20배 높은 점수를 기록했다.
영상 링크: https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw
연구팀은 이 방법론에 이름도 붙였다:
Weight-Space Programming, 가중치 공간 프로그래밍.
Astra가 모델 가중치를 대폭 개조
간단히 말해, 대형 모델이 신경망 가중치를 직접 분석하여 무엇을 하는 중인지, 어디에 문제가 있는지 판단하고, 요구에 따라 수정하며, 심지어 처음부터 네트워크를 작성까지 하게 하는 것이다.
구체적인 과정은 가장 직관적인Qwen 실험。
부터 살펴보자. 연구자들은 Astra에게 Qwen3.5-0.8B의 전체 가중치가 담긴 Python 환경을 준비했다.
요구사항은 단 하나: 모델의 수학 능력을 최대한 향상시킬 것.
보통 모델을 훈련할 때는 출력과 목표 사이의 차이로 손실을 계산하고, 역전파로 그라디언트를 구한 뒤, 옵티마이저가 파라미터를 갱신한다.
이번에는 무엇을, 어떻게 수정할지 Astra가 분석해서 결정해야 했다.
그러자 Astra는 이 소형 모델의 수학 성능이 상당 부분추론 루프때문에 떨어진다는 것을 발견했다.
문제 하나가 주어지면 비슷한 문장을 반복해서 생성하면서도 정작 답을 내놓지 못한다. 초기 96개의 연습 응답 중 85개가 32768 토큰 길이 상한까지 계속 실행되었다.
게다가 이 문제는 Qwen 자체 모델 카드에서도 경고한 바 있다。。.
Astra는 실패 사례를 따라가며 조사한 끝에, 루프의 원인을피드포워드 네트워크까지 추적했고, 제15층과 제19층의 각 64개 출력 열에서 해당 가중치를 수정해 영향을 주었다.
최종적으로 MATH-500 답변이 길이 상한에 도달하는 비율은 93.0%에서 33.1%로 낮아졌다.
연구진은 Astra에게 각각 10회, 25회, 50회의 포워드 호출 예산을 제공했고, 수정 후 MATH-500 점수는 차례로 12.3%, 14.1%, 48.1%였다.
그중에서Astra가 생략한 것은 그래디언트 학습이며모델 진단과 검증은 그대로 유지되었다.
그렇다면 Astra는 어떻게 가중치에서 이런 단서를 찾아낸 것일까?
먼저 읽기 능력부터 살펴보자.
연구자들은 서로 다른 게임을 하는 네 개의 작은 네트워크를 훈련시킨 뒤, 원본 가중치를 텍스트 형태로 Astra에 전달했다. 이 네트워크들은 아키텍처, 입력 채널, 행동 옵션이 완전히 동일했다.
결국, Astra정확하게 식별한네 개의 게임 이름: 벽돌깨기, 퐁, 팩맨, 하이웨이.
영상 링크: https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw
이 중 벽돌 깨기 게임에서 Astra는 다음을 통해가중치가 집중된 위치추론을 진행한다.
이를 이미지 생성 확산 모델로 바꾸면, 역시 가중치만으로 원형, 사각형, 삼각형을 식별해낼 수 있다.
다만 세부 사항에서 실수가 있었습니다. 모델이 실제로 속이 찬 그림을 생성했는데, 이를 모두 외곽선으로 읽어 버렸습니다.
모양은 제대로 보이지만 채우기는 보이지 않았다.
연구자들은 이어서 난이도를 높여, 720만 개 파라미터의 소형 언어 모델 세 개를 가져와 각각 Python 코드, 일어 로마자, 영어로 학습시킨 뒤 입력층과 출력층을 제거하고 중간의 네 개 Transformer 모듈만 남겼다.
이제는 어떤 숫자가 어떤 문자에 대응하는지조차 알 수 없어, 모델은 텍스트를 직접 실행할 수도 없게 되었다. Astra는 Python으로 가중치를 분석할 수 있지만, 이러한 네트워크나 그 안의 층에 데이터를 입력하거나 실행 결과를 관찰할 수는 없다.
하지만 그것은 여전히 두 번의 시도에서 세 개 모델이 학습한 언어를 올바르게 식별했고, 전부를 찾아내기까지 했다유도 헤드。
용도를 파악하는 것부터 내부 부품을 찾아내는 것, 그리고 동작을 수정하는 것까지, 이 경로가 이제 막 이어지기 시작했다.
또 다른 소형 로봇의 언덕 오르기 실험은 수정 효과를 직접 눈으로 볼 수 있는 동작으로 바꾸어 보여주었다.
원래 PPO로 학습시킨 네트워크는 항상 언덕을 향해 돌진하다가 끼어버렸는데, 통과하려면 먼저 후진해서 거리를 벌린 뒤 가속하여 언덕을 올라가야 했습니다.
연구자가 가중치와 시나리오 설명, 그리고 한 차례의 실패 기록을 제공했을 때, Astra는 도구 없이 한 번의 응답으로 패치를 작성했고, 단 3.5%의 가중치만 수정하여 1024회의 테스트에서 소형 자동차가모두 성공。
모델은 학습을 통해 배운 것을 통과하지 못했다.동작 순서, Astra가 이를 가중치에 직접 기록해 버렸다.
영상 링크: https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw
훈련이 사라졌다고요?
이미 갖춰진 네트워크에 로직을 보강할 수 있다면, 연구자들은 아예 요구 사항을 한 단계 더 앞으로 밀어올렸다:
가중치가 모두 0인 네트워크를 하나 주었으니, 바로 사용할 수 있도록 작성해 보라.
MinAtar 미니게임 실험에서 Astra는 게임 규칙, 소스 코드 및 지정된 네트워크 구조를 제공받았다. 훈련 데이터, 손실 값, 그래디언트 및 도구는 없었고, 네트워크를 환경에 넣어 미리 시험 실행할 수도 없었다.
자체적으로 전략을 고민한 뒤, 그 전략을 각 층의 가중치로 변환하여 한 번의 응답으로 답안을 제출해야 합니다.
마지막으로, Astra 생성 네트워크의 평균 점수는 다음에 달할 수 있습니다517.4。
비교를 위한 대조군으로, PPO는 1억 스텝 학습에서 15.8, 5억 스텝 학습에서 25.3을 기록하여 단숨에 능가했다20배。
이 작업의 주목할 점은, 기성품 범용 프런티어 대형 모델이 자연어 목표를 중심으로스스로 가중치를 분석하고 수정한다는 것입니다。
Astra 자체가 축적한 지식과 능력은 여전히 이전의 훈련에서 나온 것이며, 가중치 분석, 코드 생성, 대규모 추론 및 평가 역시 모두 컴퓨팅 자원을 소모합니다.
GPU는 당분간 은퇴를 준비하지 않아도 됩니다.
하지만 다음에 소형 모델의 성능이 좋지 않을 때, 개발자는 정말로 한 가지를 더 물어볼 수 있을지도 모릅니다:
이번에는 다시 훈련해야 할까요, 아니면 그냥가중치를 수정하면될까요?
참고 링크:
[1]
https://x.com/i/trending/2117328869283840499
[2]
https://rikiyat.github.io/blog/weight-space-programming/
[3]
https://x.com/rikiyatakehi/status/2117313742891327994