← AI NOW · AI 소식과 변화

AI가 모델 가중치를 직접 고쳤다? MIT 연구진의 초기 실험과 남은 검증

MIT CSAIL 연구진이 GPT-6 Astra로 소형 신경망의 가중치를 읽고 수정하는 초기 실험을 공개했다. 수학 평가 개선 수치는 연구진의 특정 조건에서 나온 결과다.

이 정보는 재확인이 필요합니다. 적용 전 원문을 확인하세요.

MIT CSAIL 소속 연구진 4명이 2026년 11월 2일(원문은 날짜만 표시) 대형 언어모델이 다른 신경망의 가중치 숫자를 직접 살피고 수정하는 ‘Weight-Space Programming’ 실험을 공개했다. 학습 코드를 작성해 다시 훈련하는 방식과 달리, 모델이 주어진 가중치와 과제를 보고 값을 바꾸는 접근이다.

연구진은 GPT-6 Astra가 소형 게임용 신경망의 용도를 추정하거나 새 가중치를 작성했고, Qwen3.5-0.8B의 일부 가중치를 수정했다고 보고했다. 같은 샘플링 설정에서 MATH-500 점수가 7.9%에서 48.1%로 올랐다는 수치는 연구진의 실험 결과다. 일반적인 AI 모델 개선 효과나 모든 과제의 향상을 뜻하지 않는다. 연구진은 실험 로그와 수정된 모델을 공개해 확인 가능성을 높였다.

이 연구가 중요한 이유는 모델을 고치는 수단이 재훈련 코드뿐인지 다시 묻게 하기 때문이다. 다만 연구진 자신도 가중치만 보고 아첨 성향이 있는 모델을 구분하는 실험에서는 실패했다고 적었다. 성공 사례와 실패 사례가 함께 있어, 대규모 모델에도 같은 방법이 통할지는 아직 판단할 수 없다.

개발자와 연구자는 원문과 공개 로그의 실험 조건부터 확인할 수 있다. AIPATH는 가중치를 수정하거나 평가를 직접 재현하지 않았다. 따라서 이 기사는 새로운 연구 결과의 소개이며, 독립적인 성능 검증이나 즉시 사용 가능한 제품 출시 안내가 아니다.

무엇이 바뀌었나요

MIT CSAIL 연구진이 언어모델로 다른 신경망의 가중치를 직접 읽고 쓰는 초기 실험과 공개 로그를 2026년 11월 2일 발표했다.

왜 중요한가요

재훈련 없이 일부 신경망의 동작을 바꾸는 접근을 시험했다는 연구 결과로, 모델 분석과 수정 방법에 새로운 질문을 제기한다.

누구에게 해당하나요

모델 평가·해석·최적화를 연구하는 개발자와 연구자. 일반 이용자의 기존 제품 사용법은 달라지지 않았다.

이용 조건

연구 게시물과 실험 로그, 수정 모델이 공개돼 있다. 범용 서비스로 출시된 기능은 아니다.

알아둘 한계

성능 수치는 연구진이 보고한 특정 평가 조건의 결과다. AIPATH는 직접 재현하지 않았고 다른 모델·과제로 일반화할 수 없다. 가중치만으로 아첨 성향을 식별하려던 실험은 실패했다.

지금 할 수 있는 일

연구 게시물과 로그의 평가 설정, 실패 사례, 공개 수정 모델을 확인하고 독립 재현을 기다린다.

출처와 확인 기준

Sparks of Weight-Space Programming ↗

Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab · 원문 게시일 미확인

발표 사실과 실험 조건만 독립적인 한국어 설명으로 정리했다. 문장·도표·코드·이미지는 복제하지 않았다.

Weight-Space Programming experiment logs ↗

RikiyaT · 원문 게시일 미확인

공개 로그 저장소의 존재를 확인했다. 로그와 코드는 재배포하지 않았다.

Qwen3.5-0.8B weight-space-programming model ↗

RikiyaT · 원문 게시일 미확인

라이선스: apache-2.0 (model card 표시)

수정 모델 공개 여부만 확인했다. 모델 파일은 사용하거나 재배포하지 않았다.

정정·삭제 요청: [email protected] ↗
← AI NOW 목록으로