오픈소스 로컬 AI 대형 모델 실행 도구 Strata가 0.2.0 테스트 버전의 대형 업데이트를 맞이했습니다. 일반 가정용 PC에서 Qwen3.8-Flash-Next, Qwen3.6-35B-A3B 등 대형 언어 모델을 원활하게 구동하는 데 힘쓰는 오픈소스 도구인 Strata는 이번 업그레이드에서 새로운 독립 그래픽 인터페이스를 선보였을 뿐만 아니라, 로컬 배포의 하드웨어 진입 장벽도 한층 더 크게 낮췄습니다.
하드웨어 구성 요구 사항 측면에서, 새 버전은 메모리와 VRAM(RAM + VRAM)의 종합 사용량을 깊이 있게 최적화했습니다. 메모리와 VRAM 합계 최저 27.6GB만으로도 로컬 대형 모델을 원활하게 구동할 수 있습니다. 이는 사용자가 12GB VRAM을 갖춘 그래픽카드에 20GB의 시스템 메모리를 갖추면 최소 배포 요구 사항을 충족할 수 있음을 의미합니다. 구체적인 모델 권장 등급에서는 기존 48GB 구성이 필요했던 IQ2_XS 권장 등급이 40GB로, 기존 64GB가 필요했던 IQ3_XXS 고품질 권장 등급은 48GB로 대폭 낮아져, 전체 하드웨어 요구 사항이 8GB에서 16GB까지 낮아졌습니다.
하드웨어 진입 장벽 하향 외에도, Strata 0.2.0은 추론 성능 면에서 전방위적인 하드웨어 가속을 실현했습니다. 구체적으로 다음과 같습니다:
NVIDIA 진영: RTX 30 시리즈 그래픽카드의 텍스트 생성 속도 최대 약 13% 향상(실측 RTX 3060은 10.2% 향상, RTX A4000은 13% 향상);
AMD 진영: RX 9000 시리즈 그래픽카드는 일부 모델에서 프롬프트 처리 속도가 거의 두 배에 가깝게 향상;
Intel 진영: Arc A750 그래픽카드의 프롬프트 처리 속도 역시 약 42%의 눈에 띄는 향상을 달성했습니다.
상호작용 경험과 생태계 확장 측면에서, Strata 0.2.0은 기존의 명령줄 컴파일 및 배포에 의존하던 복잡하고 번거로운 방식에서 벗어나 Windows, macOS, Linux 플랫폼을 전면 지원하며, 네이티브 중문 그래픽 인터페이스와 지능형 설치 가이드가 새로 추가되었습니다. 더욱 주목할 만한 점은 새 그래픽 인터페이스에 파일 읽기 및 수정, 인터넷 검색, 자동화 작업 실행을 지원하는 AI 코딩 Agent가 깊이 통합되었다는 것입니다. 동시에 NVIDIA 및 AMD 그래픽카드에 대해 이미지 이해 기능이 기본 활성화되었으며, 모델 다운로드 메커니즘에는 멀티스레드 동시 다운로드와 이어받기 최적화가 적용되었습니다.