IT之家 AI

AI underdog publica el modelo Saluki 27B: cuantización 2-bit de Qwen3.8-27B, tamaño de 7.89GB

IT Home, 10 de octubre: El laboratorio de inteligencia artificial Underdog AI publicó el modelo Saluki 27B este mes. Este modelo es una versión optimizada en cuantización de 2-bit del Qwen3.8-27B, que conserva únicamente…

Fuente de la imagen · IT之家 AI

IT之家 El 10 de octubre, el laboratorio de inteligencia artificial Underdog AI lanzó el modelo Saluki 27B este mes. Este modelo es una versión optimizada en cuantización de 2-bit del Qwen3.8-27B, que solo conserva la capacidad de entrada y salida de texto, y el tamaño del archivo es de solo 7.89 GB.

Saluki está diseñado para aplicaciones de agentes inteligentes, sobreponiendo en la razonamiento diario y el uso de herramientas, mientras que su rendimiento en matemáticas es relativamente inferior. Su selección de herramientas y la llamada paralela a múltiples herramientas son incluso mejores que las del Qwen3.8-27B de tamaño completo.

El modelo Saluki utiliza el formato estándar llama.cpp, y puede cargarse tanto en llama.cpp estándar como en aplicaciones construidas sobre él, sin necesidad de compilación personalizada alguna.

Referencia

Declaración publicitaria: El texto contiene enlaces de redirección hacia el exterior (incluyendo, pero no limitado a enlaces superiores, códigos QR, contraseñas, etc.), diseñados para proporcionar más información, ahorrar tiempo de selección y los resultados son solo indicativos. Los artículos de IT Home que incluyen enlaces externos contienen esta declaración.

Fuente original

IT之家 AI

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original