El jueves, hora local, Meta lanzó oficialmente Muse Spark Open, el modelo de pesos abiertos más capaz hasta la fecha, y anunció una colaboración con Apple para impulsar su ejecución local en computadoras Mac.
Como un modelo grande multimodal nativo que adopta una arquitectura de mezcla de expertos, Muse Spark Open alcanza un total de 816000 millones de parámetros (de los cuales 42000 millones son parámetros activos) y admite una ventana de contexto de hasta 1000000 de tokens. Meta indicó que el modelo está diseñado específicamente para tareas de programación y agentes inteligentes, y que muestra un rendimiento sobresaliente en el manejo de tareas de largo plazo, problemas complejos de ingeniería de software y razonamiento multipaso. En las pruebas de referencia publicadas por Meta, el modelo ocupó el primer puesto en las seis pruebas de flujo de trabajo, llamadas a herramientas, razonamiento del conocimiento, fiabilidad del conocimiento, razonamiento visual complejo y preguntas fácticas sobre imágenes, siendo calificado oficialmente como el modelo de pesos abiertos de Estados Unidos más capaz hasta la fecha. Sin embargo, los datos de las pruebas también muestran que, en desarrollo de software y algunas otras tareas, los modelos chinos de código abierto como Kimi, Qwen (Qianwen) y Zhipu siguen siendo superiores.
Uno de los aspectos más llamativos de este lanzamiento es la inesperada alianza entre Meta y Apple. Durante la gestión de Tim Cook al frente de Apple, ambas compañías tuvieron numerosos roces: Cook acusó a Meta de violar la privacidad de los usuarios, y Zuckerberg también se burló de la falta de innovación de Apple. Pero, impulsadas por el interés común en la IA de código abierto, ambas partes eligieron dejar atrás sus diferencias. Daniel Gross, codirector del departamento de cómputo de Meta y exdirector en Apple, fue una de las figuras clave que hizo posible esta colaboración.
En cuanto a la adaptación de hardware y software, Meta optimizó profundamente Muse Spark Open utilizando MLX, el marco de aprendizaje automático de código abierto optimizado para chips de Apple en su versión más reciente, logrando una adaptación perfecta al Mac Studio equipado con el procesador M5Ultra. Meta afirmó que la combinación de ambos es la mejor solución para ejecutar modelos potentes en computadoras personales. Según la información oficial, el nuevo Mac Studio (M5Ultra) de Apple admite hasta 512GB de memoria unificada, y el modelo puede ejecutarse por completo conectando dos máquinas.
No obstante, la exigente configuración de hardware también implica una barrera de costos considerable. Aunque Zuckerberg ya mostró en redes sociales fotos de dos Mac Studio de máxima configuración ejecutando el modelo, la versión de 512GB establecida oficialmente por Apple saldrá a la venta a finales de octubre (mes 10). Según el precio actual del Mac Studio de 256GB a la venta (más de 10000 dólares), formar un clúster con aproximadamente 1TB de memoria supondría un costo superior a 40000 dólares en equipos. Pese al precio elevado, para los desarrolladores que necesitan alquilar capacidad de cómputo en la nube a largo plazo, adquirir hardware local permitiría recuperar la inversión mediante el ahorro en alquiler, además de ofrecer margen de cómputo y privacidad de los datos.
Wang Tao, responsable de Meta AI, señaló que, aunque ambas compañías siguen compitiendo en ciertos ámbitos, eso no impide que cooperen en las áreas adecuadas. Además de los chips de Apple, Muse Spark Open también está completamente optimizado para chips de NVIDIA, AMD e Intel, y es compatible con diversos motores de inferencia convencionales. Los desarrolladores pueden llamar a la API a través de varias plataformas o elegir descargar los pesos del modelo para desplegarlo por sí mismos.