5天320starsSnowflake高效开源企业级AI模型AI开源项目

内容同步自知识星球《AGI Hunt》，加入可查看更多项目与实时AI动向

Snowflake 高效开源企业级AI模型

2024-04-22 320 stars 28 forks

Snowflake Arctic：开源企业级AI模型的新标准

Snowflake Arctic是由Snowflake-Labs创建的开源项目，旨在为企业AI提供高效、智能的大型语言模型（LLM）。该项目通过独特的Dense-MoE Hybrid transformer架构，结合了10B的密集变换器模型和128x3.66B的MoE MLP，实现了480B的总参数和17B的活跃参数，通过top-2门控选择。

特点

高效智能 ：Arctic在企业级任务上表现出色，如SQL生成、编程和指令跟随，即使与使用更高计算预算训练的开源模型相比也毫不逊色。

真正开放 ：采用Apache 2.0许可，提供无门槛的权重和代码访问，并开源所有数据配方和研究洞察。

开始使用

模型权重 ：通过Hugging Face获取Arctic的基础和指令模型变体。

推理API提供商 ：通过AWS、NVIDIA AI Catalog等模型花园或目录访问Arctic。

即将推出

微调教程

推理性能的进一步改进

对DeepSpeed的FP量化的HFQuantizer支持