
人民财讯6月17日电,6月17日,记者获悉,阿里巴巴通义团队开源了全新的千问3量化模型,完成基于苹果硬件的MLX框架的全系模型深度适配。
据了解,MLX框架是专为苹果芯片优化的机器学习框架,在AI开源社区广受关注。此次千问3一次性推出32个官方MLX量化模型,包含4bit、6bit、8bit和BF16等不同精度,可最大程度满足开发者在Mac Studio、Macbook、iPhone等不同苹果硬件上部署大模型的需求。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”