广东网

当前位置: 主页 > 科技 >

Adobe 支持的 SlimLM 提供无云移动 AI 功能

时间:2024-11-22 17:47来源:未知 作者:admin 点击:
得益于 Adobe Inc. 的 AI 研究人员团队与奥本大学和佐治亚理工学院的同事一起开发的一种新的小语言模型 (SLM),适用于智能手机的新 AI 应用程序将能够在本地处理文档,而无需访问云

  得益于 Adobe Inc. 的 AI 研究人员团队与奥本大学和佐治亚理工学院的同事一起开发的一种新的小语言模型 (SLM),适用于智能手机的新 AI 应用程序将能够在本地处理文档,而无需访问云。这个 SLM 被称为 SlimLM,有关它的所有详细信息都已发布在 arXiv 上。

  “通过在三星 Galaxy S24 上进行大量实验,我们确定了模型大小(范围从 125M 到 7B 参数)、上下文长度和推理时间之间的最佳权衡,以实现高效的设备端处理。SlimLM 在 SlimPajama-627B 上进行了预训练,并在 DocAssist 上进行了微调,DocAssist 是我们构建的用于摘要、问答和建议任务的数据集。我们最小的型号在 S24 上展示了高效的性能,而更大的型号在移动限制下提供了增强的功能。

  透露了研究团队。

  SlimLM 尚未向大众开放,但这可能很快就会发生。多亏了这段代码,智能手机可以在本地使用 AI 的强大功能来处理文档,甚至无需上网。虽然基于云的 AI 解决方案通常比本地运行的应用程序使用更少的本地计算能力,但它们提供的最重要的属性是隐私。到目前为止,该领域的知名人士,如 Google、Apple 和 Meta,已经开发了此类应用程序。遗憾的是,他们的状态仍然相当实验性,他们都没有进入大众。如果上述研究人员的计划成真,SlimLM 可能成为第一个此类解决方案。

------分隔线----------------------------
发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片