科大讯飞首发汽车端侧大模型:隧道内无网也可用 效果不输云端

快科技10月24日消息,今日,科大讯飞举办“2024科大讯飞全球1024开发者节”。

会上,科大讯飞正式发布汽车端侧星火大模型,相较于云端大模型,汽车端侧星火大模型在无网环境下可用,且使用效果与云端相比几乎无差异。

科大讯飞首发汽车端侧大模型:隧道内无网也可用 效果不输云端

科大讯飞介绍,很多用户在开车经过山洞隧道,或在其他特殊场景下,会遇到无网的情况;还有些用户出于保护个人隐私需求,不希望将个人数据同步至云端。

而科大讯飞首发的汽车端侧星火大模型,将大模型部署在汽车端本地,不依赖云端网络,完美解决以上用户的使用痛点和需求。

科大讯飞表示,虽然他们部署的汽车端测星火大模型,只有1.3B的参数产出,比现在通用模型降低了两个数量级,但在汽车典型应用场景中,这些应用场景中的实际效果只下降了1%,实用效果几乎没有差异。

科大讯飞首发汽车端侧大模型:隧道内无网也可用 效果不输云端

端侧首响应时间降低到40毫秒,在复杂场景下还可以调用云端模型,即便需要调各种信源,端云融合的响应时间也降低至1.3秒,汽车端侧星火大模型的技术效果和响应速度,属于全行业领先的水平。

科大讯飞透露,汽车端侧星火大模型不仅是今天首发软硬件一体化的模型,关键是从今年第四季度开始,奇瑞、广汽、长城等多款车型,正在陆续集成上线并开售,用户很快就能体验到。

免责声明:本站登载此文仅出于信息分享,并不意味着赞同其观点及其描述,不承担侵权行为的连带责任。如涉及版权等问题,请与我们联系(联系QQ:26887486),我们将及时删除处理。
本文链接:https://www.zhongzhouauto.com/article/42/41381.html

CopyRight © 2020- zhongzhouauto.com All rights reserved.郑州思创网络技术有限公司备案编号:豫ICP备18046062号-6
地址:中国·郑州市郑汴路和未来路交叉口绿都广场B栋1908室合作QQ:81307333邮箱:81307333@qq.com
部分文章或图片转载自网络,版权归原作者所有。如有侵权请联系我们,我们立刻删除。