综合头条

当前位置/ 首页/ 综合头条/ 正文

商汤绝影:首发原生多模态大模型车端部署

导读 36氪获悉,7月5日上午,在由WAIC 2024战略合作伙伴商汤科技召开的“大爱无疆·向新力”人工智能论坛上,商汤科技联合创始人、首席科学家、...

36氪获悉,7月5日上午,在由WAIC 2024战略合作伙伴商汤科技召开的“大爱无疆·向新力”人工智能论坛上,商汤科技联合创始人、首席科学家、绝影智能汽车事业群总裁王晓刚表示,商汤绝影在行业内率先实现了原生多模态大模型的车端部署。据了解,绝影智能汽车的车载端侧8B模型首包延迟可低至300毫秒以内,推理速度40Tokens/秒,并且能够覆盖主流算力平台。

来源:36氪