Firefly开源社区

打印 上一主题 下一主题

[技术讨论] 有没有推荐的模型推理服务器?

7

积分

0

威望

0

贡献

吃瓜的群众

积分
7

有没有推荐的模型推理服务器?

发表于 2021-12-15 10:13:28      浏览:2340 | 回复:0        打印      只看该作者   [复制链接] 楼主
我想用3390pro-JD4,做终端盒子。想找一个模型推理服务器。
原来在工作站使用的是tensorRT的triton。3399上肯定不行。有没有推荐的?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

友情链接 : 爱板网 电子发烧友论坛 云汉电子社区 粤ICP备14022046号-2
快速回复 返回顶部 返回列表