工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
我电脑上几乎必装的效率软件有几个,有检索、截屏之类的小应用,...
2025-06-22阅读全文 >>因为有边际效益。 slc(1bit)到mlc(2bit),...
2025-06-22阅读全文 >>这个工作其实包含了两部分,从论文的摘要里可以看到,一个是统一...
2025-06-22阅读全文 >>当务之急最该解决的问题是大众对于 AI大模型的正确认知以及最...
2025-06-22阅读全文 >>Windows Server有个功能叫域,它类似统一认证,开...
2025-06-22阅读全文 >>