(資料圖)
格隆匯6月30日丨據金山辦公官微30日消息,金山辦公與NVIDIA團隊合作,通過NVIDIA Tensor Core GPU、TensorRT提升圖像文檔識別與理解的推理效率;借助NVIDIA Triton推理服務器的部署,成功優化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗時共下降84%;采用 NVIDIA Triton 推理服務器部署,其部署成本節省了23%。
(資料圖)
格隆匯6月30日丨據金山辦公官微30日消息,金山辦公與NVIDIA團隊合作,通過NVIDIA Tensor Core GPU、TensorRT提升圖像文檔識別與理解的推理效率;借助NVIDIA Triton推理服務器的部署,成功優化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗時共下降84%;采用 NVIDIA Triton 推理服務器部署,其部署成本節省了23%。
www.y7833.cn 所刊載內容之知識產權為界限網絡及/或相關權利人專屬所有或持有。未經許可,禁止進行轉載、摘編、復制及建立鏡像等任何使用。
京ICP備2022022245號-30 Copyright 經濟導報網 All Rights Reserved 版權所有 復制必究
違法和不良信息舉報 聯系郵箱:43 52 26 40 @qq.com