我想问一下PaddleOCR-VL 0.9B支持CPU部署吗？

[Kyo1234567]

我想了解一下，PaddleOCR-VL 0.9B支持CPU部署吗？如果支持有教程参考一下吗？

[Kyo1234567]

我在cpu上运行报错：
AssertionError: Variable dtype not match, Variable [ linear_164.w_0 ] need tensor with dtype paddle.float32 but load tensor with dtype paddle.bfloat16

[liuhongen1234567]

您好，CPU 和 GPU 的部署流程应该是一样的，报错应该是因为CPU是ARM架构的，文档如下：https://www.paddleocr.ai/latest/version3.x/pipeline_usage/PaddleOCR-VL.html#paddleocr-vl_1

不过CPU即使能部署，跑多模态模型也会很慢，可以试试调用星河上免费的api https://ai.baidu.com/ai-doc/AISTUDIO/2mh4okm66