模型在V100上报错
#6
by
yijinsheng
- opened
加载的时候显示不支持float32精度运行，需要bfloat16，可否给出支持float32运行的模型
我们目前开放的权重是bfloat16，可以试试以bfloat16精度运行
我们目前开放的权重是bfloat16，可以试试以bfloat16精度运行
是的我在A100上运行成功了，但是生产部署都是P40和V100等不支持bfloat16的机器，后续是否会有float32权重的模型发布
是的我在A100上运行成功了，但是生产部署都是P40和V100等不支持bfloat16的机器，后续是否会有float32权重的模型发布
您好，这个我们会根据实际情况考虑在更多的硬件上适配，敬请期待
是的我在A100上运行成功了，但是生产部署都是P40和V100等不支持bfloat16的机器，后续是否会有float32权重的模型发布
您好，这个我们会根据实际情况考虑在更多的硬件上适配，敬请期待
请问5090可以用吗？