云 GPU 使用大模型
没有 GPU 想要跑大模型简直是噩梦……在等待资源的过程中自己租用了云 GPU 来配置、测试,记录一下详细过程。 云平...
没有 GPU 想要跑大模型简直是噩梦……在等待资源的过程中自己租用了云 GPU 来配置、测试,记录一下详细过程。 云平...
因为组里的集群没事儿就宕机逗我玩一下,搞得我不得不想办法带着环境和数据来回跑…… 背景结束,其实这个需求挺常见...
因为不同的网络情况可能导致加载失败,此处以在 huggingface 上的模型为例,说明如何将模型离线并从本地加载...