pytorch安装GPU版本(Cuda12.1)教程

见贤思齐

使用本教程前，默认您已经安装并配置好了python3以上版本1.去官网下载匹配的CudaCuda下载地址当前最高版本的Cuda是12.1我安装的就是这个版本小提示：自定义安装可以只选择安装CudaRuntime。Nvidia全家桶不必全部安装。把全家桶全部安装完直接系统盘占了6G，很大的。2.安装pytorchPytorch下载地址我之前使用的是pipinstalltorch(2.0.0版本)这样安装的torch是直接运行在CPU上的想要使用GPU版本需要使用对应的cuda版本尽管pytorch官网上目前只给出了11.8的Cuda支持，但是社区明确表明了兼容高版本Cuda。上图列出了我本地的torch相关库可以看见这是一个混乱的构成（一团糟），torch是cpu版本的torchaudio是gpu版本的torchvision是cpu版本的可以用torch.cuda.is_available()的方法检验自己的torch是不是GPU版本所以我决定直接全部卸载，重新安装GPU版本的torch全家桶pipuninstalltorchtorchvisiontorchaudio1然后执行安装这是本篇文章编写时最新版本的安装方法pipinstalltorchtorchvisiontorchaudio--index-urlhttps://download.pytorch.org/whl/cu11813.检验是否安装成功使用piplist查看安装的版本是否正确执行torch.cuda.is_available()返回True说明已经在使用GPU版本了4.(扩展)安装transformer我之前的版本是4.27.2但是我在启动huggingface的GLM项目时遇到了动态模块加载的报错。已经有人给官方提了issue建议使用4.26.1版本，比较稳定。