pytorch cuda上tensor的定义 以及减少cpu的操作详解
作者：枯叶蝶KYD 发布时间：2022-08-01 15:34:02
标签：pytorch,cuda,tensor,cpu
cuda上tensor的定义
a = torch.ones(1000,1000,3).cuda()
某一gpu上定义
cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)
删除某一变量
del a
在cpu定义tensor然后转到gpu
torch.zeros().cuda()
直接在gpu上定义，这样就减少了cpu的损耗
torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)
补充知识：pytorch cuda.FloatTensor->FloatTensor
错误类型：
RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor）
定义残差块时定义在model的外面，在使用gpu进行训练的时候，残差块的参数是torch.FloatTensor类型，
虽然使用了model.cuda(),但是只对model里面的参数在gpu部分，所以把残差块对应的操作都在model的__init__(），
重新定义，即可解决问题
来源：https://blog.csdn.net/u013548568/article/details/84350638
0
投稿猜你喜欢
- 各位大哥： 在javascript中如何取整？比如： var
前段时间喜欢用python去抓一些页面玩，但都基本上都是用get请求一些页面，再通过正则去过滤。今天试了一下，模拟登陆个人网站。发现也比较简- 目录前言简介实现实现效果总结前言坦克大战是一款策略类的平面射击游戏，于 1985 年由 Namco 游戏公司发布，尽管时至今日已经有了很多衍
- 我们需要评估模型预测值来评估训练的好坏。 模型评估是非常重要的，随后的每个模型都有模型评估方式。使用TensorFlow时，需要把模型评估加
- 什么是状态机？关于状态机的一个极度确切的描述是它是一个有向图形，由一组节点和一组相应的转移函数组成。状态机通过响应一系列事件而“运行”。每个
- 前言最近由于项目需要，需要读取一个含有中文的txt文档，完了还要保存文件。文档之前是由base64编码，导致所有汉字读取显示乱码。项目组把b
- 前言前几天逛github发现了一个有趣的并发库-conc，其目标是：更难出现goroutine泄漏处理panic更友好并发代码可读性高从简介
- 1.样式的重用性CSS布局的网页最大的特点就是样式的可重用性,利用class选择符重复将某个样式属性多次在网页中使用，以减少不断定义样式属性
- 设法让用户happy吧～只要你的设计让用户乐了，产品的个性就得到了一次彰显，而用户对网站的情感就会获得一次升华，看看下面的知名网站的人性化设
- python 3.10上安装pyqt5前言首先，看一下自己电脑上的python的版本，网上有太多乱七八糟的教程，啥也不说就硬教，跟着做的话就
- 以titanic数据集为例。其中name列是字符串，现在想从其中提取title作为新的一列。例如：# create new Title co
- 1. A List Apart CSS TopicsA List Apart是一个CSS优秀文章的收集网站，从1999年开始收集文章，关注最
- Yahoo!的Exceptional Performance团队为改善Web性能带来最佳实践。他们为此进行了一系列的实验、开发了
- 我参与了IE7的开发过程，看到了在IE浏览器中形形色色使用MSXML的方法。显然有一些东西困扰着开发者：MSXML“混乱”的版本以及如何创建
- matplotlib官网 matplotlib库默认英文字体添加黑体（‘SimHei'）为绘图字体代码：plt.rcPar
- 本文实例讲述了Python Django框架实现应用添加logging日志。分享给大家供大家参考，具体如下：Django uses Pyth
- 表单介绍说到表单，在HTML中表单的创建时通过<form>标签实现的，在<form>标签内部，字段通过使用<i
- 几天前我在考虑使用 python 从 whatsapp 发送消息。和你们一样，我开始潜伏在互联网上寻找一些解决方案并找到了关于twilio.
- PHP信息函数包含的一些函数概念总结如下。PHP信息函数之getenv适用版本：PHP3, PHP4函数功能：取得环境变量数值。函数语法：s
- 我们在使用Django的models查询数据库时，可以看到有这种写法：form app.models import&nb
