pytorch cuda上tensor的定义 以及减少cpu的操作详解
作者：枯叶蝶KYD 发布时间：2022-08-01 15:34:02
标签：pytorch,cuda,tensor,cpu
cuda上tensor的定义
a = torch.ones(1000,1000,3).cuda()
某一gpu上定义
cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)
删除某一变量
del a
在cpu定义tensor然后转到gpu
torch.zeros().cuda()
直接在gpu上定义，这样就减少了cpu的损耗
torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)
补充知识：pytorch cuda.FloatTensor->FloatTensor
错误类型：
RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor）
定义残差块时定义在model的外面，在使用gpu进行训练的时候，残差块的参数是torch.FloatTensor类型，
虽然使用了model.cuda(),但是只对model里面的参数在gpu部分，所以把残差块对应的操作都在model的__init__(），
重新定义，即可解决问题
来源：https://blog.csdn.net/u013548568/article/details/84350638
0
投稿猜你喜欢
很久笔者没有来这里写东西了，因为真的很忙。最近笔者一直在使用Win2008系统，不过发现一个很奇怪的问题，那就是在该系统上安装了SQL200- 1 logging模块简介logging模块是Python内置的标准模块，主要用于输出运行日志，可以设置输出日志的等级、日志保存路径、日志文
- 一、Vue3 与 Vue2 区别详述1. 生命周期对于生命周期来说，整体上变化不大，只是大部分生命周期钩子名称上 + “
- 目录安装简单使用复杂用法搞定麻烦需求总结工欲善其事，必先利其器！我们想要更轻松更有效率地开发，必须学会一些“高级”技能。前不久看到一位 Py
- 前言今天在学习python的过程中，发现python没有switch这个语法。于是就想在python中如何才能实现这个功能呢？正文本文中我们
- 当“ 页面重构工程师 ”这个职位的面试官也蛮长一段时间了，跟前两年比起来，总的来说来应聘的同学能力在很大程度上有了提高，记得两年前的一场招聘
- 基本原理选好画板大小，设置好画笔颜色、粗细，定位好位置，依次画鼻子、头、耳朵、眼睛、腮、嘴、身体、手脚、尾巴，完事儿。都知道，T
- 对于Python开发用户来讲，安装第三方库是家常便饭，下面提供两种安装方式pycharm软件安装1.打开file>setting2.点
- QL Server事件探查器(Profiler)可以帮助数据库管理员跟踪SQL Server数据库所执行的特定事件，监视数据库的行为;并将这
- match（）函数只检测RE是不是在string的开始位置匹配， search()会扫描整个string查找匹配, 也就是说match（）只
- Paddle模型性能分析Profiler定位性能瓶颈点优化程序提升性能Paddle Profiler是飞桨框架自带的低开销性能分析器，可以对
- 基于spring boot开发的微服务应用，与MyBatis如何集成？集成方法可行的方法有：1.基于XML或者Java Config，构建必
- 1.准备工作下载mysql的最新免安装版本mysql-noinstall-5.1.53-win32.zip，解压缩到相关目录，如：d:\\
- 阅读上一篇教程：WEB2.0网页制作标准教程（10）自适应高度布局初步搭建起来，我开始填充里面的内容。首先是定义logo图片：样式表：#lo
- 这次让我们一个用 Python 做一个小工具：将动态 GIF 图片倒序播放！GIF（Graphics Interchange Format）
- 前言之前做的一个需求，简化描述下就是接受其他组的 MQ 的消息，然后在数据库里插入一条记录。为了防止他们重复发消息，插入多条重复记录，所以在
- 本文主要研究的是Python编程删除服务器文件，具体实现 代码如下。实例1#coding:utf-8import paramiko"
- 一、基本类型和引用类型基本的数据类型有5个：undefined，boolean，number，string，nulltypeof null;
- 1.说明opencv安装包中有训练好的分类器文件，可以实现人脸的识别。当然，我们也可以训练自己的分类器文件，实现对特定物体的识别。本文章就详
- 我曾以为,写脚本是很难的,直到我遇到了Python前言随着国内版权意识的跟进,很多影视音乐资源开始收费,而且度盘又经常随意封杀各种资源,所以
