您当前的位置:首页 > 电脑百科 > 人工智能

PyTorch:基础知识

时间:2020-06-01 11:06:23  来源:  作者:
PyTorch:基础知识

 

如果您对机器学习感兴趣或正在阅读本文,那么您很有可能以前听说过PyTorch。 在机器学习开发人员中,这是一个非常著名的框架,由于很好的原因,我们将在本文中进行讨论。 另外,如果您只是从神经网络开始并且具有基础知识,那么这是一个完美的初学者工具。

好吧,让我们进入PyTorch的精髓吧?

PyTorch的历史

Torch最初是用Lua编写的,这种用法并不常见,很难理解,而且它没有Python提供的一半功能。

因此,在2017年,Facebook的AI研究实验室决定建立一个与Torch库具有相同功能但不包含python的库,因此命名为PyTorch。 这在开发人员中立即受到打击,并使编写代码更容易,更有效。

认知计算-一种被广泛认为是……的最重要表现的技能

作为其用户,我们已逐渐将技术视为理所当然。 这些天几乎没有什么比这更普遍了……

趣闻:PyTorch Soumith Chintala的开发人员之一是VIT的校友,而这恰好是我目前就读的我的大学!

Pytorch与Tensorflow

我觉得在PyTorch和Tensorflow之间总是有一个比较,因为它们使用不同的方法来解决问题,因此我认为这是不必要的,并且根据数据集和算法,一种方法要比另一种效果更好。 但是,如果您仍然好奇,可以在这里查看这篇非常简洁的文章。

PyTorch:基础知识

 

是什么使Pytorch成为一个好的框架?

· 命令式编程:在PyTorch中,计算会立即运行,这意味着用户无需等待编写完整的代码即可检查其是否有效。 这对于像我这样急躁的程序员来说是个好兆头,他们希望在每一行代码之后都能看到结果。 这还允许在python中提供更灵活的编码体验,并且更受性能驱动。

PyTorch:基础知识

> Source:https://medium.com/@vincentbacalso/imperative-vs-declarative-programming

 

2.动态计算图:动态计算图框架是一个由库,接口和组件组成的系统,这些库,接口和组件提供了灵活的,编程的,运行时接口,通过连接有限但可能可扩展的一组操作来促进系统的构建和修改。 因此,基本上,PyTorch遵循运行定义的原理,这对于像RNN这样的非固定大小的网络非常有用。

PyTorch:基础知识

> Source: Hackernoon.com

 

1. Autograd:此类是计算导数的引擎(更精确地说,是Jacobian矢量积)。 它记录了在启用梯度的张量上执行的所有操作的图,并创建了一个称为动态计算图的非循环图。 该图的叶子是输入张量,根是输出张量。 通过从根到叶跟踪图并使用链法则将每个梯度相乘来计算梯度。

torch.nn.Autograd.Function

PyTorch:基础知识

> Source: Udacity.com

 

Pytorch的常用功能

· torch.sum():加法

(a*b).sum()

1. torch.mm():点积。

#torch.nm(a,b)

1. torch.randn():生成矩阵随机数

torch.manual_seed(7)

# Set the random seed so things are predictable

x = torch.randn(2,2)

1. torch.exp():计算指数

Sigmoid=1/(1+torch.exp(-x))

1. PyTorch提供了一个模块nn,它使构建网络更加简单。

from torch import nn

-nn.Linear():此行创建用于线性变换+的模块。

类似地,以下函数可用于计算相应的激活函数。

-nn.Sigmoid()

-nn.Softmax()

self.output = nn.Linearse

lf.sigmoid = nn.Sigmoid()

self.softmax = nn.Softmax(dim=1)

#columnwise

1. nn.Sequential:使用此方法,我们可以依次通过操作传递张量。

model = nn.Sequential(nn.Linear(input_size, hidden_sizes[0]), nn.ReLU(), nn.Linear(hidden_sizes[0], hidden_sizes[1]), nn.ReLU(), nn.Linear(hidden_sizes[1], output_size), nn.Softmax(dim=1))

7.损失计算

criterion = nn.CrossEntropyLoss()

criterion = nn.NLLLoss()

criterion = nn.LogSoftmax()

1. Autograd:Autograd的工作原理是跟踪对张量执行的操作,然后回溯这些操作,并计算沿途的梯度。

-loss.backward()计算用于计算参数的梯度。 这些梯度用于通过梯度下降来更新权重。

loss.backward()

optimizer.zero_grad()将每个训练遍的梯度归零,否则它将保留先前训练批次的梯度。

optimizer.zero_grad()

结论

我一直将本文的重点放在PyTorch的理论和语法上,在第二部分中,我将通过开发神经网络来演示PyTorch在数据集上的演示。 因此,请继续关注并感谢您的阅读。 干杯!

参考:
https://classroom.udacity.com/courses/ud188-PyTorch简介。

(本文翻译自Puja Chaudhury的文章《PyTorch: The Basics.》,参考:
https://medium.com/datadriveninvestor/pytorch-the-basics-7005e71cdb83)



Tags:PyTorch   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
MNIST 这里就不多展开了,我们上几期的文章都是使用此数据集进行的分享。手写字母识别EMNIST数据集Extended MNIST (EMNIST), 因为 MNIST 被大家熟知,所以这里就推出了 EMNIST...【详细内容】
2021-09-08  Tags: PyTorch  点击:(185)  评论:(0)  加入收藏
在处理监督机器学习任务时,最重要的东西是数据——而且是大量的数据。当面对少量数据时,特别是需要深度神经网络的任务时,该怎么办?如何创建一个快速高效的数据管道...【详细内容】
2021-03-31  Tags: PyTorch  点击:(283)  评论:(0)  加入收藏
近年来,基于深度学习的人脸识别技术取得了重要进展。但是人脸识别模型的实际部署和深入研究都需要相应的公众支持。例如生产级人脸表示网络需要模块化的训练机制,以配合不同 SOTA 骨干网络、训练监督主题再到现实世界人...【详细内容】
2021-01-26  Tags: PyTorch  点击:(213)  评论:(0)  加入收藏
代码的基本结构还是延续我通过深度学习神经网络,基于MNIST实现手写数字识别 的结构,只是神经网络部分使用了Pytorch的API。有一些地方要多说一点,但是不展开:1、激活函数选用了R...【详细内容】
2020-09-27  Tags: PyTorch  点击:(104)  评论:(0)  加入收藏
一、前言论文地址:http://arxiv.org/abs/1602.072612014年,GoogLeNet和VGG是当年ImageNet挑战赛(ILSVRC14)的双雄,GoogLeNet获得了第一名、VGG获得了第二名,这两类模型结构的共...【详细内容】
2020-08-17  Tags: PyTorch  点击:(79)  评论:(0)  加入收藏
介绍深度学习是机器学习的一个分支。深度学习的独特之处在于它带来的准确性和效率。经过大量数据训练后,深度学习系统可以匹配甚至超过人脑的认知能力。PyTorch和TensorFlow...【详细内容】
2020-08-07  Tags: PyTorch  点击:(126)  评论:(0)  加入收藏
机器之心报道编辑:魔王作者:清华大学大数据研究中心近日,清华大学大数据研究中心机器学习研究部开源了一个高效、简洁的迁移学习算法库 Transfer-Learn,并发布了第一个子库&mdas...【详细内容】
2020-08-04  Tags: PyTorch  点击:(78)  评论:(0)  加入收藏
人工神经网络有许多流行的变体,可用于有监督和无监督学习问题。自编码器也是神经网络的一个变种,主要用于无监督学习问题。当它们在体系结构中有多个隐藏层时,它们被称为深度自...【详细内容】
2020-08-04  Tags: PyTorch  点击:(65)  评论:(0)  加入收藏
在处理图像和图像数据时,CNN是最常用的架构。卷积神经网络已经被证明在深度学习和计算机视觉领域提供了许多最先进的解决方案。没有CNN,图像识别、目标检测、自动驾驶汽车...【详细内容】
2020-08-04  Tags: PyTorch  点击:(95)  评论:(0)  加入收藏
介绍在深度学习黑客竞赛中表现出色的技巧(或者坦率地说,是任何数据科学黑客竞赛) 通常归结为特征工程。 当您获得的数据不足以建立一个成功的深度学习模型时,你能发挥多少创造力...【详细内容】
2020-08-03  Tags: PyTorch  点击:(157)  评论:(0)  加入收藏
▌简易百科推荐
作为数据科学家或机器学习从业者,将可解释性集成到机器学习模型中可以帮助决策者和其他利益相关者有更多的可见性并可以让他们理解模型输出决策的解释。在本文中,我将介绍两个...【详细内容】
2021-12-17  deephub    Tags:AI   点击:(16)  评论:(0)  加入收藏
基于算法的业务或者说AI的应用在这几年发展得很快。但是,在实际应用的场景中,我们经常会遇到一些非常奇怪的偏差现象。例如,Facebook将黑人标记为灵长类动物、城市图像识别系统...【详细内容】
2021-11-08  数据学习DataLearner    Tags:机器学习   点击:(32)  评论:(0)  加入收藏
11月2日召开的世界顶尖科学家数字未来论坛上,2013年诺贝尔化学奖得主迈克尔·莱维特、2014年诺贝尔生理学或医学奖得主爱德华·莫索尔、2007年图灵奖得主约瑟夫·斯发斯基、1986年图灵奖得主约翰·霍普克罗夫特、2002...【详细内容】
2021-11-03  张淑贤  证券时报  Tags:人工智能   点击:(39)  评论:(0)  加入收藏
鉴于物联网设备广泛部署、5G快速无线技术闪亮登场,把计算、存储和分析放在靠近数据生成的地方来处理,让边缘计算有了用武之地。 边缘计算正在改变全球数百万个设备处理和传输...【详细内容】
2021-10-26    计算机世界  Tags:边缘计算   点击:(45)  评论:(0)  加入收藏
这是几位机器学习权威专家汇总的725个机器学习术语表,非常全面了,值得收藏! 英文术语 中文翻译 0-1 Loss Function 0-1损失函数 Accept-Reject Samplin...【详细内容】
2021-10-21  Python部落    Tags:机器学习   点击:(43)  评论:(0)  加入收藏
要开始为开源项目做贡献,有一些先决条件:1. 学习一门编程语言:由于在开源贡献中你需要编写代码才能参与开发,你需要学习任意一门编程语言。根据项目的需要,在后期学习另一种语言...【详细内容】
2021-10-20  TSINGSEE青犀视频    Tags:机器学习   点击:(37)  评论:(0)  加入收藏
SimpleAI.人工智能、机器学习、深度学习还是遥不可及?来这里看看吧~ 从基本的概念、原理、公式,到用生动形象的例子去理解,到动手做实验去感知,到著名案例的学习,到用所学来实现...【详细内容】
2021-10-19  憨昊昊    Tags:神经网络   点击:(47)  评论:(0)  加入收藏
语言是人类思维的基础,当计算机具备了处理自然语言的能力,才具有真正智能的想象。自然语言处理(Natural Language Processing, NLP)作为人工智能(Artificial Intelligence, AI)的核心技术之一,是用计算机来处理、理解以及运...【详细内容】
2021-10-11    36氪  Tags:NLP   点击:(49)  评论:(0)  加入收藏
边缘计算是什么?近年来,物联网设备数量呈线性增长趋势。根据艾瑞测算, 2020年,中国物联网设备的数量达74亿,预计2025年突破150亿个。同时,设备本身也变得越来越智能化,AI与互联网在...【详细内容】
2021-09-22  汉智兴科技    Tags:   点击:(54)  评论:(0)  加入收藏
说起人工智能,大家总把它和科幻电影中的机器人联系起来,而实际上这些科幻场景与现如今的人工智能没什么太大关系。人工智能确实跟人类大脑很相似,但它们的显著差异在于人工智能...【详细内容】
2021-09-17  异步社区    Tags:人工智能   点击:(57)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条