2021 年 8 月 23 日
宣布 PyTorch 开发者日 2021
我们非常高兴地宣布 PyTorch 开发者日（#PTD2），将于 2021 年 12 月 1 日和 2 日以虚拟形式举行。开发者日旨在为开发者和用户讨论核心技术发展、想法和路线图。活动详情技术讲座直播 - 2021 年 12 月 1 日 加入我们，参加各种主题的技术讲座，包括核心框架的更新、支持跨多个领域开发的新工具和库、负责任的 AI 和行业应用案例...
2021 年 8 月 18 日
PipeTransformer：大规模模型分布式训练的自动弹性管道
在这篇博客文章中，我们描述了第一篇经过同行评审的研究论文，该论文探讨了加速 PyTorch DDP（torch.nn.parallel.DistributedDataParallel）[1]和 Pipeline（torch.distributed.pipeline）的混合 - PipeTransformer：大规模模型分布式训练的自动弹性管道（如 BERT [2]和 ViT [3]），该论文发表在 ICML 2021 上。PipeTransformer 利用自动弹性管道，以高效地分布式训练 Transformer 模型。在 Pi...
2021 年 8 月 3 日
PyTorch Profiler 1.9 版本更新了什么？
PyTorch Profiler v1.9 版本已发布！本次新版本的目标是为您提供最新的先进工具，帮助诊断和修复机器学习性能问题，无论您是在单台还是多台机器上工作。目标是针对耗时和/或内存消耗最大的执行步骤，并可视化 GPU 和 CPU 之间的工作负载分布。以下是五个主要特性的总结...
2021 年 6 月 27 日
火炬视觉 SSDlite 实现全解析
在上一篇文章中，我们讨论了 SSD 算法的工作原理，介绍了其实现细节和训练过程。如果您还没有阅读上一篇博客文章，我鼓励您在继续之前先阅读它。在本系列的第二部分，我们将重点关注 SSD 的移动友好版本——SSDlite。我们的计划是首先介绍算法的主要组件，突出与原始 SSD 不同的部分，然后讨论发布模式的...
2021 年 6 月 23 日
torch.linalg 模块：PyTorch 中的加速自动微分线性代数
线性代数对于深度学习和科学计算至关重要，它一直是 PyTorch 的核心部分。PyTorch 1.9 通过 torch.linalg 模块扩展了对线性代数运算的支持。该模块在此处有 26 个运算符，包括更快、更易用的旧版 PyTorch 运算符版本，NumPy 线性代数模块中的每个函数都扩展了加速器和自动微分支持，以及一些全新的运算符。这使得 torch...
2021 年 6 月 18 日
PyTorch Mobile 演示应用的概述
PyTorch Mobile 提供了一个运行环境，可以在移动设备上执行最先进的机器学习模型。延迟降低，隐私得到保护，模型可以在任何时间、任何地点在移动设备上运行。在这篇博客文章中，我们快速概述了目前可用的 10 个由 PyTorch Mobile 驱动的演示应用，这些应用运行着各种最先进的 PyTorch 1.9 机器学习模型，涵盖了图像、视频、音频和文本。将最先进的机器学习模型部署到手机上从未如此简单。
2021 年 6 月 16 日
有关 Torchvision SSD 实现的全部知识
在 TorchVision v0.10 版本中，我们发布了基于 SSD 架构的两个新的目标检测模型。我们的计划是在两篇文章中介绍算法的关键实现细节以及它们的训练信息。本系列的第一部分，我们将重点关注 SSD 算法的原版实现，正如在《单次多框检测器》论文中所描述的那样。我们将简要介绍算法的工作原理，然后介绍其主要组成部分...
