由 PyTorch 团队

PyTorch 生态系统包括来自学术界和工业界的研究人员、应用开发人员和机器学习工程师的众多项目、工具、模型和库。这个生态系统的目标是支持、加速并帮助您探索 PyTorch,无论您探索哪个领域,都能帮助您推动技术前沿。同样,我们正在扩展最近推出的 PyTorch Hub,以进一步帮助您发现和重现最新的研究成果。

在本文中,我们将突出介绍今年添加到 PyTorch 生态系统的一些项目,并介绍我们用于评估社区项目的标准。我们还将更新快速增长的 PyTorch Hub,并分享即将到来的 PyTorch 夏季黑客马拉松的详细信息。

最近添加的生态系统项目

从私人 AI 到量子计算,我们看到社区继续扩展到新的和有趣的领域。最新的项目包括:

  • Advertorch:用于对抗鲁棒性研究的 Python 工具箱。主要功能在 PyTorch 中实现。具体来说,AdverTorch 包含生成对抗扰动和防御对抗样本的模块,以及对抗训练的脚本。

  • botorch:一个模块化和易于扩展的接口,用于组合贝叶斯优化原语,包括概率模型、获取函数和优化器。

  • Skorch:一个为 PyTorch 提供完整 scikit-learn 兼容性的高级库。

  • PyTorch Geometric:一个用于在不规则输入数据(如图、点云和流形)上进行深度学习的库。

  • PySyft:一个用于加密、隐私保护深度学习的 Python 库。

  • PennyLane:一个用于量子机器学习、自动微分和混合量子经典计算优化的库。

  • Flair:一个非常简单的最先进自然语言处理(NLP)框架。

什么是一个优秀项目的要素?

当我们审查 PyTorch 生态系统的项目提交时,我们会考虑许多我们认为重要的因素,并且希望这些因素也出现在我们自己使用的项目中。其中一些标准包括:

  1. 经过良好测试:用户应该有信心生态系统项目能够很好地与 PyTorch 协同工作,并包括持续集成支持,以确保测试持续进行,并且项目可以在最新版本的 PyTorch 上运行。
  2. 清晰的实用性:用户应该了解每个项目在 PyTorch 生态系统中的位置以及它带来的价值。
  3. 开放许可:用户必须能够在没有许可问题的前提下使用生态系统项目。例如,BSD-3、Apache-2 和 MIT 许可。
  4. 简化入职:项目需要支持二进制安装选项(pip/Conda),清晰的文档和丰富的教程(理想情况下集成到 Jupyter 笔记本中)。
  5. 持续维护:项目作者需要致力于支持和维护他们的项目。
  6. 社区:项目应该拥有(或正在努力建立)一个活跃的、广泛的社区。

如果您希望将您的项目纳入 PyTorch 生态系统并在 pytorch.org/ecosystem 上展示,请在此处填写表格。如果您之前已提交项目申请但尚未收到回复,我们承诺会尽快回复您——我们收到了大量的申请!

PyTorch Hub 用于可重复研究 | 新模型

自 PyTorch Hub 推出测试版以来,我们收到了社区的大量关注,包括许多新模型的贡献。其中一些最新的包括由杜克大学研究人员贡献的用于脑部 MRI 的 U-Net、来自 NVIDIA 的单次检测以及来自 HuggingFace 的 Transformer-XL。

我们看到像 paperswithcode 这样的团队自然地整合了 PyTorch Hub,这使得您尝试 AI 研究前沿变得更加容易。此外,像 Seldon 这样的公司为 PyTorch Hub 模型在 Kubernetes 上提供生产级支持。

在 PyTorch Hub 中贡献模型有哪些好处?

  • 兼容性:PyTorch Hub 模型将首先由 TorchScript 和 Cloud TPU 团队进行测试,并作为多个领域研究人员的基准。

  • 可见性:Hub 中的模型将在 pytorch.org 以及 paperswithcode 上进行推广。

  • 测试便捷性和可重复性:每个模型都附带代码、清晰的预处理要求以及运行方法和依赖项。同时与 Google Colab 紧密集成,实现一键启动。

欢迎为 PyTorch Hub 做出贡献!

我们正在积极寻求扩大 PyTorch Hub,并欢迎贡献。您不需要是原始论文的作者就可以进行贡献,我们很乐意看到领域和领域的数量得到拓展。那么,我们正在寻找哪些类型的贡献呢?

  • 已发表的或 arXiv 论文的成果(或类似性质,服务于不同受众的东西——例如 ULMFit)——这些成果是大量受众所需要的。

    AND

  • 能够重现(或优于)已发表的成果

这些模型旨在为研究人员提供帮助,他们要么试图重现基线,要么试图在模型之上构建下游研究(如特征提取或微调),以及那些寻找论文演示以进行主观评估的研究人员。请在贡献时考虑到这一受众。

如果您灵感不足或想了解任何特定领域或领域的 SOTA,请查看 Paperswithcode 的 SOTA 画廊。

PyTorch 夏季黑客马拉松

我们将于下个月举办首届 PyTorch 夏季黑客马拉松。我们邀请您申请参加 8 月 8 日至 9 日在 Facebook Menlo Park 校园举办的现场黑客马拉松。我们将把社区聚集在一起,共同工作,解决一系列复杂挑战的创新机器学习项目。

申请将滚动审核并接受,直到名额满为止。对于无法亲自参加这次黑客松的人,我们将很快提供其他参与方式。

请访问此链接进行申请。

感谢您成为 PyTorch 社区的一员!

-PyTorch 团队