重磅！PyTorch官宣2.0版本即将发布，最新torch.compile特性说明！

2022年的PyTorch Conference在新奥尔良市举办。刚刚会上的keynote官宣PyTorch2.0版本即将到来。PyTorch是目前最流行的深度学习框架之一，它的易用性被广大的用户所喜爱。关于PyTorch2.0，官方透露其最重要的就是支持动态图，极大地提升了现有模型的运行速度。

而这一切都是围绕torch.compile展开的。本文将简单介绍以下这个前瞻性的特性。

目前PyTorch最大的挑战是eager模式难以跟上不断增长的GPU带宽和更疯狂的模型架构，而保持PyTorch易于使用和调试也是很重要的方面。因此，解决这些问题需要在代码可及性与速度之间保持棘手的平衡。

为了提升PyTorch处理大模型的速度，PyTorch2.0中有一个新特性，即torch.compile。这是一个新增的特性，可以极大地提升模型运行速度。由于是是additive且optional，所以不会对现有版本的PyTorch代码产生任何影响。

经过测试，torch.compile可以极大地提升模型的运行速度。下图是使用torch.compile之后运行GPT-2的测试结果，可以看到，动态图模式下的torch.compile性能提升明显，且seq长度越长，提升越明显。