Facebook宣布發(fā)布深度學(xué)習(xí)框架 PyTorch 1.0開發(fā)者預(yù)覽版

今日，F(xiàn)acebook 宣布發(fā)布深度學(xué)習(xí)框架 PyTorch 1.0 開發(fā)者預(yù)覽版，包括一些列工具和集成，使其與 Google Cloud、AWS、Azure 的機(jī)器學(xué)習(xí)服務(wù)更為兼容。

ARM、Nvidia、高通、英特爾也在內(nèi)核庫集成和跟蹤推理運(yùn)行時的工具中添加了 PyTorch 支持。

▌PyTorch 1.0 有什么新功能？

該框架主要有三大更新：

一是添加了一個新的混合前端，支持從 Eager 模式到圖形模式的跟蹤和腳本模型，以彌合研究和生產(chǎn)部署之間的差距。

二是一個經(jīng)過改進(jìn)的 Torch 分布式庫，可以在 Python 和 C++環(huán)境中實(shí)現(xiàn)更快的訓(xùn)練。

三是添加了針對關(guān)鍵性能研究的 Eager 模式 C++接口，將在測試版中發(fā)布。

目前，研究人員和工程師必須面對許多框架和工具，以創(chuàng)建新的深度學(xué)習(xí)模型并將其轉(zhuǎn)移到生產(chǎn)環(huán)境中大規(guī)模運(yùn)運(yùn)行，而這里多數(shù)框架和工具通常是不兼容的。如此，將會降低開發(fā)者在規(guī)模化生產(chǎn)中部署 AI 能力的速度。通過這個最新版本，將現(xiàn)有 PyTorch 框架的靈活性與 Caffe2（今年 5 月宣布 Caffe2 并入 PyTorch）的生產(chǎn)能力結(jié)合，提供從研究到生產(chǎn)性 AI 的無縫路徑。

▌生態(tài)的深度支持

PyTorch 1.0 于 5 月在 F8 開發(fā)者大會上首次公布，并與 Facebook 的 Caff2、ONNX 進(jìn)行了更深入的整合。

早在 5 月，F(xiàn)acebook 副總裁 Bill Jia 和首席技術(shù)官 Mike Schroepfer 承諾，PyTorch 1.0 將推出新的預(yù)訓(xùn)練模型、工具和庫，為開發(fā)人員提供更多靈活性和選擇。

為了滿足這些需求，Google Cloud 也將為其眾多服務(wù)引入 PyTorch 支持。Facebook 在宣布這一消息的博客文章中稱，Google 與 Facebook 合作在為 PyTorch 用戶共同制作張量處理單元（TPU）。用于預(yù)配置 AI 的 Google Cloud Platform 深度學(xué)習(xí) VM，還將包含 PyTorch 1.0 的 VM 映像。亞馬遜的 SageMaker 將為 PyTorch 用戶提供預(yù)配置的環(huán)境，用于自動模型調(diào)整等。

微軟于一年前首次與 Facebook 合作開發(fā) ONNX 開源框架，使用不同框架創(chuàng)建的 AI 模型，更具可移植性，同時，微軟也將為使用 PyTorch 的開發(fā)人員引入一些新資源。

「Azure 機(jī)器學(xué)習(xí)服務(wù)現(xiàn)在允許開發(fā)人員無縫地從本機(jī)上 PyTorch 模型培訓(xùn)轉(zhuǎn)移到 Azure 云上。對于數(shù)據(jù)科學(xué)實(shí)驗(yàn)，微軟提供預(yù)配置的數(shù)據(jù)科學(xué)虛擬機(jī)（DSVM）。對于希望開始探索 PyTorch 而無需安裝軟件和設(shè)置本機(jī)的開發(fā)人員，Azure 提供了一個免費(fèi)的云托管 Jupyter Notebook 解決方案。」Facebook 產(chǎn)品經(jīng)理 Joseph Spisak 在博客中指出。

此外，fast.ai 還發(fā)布了 fastai 1.0，一個基于 PyTorch 構(gòu)建的開源深度學(xué)習(xí)庫。

▌總結(jié)

不少人會將 Facebook 支持的 PyTorch 與 Google 支持的 TensorFlow 兩個深度學(xué)習(xí)框架進(jìn)行對比。前者于 2015 年一經(jīng)開源便得到了社區(qū)的廣泛支持并迅速成為開發(fā)者或機(jī)構(gòu)的首選框架。相比之下，F(xiàn)acebook 的 PyTorch 于 2017 年 1 月向公眾發(fā)布，現(xiàn)已下載超過 100 萬次。目前來看，TensorFlow 顯然比 PyTorch 更為廣泛使用。

但正如此次 PyTorch 1.0 預(yù)覽版的公布，它在可重用、性能、編程語言和可擴(kuò)展性上得到了提升，尤其是在生態(tài)的深度合作下，其潛力是顯而易見的。