0
| 本文作者： 蔣寶尚 | 2020-02-06 17:54 |
機(jī)器學(xué)習(xí)算法部署平臺Cortex宣布推出 Cortex V0.13 。
據(jù)介紹，這次的Cortex v0.13支持了所有的主要機(jī)器學(xué)習(xí)框架。
Cortex作為一款為生產(chǎn)Web服務(wù)的工具，能夠和AWS服務(wù)結(jié)合起來，重點(diǎn)解決jupyter notebook到生產(chǎn)的缺乏基礎(chǔ)框架的問題。
當(dāng)前的TensorFlow，PyTorch或者其他機(jī)器學(xué)習(xí)框架需要的技能與處理Docker、Kubernetes、NVIDIA驅(qū)動程序的技能并不兼容。也就是說機(jī)器學(xué)習(xí)模型從筆記本遷移到云上面可能需要花費(fèi)數(shù)周的時間。
這種延遲往往導(dǎo)致大量的計(jì)算資源產(chǎn)生浪費(fèi)，并且用戶體驗(yàn)有很高的提升空間。而Cortex v0.13提供了大量新特性，提升了使用體驗(yàn)，能夠更方便快捷地將機(jī)器學(xué)習(xí)模型預(yù)測作為網(wǎng)絡(luò)服務(wù)部署到生產(chǎn)流程中。
具體而言，此次的Cortex v0.13改進(jìn)了自動擴(kuò)展、多框架支持、CPU/GPU支持、預(yù)測監(jiān)測、最小化的聲明式配置、滾動更新、日志流等功能。
自動擴(kuò)展：Cortex能夠自動調(diào)整API，已處理生產(chǎn)環(huán)境下的工作負(fù)載，避免高延遲，減少AWS賬單；
多框架支持：Cortex廣泛支持TensorFlow,Keras, PyTorch, Scikit-learn, XGBoost的多個機(jī)器學(xué)習(xí)框架；
CPU/GPU支持：Cortex可在CPU或GPU基礎(chǔ)設(shè)施上運(yùn)行推理任務(wù)；
滾動更新：直接將更新應(yīng)用在API上，輕松將Web服務(wù)過渡到新模型，不會產(chǎn)生延遲；
日志流：可以Cortex中實(shí)時查看日志，從而幫助簡化流程；預(yù)測監(jiān)測：可檢測網(wǎng)絡(luò)量度，并追蹤預(yù)測結(jié)果；
Spot 實(shí)例：能夠享受最高的折扣；
最小化配置：部署配置僅由一個cortex.yaml文件定義。
總的來說，整個Cortex采用TensorFlow，Kubernetes和Docker等開源工具，并將它們與CloudWatch等AWS服務(wù)相結(jié)合，能夠?yàn)殚_發(fā)人員提供了一個API來部署其模型；然后，將模型集裝箱化，然后將其部署到幕后的Kubernetes上，Cortex會自動擴(kuò)展工作量，如果計(jì)算量很大，可以切換到GPU。
目前，創(chuàng)始人也公布了Github地址，給出了大量的運(yùn)行示例，包括，TensorFlow、PyTorch、XGBoost、scikit-learn。
雷鋒網(wǎng)截圖
github地址：https://github.com/cortexlabs/cortex/tree/0.12/examples
如上所示，在TensorFlow的分類中，給出了鳶尾花分類、文本生成、情緒分析、圖像分類等例子；PyTorch的例子包括，閱讀理解、語言生成、圖像分類等等。
Cortex的更新，其創(chuàng)始人也在Reddit 論壇上更新了通知。在Reddit帖子下面，網(wǎng)友也發(fā)表了評論：有人認(rèn)為能夠加速機(jī)器學(xué)習(xí)模型的訓(xùn)練，也有認(rèn)為在支持功能上還有待改進(jìn)。
雷鋒網(wǎng)截圖
為啥要將Cortex和AWS綁在一塊？為啥不支持 所有的k8s集群？為啥不能通過運(yùn)行Minikube在本地測試Cortex？——來自網(wǎng)友的靈魂三連問
雷鋒網(wǎng)截圖
目前也在Google Cloud中，他們提供ML預(yù)測服務(wù)，但是他們都不使用容器，我認(rèn)為這是一大優(yōu)勢。最后，你對最新版的Cortex有何評論，在文末給我們留言吧~
參考鏈接：https://towardsdatascience.com/cortex-v0-13-bba9b9b59131
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
