DoNews7月26日消息，日前在微軟 Inspire 大會上，Meta 和微軟宣布將在 Azure 和 Windows 上支持 Llama 2 大型語言模型（LLM）系列。
據(jù)微軟科技官方公眾號透露，Llama 2 旨在幫助開發(fā)者和組織構(gòu)建生成式人工智能工具和體驗。Meta 和微軟共同致力于實現(xiàn)“讓人工智能惠及更多人”的愿景， 對于 Meta 對 Llama 2 的開源路徑微軟尤為興奮。在 Meta 首次向商業(yè)客戶發(fā)布新版 Llama 2 時，微軟很高興能成為 Meta 的首選合作伙伴。
現(xiàn)在，Azure 客戶可以在 Azure 上更輕松、更安全地微調(diào)和部署7B、13B和70B參數(shù)的 Llama 2 模型。此外，Llama 還將進行優(yōu)化以便在 Windows 上本地運行。
Windows 開發(fā)人員將能夠通過 ONNX Runtime 瞄準 DirectML 執(zhí)行提供商來使用 Llama，從而實現(xiàn)無縫工作流，為其應(yīng)用程序帶來生成式人工智能體驗。
Meta 和微軟是人工智能領(lǐng)域的長期合作伙伴，雙方曾合作將 ONNX Runtime 與 PyTorch 集成，在 Azure 上為 PyTorch 創(chuàng)造良好的開發(fā)者體驗，Meta 還選擇了 Azure 作為戰(zhàn)略云提供商。
本次合作，是基于雙方加速人工智能時代創(chuàng)新的合作關(guān)系的演進，將進一步鞏固微軟作為開放模型生態(tài)系統(tǒng)與全球人工智能超級計算平臺的地位。
Azure 專為人工智能打造的超級計算平臺，從設(shè)施、硬件和軟件方面進行了獨特的設(shè)計，以支持世界領(lǐng)先的人工智能組織構(gòu)建、訓(xùn)練和部署一些要求苛刻的人工智能工作負載。
Llama 2 模型與 Azure AI 的結(jié)合，使開發(fā)人員能夠利用 Azure AI 的強大工具進行模型訓(xùn)練、微調(diào)、推理，特別是 Azure 確保 AI 安全的功能。
在 Windows 中加入 Llama 2 模型有助于推動 Windows 成為開發(fā)人員根據(jù)客戶需求構(gòu)建人工智能體驗的優(yōu)選場所，并釋放開發(fā)者使用 Windows Subsystem for Linux (WSL)、Windows 終端、Microsoft Visual Studio 和 VS Code 等世界級工具進行構(gòu)建的能力。
Llama 2 是微軟不斷增長的 Azure 人工智能模型目錄的最新成員。該模型目錄目前處于公開預(yù)覽階段，是基礎(chǔ)模型的中心，使開發(fā)人員和機器學(xué)習(xí)（ML）專業(yè)人員能夠輕松地發(fā)現(xiàn)、評估、定制和大規(guī)模部署預(yù)構(gòu)建的大型人工智能模型。
該目錄消除了用戶在運行 Llama 2 時管理所有基礎(chǔ)設(shè)施依賴的需要，為模型微調(diào)和評估提供交鑰匙支持，包括強大的優(yōu)化技術(shù)，如 DeepSpeed 和 ONNX Runtime，可顯著提高模型微調(diào)的速度。
Windows 開發(fā)人員將能夠通過 GitHub Repo 輕松使用 Llama 2 構(gòu)建新的體驗。借助 Windows Subsystem for Linux 和高性能 GPU，開發(fā)人員可以在 Windows PC 上對 LLM 進行微調(diào)，以滿足他們的特定需求。
負責(zé)任的人工智能是微軟人工智能路徑和我們合作方式的核心。多年來，無論客戶是構(gòu)建自己的模型，還是使用來自微軟、Meta、OpenAI 組織和開源生態(tài)系統(tǒng)的預(yù)構(gòu)建和可定制模型，我們都以巨大的投入使 Azure 成為負責(zé)任的尖端人工智能創(chuàng)新的場所。
在微軟，我們通過包括實驗和測量在內(nèi)的迭代、分層方法來降低使用大型語言模型帶來的潛在風(fēng)險。Azure AI 客戶可以使用自己的樣本數(shù)據(jù)測試 Llama 2，以了解其在特定用例中的表現(xiàn)。
之后，客戶可以使用提示工程和檢索增強生成（RAG）技術(shù)，為其應(yīng)用程序開發(fā)、評估和優(yōu)化元數(shù)據(jù)，并為最終用戶提供更安全、更可靠的體驗。
Azure AI 內(nèi)容安全等服務(wù)在此基礎(chǔ)上增加了另一層保護，從而確保使用 AI 應(yīng)用程序獲得更安全的在線體驗。我們與 Meta 合作的部分成果是將 Meta 的安全技術(shù)與 Azure AI 內(nèi)容安全相結(jié)合。因此在 Azure AI 中部署的 Llama 2 模型就會默認采用分層安全方法。
微軟通過 Llama 2 擴展 Azure 的模型目錄并與 Meta 建立合作伙伴關(guān)系，這是在實現(xiàn)負責(zé)任、開放的人工智能方法方面邁出的一大步。
