DoNews7月26日消息，日前在微軟 Inspire 大會上，Meta 和微軟宣布將在 Azure 和 Windows 上支持 Llama 2 大型語言模型（LLM）系列。

據微軟科技官方公眾號透露，Llama 2 旨在幫助開發者和組織構建生成式人工智能工具和體驗。Meta 和微軟共同致力于實現“讓人工智能惠及更多人”的愿景， 對于 Meta 對 Llama 2 的開源路徑微軟尤為興奮。在 Meta 首次向商業客戶發布新版 Llama 2 時，微軟很高興能成為 Meta 的首選合作伙伴。

現在，Azure 客戶可以在 Azure 上更輕松、更安全地微調和部署7B、13B和70B參數的 Llama 2 模型。此外，Llama 還將進行優化以便在 Windows 上本地運行。

Windows 開發人員將能夠通過 ONNX Runtime 瞄準 DirectML 執行提供商來使用 Llama，從而實現無縫工作流，為其應用程序帶來生成式人工智能體驗。

Meta 和微軟是人工智能領域的長期合作伙伴，雙方曾合作將 ONNX Runtime 與 PyTorch 集成，在 Azure 上為 PyTorch 創造良好的開發者體驗，Meta 還選擇了 Azure 作為戰略云提供商。

本次合作，是基于雙方加速人工智能時代創新的合作關系的演進，將進一步鞏固微軟作為開放模型生態系統與全球人工智能超級計算平臺的地位。

Azure 專為人工智能打造的超級計算平臺，從設施、硬件和軟件方面進行了獨特的設計，以支持世界領先的人工智能組織構建、訓練和部署一些要求苛刻的人工智能工作負載。

Llama 2 模型與 Azure AI 的結合，使開發人員能夠利用 Azure AI 的強大工具進行模型訓練、微調、推理，特別是 Azure 確保 AI 安全的功能。

在 Windows 中加入 Llama 2 模型有助于推動 Windows 成為開發人員根據客戶需求構建人工智能體驗的優選場所，并釋放開發者使用 Windows Subsystem for Linux (WSL)、Windows 終端、Microsoft Visual Studio 和 VS Code 等世界級工具進行構建的能力。

Llama 2 是微軟不斷增長的 Azure 人工智能模型目錄的最新成員。該模型目錄目前處于公開預覽階段，是基礎模型的中心，使開發人員和機器學習（ML）專業人員能夠輕松地發現、評估、定制和大規模部署預構建的大型人工智能模型。

該目錄消除了用戶在運行 Llama 2 時管理所有基礎設施依賴的需要，為模型微調和評估提供交鑰匙支持，包括強大的優化技術，如 DeepSpeed 和 ONNX Runtime，可顯著提高模型微調的速度。

Windows 開發人員將能夠通過 GitHub Repo 輕松使用 Llama 2 構建新的體驗。借助 Windows Subsystem for Linux 和高性能 GPU，開發人員可以在 Windows PC 上對 LLM 進行微調，以滿足他們的特定需求。

負責任的人工智能是微軟人工智能路徑和我們合作方式的核心。多年來，無論客戶是構建自己的模型，還是使用來自微軟、Meta、OpenAI 組織和開源生態系統的預構建和可定制模型，我們都以巨大的投入使 Azure 成為負責任的尖端人工智能創新的場所。

在微軟，我們通過包括實驗和測量在內的迭代、分層方法來降低使用大型語言模型帶來的潛在風險。Azure AI 客戶可以使用自己的樣本數據測試 Llama 2，以了解其在特定用例中的表現。

之后，客戶可以使用提示工程和檢索增強生成（RAG）技術，為其應用程序開發、評估和優化元數據，并為最終用戶提供更安全、更可靠的體驗。

Azure AI 內容安全等服務在此基礎上增加了另一層保護，從而確保使用 AI 應用程序獲得更安全的在線體驗。我們與 Meta 合作的部分成果是將 Meta 的安全技術與 Azure AI 內容安全相結合。因此在 Azure AI 中部署的 Llama 2 模型就會默認采用分層安全方法。

微軟通過 Llama 2 擴展 Azure 的模型目錄并與 Meta 建立合作伙伴關系，這是在實現負責任、開放的人工智能方法方面邁出的一大步。