Amazon Bedrock 的新「專有模型導入功能」有何意義？ 怎麼玩？ _TechWeb

[TechWeb]4 月 25 日消息，亞馬遜雲端技術在全球發布了 Amazon Bedrock 的重大更新。 新功能包括獨家模型導入功能、針對特定應用場景選擇最佳模型的模型評估功能以及泛化的模型評估功能。 Guardrails 功能提供易於實施的保護和許多較新的模型可供選擇，包括正式推出的 Amazon Titan Image Generator 和 Meta Llama 3 基本模型。

更多資訊請參閱（Amazon Bedrock導入新專屬模型、模型評論等功能https://www.techweb.com.cn/internet/2024-04-24/2943938.shtml）

Amazon Bedrock 是 Amazon Cloud Technology 在去年 4 月推出的一項全新的完全託管服務。 它允許用戶透過API存取來自亞馬遜雲端技術和第三方底層模型提供者的預先訓練的底層模型。

這項重要的功能更新恰逢 Amazon Bedrock 推出一週年。

亞馬遜雲端技術人工智慧和數據副總裁 Swami Sivasubramanian 表示：「Amazon Bedrock 企業應用程式正在呈現爆炸性成長。來自不同產業、各種規模的數千家公司選擇 Amazon Bedrock 作為其整體人工智慧策略的核心基礎，顯著加速和簡化業務從測試到生產的過渡。

進口獨家車型的可能性非常大

借助 Amazon Bedrock 全新的獨家模型導入功能，只需點擊幾下，業務用戶就可以將他們使用 Amazon SageMaker 或其他工具開發的模型整合到 Amazon Bedrock 平台中，從而幫助它們作為完全託管的 API 進行存取。

Amazon Bedrock 的獨家模型導入功能目前處於預覽階段，支援三種開放模型架構：Flan-T5、Llama 和 Mistral，並計劃在未來支援更多混合模型。

此次新增的專屬模型導入功能意義重大。

這意味著透過此服務，企業客戶可以存取 Amazon Bedrock 上的自訂模型，從而利用 Amazon Bedrock 內建的許多功能。 這將有助於客戶降低模型成本，同時享受無伺服器提供的易用性並全面加速應用程式開發。

對於亞馬遜雲端技術而言，獨家模型導入功能的推出打通了Amazon Bedrock和Amazon SageMaker之間的工具鏈連接，使兩者能夠達到1+1>2的效果。

為什麼這麼說？ 在此之前，Amazon Bedrock 和 Amazon Sagemaker 可以說是兩個獨立的服務。

Amazon SageMaker是亞馬遜雲端科技2017年推出的綜合機器學習平台，其功能包括從資料標註、資料訓練到基於原始資料上線迭代後的部署和持續監控的綜合能力。

Amazon SageMaker 提供的模型訓練功能可讓您從頭開始訓練模型或對現有公共模型（例如 Llama、Mistral 和 Flan-T5）執行進階自訂。

當 Amazon Cloud 客戶需要使用自己的資料來建立這些模型時，他們通常會依賴 Amazon SageMaker 來訓練自己的專有模型。

Amazon Bedrock內建了許多大型基礎第三方模型和進階合成AI工具，供使用者透過API存取。

現在，隨著Amazon Bedrock 獨家模型導入功能的推出，企業客戶可以將自己的自訂模型與Amazon Bedrock 內建的高級合成AI 工具（例如知識庫、Guardrails、代理和模型審查）相結合，而無需開發這些工具。 自營。

這項新功能可讓企業透過相同 API 輕鬆存取 Amazon Bedrock 模型和自己的自訂模型組合，從而使企業在模型選擇和使用方面實現更大的飛躍。

10分鐘完成模型導入

Amazon Cloud Technology 也發布了有關「將自訂模型匯入 Amazon Bedrock」的說明。

在演示中，只需 10 分鐘即可將精煉的 Mistral-7 B-v0.1 語言模型匯入 Amazon Bedrock。

步：

在 Amazon Bedrock 控制台中，從導覽窗格的平台模型部分選擇匯入模型。

選擇要匯入的模型 MistralLite，它是經過微調的 Mistral-7 B-v0.1 語言模型，能夠處理 32K 令牌。

在模型匯入設定中選擇模型權重，然後選擇模型上傳位置。

導入過程大約在 10 分鐘內完成。

您可以在控制台中看到匯入的 MistralLite 範本。