Amazon SageMaker、Amazon Bedrock平台更新,讓人工智慧訓練、佈署建置變得更簡單
Amazon SageMaker、Amazon Bedrock平台更新,讓人工智慧訓練、佈署建置變得更簡單
因應市場對於自動生成式人工智慧應用需求增加,AWS在此次re:Invent 2024活動宣布推出全新Amazon SageMaker機器學習平台,同時也將更多人工智慧模型、工具應用整合至Amazon Bedrock平台,同時也藉由整合更多Amazon Q技術應用,讓更多AWS平台用戶能更容易建造人工智慧應用服務。
讓人工智慧模型建立、訓練變得更有效率
針對Amazon SageMaker更新部分,除了強調會透過統一介面協助以最佳工具協助分析數據,挑選合適人工智慧模型,讓用戶能更容易客製化建造、佈署合適的人工智慧應用服務,並且能藉由Amazon SageMaker HyperPod擴展、加速建構自動生成式人工智慧模型。
而在目前市場需求瞬息萬變、資料內容也持續更新情況,人工智慧模型訓練需求變得必須更有效率,因此AWS此次更針對Amazon SageMaker HyperPod提出彈性訓練方案,讓用戶能在不影響既有服務運作情況下,更有效率地持續訓練人工智慧模型,標榜能提耕高達90%以上效率。
另外,Amazon SageMaker HyperPod也能藉由新增加的任務治理功能,以動態執行方式維持既有服務運作,但是能讓人工智慧模型訓練、微調與推論學習更有效率,並且連帶降低整體成本開銷。
為了進一步強化Amazon SageMaker平台應用資源,AWS目前也在此平台納入合作夥伴提供人工智慧應用服務,同時也強調在Amazon SageMaker平台確保資料與隱私安全,讓用戶能藉由這些應用服務建造更負責任的人工智慧模型。
包含Comet、deepchecks、fiddler AI、LAKERA AI等人工智慧技術公司,目前都已經藉由AWS SageMaker平台訓練、佈署其人工智慧模型應用資源,而Autodesk也強調透過AWS平台資源建構諸多人工智慧應用服務。
整合更多人工智慧模型資源
至於在Amazon Bedrock平台更新部分,則是持續納入更多人工智慧模型,目前包含AI21labs、Anthropic、cohere、Meta、Mistral AI、stability.ai旗下人工智慧模型資源都能透過Amazon Bedrock平台佈署硬用,同時也將此次公布的亞馬遜自有人工智慧模型Nova納入,另外更宣布與針對大型企業建構編程人工智慧模型的poolside合作,將使其兩項人工智慧數位助理malibu、point應用資源整合至Amazon Bedrock平台。
其他更新也包含納入stability.ai新版圖像生成人工智慧模型Stable Diffusion 3.5,同時也整合Luma AI旗下可生成擬真、高品質動態影片的RAY2模型,而Luma AI也強調其模型是以Amazon SageMaker HyperPod進行更大規模訓練,因此能產生更擬真、自然的圖文生成影片內容。
而亞馬遜更宣布在Amazon Bedrock平台導入市集 (Marketplace)項目,藉此讓更多人工智慧模型能藉由Aamzon Bedrock平台託管使用,讓用戶能在此平台測試、導入超過100款熱門、新興或特定領域的人工智慧模型,並且藉由Amazon Bedrock平台導入、佈署應用。
為了進一步提升人工智慧模型執行效率,AWS更宣布在Amazon Bedrock平台加入指令快取功能,藉此加快平台內以指令呼叫API執行速度,同時也能藉由減緩多達85%延遲情況,進而降低高達90%的成本開銷,另外更加入智慧化指令執行路徑功能,讓系統能依照指令自動判斷呼叫最佳API,並且透過最合適的人工智慧模型執行需求。
人工智慧運作背後:在短時間內於眾多數據資料找答案
在人工智慧應用服務運作背後,更多時候其實是在眾多數據資料尋找答案,因此AWS藉由在以機器學習運作、提供快速找到解答的Amazon Kendra增加Generative AI Index功能,可串連儲存在微軟SharePoint、OneDrive,或是Salesforce等服務的資料,並且接入Amazon Q Business等資料查詢方式,讓用戶能在其人工智慧服務更快找到所需答案,同時能更快做出互動回應。
同時,在RAG檢索增強生成處理過程中,其實需要串聯更多結構化資料,藉此加快資料檢索生成效率,此次更新增加的GraphRAG功能,則可透過知識圖表 (knowledge graphs)形式識別更多關聯資料,讓最終彙整資料可以更貼近需求。
至於針對非結構化資料,例如影片、圖像等必須事先逐一建立相關描述標籤的內容,此次則是透過Data Automation功能,將此類非結構化資料以自動生成式人工智慧方式自動產生描述內容,而用戶也能依照需求自訂建立描述的方式,使其更符合業務法規要求,另外也將確保人工智慧運作不會「越矩」的Amazon Bedrock Guardrails功能加入多模運作。
配合Amazon Bedrock Guardrails確保人工智慧不會越矩,目前也加入對應多模糾錯功能,使其能識別更多影像資料內容是否合規,避免在人工智慧運作時輸出不當結果。
而目前也能在Amazon Bedrock平台透過簡單操作即可建構Agents助理服務,使其協助可執行指定任務工作,甚至能透過多個Agents助理服務合作處理複雜、多步驟事宜。
整合更多Amazon Q技術資源
其他部分,AWS也強調將Amazon Q技術應用在Amazon SageMaker與Amazon Bedrock平台,讓用戶能輕鬆透過自然語言互動,即可快速建立機器學習訓練,僅而建構人工智慧模型,其他也透過Amazon Q技術識別非結構化資料,讓更多內容可以轉換為結構化資料,甚至可以在不同場景識別關鍵數據資料,以利在人工智慧應用檢索中更快生成相應「解答」。
更多Mashdigi.com報導:
Walmart宣布完成以23億美元收購電視品牌Vizio,將進一步強化廣告業務