AWS 宣布推出七項生成式 AI 創新功能
亞馬遜（納斯達克股票代碼：AMZN）旗下公司 Amazon Web Services 近日在紐約峰會上宣布推出七項生成式 AI 新功能，包括 Amazon Bedrock 新增基礎模型供應商 Cohere 和全新基礎模型，以及全新代理（Agents）功能；Amazon EC2 P5 實例正式可用，加速生成式 AI 和高性能計算應用；Amazon OpenSearch Serverless 支援全新向量引擎；編程助手 Amazon CodeWhisperer 與 Amazon Glue 實現集成；Amazon QuickSight 新增生成式 BI 功能；幫助企業提升數據質量的分析服務 AWS Entity Resolution 正式可用；協助提升醫療行業生產效率的智慧醫療新服務 AWS HealthScribe 等。
AWS 是次發布的多項生成式 AI 新功能，進一步降低了生成式 AI 的使用門檻，讓無論是企業用戶還是開發人員都能從中受益。
在 AWS 紐約峰會上發表主旨演講
Amazon Bedrock 全面擴展 協助客戶靈活應用基礎模型；新增全新基礎模型、基礎模型供應商以及代理（Agents）功能
AWS 宣布全面擴展其全託管基礎模型服務 Amazon Bedrock，包括新增 Cohere 作為基礎模型供應商，加入 Anthropic 和 Stability AI 的最新基礎模型，並發布變革性的新功能 Amazon Bedrock 代理 （Agents） 。
Cohere 致力於開發領先的企業 AI 平台和前沿基礎模型，其基礎模型可以更直觀地生成、檢索和匯總資訊。 Anthropic 為一間關注 AI 安全的研究型公司，專注於構建可信、可解釋和可掌控的 AI 系統。Anthropic 已經將其最新的語言模型 Claude 2 接入到 Amazon Bedrock。Stability AI 為一間社區驅動的開放式 AI 公司，提供可通過簡單文本指令創建文本、圖像、音頻、影片、代碼等的基礎模型。Stability AI 將在 Amazon Bedrock 上發布其最新版本文生圖模型套件 Stable Diffusion XL 1.0 （SDXL 1.0）。
Amazon Bedrock 代理功能將協助開發人員輕鬆創建全託管的人工智能代理（AI Agents），並協助企業加速開發生成式 AI 應用程式，這些應用程式可以通過對公司系統進行 API 調用來管理和執行任務。Amazon Bedrock 代理功能同時還可以擴展基礎模型以理解用戶請求，將複雜任務分拆為多個步驟、開展對話以收集更多資訊，並採取行動以滿足用戶請求。借助 Amazon Bedrock 代理功能，用戶可以為內部或外部客戶自動執行任務，如管理零售訂單或處理保險索賠。憑藉代理功能，電商的生成式 AI 應用程式不僅能回答簡單問題（「如有藍色夾克嗎？」），還能協助用戶完成複雜任務（如更新訂單或管理交易）。
Amazon EC2 P5 實例正式可用 加速生成式 AI 和高性能計算應用
AWS 宣布 Amazon Elastic Compute Cloud（Amazon EC2） P5 實例正式可用。這是一款下一代 GPU 實例，可以滿足客戶在運行人工智能、機器學習和高性能計算工作負載時對高性能和高擴展性的需求。該實例由最新的英偉達 H100 Tensor Core GPU 提供支援，與上一代基於 GPU 的實例相比，訓練時間最多可縮短 6 倍（從數天縮短至數小時）。這一性能提升將協助客戶降低高達 40% 的培訓成本。
Amazon EC2 P5 實例提供 8 個英偉達 H100 Tensor Core GPU，具有 640 GB 高帶寬 GPU 內存，同時提供第三代 AMD EPYC 處理器、2TB 系統內存和 30 TB 本地 NVMe 存儲。Amazon EC2 P5 實例還提供 3200 Gbps 的聚合網絡帶寬並支援 GPUDirect RDMA，從而能夠繞過 CPU 進行節點間通信，實現更低的延遲和高效的橫向擴展性能。
適用於 Amazon OpenSearch Serverless 的向量引擎 協助客戶輕鬆構建現代生成式 AI 應用
AWS 宣布推出適用於 Amazon OpenSearch Serverless 的向量引擎。在正式可用後，該向量引擎將支援簡單的 API 調用，可用於儲存和查詢數十億個嵌入（embeddings）。而未來所有 AWS 的數據庫都將具有向量功能，協助客戶簡化營運，方便整合數據。
嵌入應儲存在靠近來源數據的位置，一系列因素都將影響企業如何選擇最適合自己的選項，這些因素包括當前資料儲存位置、對數據庫技術的熟悉程度、向量維度的擴展、嵌入的數量和性能需求等。因此，AWS 還提供以下選項滿足更高級的向量數據儲存需求：
- Amazon Aurora PostgreSQL 相容版關係型數據庫，支援 pgvector 開源向量相似性搜索外掛程式。
- 分布式搜索和分析服務 Amazon OpenSearch，帶有 k-NN（k 最近鄰）外掛程式和適用於 Amazon OpenSearch Serverless 的向量引擎。
- 相容 PostgreSQL 的 Amazon RDS（Amazon Relational Database Service）關係型數據庫，支援 pgvector 外掛程式。
Amazon CodeWhisperer 與 Amazon Glue 實現整合 進一步提升開發效率
AWS 宣布 Amazon CodeWhisperer 正式可用。這是一款 AI 編程助手，能透過使用底層基礎模型協助開發人員提高工作效率。它可以根據開發人員使用自然語言留下的註釋和 IDE（集成開發環境）中的歷史代碼實時生成代碼建議。此外，AWS 還發布了 Amazon CodeWhisperer Jupyter 擴展程式，為 Jupyter 用戶在 Jupyter Lab 和 Amazon SageMaker Studio 中的 Python notebooks 生成實時、單行或完整的函數代碼建議。
現在，AWS 正式宣布 Amazon Glue Studio notebooks 支援 Amazon CodeWhisperer，協助 Amazon Glue 用戶優化使用體驗、提高開發效率。通過 Amazon Glue Studio notebooks，開發人員可以用自然語言（英語）編寫特定任務，例如「利用 json 檔中的內容創建一個 Spark DataFrame」。基於此資訊，Amazon CodeWhisperer 會直接在 notebooks 中推薦一個或多個可完成此任務的代碼片段。開發人員可以選擇「接受最推薦的建議」，「查看更多建議」或「繼續自己編寫代碼」。
Amazon QuickSight 新增生成式 BI 功能 升級自然語言人機交流
AWS 宣布正將 Amazon Bedrock 提供的大語言模型能力與支援自然語言問答的 Amazon QuickSight Q整合，以期在 Amazon QuickSight 中提供生成式 BI 功能。該功能很快將在 Amazon QuickSight 可用，協助企業輕鬆探索數據、發現並分享洞察。
借助 Amazon QuickSight 中新增的生成式 BI 功能，業務分析師能夠使用自然語言輕鬆執行日常任務，包括：
- 基於 Amazon QuickSight Q 全新的視覺創作體驗功能，在數秒鐘內創建數據可視化圖表；
- 使用自然語言微調和格式化圖表效果；
- 無須學習特定語法，通過自然語言即可創建計算任務。
針對使用儀錶板並需要與之進行交流的企業用戶，AWS 發布 Stories 功能，協助企業用戶使用生成式 BI 的強大能力，通過自然語言提示來生成、定制和共用極具信息量的可視化圖表。
Amazon Entity Resolution 正式可用 協助企業提升數據品質、獲取客戶洞察
AWS 宣布 Amazon Entity Resolution 正式可用。這是一項由機器學習提供支援的分析服務，可以協助企業輕鬆分析、匹配和關聯相關記錄，這些記錄可能儲存在應用程式、不同的數據獲取管道和數據儲存中。Amazon Entity Resolution 利用基於規則和機器學習的技術自定義工作流程，並以此匯總消費者、業務和產品信息。業務分析師和開發人員可以通過內置的預配置工作流程快速提高數據準確性，或者通過自定義工作流程來滿足企業需求。借助 Amazon Entity Resolution，企業可以更好地了解數據的關聯、匹配和鏈接情況，同時深入發掘客戶洞察、清晰捕捉供應鏈數據，從而改善營運能力、開展更多有效營銷、作出複雜金融投資決策。AWS 宣布計劃增加兩個 Amazon Entity Resolution 的合作夥伴 LiveRamp 和 TransUnion，同時增強與 Unified ID 2.0 開源框架的互通性。通過這些集成功能，客戶將能更輕鬆地翻譯或豐富自己的記錄，同時更好地保護數據並減少數據移動。
Amazon HealthScribe 利用生成式 AI 協助構建醫療應用程式
AWS 宣布推出 Amazon HealthScribe，這是一項符合 HIPAA（《健康保險責任與保護法》）要求的新服務，能夠幫助醫療軟件供應商構建臨床應用程式。這些應用程式使用文本識別和生成式 AI 技術生成臨床文檔，節省醫生時間。借助 Amazon HealthScribe，醫療軟件供應商可以通過調用一個 API 自動創建可靠的記錄、提取關鍵資訊（例如醫學術語和藥物），並根據醫患對話創建摘要，然後將這些數據輸入到電子健康記錄（EHR）系統。 Amazon HealthScribe 由 Amazon Bedrock 提供支援，使醫療軟件供應商能夠更快、更輕鬆地將生成式 AI 功能整合至其應用程式中。在普通醫學和骨科這兩個常見專科，醫療軟件供應商已經開始使用 Amazon HealthScribe，它們不再需要管理底層機器學習基礎設施或訓練自己的醫療專屬大語言模型 （LLM）。
發表迴響