AWS 宣布推出生成式 AI 新服務以加速創新

AWS 宣布推出生成式 AI 新服務以加速創新

AWS 全託管生成式 AI 服務 Amazon Bedrock 現已正式可用；客戶可使用由眾多領先 AI 公司所提供的高效能基礎模型，以及建立生成式 AI 應用程式所需的一系列功能，簡化開發過程同時確保私隱和安全

Amazon Bedrock 新增 Amazon Titan Embeddings 和 Meta Llama 2 模型，為客戶提供更多靈活選擇以尋找適合其應用場景的模型

全新 Amazon CodeWhisperer 功能將提供客製化、基於生成式 AI 的代碼建議，充分利用企業內部代碼庫，提高開發人員生產力

Amazon QuickSight 提供生成式 BI 儀錶板創作功能，助業務分析師更方便快捷地探索數據，並運用自然語言描述即可建立視覺化報告

adidas、BMW、GoDaddy、默克、國民西敏銀行集團（NatWest Group）、Persistent、PGA 錦標賽（PGA TOUR）、株式會社竹中工務店（Takenaka Corporation）和 Traeger Grills 等企業正在應用 AWS 的生成式 AI 以創新其產品和服務

AWS 宣布推出五項生成式 AI 創新功能，讓各種規模的企業都可以建立新的生成式 AI 應用程式，提高員工生產力並實現業務轉型。這五項創新功能包括：AWS 全面託管服務 Amazon Bedrock 正式可用，透過統一的應用程式設計發展介面（API）提供來自領先 AI 公司的基礎模型（FM）；AWS 宣布 Amazon Titan Embeddings 模型正式可用，為客戶提供更多基礎模型選擇；Amazon Bedrock 最新引入了 Meta Llama 2 模型，這是第一個透過 API 提供完全託管 Meta Llama 2 模型的服務；AI 程式設計助手 Amazon CodeWhisperer 的新功能即將提供預覽，該功能可以根據企業的內部代碼庫安全地客製 CodeWhisperer 的代碼建議，支援開發人員從生成式 AI 中獲得更大價值；Amazon QuickSight 的生成式 BI 創作功能現已推出預覽版，可以提高業務分析師的工作效率。這一功能是雲端原生建立的統一 BI 服務，使客戶能夠透過自然語言簡單地描述他們想要的內容，從而建立視覺化內容、格式化圖表、執行計算等。從  Amazon Bedrock、Amazon Titan Embeddings，再到 Amazon CodeWhisperer 和 Amazon QuickSight，這些創新功能加強了 AWS 在生成式 AI 各層面為客戶提供的能力，無論任何規模的企業都可獲得企業級安全和私隱保護，並選擇最佳模型並進行模型客製。如欲開始體驗 AWS 生成式 AI的功能，請瀏覽 aws.amazon.com/generative-ai/。

AWS 數據和機器學習全球副總裁 Swami Sivasubramanian 表示：「在過去的一年裡，海量的資訊爆炸、大規模彈性運算能力的普及，以及機器學習技術的進步點燃了人們對生成式 AI 的興趣，深刻改變了各行各業，並重塑了人們的工作方式。憑藉企業級的安全和私隱保護、領先的基礎模型選擇、數據為先的方法論，以及高效、具成本效益的基礎架構，AWS 贏得了企業的信賴，並在技術棧的每一層使用生成式 AI 解決方案協助企業不斷創新。今天的發布是一個重要的里程碑，它提供生成式 AI給予涵蓋初創企業至大型企業的每間企業、涵蓋開發工程師至數據分析師的每位員工。透過強大的創新，AWS 為企業帶來了更強的安全性、更多的選擇和更出色的效能，同時協助企業與自身的數據戰略保持高度一致，進而充分釋放生成式 AI 的潛力。」

各行各業、不同規模的企業都渴望借助生成式 AI 來變革營運方式，重新思考解決複雜問題的方法，並創造全新的用戶體驗。儘管生成式 AI 的最新進展引起了廣泛關注，但很多企業仍未能參與到這一轉型過程中。它們一邊對使用生成式 AI 充滿渴望，一邊又對這些工具的安全性和私隱問題憂心忡忡。這些企業希望能夠測試多種基礎模型，從而找到最適合自己應用場景的模型。它們同時希望最大限度地利用已經擁有的數據，透過客製化模型來為最終用戶提供獨特的體驗。最後，企業需要工具將創新迅速推向市場，以及協助它們在全球範圍內部署生成式 AI 應用程式的基礎設施。

這正正是為何眾多企業正向 AWS 尋求生成式 AI 服務，這些企業包括 adidas、Alida、BMW、Genesys、Glide、GoDaddy、Intuit、律商聯訊（LexisNexis Legal & Professional）、孤獨星球（Lonely Planet）、默克、國民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會社竹中工務店、Traeger Grills、美巡賽、Verint、Verisk 和 WPS 等。

Amazon Bedrock 正式可用，協助更多客戶建立和擴展生成式 AI 應用程式

Amazon Bedrock 為一項完全託管的服務，提供來自眾多領先 AI 公司（包括 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜）的高效能基礎模型，以及企業建立生成式 AI 應用程式所需的一系列功能，能在實現簡化開發的同時確保私隱性和安全性。基礎模型具有良好的適用性，可為資料搜索、內容創作及藥物發現等眾多領域提供支援。

然而，很多希望利用生成式 AI 的企業仍然面對一些問題需要解決。首先，它們需要簡單直觀的選取和存取高效能基礎模型，滿足其場景需求且表現優異；其次，客戶希望應用程式實現無縫集成，無需管理龐大的基礎設施集群或花費大量成本；最後，客戶希望借助基礎模型並結合自身數據來輕鬆建立差異化的應用程式，而這些客戶用於客製的數據無疑是非常寶貴的資產，具有知識產權，因此在使用過程中必須做到全面保護，在確保安全和私隱的同時，確保客戶對數據共用和使用方式擁有控制權。

借助 Amazon Bedrock 的完善功能，企業能更方便、輕鬆地嘗試多種領先的基礎模型，使用自己的專有數據客製模型。此外，Amazon Bedrock 提供差異化能力，例如無需再代寫任何代碼即可建立的託管代理（AI agent），它可以執行複雜任務，如旅行預訂、處理保險索賠、策劃廣告活動和管理庫存等。由於 Amazon Bedrock 採用無伺服器（serverless）技術，客戶不必管理任何基礎設施，即可使用熟悉的 AWS 服務將生成式 AI 能力安全地集成和部署到應用程式中。

Amazon Bedrock 在開發之初就考慮到安全性和私隱保護，協助客戶保護敏感資料。客戶可以使用 Amazon PrivateLink，在 Amazon Bedrock 與虛擬私有網路（VPC）之間建立專門的安全連接，確保任何數據傳輸都不會暴露在公共網絡。對於存在高度監管需求的客戶，Amazon Bedrock 符合 HIPAA （《健康保險流通與責任法案》）要求，並且可以在 GDPR（歐盟《通用資料保護條例》）合規標準下使用，讓更多的客戶從生成式 AI 中獲益。

Amazon Bedrock 透過 Amazon Titan Embedding 和 Llama 2 進一步擴大可選模型範圍，協助每個客戶找到適合應用場景的模型

事實上，沒有任何一個單一模型可以適用於所有的應用場景。因此，為了發掘生成式 AI 的價值，企業往往需要使用多個模型，並根據自身要求尋找最適合企業的一個模型。為此，Amazon Bedrock 讓客戶只需透過單一 API 即能找到和測試由 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜提供的基礎模型。此外，AWS 近日宣布 Anthropic 未來的所有基礎模型都將在 Amazon Bedrock 上可用，並為 AWS 客戶提供模型客製和微調等特殊功能的優先使用。即日起，Amazon Bedrock 引入新的基礎模型，進一步擴闊其基礎模型的選擇：

• Amazon Titan Embeddings 現正式可用：Amazon Titan 基礎模型是由 AWS 在大型數據集上建立和預先訓練的一系列模型，可以支援各種應用場景。作為這些模型中第一個正式可用的模型，Amazon Titan Embeddings 是一種大語言模型（LLM），它將文本轉換成被稱為嵌入向量（embeddings）的數值表示，以支持檢索增強生成（RAG）的應用場景。基礎模型雖然適用於多種任務，但卻只能根據從訓練資料和提示詞上下文中學到的資訊來回答問題。一旦這些回答需要利用高時效性的知識或專有資料時，其有效性就會受限。為了能透過擴展資料來改進基礎模型的回答，很多企業將目光轉向 RAG——這一流行的模型客製技術能將基礎模型連接到可被引用的知識庫，從而改進回應效果。要開始使用 RAG，客戶必須先使用一個嵌入模型，將資料轉換成嵌入向量，使基礎模型更容易理解資料之間的語義和關係。然而，建立嵌入模型需要大量的資料和資源，以及深厚的機器學習專業知識，因此很多客戶很難完成自行建立，也就無法實現 RAG。Amazon Titan Embeddings 使客戶能夠更簡單地啟用 RAG，以便利用專有資料擴展各種基礎模型的能力。Amazon Titan Embeddings 支援超過 25 種語言和多達 8,192 個 Token 的上下文長度，非常適合基於企業的應用場景處理單個單詞、短語或整個文檔。該模型可返回 1,536 個維度的輸出向量，確保高度準確性的同時還專為實現更低延遲和更優性價比進行了優化。

• Llama 2 即將在未來幾周內推出：Amazon Bedrock 是業界首個透過託管 API 提供 Meta 新一代大語言模型 Llama 2 的完全託管的生成式 AI 服務。Llama 2 模型比之前的 Llama 模型具有顯著改進，包括使用了比原始訓練多 40% 的訓練資料，並具有更長的上下文長度（4,000 個 Token），以處理更大的文檔。Amazon Bedrock 提供的 Llama 2 模型已經過優化，可以在 AWS 基礎設施上提供快速回應，非常適合對話式應用場景。客戶可以建立由130億和700億個參數的 Llama 2 模型驅動的生成式AI 應用程式，且無需設置和管理任何基礎設施。

Amazon CodeWhisperer 新功能容許客戶使用私有代碼庫安全地客製 CodeWhisperer 代碼建議，進一步提升開發人員效率

Amazon CodeWhisperer 是一款基於AI的程式設計助手，它透過對數十億行來自亞馬遜和公開可用的代碼進行訓練，提高開發人員的生產力。雖然開發人員在日常工作中頻繁使用 CodeWhisperer，但有時他們需要將其企業內部私有代碼庫（例如內部 API、代碼庫、套裝軟體和類）整合到應用程式中，而這些代碼都不屬於 CodeWhisperer 的訓練資料。內部代碼的使用也是一個難題，因為說明文檔有限，並且沒有開發人員可以求助的公共資源或論壇。

例如，要代寫一個用於從購物車中移除商品的函數，開發人員必須首先了解用於與應用程式交互的 API、集合和其他內部代碼。以前，開發人員可能需要花費數小時來檢查以前代寫的內部代碼，從而找到所需資訊並理解其工作原理。即使找到了正確的資源，他們仍需仔細檢查代碼，以確保其符合公司代碼的最佳實踐，並且不會重複引用代碼中的任何缺陷或漏洞。

Amazon CodeWhisperer 全新客製功能將釋放生成式 AI 程式設計的全部潛力，透過安全地利用客戶的內部代碼庫和資源提供客製化建議。這使得開發人員在各種任務中能夠更準確地獲得代碼建議，從而節省時間。首先，管理員需要從源（例如 GitLab 或 Amazon S3）連接到他們的私有代碼儲存庫，並調度一個作業來建立自己的客製內容。在建立客製內容時， CodeWhisperer 利用各種模型和上下文客製技術，學習客戶的代碼庫並改進即時代碼建議，從而使開發人員花更少的時間去尋找無差別的問題的正確答案，同時將更多時間投入到建立新的差異化體驗上。管理員可以在 AWS 控制台（Amazon Console）集中管理所有客製功能、查看評估指標、估算每個客製功能的效能，並有選擇地將它們部署給公司內特定的開發人員，以限制對敏感代碼的存取。

透過選擇最高品質的儲存庫，管理員可以確保 CodeWhisperer 提供的客製建議不包含已棄用的代碼，並滿足企業品質與安全標準。考慮到企業級安全和隱私，這項功能可以確保客製內容完全保密，而支援 CodeWhisperer 的底層基礎模型在訓練過程中不使用客製內容，能夠保護客戶寶貴的知識產權。該自訂功能將很快作為 CodeWhisperer 企業版的一部分在預覽中供客戶使用。此外，CodeWhisperer 的自訂設置默認確保了安全性，無論客戶使用 Amazon CodeWhisperer 專業版或是企業版，在處理來自開發人員 IDE 的請求時，AWS 均不會儲存或記錄任何客戶內容。

Amazon QuickSight 全新生成式 BI 創作功能，有助業務分析師使用自然語言命令輕鬆建立和客製資料視覺化效果 

Amazon QuickSight 是一個為雲端建立的統一 BI 服務，能夠建立互動式儀錶板、分頁報告以及嵌入式分析，同時具備使用 QuickSight Q 進行自然語言查詢的能力，因此企業的每位用戶都能以他們偏好的格式獲取所需的洞察。

一般情況下，業務分析師需要花費數小時使用 BI 工具來探索各種不同的數據來源，添加計算、建立和完善視覺化效果，然後將它們呈現在儀錶板中提供給業務利益相關者。要建立一個簡單的圖表，分析師首先必須找到正確的數據來源、識別數據欄位、設置篩檢程式，同時進行必要的個性化設置以實現良好的視覺化效果。

如果進行數據視覺化需要進行新的計算（例如年度銷售額），分析師還必須確定所需的參考資料，然後建立、驗證並將視覺效果添加到報告中。如果可以減少業務分析師手動建立和調整圖表和計算所花費的時間，讓他們將更多時間投入到高價值的任務中，企業也能從中獲益。

全新的生成式 BI 創作功能擴展了 QuickSight Q 的自然語言查詢功能，使其不僅能夠回答清晰表述的問題（例如，「加州銷售排名前 10 的產品是甚麼？」，還能協助分析師從問題片段（例如，「銷售排名前 10 的產品」）快速建立可客製的視覺效果，透過提出後續問題來澄清查詢意圖，優化視覺效果，並完成複雜的計算。業務分析師只需描述想獲得的結果，QuickSight 即可生成具有良好觀感的視覺物件。分析師僅需簡單操作就能將其輕鬆添加到儀錶板或報告中。

例如，分析師可以要求 QuickSight Q 為「2022年和2023年運動鞋銷售額的月度趨勢」建立視覺化內容，該服務會自動選擇合適的數據，並根據請求使用最合理的圖表格式（比如線形圖或橫條圖）繪製所需資訊。QuickSight Q 還將提供預設的提示問題，協助分析師釐清在多個數據欄位與其匹配查詢時可能出現的歧義（比如圖表應包括運動鞋銷售額的美元總額還是銷售的單位個數）。

分析師獲得了最初的視覺化內容後，還可以使用自然語言添加複雜的計算，改變圖表類型，或優化視覺化效果。QuickSight Q 中新的生成式 BI 創作功能使業務分析師能夠輕鬆快捷地建立良好的視覺效果，更快速地為大規模數據驅動型決策提供寶貴的數據依據。

各行各業的客戶正利用 AWS 的生成式 AI 服務建立新的應用程式，提高開發人員的效率，以及協助分析師更快速地獲取洞察

adidas 為全球最大的運動品牌之一。adidas 企業架構副總裁 Daniel Eichten 表示，「我們很高興能參與 Amazon Bedrock 預覽版的試用，親身體驗這項服務。Amazon Bedrock 對我們的生成式 AI 工具建立大有裨益，Amazon Bedrock 承擔了建立生成式 AI 應用的繁重基礎設施管理工作，使我們能夠專注於大語言模型專案的核心方面。我們已經使用 Amazon Bedrock 開發了一款生成式 AI 解決方案，使 adidas 的廣大工程師只需透過單個對話介面，就能從知識庫中找到所需的各種資訊和答案，回答從入門到複雜的多種技術問題。」

默克為一家研發密集型生物製藥公司，130 多年來一直致力發現和研發創新藥物和疫苗，以拯救生命和改善健康。默克資料科學執行董事 Suman Giri 表示：「完整的製藥價值鏈上存在很多手動且耗時的流程，這些流程阻礙了更有價值的工作的開展，同時還不能有效利用數據改善員工、客戶和患者體驗。借助 Amazon Bedrock，我們迅速建立了生成式 AI 功能，提高知識挖掘和市場研究等工作的效率。在我們的美國患者分析工作流程中，我們可以利用這些功能提供對患者治療的見解，提高生活品質，擴大商業影響力，同時填補數據共用方面的空白，為負責任的生成式 AI 打造數據治理生態系統。」

BMW 為全球頂級汽車和電單車製造商。BMW 數據工程和分析專家 Christoph Albrecht 表示：「BMW 的區域專家致力優化整條供應鏈的庫存。他們經常收到董事會成員或供應鏈專家等利益相關者的請求，要求建立新的儀錶板視圖，以便他們分析最新趨勢。 QuickSight Q 創作體驗能夠顯著節省時間，可以在無需參考的情況下建立計算、快速建立視覺效果，然後透過自然語言對視覺化呈現進行精確調整。區域專家的快速回饋給我們的業務用戶留下了深刻印象，從而讓他們可以更快地做出重要決策。」