以下文章來(lái)源于谷歌云服務(wù)，作者 Google Cloud 趙霏 Google Cloud 中國(guó)架構(gòu)師團(tuán)隊(duì)總監(jiān) Google Cloud Next ’23?于 8 月 29 - 31 日在美國(guó)舊金山舉辦，這次活動(dòng)成功地吸引了超過(guò) 17,000 多名來(lái)自全球各地的參會(huì)者。在大會(huì)中，Google Cloud 發(fā)布了一系列新的服務(wù)和功能，旨在幫助企業(yè)加速創(chuàng)新、提高效率和安全性，具體的發(fā)布內(nèi)容可以參考： All 161 things we announced at Google Cloud Next ’23 – a recap（可點(diǎn)擊末尾的閱讀原文查看全文）。作為大會(huì)的參與者，今天來(lái)簡(jiǎn)單地記錄和總結(jié)下我的一些體會(huì)。 無(wú)處不在的 Duet AI 隨著生成式 AI 的火爆，越來(lái)越多的用戶和開發(fā)者開始思考如何在自己的應(yīng)用中加入生成式 AI 的能力從而提高效率，加速創(chuàng)新或把重復(fù)性工作簡(jiǎn)單化，而這次 Next 上發(fā)布的 Duet AI in Workspace 以及 Duet AI in Google Cloud 在我看來(lái)就是詮釋如何來(lái)集成生成式 AI 的能力到現(xiàn)有的應(yīng)用中。 以 Workspace 為例，目前已有超過(guò) 30 億用戶和 1,000 萬(wàn)的付費(fèi)客戶在日常中使用 Google Workspace，是世界上最受歡迎的生產(chǎn)力工具。而生成式 AI 能力的引入，可以使得用戶在不改變?cè)惺褂昧?xí)慣的同時(shí)，讓協(xié)作變得輕松、有趣且無(wú)處不在，讓創(chuàng)作更富有靈感，讓工作更簡(jiǎn)單和高效。比如它可以通過(guò)從相關(guān)源文檔生成摘要并自動(dòng)構(gòu)建演示文稿。 再比如它可以自動(dòng)生成會(huì)議摘要和需要跟進(jìn)的事項(xiàng)并將其作為回顧發(fā)送給參與者，從而使下一次會(huì)議更加高效，也不用擔(dān)心時(shí)間安排而錯(cuò)過(guò)了會(huì)議。 而 Duet AI in Google Cloud 更是深入在 Google Cloud 所涉及的所有服務(wù)，用戶可以在任何時(shí)間向Duet AI 尋求幫助，查找使用方式或發(fā)現(xiàn)問(wèn)題，解析日志（如下圖), 翻譯指令等等。 另外，Duet AI in Google Cloud 還可以幫助開發(fā)者在集成調(diào)用 Google Cloud API 時(shí)生成代碼，代碼分析，自動(dòng)引入依賴包以及建議測(cè)試方案等等。 開放完整生成式 AI 模型構(gòu)建體系 那么，如果用戶和開發(fā)者想要構(gòu)建符合自己應(yīng)用需求或行業(yè)屬性的大模型應(yīng)該怎樣做呢？實(shí)際上，剛才提到的 Duet AI 的模型就是 Google 基于發(fā)布的 PaLM 2 這一 Foundation model 而進(jìn)行微調(diào)的結(jié)果，而這次的 Next 也宣布了 PaLM 2 的文本和聊天的微調(diào)功能的發(fā)布，用戶只需要上傳 100 個(gè)樣本就可以對(duì) PaLM 2 進(jìn)行微調(diào)從而快速構(gòu)建符合需求的大模型，并且 RLHF (基于人類反饋的強(qiáng)化學(xué)習(xí)) 的發(fā)布，可以使用人工輸入來(lái)進(jìn)一步優(yōu)化模型的輸出結(jié)果。 ? 同時(shí)，除了來(lái)自 Google 發(fā)布的 AI 模型，Model Garden 里加入了包括 Llama 2, Code Llama, Falcon LLM, Claude 2 等開源或三方的模型，使得用戶可以更自由地選擇 Foundation Model 用來(lái)構(gòu)建大模型。 而在 MLOps 方面， 結(jié)合新推出的 Colab Enterprise 和 Vertex AI Pipeline 可以方便地構(gòu)建 GenAI 的 MLOps 體系從而自動(dòng)化地監(jiān)控和訓(xùn)練模型，并利用 Gen AI Evaluation Service 對(duì)模型的不同指標(biāo)進(jìn)行有效的評(píng)估。 最后，大模型的“幻覺”常常是困擾開發(fā)者的一個(gè)問(wèn)題，新推出的 Grounding Service 正是為解決此類問(wèn)題而產(chǎn)生的服務(wù)。它可以結(jié)合 Google Search 或 Enterprise Search 將輸出進(jìn)行真實(shí)性的檢查和修正，從而確保輸出符合開發(fā)者的預(yù)期。 主動(dòng)全面的安全防護(hù) Next ’23 還推出了一系列安全相關(guān)的服務(wù)和功能，其中，為了更好地幫助用戶了解其云環(huán)境的潛在風(fēng)險(xiǎn)，Security Command Center Premium 添加了attack path simulation，可以對(duì)一系列復(fù)雜步驟、利用多個(gè)漏洞或針對(duì)多個(gè)資源的攻擊進(jìn)行建模。通過(guò)攻擊路徑模擬，團(tuán)隊(duì)可以預(yù)測(cè)對(duì)手可能進(jìn)行攻擊的方式和地點(diǎn)，并評(píng)估云環(huán)境的總體風(fēng)險(xiǎn)。 ? 在合規(guī)性方面，Security Command Center (SCC) 還可以提供了實(shí)時(shí)的合規(guī)性報(bào)告，利用 Google Cloud 內(nèi)置的幾百個(gè)檢測(cè)器可識(shí)別計(jì)算、網(wǎng)絡(luò)、日志記錄、GKE 集群中的常見錯(cuò)誤配置和漏洞，而這些已經(jīng)映射到了常見的合規(guī)性標(biāo)準(zhǔn)。用戶可以直接在 SCC 上查看或下載相關(guān)合規(guī)性標(biāo)準(zhǔn)的報(bào)告，方便提交給相應(yīng)的審計(jì)機(jī)構(gòu)。 而在漏洞掃描方面，我們提供與 Google 自我保護(hù)相同的 Web 安全掃描技術(shù) Web Security Scanner，它會(huì)自動(dòng)發(fā)現(xiàn) Google Cloud 上運(yùn)行的 Web 應(yīng)用程序中的新漏洞。包括可訪問(wèn)的 git 存儲(chǔ)庫(kù)、跨站點(diǎn)腳本、SQL 注入、Web 應(yīng)用程序中的弱密碼等漏洞。另外，新推出的 Agentless Vulnerability Scanning可以在不安裝 Agent 的情況下通過(guò)完整的軟件掃描和網(wǎng)絡(luò)端口掃描可為超過(guò) 78K+ 操作系統(tǒng)、網(wǎng)絡(luò)和應(yīng)用程序 CVE 提供檢測(cè)。 ? 最后，最新 Security AI Workbench 是業(yè)界首個(gè)基于 Vertex AI 構(gòu)建的可擴(kuò)展平臺(tái)，并由專業(yè)的大模型 Sec-PaLM2 提供支持。該安全模型針對(duì)安全用例進(jìn)行了微調(diào)，結(jié)合了 Google 安全情報(bào)和合作伙伴擴(kuò)展功能，為用戶帶來(lái)威脅情報(bào)、工作流程和其他關(guān)鍵安全功能。Security AI Workbench 將能夠快速構(gòu)建更好的產(chǎn)品和解決方案，通過(guò)將專有數(shù)據(jù)和用戶體驗(yàn)與 Google 獨(dú)特的安全專業(yè)生成式 AI 能力相結(jié)合，實(shí)現(xiàn)差異化，而無(wú)需構(gòu)建和維護(hù)昂貴的專有大語(yǔ)言模型和資源。 結(jié)語(yǔ) 除了上述提到的這些外，Next ’23 還推出了其他令人興奮的服務(wù)和功能，比如 GKE Enterprise 幫助用戶使用單一的控制臺(tái)編排和管理分布在全球的多個(gè) Kubernetes 集群，Cross-Cloud Network 幫助用戶輕松建立跨多云環(huán)境的全球網(wǎng)絡(luò)，新一代的 TPU v5e 提供更具性價(jià)比的算力幫助用戶訓(xùn)練和部署生成式 AI 的大模型，BigQuery Studio 將數(shù)據(jù)工程，分析，預(yù)測(cè)統(tǒng)一的工作界面從而簡(jiǎn)化端到端的數(shù)據(jù)工作流程，等等。 關(guān)注谷歌全球營(yíng)銷，讓營(yíng)銷變得更簡(jiǎn)單 注：本文所有內(nèi)容均為谷歌全球營(yíng)銷 ? ?原創(chuàng)，如有轉(zhuǎn)載需求請(qǐng)?jiān)谖恼潞罅粞浴?/p>
文章為作者獨(dú)立觀點(diǎn)，不代表DLZ123立場(chǎng)。如有侵權(quán),請(qǐng)聯(lián)系我們。( 版權(quán)為作者所有，如需轉(zhuǎn)載，請(qǐng)聯(lián)系作者 )
網(wǎng)站運(yùn)營(yíng)至今，離不開小伙伴們的支持。 為了給小伙伴們提供一個(gè)互相交流的平臺(tái)和資源的對(duì)接，特地開通了獨(dú)立站交流群。
群里有不少運(yùn)營(yíng)大神，不時(shí)會(huì)分享一些運(yùn)營(yíng)技巧，更有一些資源收藏愛好者不時(shí)分享一些優(yōu)質(zhì)的學(xué)習(xí)資料。
現(xiàn)在可以掃碼進(jìn)群，備注【加群】。 ( 群完全免費(fèi)，不廣告不賣課！)
