



競(jìng)賽仍在繼續(xù)。
亞馬遜(NASDAQ:AMZN)的AWS部門正在為其Bedrock GenAI完全托管服務(wù)揭曉一系列新功能和改進(jìn),所有這些都旨在簡(jiǎn)化為GenAI應(yīng)用程序選擇和部署正確工具的過(guò)程。
? ? ? ? ?
?
具體來(lái)說(shuō),亞馬遜正在增加將定制基礎(chǔ)模型導(dǎo)入到服務(wù)中的功能,然后允許公司在這些定制模型中利用Bedrock的功能。
? ? ? ? ?
?
例如,使用自己的數(shù)據(jù)(可能使用亞馬遜自己的SageMaker模型開發(fā)工具)訓(xùn)練Llama或Mistral等開源模型的公司現(xiàn)在可以將該定制模型與Bedrock中現(xiàn)有的標(biāo)準(zhǔn)化模型集成。
? ? ? ? ?
?
因此,組織可以使用單個(gè)API來(lái)構(gòu)建應(yīng)用程序,以利用其定制模型以及現(xiàn)有的Bedrock模型選項(xiàng),包括AI21 Labs、Anthropic、Cohere、Meta和Stability AI的最新版本,以及亞馬遜自己的Titan模型。
? ? ? ? ?
?
事實(shí)上,亞馬遜還推出了Titan Text Embeddings模型的第二版,該模型專門針對(duì)RAG(檢索增強(qiáng)生成)應(yīng)用程序進(jìn)行了優(yōu)化。該公司還宣布全面推出Titan Image Generator模型。
? ? ? ? ?
?
說(shuō)到RAG,將自定義模型導(dǎo)入Bedrock的其他好處之一是能夠利用該服務(wù)的集成RAG功能。這使得公司能夠利用這種日益流行的新技術(shù),繼續(xù)利用新數(shù)據(jù)微調(diào)其定制模型。
? ? ? ? ?
?
由于它是無(wú)服務(wù)器的,Bedrock還包含用于跨AWS實(shí)例無(wú)縫擴(kuò)展模型性能的內(nèi)置功能,使公司能夠根據(jù)情況需要更輕松地管理其實(shí)時(shí)需求。
? ? ? ? ?
?
此外,對(duì)于尋求構(gòu)建能夠執(zhí)行多步驟任務(wù)的人工智能驅(qū)動(dòng)的代理的組織來(lái)說(shuō),Bedrock還提供了一些工具,允許開發(fā)人員創(chuàng)建代理,并讓企業(yè)在創(chuàng)建代理時(shí)利用他們的定制模型。
? ? ? ? ?
?
代理是目前GenAI中最熱門的討論話題之一,因此這些類型的功能必然會(huì)引起那些想要保持領(lǐng)先地位的組織的興趣。
? ? ? ? ?
?
?? ?除了Bedrock的這些現(xiàn)有功能之外,亞馬遜還宣布了另外兩個(gè)功能,這兩個(gè)功能都可以擴(kuò)展到現(xiàn)有的Bedrock模型和自定義導(dǎo)入模型。
? ? ? ? ?
?
亞馬遜Bedrock的新Guardrails添加了一組額外的過(guò)濾功能,以防止創(chuàng)建和發(fā)布不當(dāng)和有害內(nèi)容以及個(gè)人身份和/或敏感信息。
? ? ? ? ?
?
正如亞馬遜指出的那樣,幾乎所有模型都已經(jīng)包含了某種程度的內(nèi)容過(guò)濾,但新的Guardrails提供了額外的可定制預(yù)防層,以幫助公司進(jìn)一步保護(hù)自己免受此類問(wèn)題的影響,并確保生成的內(nèi)容符合客戶的指導(dǎo)方針。
? ? ? ? ?
?
此外,Bedrock中的亞馬遜模型評(píng)估工具現(xiàn)已全面推出。該工具可幫助組織為他們想要實(shí)現(xiàn)的特定任務(wù)或他們想要編寫的應(yīng)用程序找到最佳的基礎(chǔ)模型。
? ? ? ? ?
?
評(píng)估者比較不同模型響應(yīng)的準(zhǔn)確性和魯棒性等標(biāo)準(zhǔn)特征。它還允許定制幾個(gè)關(guān)鍵標(biāo)準(zhǔn)。例如,公司可以將自己的數(shù)據(jù)或一組自定義提示上傳到評(píng)估器,然后生成一份報(bào)告,根據(jù)其定制需求比較不同模型的表現(xiàn)。
? ? ? ? ?
?
亞馬遜還提供了一種機(jī)制,讓人們可以評(píng)估不同的模型輸出,以進(jìn)行主觀測(cè)量,例如品牌聲音、風(fēng)格等。這種模型評(píng)估是一項(xiàng)重要功能,因?yàn)殡m然許多公司最初可能會(huì)因?yàn)榉秶鷱V泛而被像Bedrock這樣的開放模型平臺(tái)所吸引它提供了不同的選擇,這些相同的選擇很快就會(huì)變得令人困惑和不知所措。
? ? ? ? ?
?
我們?nèi)蕴幱贕enAI部署的早期階段,許多組織剛剛開始弄清楚他們的戰(zhàn)略和實(shí)施方法。
? ? ? ? ?
?
然而,有一點(diǎn)已經(jīng)很清楚了,許多公司已經(jīng)開始認(rèn)識(shí)到讓GenAI軟件和服務(wù)靠近數(shù)據(jù)源是多么重要。
? ? ? ? ?
?
考慮到有多少數(shù)據(jù)位于AWS云中,許多組織都會(huì)善待這些新的增強(qiáng)型AWS功能。
? ? ? ? ?
?
對(duì)于在AWS中存儲(chǔ)大量數(shù)據(jù)(用于使用RAG等技術(shù)訓(xùn)練或微調(diào)GenAI模型)的公司來(lái)說(shuō),這些新的Bedrock功能可以幫助吸引他們快速啟動(dòng)GenAI應(yīng)用程序之旅。
? ? ? ? ?
?
競(jìng)賽仍在繼續(xù),但很明顯,所有主要的云計(jì)算提供商都希望成為(并將成為)重要的參與者。







關(guān)注下面公眾號(hào)
和我一起探索港股市場(chǎng)的所有秘密
????

