加速落地,輕松起航:亞馬遜云科技網絡服務打造生成式AI應用部署新范式亞馬遜云科技高級網絡專家架構師亞馬遜云科技高級網絡專家*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和靈活的組網方案,保障生成式AI應用安全合規(guī)快速落地邊緣網絡防護生成式AI,改善用戶訪問體驗*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和網絡加速方案提升用戶訪問*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和—鍵組網,通達全球生產生產預生產預生產研發(fā)/測試構建、管理并監(jiān)控全球區(qū)域網絡*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和合規(guī)跨境,高效互聯(lián)中國(北京/寧夏)與全球各大區(qū)域的跨境專線,覆蓋:?美國西部(北加州)、?美國東部(弗吉尼亞北部)、?歐洲(法蘭克福)、*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和亞馬遜云科技*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和三大運營商Marketplace合作伙伴Internet亞馬遜云科技跨境互聯(lián)網亞馬遜云科技跨境VPCMarketplace合作伙伴域名加速三大運營商Marketplace合作伙伴Internet亞馬遜云科技跨境互聯(lián)網亞馬遜云科技跨境VPCMarketplace合作伙伴域名加速*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和性能/成本高 Amazon Amazon亞馬遜云科技跨境VPC合作伙伴合作伙伴合作伙伴域名加速亞馬遜云科技跨境互聯(lián)網亞馬遜云科技跨境互聯(lián)網性能/成本低*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和跨境專線vs跨境互聯(lián)網效果對比ViaViaInternet*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和靈活的組網方案,保障生成式AI應用安全合規(guī)快速落地*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和生成式AI時代的安全挑戰(zhàn)生成式AI的獨特需求傳統(tǒng)方案的局限?公網API?公網API網關:攻擊面大,易遭劫持。嘗試,是傳統(tǒng)Web應用的2.8倍*?合規(guī)審計黑洞:56%的企業(yè)無法證明(企業(yè)級定制模型微調成本在5M-50M*?合規(guī)壓力:模型API跨境調用需地理邊4%(Metaε1.2億罰款,2023)*來源:SaltLabsAPIThreatReport*來源:Gartner2024生成式AI成本模型*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和當安全合規(guī)成為AI創(chuàng)新的生死線,基礎設施必須重定義?“AI相關數(shù)據泄露中,93%涉及API或數(shù)據庫公網暴露”——IBM《2?“通過私有網絡架構降低30-50%的合規(guī)運營成本”——亞馬遜云科技合規(guī)白皮書*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和生成式AI應用的組網場景安全地提供/訪問安全地提供/訪問混合架構下訪問大模型安全地訪問Bedrock服務或自建大模型*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和/或了解行業(yè)前沿技術選擇推薦*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和托管服務的私有訪問方式超過159種亞馬遜云科技托管服務AvailabilityZone1正---------------------------------------------正---------------------------------------------使用亞馬遜云科技PrivateLink建立從AmazonVPC到AmazonBedrock的私有連接,而無需將您的大模型訪問暴露于互聯(lián)網流量中。*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和InternetgatewayPrivateLinkendpointAmazonBedrock服務賬戶endpointInternetAmazonDirectInternetgatewayPrivateLinkendpointAmazonBedrock服務賬戶endpointInternetAmazonDirect*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和/或了解行業(yè)前沿技術選擇推薦*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和/或了解行業(yè)前沿技術選擇推薦生成式AI場景:全地訪問BedrockAmazonDirectAmazonTransit跨賬號、跨AmazonDirectAmazonTransitAccountBAccountBInterfaceEndpointEndpoint------------------------?InterfaceEndpointInterfaceEndpoint*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和生成式AI場景:安全地訪問自建大模型Endpoint?PrivateLink?Cross-RegionPrivateLink?Inter-RegionVPCPeeringInterfaceInterfaceInterfaceEndpointInterfaceEndpointInterfaceEndpointInterfaceEndpoint*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和生成式AI場景:保持合規(guī)地提供/訪問SaaS化服務Account-GAccount-C*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和3混合架構下的大模型訪問*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和甸InterfaceendpointAvailabilityZone1Privatesubnet甸InterfaceendpointAvailabilityZone2PrivatesubnetVPCCIDR/16≤-----------Privatesubnet甸InterfaceendpointAvailabilityZone1Privatesubnet甸InterfaceendpointAvailabilityZone2PrivatesubnetVPCCIDR/16≤-----------PrivatesubnetAvailabilityZone1PrivatesubnetVPCCIDR/16AmazonDirectC-------------------------AvailabilityZone2On-premisesdatacenter*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和AmazonDirect<-----------------生成式AI場景:AmazonDirect<-----------------AvailabilityZone1甸endpointendpointVPCCIDR/16≤----------PrivatesubnetAvailabilityAvailabilityZone1甸endpointendpointVPCCIDR/16≤----------PrivatesubnetAvailabilityZone2PrivatesubnetAvailabilityZone1PrivatesubnetAvailabilityZone2VPCCIDR/16*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和邊緣網絡防護生成式AI,改善用戶訪問體驗*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和安全相關:CloudFront/WAF/ShieldAmazonCloudAmazonCloudCloudFrontCorporatedatacenterWAF/Shield體驗相關:CloudFront*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和邊緣安全:防止Token濫用*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和?RAG,MOE,COT等技術雖然能夠提供更加定制化,更加合理的響應,但也會大幅增加LLM輸入和輸出的token數(shù)量?機器人可能會向LLMAPI發(fā)送過多請求,會迅速增加生成式AI應用的成本,甚至造成模型拒絕服務(?機器人也可以大規(guī)模創(chuàng)建虛假賬戶,或者通過發(fā)現(xiàn)現(xiàn)有賬戶的憑據來試圖接管這些賬戶,然后登錄并開始濫用生成式AI應用程序,造成模型拒絕服務攻擊和模型盜竊(*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和?啟用WAF之后,您可以通過CloudFront控制臺了解?查看這些圖表,您可以大致估算出當前攻擊(或者不合?WAF控制臺提供更多的可見性,幫助用戶快速了解應*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和AuthenticatAttackerBotnet利用WAF阻止機器人,節(jié)省生成式AI應用程序的成本AuthenticatAttackerBotnetWebWebAppAmazonLambdaAmazonBedrock?AmazonIPreputationlist托管規(guī)則組可以阻攔低信譽IP地址,經常對亞馬遜云科技的資源發(fā)起偵察和掃描的IP地址,以及經常發(fā)(?CommonBotControl的SignalKnownBotDataCenter規(guī)則可以阻攔經常產生機器人活動的IP地址?TargetedBotControl能夠識別和管控高級機器人行為(和賬戶接管預防(ATP)檢測注冊/登錄工作流程,防止大規(guī)模創(chuàng)建虛假賬戶和密碼遍歷嘗試等行為*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和特殊場景:生成式AI數(shù)據上載濫用?通過?通過CloudFrontOAC功能和S3配合,可以靈活定義用戶上傳生成式AI數(shù)據的訪問策略,防止Bot機器人濫用數(shù)據上傳,污染生成式AI數(shù)據源。AmazonCloud*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和邊緣安全:抵御*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和掃描生成式AI應用架構AmazonCloud利用Botnet發(fā)起攻擊Attacker不斷變換攻擊特征“無法登錄AI應用”“漫長的響應等待”“后臺奔潰,無法快速恢復”Legitimateusers*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和AuthenticateAttackerBotnetAmazonWAF/ShieldAmazonCloudFrontAmazonWAF/ShieldAmazonCloudFront?完全內聯(lián)的DDoS防護系統(tǒng)對所有傳入CloudFront的數(shù)據包進行檢查,能夠實時緩解針對CloudFront的L3(網絡層)和L4(傳*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和特殊場景:黑客繞過Edge發(fā)起DDOS攻擊CloudFrontCloudFrontAmazonCloudFrontend*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和統(tǒng)—交互體驗*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和生成式AI應用的體驗,這是您想要的嗎?亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和/或了解行業(yè)前沿技術選擇推薦該服生成式AI交互時的體驗不佳來自哪里交互失敗交互停頓交互失敗交互停頓*前述特定亞馬遜云科技生成式人工智能相關的服務僅在亞馬遜云科技海外區(qū)域可用,亞馬遜云科技中國僅為幫助您發(fā)展海外業(yè)務和:提供高質量網絡傳輸全球骨干網全球骨干網客戶端就近接入AcceleratemediadeliveryacrossAmazonglobal客戶端就近接入across50+countries,withdirectpeeringtoal