Álagsjöfnun í mörgum skýjum tryggir að forritin þín séu hröð, áreiðanleg og aðgengileg með því að dreifa umferð yfir margir skýjaþjónustuaðilar og sýndar einkaþjónar eins og AWS, Azure og Google Cloud. Þessi aðferð bætir afköst, lágmarkar niðurtíma og tekst á við umferðartoppa á óaðfinnanlegan hátt. Ólíkt lausnum sem byggja á einni skýjalausn starfa álagsjafnarar fyrir margar skýjalausnir um allan heim og nýta sér hugbúnaðarskilgreind kerfi fyrir sveigjanleika og stigstærð.

Helstu veitingar:

• Dreifing umferðar á heimsvísuLeiðir notendum á næsta eða heilbrigðasta netþjónalaug með því að nota Global Server Load Balancing (GSLB).
• Minnkuð seinkunSnjallleiðsögn minnkar seinkun verulega, t.d. úr 230 ms í 123 ms fyrir þýskan notanda sem notar bandarískan netþjón.
• Failover-kerfiSjálfvirkar heilsufarsathuganir og einangrun umferðar koma í veg fyrir kaskáða bilana við rafmagnsleysi.
• UmferðarleiðbeiningaraðferðirInniheldur aðferðir sem byggja á töf, landfræðilegum, álagsmeðvituðum og heilsufarslegum grunni.
• ÖryggiEiginleikar eins og Anycast, DDoS vörn og SSL/TLS afhleðslu sem vernda umferð.

Álagsjöfnun í mörgum skýjum er mikilvæg fyrir nútíma upplýsingatæknikerfi, þar sem hún tryggir mikla tiltækileika og bestu mögulegu afköst í dreifðum kerfum. Hér að neðan köfum við í arkitektúr þess, áskoranir og bestu starfsvenjur við innleiðingu.

Framtíðartryggðu álagsjöfnunarstefnu þína fyrir notkun í fjölskýja- og blendingskýja

sbb-itb-59e1987

Fjölþætt álagsjöfnunararkitektúr

Uppsetningar á mörgum skýjum eru háðar Alþjóðleg álagsjöfnun netþjóna (GSLB) að dreifa umferðinni yfir sýndarþjónalaugar Hýst af mismunandi skýjafyrirtækjum á ýmsum svæðum. Ólíkt hefðbundnum vélbúnaðarkerfum sem eru tengd við eina gagnaver, starfar GSLB óháð tilteknum innviðum, sem gerir það tilvalið fyrir umhverfi sem dreifast yfir palla eins og AWS, Azure og Google Cloud.

Í hjarta þessarar arkitektúrs er alþjóðlegt flutningslag sem stýrir netstefnum, leiðsögn og öryggi miðlægt. Samþættar heilsufarsathuganir fylgjast með afköstum og virkja sjálfvirkar yfirfærslur þegar þörf krefur. Saman tryggja þessir þættir - alþjóðleg álagsjöfnun, leiðarstillingar og yfirfærslukerfi - áreiðanleika fjölskýjakerfa.

Alþjóðlegir álagsjafnarar og Anycast

Alþjóðlegir álagsjafnarar virka sem "álagsjafnarar álagsjafnara" og beina umferð að svæðisbundnum þjónustum út frá þáttum eins og ástandi, afkastagetu og nálægð. Lykilþáttur þessa kerfis er Anycast leið, sem notar eina IP-tölu sem auglýst er frá mörgum landfræðilegum stöðum í gegnum Border Gateway Protocol (BGP). Þegar notendur tengjast, leiðir BGP umferð þeirra til næstu gagnaversins út frá netkerfisuppbyggingu.

"Anycast virkar í grundvallaratriðum: umferð notenda er dregin að næstu gagnaveri sem auglýsir forskeytið sem notandinn er að reyna að tengjast, eins og ákvarðað er af Border Gateway Protocol." – David Tuber, Cloudflare

Með Anycast getur kyrrstæð alþjóðleg IP-tala beint umferð samstundis á næstu heilbrigðu gagnaver. Ef eitt gagnaver lendir í vandræðum tryggir BGP leiðarlokun að umferðin sé sjálfkrafa beint á næsta stað. Til dæmis notar Google Cloud þessa aðferð á meira en 80 jaðarstöðum með því að nota "Waterfall by Region" reiknirit sem tekur tillit til nálægðar, álags og afkastagetu til að hámarka umferðarflæði.

Dæmi um þetta í verki átti sér stað í ágúst 2023, þegar gagnaver Cloudflare í Ashburn, Virginíu (IAD02) stóð frammi fyrir vandamálum með vélbúnað. "Duomog" kerfið þeirra færði umferðina óaðfinnanlega yfir á átta aðrar heilbrigðar undirdeildir innan svæðisins og viðhélt spenntíma 100% án handvirkrar íhlutunar. Þetta undirstrikar hvernig Anycast-byggð kerfi geta brugðist við bilunum í rauntíma, langt umfram hefðbundnar DNS-failover aðferðir.

Virk-virk vs. virk-óvirk stilling

Fjölskýjakerfi nota oft annað hvort virkar-virkar eða virkar-óvirkar stillingar, hver með sína kosti.

• Virkar-virkar stillingarÍ þessari uppsetningu meðhöndla öll svæði umferð í beinni samtímis, sem hámarkar nýtingu auðlinda og bætir viðbragðstíma. Þessi aðferð er tilvalin fyrir kerfi sem forgangsraða afköstum og afritun.
• Virkar-óvirkar stillingarHér er umferð beint í aðal virkan laug, með auka óvirkum laug í biðstöðu fyrir yfirfærslur. Þó að þessi uppsetning geti leitt til hægari yfirfærslu og vannýttra biðstöðuauðlinda, einfaldar hún stjórnun og dregur úr rekstrarkostnaði.

Til dæmis notar Big Cartel virka-óvirka stefnu. CDN þeirra, Fastly, sækir gögn frá Backblaze B2 sem aðaluppsprettu, með Amazon S3 sem sjálfvirkri yfirfærslu. Þetta tryggir ótruflaða þjónustu við rafmagnsleysi og heldur kostnaði viðráðanlegum.

Þessar stillingar, ásamt snjöllum yfirfærslukerfum, styrkja enn frekar seiglu kerfisins.

Aðferðir við bilun milli skýja

Árangursríkar aðferðir við bilun eru háðar rauntíma heilsufarsvöktun og sjálfvirkum aðlögunum á afkastagetu. Þessir aðferðir tryggja að umferð sé aðeins beint að heilbrigðum endapunktum, sem viðheldur afköstum og lágmarkar seinkun við bilun.

Sum kerfi ganga skrefinu lengra með því að nota umferðarspámenn til að spá fyrir um hugsanleg vandamál og forstilla stefnur fyrir yfirfærslur. Til dæmis hermdi Cloudflare eftir svæðisbundnu bilun með því að senda ping-beiðnir til hundruða þúsunda IP-talna og greina breytingar á BGP. Kerfið þeirra spáði því að 99,8% af umferð myndi leiða til Auckland með góðum árangri, sem gerði verkfræðingum kleift að aðlaga stefnur fyrirbyggjandi og koma í veg fyrir að umferðaraukning yfirfylti afritunarstaði.

Bilunarferlið milli mismunandi skýjaþjónustuaðila er skipulagt með verkfærum eins og Terraform eða Pulumi sem eru óháð kerfinu. Þessi sjálfvirknikerfi sjá um bilunarferlið óaðfinnanlega og tryggja að umferð færist yfir á heilbrigða valkosti án handvirkrar íhlutunar eða DNS-uppfærslna. Þetta sjálfvirknistig heldur fjölskýjakerfum áreiðanlegum og skilvirkum, jafnvel við óvæntar truflanir.

Umferðarleiðsögn og dreifingaraðferðir

Þegar þú hefur sett upp fjölskýjaarkitektúrinn þinn er næsta skref að ákveða hvernig á að beina umferð. Leiðaraðferðin sem þú velur hefur bein áhrif á notendaupplifun, afköst netþjónsins og heildarhagkvæmni kerfisins.

Seinkunarbundin og landfræðileg leiðsögn

Leiðsögn byggð á seinkun tryggir að notendur séu beint að gagnaverinu með stysta hringferðartíma (RTT). Með því að mæla seinkun netsins milli IP-talna notenda og tiltækra endapunkta miðar þessi aðferð að því að veita hraðasta mögulega svörunartíma. Þetta er kjörinn kostur fyrir forrit þar sem hraði er mikilvægur, svo sem fjármálaviðskiptavettvanga eða rauntímaleiki.

Landfræðileg leiðarvísir, Hins vegar einbeitir það sér að staðsetningu notandans. Það leiðir umferð á næsta viðverustað út frá uppruna DNS-fyrirspurnar. Ólíkt leiðsögn sem byggir á seinkunartengdri leiðsögn, sem mælir afköst netsins, forgangsraðar landfræðileg leiðsögn nálægð. Þessi aðferð er sérstaklega gagnleg til að uppfylla kröfur um gagnaöryggi eða afhenda efni sem er sniðið að tilteknum svæðum.

Til að draga enn frekar úr töfum, brún lokun gegnir lykilhlutverki. Með því að létta álagið á TCP og SSL/TLS tengingum á jaðri netsins styttist tengingartíminn verulega. Til dæmis greinir Google Cloud frá því að notkun utanaðkomandi álagsjöfnunar (Application Load Balancer) geti dregið úr töf notanda í Þýskalandi sem nálgast bandarískan netþjón úr 230 ms í 123 ms. Á sama hátt dregur SSL-losun á jaðri netsins úr töfum á TLS handabandstengingum úr 525 ms í 201 ms – og jafnvel niður í 145 ms með HTTP/2.

"Ytri álagsjöfnunarbúnaðurinn fyrir forrit dregur verulega úr viðbótar seinkun fyrir TLS handaband (venjulega 1–2 aukaferðir fram og til baka). Þetta er vegna þess að ytri álagsjöfnunarbúnaðurinn fyrir forrit notar SSL-afhleðslu og aðeins seinkunin á jaðar PoP skiptir máli." – Google Cloud skjölun

Þegar annað hvort seinkunarmiðað eða landfræðileg leiðsögn er innleidd er mikilvægt að stilla varaendapunkt (oft kallaðan "Heiminn") til að meðhöndla umferð frá ókortlögðum IP-tölum. Án þessa öryggisnets gætu beiðnir frá óvæntum stöðum fallið alveg niður.

Þó að nálægðaraðferðir bæti svörunartíma, þá taka þær ekki á álagi á netþjóna. Þar kemur kraftmikil álags- og heilsutengd leiðsögn inn í myndina.

Álagsmeðvituð og heilsufarsbundin leiðarvísir

Ákvarðanir um leiðarval verða einnig að taka mið af afkastagetu og heilbrigði netþjóna. Álagsmeðvituð leiðsögn notar rauntíma mælikvarða til að dreifa umferð á skynsamlegan hátt. Til dæmis sendir reikniritið "Least Connection" umferð á netþjóninn með fæstu virkar tengingarnar, en "Least Response Time" velur netþjóninn með hraðasta sögulega afköstin.

Heilsufarsmiðað leiðarval tryggir að umferð fari aðeins á netþjóna sem eru í notkun. Sjálfvirkar heilsufarsathuganir fylgjast með framboði endapunkta og ef netþjónn bilar hættir álagsjöfnunin að senda umferð til hans. Sjálfgefið bilunarþröskuld Google Cloud er 70%, sem þýðir að ef færri en 70% af endapunktum eru í lagi byrjar umferð að færast yfir á afritunarnetþjóna. Árásargjarnari uppsetningar nota sjálfvirk tæming á afkastagetu, að stilla afkastagetu bakenda á núll ef færri en 25% tilvik þess standast heilsufarsathuganir.

Til að auka enn meiri seiglu nota sum kerfi fyrirbyggjandi yfirflæði. Ef fleiri en 50% af bakendum á svæði eru óheilbrigðir færist umferðin sjálfkrafa yfir á næsta heilbrigða svæði, sem kemur í veg fyrir truflanir á notendum.

Í aðstæðum þar sem beiðnir eru misflæktar getur reikniritið "Færstu útistandandi beiðnir" verið áhrifaríkara en einföld tengingatalning. Þessi aðferð tekur tillit til þess hversu langan tíma það tekur að vinna úr beiðnum og tryggir betri dreifingu álags.

Ákvarðanir um leiðsögn forritslags

Umfram leiðsögn á flutningsstigi geta ákvarðanir á forritalaginu betrumbætt umferðarstjórnun. Leiðsögn á 7. lagi notar forritasértæk gögn – eins og HTTP-hausa, vefslóðir eða vafrakökur – til að taka flóknari ákvarðanir um leiðarval. Þessi aðferð gerir kleift að stjórna umferð mjög markvisst.

"Álagsjafnarar á 7. lagi taka ákvarðanir um leiðarval ... með því að nota forritsbundin gögn. Þetta felur í sér innihald gagnapakka, HTTP hausa, vefslóðir og smákökur." – Tata Communications

Einn algengur eiginleiki forritslagsins er lotutengdni (eða "fastar lotur"). Þetta tryggir að allar beiðnir frá notanda meðan á lotu stendur séu sendar á sama bakendatilvik, sem er nauðsynlegt til að varðveita gögn eins og innihald innkaupakörfu eða innskráningarstöðu. Þó að lotuskylda geti hnekkt álagsmeðvituðum reikniritum, er hún nauðsynleg fyrir ákveðna forritarökfræði.

Annað öflugt tól er vegin leiðsögn, sem dreifir umferð út frá úthlutaðri þyngd. Þetta er sérstaklega gagnlegt við uppfærslur eða flutning forrita. Til dæmis gætirðu beint 90% af umferð í stöðugt framleiðsluumhverfi á meðan þú prófar nýja útgáfu með eftirstandandi 10%. Með því að úthluta þyngd núlls geta netþjónar tæmt núverandi tengingar á þægilegan hátt meðan á viðhaldi stendur án þess að taka við nýjum beiðnum. Azure Traffic Manager getur til dæmis uppfært leiðarstefnur innan einnar mínútu, sem gerir kleift að aðlaga þær fljótt án niðurtíma.

Eftirlit og hámarksárangur

Þegar þú hefur sett upp leiðarstefnur er næsta skref að fylgjast vel með afköstum til að tryggja að allt gangi snurðulaust fyrir sig í öllum skýjaumhverfum. Snjall leiðarvísir er aðeins hluti af jöfnunni – stöðugt eftirlit er það sem hjálpar þér að bera kennsl á flöskuhálsa og viðhalda hámarksnýtingu.

Rauntíma árangursmælingar

Það er nauðsynlegt að fylgjast með rauntíma mælikvörðum til að skilja hvernig kerfið þitt gengur. Meðal mikilvægustu mælikvörðanna eru tiltækileiki gagnaleiðar og staða heilsufarsrannsóknar, sem staðfesta afköst nets og netþjóna. Til dæmis kannar Azure Standard Load Balancer þessar mælingar á tveggja mínútna fresti. Ef tiltækileiki gagnaleiðar fer niður fyrir 90% (en helst yfir 25%), þá virkjar það stöðuna "Niðurbrotið", sem gefur til kynna hugsanleg vandamál.

Seinkunarmælingar eru annað lykilatriði. Þetta hjálpar til við að benda nákvæmlega á hvar hægagangur á sér stað. Heildarseinkun mælir svörunartíma frá upphafi til enda, en bakendaseinkun einangrar vinnslutíma netþjónsins. Ef heildarseinkun er mikil en bakendaseinkun er eðlileg, þá liggur vandamálið líklega í netkerfinu frekar en forritinu sjálfu. Í Google Cloud eru þessar mælikvarðar teknar sýni á 60 sekúndna fresti, þó það geti tekið 90 til 210 sekúndur fyrir gögn að birtast í mælaborðum, allt eftir mælikvarðanum.

Umferðar- og afköstamælingar gegna einnig lykilhlutverki. Þar á meðal eru fjöldi beiðna (beiðnir á mínútu), fjöldi bæta fyrir inn- og útgöngugögn og virkir tengingar. Einn mælikvarði sem oft er gleymdur er seinkun á hala, sérstaklega 99. hundraðshlutann (p99). Þó að meðalseinkun virðist fín, þá sýnir halaseinkun upplifun hægustu notenda 1% og afhjúpar falin afköstavandamál. Þessar rauntímaupplýsingar gera þér kleift að gera skjótar breytingar til að viðhalda bestu mögulegu afköstum.

Stillingarstillingar byggðar á umferðarmynstri

Með því að nota þessar rauntíma mælikvarða er hægt að gera kraftmiklar breytingar á úthlutun auðlinda. Auk algengra aðferða eins og "Minsta tengingu" eða "Minsta svörunartíma", a Foss eftir svæðum Aðferðin tekur tillit til þátta eins og nálægðar, álags og afkastagetu. Þetta tryggir að ef eitt svæði verður mettað, þá flyst umferðin sjálfkrafa yfir á næsta svæði með tiltækar auðlindir.

Stigstærð markmiðsmælingar er annað gagnlegt tól. Með því að fylgjast með mælikvörðum eins og meðalnotkun örgjörva eða fjölda beiðna á hvert markmið geta sjálfvirkar stækkunarreglur aðlagað afkastagetu eftir þörfum. Lykilatriðið er að velja mælikvörð sem hækka eftir því sem álag eykst, sem veldur því að auðlindir eru bættar við til að mæta eftirspurn.

Fyrir flóknari uppsetningar, fyrirbyggjandi yfirflæði getur beint umferð á varasvæði áður en aðalsvæðið er alveg yfirhlaðið. Til dæmis, ef heilsufarsathuganir sýna að fleiri en 50% af bakendum eru ófullnægjandi, er umferð færð á varasvæði, jafnvel þótt einhver afkastageta sé eftir á aðalsvæðinu.

Til að forðast óþarfa viðvaranir skaltu stilla þröskulda sem byggja á meðaltölum yfir fimm mínútna glugga frekar en að bregðast við stuttum toppum. Til dæmis, að stilla viðvörun fyrir minna en 95% tiltækileika yfir fimm mínútur hjálpar þér að greina raunveruleg vandamál án þess að vera yfirþyrmandi af falskum viðvörunum.

Sjálfvirk viðvörun og lausn vandamála

Sjálfvirkar viðvaranir og svör eru nauðsynleg til að viðhalda mikilli tiltækileika í fjölskýjakerfum. Handvirk vöktun dugar oft ekki í þessum flóknu umhverfum. Sjálfvirk kerfi sameina virkar kannanir og greiningu á umferð í rauntíma til að greina vandamál snemma. Óvirkar athuganir, eins og vöktun á 5xx villum eða tímamörkum tenginga, ná bilunum á rökfræðistigi sem tilbúnar kannanir gætu misst af.

"Álagsjafnarar eru sjálfkrafa stilltir til að veita upplýsingar um umferð, framboð og seinkun ... þess vegna virka álagsjafnarar oft sem frábær uppspretta SLI-mælikvarða án þess að þörf sé á forritamælingum." – Google Cloud

Þegar vandamál koma upp, sjálfvirkni umferðartæming fjarlægir óheilbrigða bakenda úr snúningi. Á sama tíma snúa skipulagningartól eins og Kubernetes eða sjálfvirk skýjastilling upp nýjum tilfellum. Þetta sjálfgræðingarferli heldur kerfinu þínu gangandi án afskipta manna.

Til að fá dýpri innsýn í uppsetningu margra skýja bjóða verkfæri eins og Prometheus og Grafana upp á vettvangsóháða mælanleika. Skýjalausnir eins og Google Cloud Monitoring, Azure Monitor Insights og Cloudflare Load Balancing Analytics bjóða upp á viðbótarmöguleika. Margar stofnanir eru að stefna að sameinaðri mælanleika með OpenTelemetry, sem samþættir mælikvarða, skrár og rakningar frá öllum skýjafyrirtækjum í eina, samfellda sýn.

Öryggi og reglufylgni í fjölskýjaumhverfi

Þegar stjórnað er álagsjöfnun í mörgum skýjum er öryggi jafn mikilvægt og afköst og áreiðanleiki. Þetta snýst ekki bara um að vernda umferðina – þetta snýst um að tryggja samræmda vernd milli mismunandi skýjafyrirtækja og fylgja jafnframt reglugerðum. Hver skýjapallur hefur sínar eigin öryggisstillingar, sem geta leitt til bilana ef ekki er vandlega stjórnað. Þessar öryggisráðstafanir vinna hönd í hönd með þeim virku leiðarkerfi og yfirfærslukerfum sem þegar hafa verið rædd og mynda heildstæða stefnu fyrir margar skýjalausnir.

DDoS vörn og dulkóðun umferðar

Anycast tækni er lykilvörn gegn DDoS árásum. Í stað þess að beina allri umferð í gegnum einn punkt, gerir Anycast kleift að tilkynna sömu IP tölu í öllum gagnaverum í netkerfinu þínu. Þetta dreifir álaginu meðan á árás stendur og kemur í veg fyrir flöskuhálsa. Til dæmis starfar net Cloudflare innan um það bil 50 ms frá 95% af alþjóðlegum internettengdum íbúum, sem veitir breiða getu til að takast á við árásir.

DDoS árásir falla venjulega í tvo flokka: Árásir á fjórða lagi, sem miða á flutningslög eins og TCP/UDP tengingar, og Árásir á 7. lagi, sem einbeita sér að forritalögum eins og HTTP beiðnum. Árásir á 7. lagi eru sérstaklega erfiðar þar sem þær herma eftir lögmætri umferð, sem gerir þær erfiðari að greina. Öflugur álagsjöfnunaraðili verður að meðhöndla báðar gerðirnar á skilvirkan hátt.

SSL/TLS afhleðsla Á álagsjöfnunarstigi einfaldar dulkóðunarferlið. Það sér um þungavinnu dulkóðunar og afkóðunar, sem og vottorðsstjórnun. Hins vegar skaltu ganga úr skugga um að samræmisþarfir þínar krefjist ekki dulkóðunar frá enda til enda alla leið að upprunaþjóninum.

Eldveggir vefforrita og innbrotsvarnir

A einhliða arkitektúr er lykilatriði til að viðhalda afköstum og auka öryggi. Í stað þess að beina umferð í gegnum mörg öryggistæki – eins og WAF, IPS og DLP – skoða nútíma öryggisgáttir umferð í einni umferð. Þetta dregur úr töf og bætir heildarafköst.

"Helsti ókosturinn [við að stafla söluaðilum] er tap á fullri yfirsýn yfir umferð þegar maður situr á bak við annan söluaðila, sem hindrar margar af þjónustum Cloudflare sem byggja á ógnunargreind, svo sem stjórnun á spjallþjónum, hraðatakmörkunum, DDoS-vörnum og gagnagrunni fyrir IP-orðspor." – Cloudflare

Forðist að stafla mörgum öryggislögum, þar sem það getur skapað blinda bletti sem veikja ógnargreiningu. WAF með fullri yfirsýn yfir umferðarmynstur getur betur greint vélmenni, takmarkað hraða misnotkunarviðskiptavina og notað IP-orðsporsgagnagrunna á skilvirkan hátt. Skoðun á brúnum, sem síar umferð nær uppruna sínum, tryggir bæði mikla afköst og öflugt öryggi.

Þessar öflugu eldveggir og innbrotsvarnir hjálpa einnig til við að ná samræmi við iðnaðarstaðla.

Fylgni við svæðisbundna og iðnaðarstaðla

Að fylgja stöðlum eins og HIPAA, PCI DSS og SOC2 Í fjölskýjauppsetningu þarf vandlega stjórnun á gagnageymslu og vinnslustöðum. Stýrilag álagsjöfnunarkerfisins getur framfylgt lögsagnarleiðsögn, að tryggja að beiðnir viðskiptavina séu afgreiddar af innviðum innan tiltekinna lagalegra marka.

Flokkun gagna gegnir lykilhlutverki. Skiptið gögnunum ykkar niður í flokka eins og efni, rekstrarfjarmælingar og persónuupplýsingar. Hver flokkur ætti að hafa skilgreindar reglur um vinnslustaði, varðveislutímabil og aðgangsheimildir. Til dæmis gætu persónuupplýsingar þurft að vera innan tiltekins skýjareiknings, en samanlagðar fjarmælingar geta færst frjálsar.

Staðbundin lykilvörsla tryggir að dulkóðunarlyklar séu innan tilgreindra lögsagnarumdæma með því að nota svæðisbundin lyklastjórnunarkerfi (KMS). Þegar landfræðileg staðsetning viðskiptavina er óljós skal sjálfgefið nota ströngustu búsetureglur.

Verkfæri eins og Innviðir sem kóði (t.d. Terraform) getur sjálfvirknivætt innleiðingu öryggisstefnu í skýjum. Þetta tryggir að WAF-reglur, hraðatakmarkanir og aðgangsstýringar séu notaðar á samræmdan hátt. Haltu gagnaflæðisritum, örgjörvalistum og leiðarreglum í útgáfustýringu fyrir ritrýndar endurskoðunarslóðir, sem einfaldar samræmisathuganir og staðfestingar.

Stærðhæfni og auðlindastjórnun

Álagsjöfnun í mörgum skýjum snýst ekki bara um að halda kerfum gangandi – hún býður einnig upp á sveigjanleika í uppskalningu og hjálpar til við að stjórna kostnaði á skilvirkan hátt. Með því að aðlaga auðlindir á kraftmikinn hátt út frá umferð er tryggt að forrit haldist móttækileg á annasömum tímum og komist er hjá óþarfa útgjöldum á rólegri tímum.

Sjálfvirkar kvarðareglur og kveikjur

Umferðarmiðaðar mælingar eru lykillinn að hraðri og skilvirkri stigstærð. Til dæmis gerir eftirlit með beiðnum á sekúndu (RPS) kerfum kleift að bregðast við eftirspurnartoppum áður en vandamál með afköst koma upp. Á hinn bóginn getur það verið hægara að reiða sig á notkun örgjörva eða minnis – þegar þessi mæligildi ná hámarki gætu notendur þegar tekið eftir töfum.

Reglur um markmiðsmælingar hjálpa til við að viðhalda stöðugri afköstum. Til dæmis, með því að setja markmið um 70% örgjörvanýtingu, er tryggt að sjálfvirki kvarðinn virki þegar notkun fer yfir þetta stig, bætir við auðlindum eftir þörfum og minnkar notkunina þegar eftirspurn minnkar. Til dæmis geta Gateway-auðlindir Google Cloud meðhöndlað allt að 100.000.000 RPS, sem veitir mikla afkastagetu fyrir aðstæður með mikla eftirspurn.

Með því að stilla upp upphafstímabil fyrir nýjar sýndarvélar (VM) rétt er tryggt að þær séu ekki teknar með í ákvarðanir um stærðargráðu of snemma. Að auki beinir yfirflæði milli svæða tímabundið umferð þar til staðbundnar auðlindir eru að fullu tengdar. Þessar aðferðir hjálpa til við að halda jafnvægi á afköstum og kostnaði og viðhalda áreiðanleika.

Kostnaðarhagræðing með breytilegri úthlutun auðlinda

Stærðbreyting er bara einn hluti af púsluspilinu – skilvirk úthlutun auðlinda er jafn mikilvæg til að halda kostnaði lágum. Kostnaðarbundin leiðarvísir tryggir að umferð sé beint til svæða með lægstu kostnaði við afhendingu eða bandvídd, og nýtir þannig hvern einasta dollar sem varið er í innviði sem best.

Að stilla sjálfvirka kvarða getur einnig sparað peninga. Til dæmis dregur það úr þörfinni á að viðhalda kostnaðarsömum afkastagetu ef hærra þröskuldur er settur, eins og 90% örgjörvanýting í stað 70%. Svæðisbundið yfirflæði þjónar sem öryggisnet og beinir umferð til annarra skýja þegar eitt svæði nær mörkum sínum. Þessi aðferð lækkar kostnað en veitir samt sem áður áreiðanlega þjónustu.

Eiginleiki	Hefðbundin nálgun	Fjölþætt skýjaaðferð
Stærð	Takmarkað af efnislegum vélbúnaði	Stærist samstundis á milli þjónustuaðila
Kostnaðarlíkan	Hátt upphaflegt fjárfestingarhlutfall + viðhald	Rekstrarkostnaður án vélbúnaðar
Framboð	Bilun í einum punkti í vélbúnaði	Dreift yfir gagnaver

Þröskuldar fyrir yfirfærslu (e. failover enders) fínstilla enn frekar jafnvægi milli kostnaðar og afkasta. Þessir þröskuldar, sem eru yfirleitt stilltir á 70%, ákvarða hvenær umferð færist yfir á afritunarsvæði. Með því að stilla þetta bil á milli 1% og 99% er hægt að fínstilla hversu árásargjarnt auðlindir eru notaðar út frá þörfum vinnuálags.

Að takast á við umferðarbylgjur í skýjum

Að takast á við skyndilegar umferðartoppa krefst snjallrar dreifingar álags. Fossreiknirit Forgangsraða að fylla svæðið sem er næst fullkomnu rými áður en yfirflæði er beint á næsta svæði. Þessi aðferð lágmarkar seinkun og kemur í veg fyrir ofhleðslu á einn skýjaþjónustuaðila eða gagnaver.

Fyrirbyggjandi yfirflæði er önnur vörn. Ef fleiri en 50% af bakendakerfum á svæði eru óheilbrigð er umferð beint áfram jafnvel þótt enn sé einhver afkastageta eftir. Þetta kemur í veg fyrir að notendur séu færðir yfir á kerfi sem eru að hluta til ófullkomin. Afkastageta er aðeins endurheimt þegar að minnsta kosti 35% af bakendakerfum eru stöðug í 60 sekúndur, sem kemur í veg fyrir stöðuga skiptingu á milli virkrar og óvirkrar stöðu.

Einangrun umferðar býður upp á aukna stjórn. Í "ströngum" einangrunarham er umferð sleppt frekar en vísað á önnur svæði. Þetta er sérstaklega gagnlegt fyrir forrit sem eru viðkvæm fyrir töf eða í tilvikum þar sem gögn verða að vera innan tiltekinna lögsagnarumdæma til að uppfylla kröfur. Hugbúnaðarbyggðir álagsjafnarar sem virka á mismunandi kerfum eins og AWS, Azure og Google Cloud gera þetta sveigjanleikastig mögulegt og tryggja greiða dreifingu umferðar án takmarkana á vélbúnaði.

Leiðbeiningar um innleiðingu og dreifingu

Að setja upp álagsjöfnun í mörgum skýjum krefst vandlegrar skipulagningar og nákvæmrar framkvæmdar. Ferlið felur í sér að tengja saman ýmis skýjaumhverfi, stilla umferðarflæði á milli þeirra og sjálfvirknivæða verkefni til að lágmarka handvirk mistök.

Uppsetning á samþættingu við marga skýjatölvur

Fyrsta skrefið er að koma á öruggri tengingu milli skýjaþjónustuaðila og hollur netþjóna og innviði á staðnum. Þetta er venjulega gert með því að nota VPN í skýinu eða Skýjatenging (Sérstök eða samstarfsaðilar), sem búa til örugg göng sem tengja umhverfin saman. Þegar tengingin er komin á skal setja upp stjórnunarumboðsmenn á hverju svæði til að tengja miðlæga stjórnborðið við dreifð álagsjöfnunarkerfi.

Til að tryggja samþættinguna skaltu opna nauðsynlegar tengi: Höfn 53 fyrir DNS, Höfn 3009 fyrir mælikvarðaskipti (MEP), og Höfn 443 fyrir stjórnun. Skilgreina Netendapunktahópar (NEG) eða tilgreina IP-tölur vefsvæða fyrir allar auðlindir í skýjunum. Þetta gerir álagsjöfnunarkerfinu kleift að bera kennsl á og beina umferð að tilteknum IP:Port samsetningum. Að auki skal stilla heilsufarsathuganir til að fylgjast með framboði endapunkta og tryggja að umferð sé aðeins beint að heilbrigðum netþjónalaugum.

Þegar tengingar og heilsufarsvöktun hafa verið sett upp er næsta skref að skilgreina dreifingarstefnur umferðar.

Stilla umferðardreifingarstefnur

Að velja rétta dreifingaralgrímið er lykillinn að skilvirkri umferðarstjórnun í skýjum. Til dæmis:

• Foss eftir svæðumÞessi aðferð dregur úr seinkun með því að fylla svæðið sem er næst fullum afkastagetu áður en umframumferð er færð á næsta stað.
• Úða á svæðiÞetta tryggir jafna dreifingu umferðar yfir öll svæði.

Setja þröskulda fyrir failover á 70% þannig að umferð færist þegar heilbrigðir endapunktar fara niður fyrir þetta stig. Virkja sjálfvirka afkastagetutæmingu, sem virkjast þegar færri en 25% af meðlimatilvikum standast heilsufarsathuganir. Þetta stillir sjálfkrafa afkastagetu bakenda á núll og kemur í veg fyrir að umferð sé beint til óheilbrigðra tilvika.

Fyrir nákvæmari stjórn, notaðu Leiðsögn á forritalagi (lag 7). Þetta gerir kleift að stýra umferð út frá HTTP hausum, smákökum eða vefslóðum. Vegin umferðarskipting er sérstaklega gagnleg fyrir canary dreifingar - til dæmis að beina 95% umferðar á stöðugar bakenda á meðan nýjar útgáfur eru prófaðar með þeim sem eftir eru 5%. Fyrir umhverfi með strangar kröfur um reglufylgni, virkjaðu "STRICT" stillingu til að framfylgja einangrun umferðar, sleppa umferð í stað þess að leyfa yfirflæði milli svæða.

Þegar stefnur hafa verið settar getur sjálfvirkni hjálpað til við að hagræða þessum stillingum.

Sjálfvirkni ferla með API

Sjálfvirkni dregur úr handvirkum mistökum og flýtir fyrir innleiðingu. Tól eins og Terraform eða gcloud CLI Hægt er að nota það til að stjórna áframsendingarreglum, vefslóðakortum og bakendaþjónustu forritunarlega. Í gámauppsetningum eru Kubernetes-innfæddir API-viðmót, eins og Gateway API eða Fjölklasa innrás (MCI), getur séð um dreifingu umferðar yfir klasa. Venjulega styðja verkefni allt að 100 Fjölþyrpingaaðgangur og 100 Fjölþyrpingaþjónusta auðlindir sjálfgefið.

Dreifa Stillingarklasi til að þjóna sem miðlægur stjórnunarpunktur fyrir álagsjöfnun margra klasa. Nota API til að setja markmiðsmælingar um stigstærð, viðhalda nýtingu örgjörva á æskilegu stigi og aðlagast breytingum á umferð. Tengja heilsufarsskoðanir beint við afkastagetu bakenda með því að nota API fyrir sjálfvirka afkastagetutæmingu og stilla. splitBrainThresholdSeconds til að forðast hraðar DNS-breytingar við tímabundin netvandamál. Staðla stillingar með YAML-byggðum þjónustustefnum til að tryggja samræmda uppsetningu á öllum kerfum eins og AWS, Azure og Google Cloud.

Niðurstaða

Yfirlit yfir aðalatriði

Álagsjöfnun í mörgum skýjum byggir á a sveigjanleg, hugbúnaðardrifin nálgun sem tryggir að umferð sé dreift á skilvirkan hátt á milli margra þjónustuaðila og kemur í veg fyrir að kerfi séu læst inni í söluaðilum. Þar sem fyrirtæki taka upp dreifð kerfi til að takast á við vaxandi kröfur um afköst og áreiðanleika hafa þessar aðferðir orðið ómissandi.

Lykilstefnur eins og Alþjóðleg umferðarstjórnun (GTM) á DNS- eða jaðarlaginu og Álagsjöfnun einkanets (SLB) Innan tiltekinna gagnavera er lagður grunnur að öflugri fjölskýjauppsetningu. Greindar leiðarvísirtækni – eins og Foss eftir svæðum til að draga úr seinkun eða Síst útistandandi beiðnir til að takast á við flókin verkefni – hjálpa til við að beina umferð að hraðskreiðustu og stöðugustu endapunktunum. Rauntíma heilsufarsvöktun, parað við sjálfvirk tæming á afkastagetu, tryggir að slitnum auðlindum sé framhjáð, á meðan sjálfvirkir yfirfærslukerfi beina umferð áfram þegar kerfisheilsa fer undir ásættanleg mörk.

Öryggi og afköst vinna saman í þessum stillingum. Eiginleikar eins og SSL/TLS-lokun á jaðri draga úr seinkun við handaband, á meðan Leiðsögn sem er meðvituð um forrit á 7. lagi tekur ákvarðanir byggðar á HTTP hausum, smákökum eða tilteknum vefslóðum. Samræmd framfylgd á Vefforritaeldveggir (WAF) og Auðkennis- og aðgangsstjórnun (IAM) Stefnumál á öllum kerfum hjálpa til við að loka fyrir hugsanlega veikleika og viðhalda öruggu umhverfi.

Með þessar meginreglur í huga geta eftirfarandi skref leiðbeint þér í átt að því að byggja upp áreiðanlega og árangursríka fjölskýjastefnu.

Næstu skref fyrir velgengni í fjölþættri skýjatækni

Til að hámarka ávinninginn af álagsjöfnun í mörgum skýjum skaltu íhuga þessi skref:

• Nota innviði sem kóða (IaC): Tól eins og IaC gera þér kleift að stjórna áframsendingarreglum, vefslóðakortum og bakendaþjónustu forritunarlega. Þetta dregur ekki aðeins úr handvirkum villum heldur flýtir einnig fyrir innleiðingum úr dögum í mínútur.
• Miðlægt eftirlit: Innleiðið verkfæri sem veita rauntíma innsýn í seinkun og auðlindanotkun í fjölskýjauppsetningunni ykkar. Þessi yfirsýn hjálpar ykkur að taka upplýstar ákvarðanir og viðhalda heilbrigði kerfisins.
• Taka upp mælikvarða fyrir skotmarksmælingar: Aðlagaðu afkastagetu á kraftmikinn hátt út frá afkastamælikvörðum til að mæta eftirspurn án þess að offramboð sé gert.
• Framfylgja einangrun umferðar: Með því að einangra umferð er hægt að koma í veg fyrir að svæðisbundin bilun berist yfir kerfið og takmarka truflanir við eitt svæði.

Með 94% af vinnuálagi Þar sem þessar aðferðir munu keyra í einhvers konar fjölskýjaumhverfi fyrir árið 2021, eru þær ekki lengur valkvæðar – þær eru nauðsynlegar til að vera samkeppnishæfar í hraðskreyttu stafrænu landslagi nútímans.

Algengar spurningar

Hvernig vel ég á milli virks-virks og virks-óvirks?

Þegar ákveðið er á milli virkur-virkur og virkur-óvirkur uppsetningar, þetta snýst allt um að finna jafnvægi á milli skilvirkni, bilanaþols og flækjustigs.

An virkur-virkur Stillingar nota alla netþjóna á sama tíma, sem eykur afköst og tryggir betri seiglu. Hins vegar krefst það meiri fyrirhafnar í stjórnun og viðhaldi. Á hinn bóginn, virkur-óvirkur heldur einum netþjóni virkum á meðan hinum er í biðstöðu. Þessi valkostur er einfaldari í stjórnun og tryggir fyrirsjáanlegt yfirfærsluferli.

Forgangsröðun fyrirtækisins – hvort sem það er afköst, auðveld stjórnun eða bilanaþol – mun leiða til réttrar ákvörðunar fyrir þarfir þínar.

Hvaða stillingar fyrir heilsufarsathugun koma í veg fyrir slæmar yfirfærslur?

Til að forðast vandkvæðar yfirfærslur skaltu setja upp heilsufarsathuganir með margar vel heppnaðar rannsóknarþröskuldar og fínstilla bæði tímamörk og bilunarmörk. Þessi aðferð tryggir að aðeins raunverulega óheilbrigðir bakendar séu merktir og teknir úr notkun. Fínstilling þessara stillinga hjálpar til við að halda afköstum stöðugum og lágmarka óþarfa truflanir.

Hvaða mælikvarðar skipta mestu máli fyrir seinkun í mörgum skýjum?

Þegar kemur að því að mæla seinkun í mörgum skýjum eru nokkrar mikilvægar mælikvarðar sem þarf að hafa í huga:

• Svarstími forritsÞetta mælir hversu hratt forrit bregst við beiðnum notenda og býður upp á beina sýn á notendaupplifunina.
• Netferðartími fram og til bakaÞetta skráir þann tíma sem það tekur gögn að ferðast frá uppruna til áfangastaðar og til baka, og varpar ljósi á hugsanlegar tafir á nettengingunni.
• Mælitæki fyrir afköst auðlindaÞetta beinist að afköstum netþjóna, gagnagrunna eða annarra skýjaauðlinda og hjálpar til við að bera kennsl á flöskuhálsa.

Saman gefa þessir mælikvarðar skýra mynd af töf og svörun kerfisins frá upphafi til enda, sem gerir það auðveldara að fínstilla afköst þar sem það skiptir mestu máli.

Tengdar bloggfærslur

• Hvað er landfræðileg álagsjöfnun?
• Hvernig landfræðileg álagsjöfnun bætir árangur
• Kvik álagsjöfnun í fjölleigjendakerfum
• Virk-virk álagsjöfnun: Lykiltækni