CCoW: Optimizing Copy-on-Write Considering the Spatial Locality in Workloads Part 2
Apr 02, 2024
Cov nplooj ntawv me me tuaj yeem muaj teeb meem vim tias cov tshuab ua kom muaj peev xwm tuav tau ntau lub cev nco. Nrog rau lub koom haum hierarchical nplooj ntawv, txhua qhov chaw nyob tus txhais lus yuav tsum muaj ntau lub cim xeeb nkag, ib qho rau txhua nplooj ntawv qib, uas yog qhov tsis tsim nyog.
Raws li cov neeg muaj hnub nyoog, lub cim xeeb maj mam poob. Txawm li cas los xij lub cev kev nco tsis yog ib qho ntawm qhov cuam tshuam ncaj qha rau peb lub cim xeeb. Kev nco muaj feem xyuam nrog lub zog ntawm kev sib txuas ntawm cov neurons hauv lub hlwb, rau kev noj qab haus huv ntawm lub hlwb, thiab siv ntau npaum li cas lub cim xeeb.
Hauv peb lub hlwb, neurons txuas nrog synapses. Cov synapses txhawb peb khaws thiab khaws cov ntaub ntawv. Txawm li cas los xij, thaum peb muaj hnub nyoog, cov kev sib txuas synaptic no txo qis, ua rau peb lub cim xeeb tsis zoo. Qhov no tsis yog vim peb lub cev nco tau txo qis, tab sis vim tias peb lub hlwb tab tom hloov qee yam uas cuam tshuam rau peb lub peev xwm.
Txawm li cas los xij, kev siv peb lub hlwb tuaj yeem pab peb khaws cov kev nco zoo. Lub paj hlwb xav tau kev tawm dag zog, ib yam li lub cev, nws xav tau kev so thiab kev tawm dag zog kom noj qab haus huv. Tsim kom muaj kev xav zoo yuav pab koj lub hlwb kev noj qab haus huv thiab kev ua haujlwm zoo. Piv txwv li, kev kawm yam tshiab, siv cov tswv yim nco, ua si cov lus sib dhos, thiab lwm yam tuaj yeem txhim kho koj lub hlwb kom zoo thiab ua haujlwm zoo.
Yog li ntawd, lub cev nco tsuas yog lub peev xwm khaws cia rau lub hlwb. Peb lub cim xeeb yog ze ze rau qhov txwv ntawm qhov peb lub hlwb tuaj yeem ua tiav. Los ntawm kev tawm dag zog tas li peb lub hlwb, peb tuaj yeem ua rau peb lub cim xeeb ruaj khov thiab tswj tau ntawm qib siab. Txhawm rau txhim kho kev nco, peb yuav tsum tsom mus rau kev tawm dag zog lub hlwb thaum tswj tus cwj pwm zoo thiab tus cwj pwm noj qab haus huv. Nws tuaj yeem pom tias peb yuav tsum txhim kho kev nco, thiab Cistanche deserticola tuaj yeem txhim kho kev nco, vim Cistanche deserticola muaj antioxidant, tiv thaiv kev mob, thiab tiv thaiv kev laus, uas tuaj yeem pab txo qis oxidation thiab inflammatory tshwm sim hauv lub hlwb, yog li tiv thaiv cov kab mob. kev noj qab haus huv ntawm lub paj hlwb. Tsis tas li ntawd, Cistanche deserticola kuj tseem tuaj yeem txhawb kev loj hlob thiab kho cov paj hlwb, yog li txhim kho kev sib txuas thiab kev ua haujlwm ntawm neural networks. Cov teebmeem no tuaj yeem pab txhim kho kev nco, kev kawm, thiab kev xav nrawm, thiab tseem tuaj yeem tiv thaiv kev loj hlob ntawm kev paub tsis meej thiab kab mob neurodegenerative.
Nyem paub txoj hauv kev los txhim kho lub hlwb
Txhawm rau txo cov nyiaj siv ua haujlwm siab ntawm virtual rau lub cev qhov chaw nyob txhais lus, ntau cov qauv niaj hnub no suav nrog lub cache rau chaw nyob txhais lus. TheMMU khaws ob peb qhov kev txhais lus tsis ntev los no hauv cov khoom siv logic hu ua translationlook-aside buffer, tseem hu ua TLB.
Feem ntau, TLBs ntawm niaj hnub architectures tuaj yeem tuav 500 txog 2000 nkag [6,7]. Cov kev nkag tau raug ntsuas los ntawm kev kho vajtse kom cov processorcore tuaj yeem saib cov lus txhais sai heev. Los ntawm leveraging qhov chaw ntawm lub cim xeeb cov ntaub ntawv, ntau qhov chaw txhais lus tuaj yeem ua tsis tau taug kev los ntawm nplooj ntawv (hu ua TLB ntaus).
Raws li lub cim xeeb hneev taw rau kev siv lub cim xeeb loj hlob sai, tus naj npawb ntawm cov nplooj ntawv virtual rau lub cev daim ntawv qhia rau cov txheej txheem kuj nce ntxiv.Txawm li cas los xij, vim muaj kev txwv kho vajtse, tus lej ntawm TLB nkag tsis tuaj yeem nrog kev loj hlob sai ntawm daim ntawv thov nco hneev taw. Yog li, TLB nco tus nqi nce, ua rau muaj kev tsis sib haum xeeb hauv kev ua haujlwm ntawm kev nco-ntaus ntawv [8–11].
Txhawm rau kov yeej qhov kev txwv no, qee qhov kev tsim vaj tsev txhawb nqa nplooj ntawv ntxiv qhov loj dua qhov loj ntawm 4 KB hauv paus nplooj ntawv. Piv txwv li, niaj hnub Intel architectures txhawb 2 MB thiab 1 GB nplooj ntawv [7]. Nrog rau cov nplooj ntawv loj loj, ib qhov chaw nyob txhais lus tuaj yeem npog qhov chaw nyob dav dua, ua kom muaj txiaj ntsig zoo rau TLB tuaj yeem muab nrog tib tus lej ntawm kev nkag.
Piv txwv li, lub kaw lus nrog 1024 TLB nkag thiab 4 KB hauv paus nplooj ntawv loj tuaj yeem muab TLB kev pab them nqi ntawm 4 MB, thaum tib tus lej nkag nrog 1 GB nplooj ntawv loj muab 1 TB kev pab cuam.Linux siv cov nplooj ntawv loj hauv daim ntawv pob tshab nplooj loj loj. (THPs). Raws li lub npe qhia, Linux implicitly muab cov neeg siv cov txheej txheem nrog cov nplooj ntawv loj thaum twg los tau.
Yog tiasTHP tsis tau qhib, Linux faib lub cim xeeb rau cov txheej txheem hauv 4 KB hauv paus nplooj ntawv. Yog tiasTHP tau qhib, Linux sim faib nplooj ntawv loj (2 MB hauv qhov loj) es tsis txhob ntawm nplooj ntawv hauv paus, tso cai rau nplooj ntawv ntxhib-grained. Qhov loj granularity no tso cai rau kev sib faib nplooj ntawv zoo ntawm niam txiv thiab menyuam cov txheej txheem los ntawm rab rawg. Nyob rau hauv cov ntaub ntawv loj loj pageallocation tsis ua tau tam sim no, Linux poob rov qab mus rau nplooj ntawv hauv paus faib. Linux ib ntus scans cov txheej txheem chaw nyob kom pom cov nplooj ntawv hauv paus thiab sib sau ua ke rau hauv nplooj ntawv loj.
Muaj cov kev tshawb fawb sim los txhawb cov nplooj ntawv loj rau kev ua tau zoo thaum npog lawv qhov tsis txaus ntxiv. Ingens [12,13] tawm tswv yim los npaj cov nplooj ntawv loj asynchronously tawm ntawm txoj kev tseem ceeb.
Hawkeye [14] nthuav tawm cov nplooj ntawv loj loj uas tau txais txiaj ntsig zoo raws li cov qauv kev nco txog kev nkag mus rau qhov ua tau zoo tshaj plaws nrog tsawg kawg ntawm nplooj ntawv txhawb nqa loj. Zhu et al. [15] generalize cov txheej txheem ntawm kev siv cov nplooj ntawv loj thiab optimize lub neej voj voog ntawm cov nplooj ntawv loj. Part et al. [16] tso cai rau lub qhov nyob hauv cov nplooj ntawv loj, muab qhov yooj yim hauv kev tswj hwm nco nrog cov nplooj ntawv loj.
Nplooj loj, txawm li cas los xij, yog rab ntaj ob sab. Vim yog qhov loj ntawm kev tswj xyuas qhov loj, nplooj ntawv faib tawm raug kev puas tsuaj los ntawm sab hauv. Yog tias qhov chaw nyob sib faib me dua qhov loj ntawm nplooj ntawv, qhov seem ntawm nplooj ntawv tsis tuaj yeem siv thiab tau txais kev puas tsuaj. Qhov no hu ua lub cim xeeb plab tuaj yeem txo qis kev siv lub cim xeeb ntawm cov kab ke nrog cov nplooj ntawv loj [12–17].
Qhov loj ntawm nplooj ntawv tuaj yeem cuam tshuam tsis zoo rau kev ua haujlwm ib yam nkaus. Niaj hnub nimno OSs tau txais cov txheej txheem theej-on-write feem ntau rau kev sib koom ua ke ntawm cov txheej txheem. Lub CoW yog, txawm li cas los xij, ua tiav tsuas yog ntawm lub hauv paus pagegranularity.
Yog li, txhawm rau tswj CoW ntawm nplooj ntawv loj, nplooj ntawv loj yog faib rau hauv cov nplooj ntawv hauv paus, thiab tsuas yog nplooj ntawv faulty raug theej. Kev rhuav tshem cov nplooj ntawv loj loj yuav siv sij hawm ntau heev, ua rau muaj kev cuam tshuam ntev nplooj ntawv ua txhaum. Hauv qhov kev nkag siab no, qee qhov kev siv, txawm tias lub cim xeeb siv tau, tsis pom zoo kom siv cov nplooj ntawv loj rau kev ua haujlwm ruaj khov thiab siv lub cim xeeb [4,18].
Feem ntau, muaj ntau qhov chaw nyob hauv cov txheej txheem chaw nyob qhov twg tag nrho cov nplooj ntawv hauv qhov ntau muaj kev tso cai thiab cov yam ntxwv zoo ib yam. Rau kev tswj hwm, modernOSs feem ntau siv lub tswv yim ntawm 'virtual memory area (VMA)' los sawv cev rau qhov chaw nyob ntawm qhov chaw nyob. Peb tuaj yeem faib cov nplooj ntawv hauv cov txheej txheem chaw nyob raws li lawv lub hauv paus chiv keeb.
Qee nplooj ntawv tuaj yeem thauj khoom los ntawm cov ntaub ntawv thaub qab ntawm qhov chaw cia thib ob, hu ua 'file-backed nplooj'. Txawm li cas los xij, qee cov nplooj ntawv yog dynamically populated yam tsis muaj backingdata. Cov nplooj ntawv rau pawg thiab heap yog nyob rau hauv cov ntaub ntawv no, lub thiaj li hu ua 'anonymous nplooj ntawv'.
2.2. Fork thiab Copy-on-Sau
Fork yog ib qho ntawm POSIX tus qauv hu los tsim cov txheej txheem tshiab. Thaum ib tug txheej txheem invokes lub fork system hu, ib tug tshiab txheej txheem yog tsim raws li tus me nyuam ntawm tus txheej txheem hu.
Hauv qab lub hood, OS tsim cov txheej txheem me nyuam los ntawm duplicating tag nrho qhov chaw nyob ntawm tus txheej txheem hu. Qhov no txhais tau hais tias tus txheej txheem me nyuam yuav tsum pib nrog tib cov ntaub ntawv raws li cov txheej txheem niam txiv.
Txhawm rau tswj qhov chaw nyob qhov chaw duplicate tau zoo, feem ntau modernOSs siv cov txheej txheem theej-on-write (CoW). Txhawm rau luam qhov chaw nyob ntawm niam txiv, OS tsis luam txhua nplooj ntawv. Hloov chaw, nplooj ntawv cov txheej txheem ntawm tus me nyuam yog tsim los ntawm kev luam cov nplooj ntawv ntawm cov txheej txheem niam txiv.
Qhov no ua rau muaj kev sib koom ua ke rau qhov chaw nyob ntawm niam txiv. Thaum ua daim ntawv qhia kev sib koom, qhov kev tso cai sau ntawv rau txhua nplooj ntawv tau poob los ntawm kev tshem tawm qhov kev tso cai me ntsis hauv qhov sib thooj PTE.
Tom qab luam daim ntawv qhia, niam txiv thiab tus menyuam tuaj yeem nyeem cov nplooj ntawv sib koom ua lawv nplooj ntawv. Thaum ib qho ntawm cov txheej txheem ua rau sau ntawv nkag mus rau nplooj ntawv, MMU, vim tsis muaj kev tso cai sau ntawv, ua rau nplooj ntawv yuam kev. Hauv nplooj ntawv ua txhaum cai, OS faib nplooj ntawv tshiab, luam cov nplooj ntawv qub, thiab hloov kho cov nplooj ntawv sib txuas ntawm cov txheej txheem ua txhaum nrog kev tso cai sau ntawv.
Nyob rau lub sijhawm no, niam txiv thiab tus menyuam tuaj yeem muaj cov ntaub ntawv sib txawv ntawm tib qhov chaw nyob virtual.This the copy-on-write mechanism is widely used as the fundamental key mechanism for realizing many virtual memory features. Tshwj xeeb, kev nyeem ntawm cov heapregions uas tsis yog thawj zaug feem ntau yog ua nrog kev sib koom ua ke rau nplooj ntawv xoom, uas yog nplooj ntawv tshwj xeeb uas muaj tag nrho cov xoom.
Kernel tib-nplooj merging (KSM) yog cov txheej txheem ntawm deduplicating tib nplooj ntawv nyob rau hauv lub system. Lub OS scans cov nplooj ntawv hauv qhov system txhawm rau txheeb xyuas cov nplooj ntawv nrog cov ntaub ntawv sib txawv. Thaum pom cov nplooj ntawv zoo li no, OS reclaims tag nrho tab sis ib nplooj ntawv thiab hloov kho cov nplooj ntawv sib txuas los qhia cov nplooj ntawv ntxiv.
Hauv kev ua tiav, qhov kev tso cai sau tau poob qis kom cov ntawv txuas ntxiv mus rau nplooj ntawv raug txheeb xyuas thiab luam tawm. Nrog rau kev ua haujlwm siab ntawm daim ntawv theej-on-sau, cov txheej txheem tsim ua tau zoo, thiab cov ntawv siv qee cov ntaub ntawv siv zog siv qhov txiaj ntsig no los tsim cov ntaub ntawv luam. .
Lub Redis, ib qho ntawm cov kev pabcuam hauv lub cim xeeb tseem ceeb-tus nqi hauv khw [4], yog ib qho xwm txheej zoo li no [19]. Lub Redisis tsim los ua kom cov ntaub ntawv nyob rau hauv lub cim xeeb kom muab siab dhau thiab lowlatency.
Txawm li cas los xij, qee qhov kev thov xav kom muaj kev pheej hmoo ntawm cov ntaub ntawv khaws cia, thiab rov ua kom tiav cov qauv tsim hauv nco nrog rab rawg. Lub Redis siv cov lus thov inbound rau hauv lub cim xeeb Performance index thiab cov ntaub ntawv qauv nkaus xwb thiab ib ntus invokes lub diav rawg system hu. Qhov no muaj txiaj ntsig zoo tsim cov txheej txheem menyuam yaus nrog cov ntsiab lus ntawm lub cim xeeb duplicated ntawm thawj Redisprocess, thiab cov txheej txheem hu (piv txwv li, tus txheej txheem qub) txuas ntxiv ua inboundrequests.
Cov txheej txheem menyuam yaus hloov nws txoj kev ua tiav; siv cov ntsiab lus nco tam sim no raws li asnapshot, nws serializes hauv-nco cov ntaub ntawv qauv rau hauv cov ntaub ntawv, yog li ua kom muaj kev pheej hmoo ntawm kev nco hauv snapshot. Tom qab yaug lub snapshot, cov txheej txheem me nyuam xaus.
Cov txheej txheem keeb kwm tuaj yeem ua rau lwm qhov snapshot zoo ib yam, thiab thaum lub kaw lus sib tsoo, Redis tuaj yeem rov qab los ntawm kev nyeem cov snapshot kawg.Txawm hais tias rab rawg yog qhov tseem ceeb ntawm kev hu, nws cov nyiaj siv ua haujlwm tau raug thuam.
Baumann et al. [20] txheeb xyuas cov diav rawg thiab pom tias rab rawg ua rau kev ua haujlwm tsis zoo hauv kev siv niaj hnub no. Piv txwv li, raws li cov ntawv thov niaj hnub no dhau los ua qhov nyuaj, OS yuav tsum xav txog kwv yees li 25 qhov tshwj xeeb los pib ua cov txheej txheem kev hu xov tooj kom ua raws li POSIX specification. Lawv piav qhia txog cov teeb meem ntawm lub forksystem hu thiab qhia cov yam ntxwv uas lub fork system hu yuav tsum muaj rau lub computer niaj hnub.
Lawv kuj muab lwm txoj hauv kev los hloov lub diav rawg. Zhao et al. [19] taw qhia tias kev siv diav rawg hauv cov tshuab tam sim no tsis muaj txiaj ntsig vim cov ntawv thov nrog lub cim xeeb loj yuav tsum tau siv sijhawm ntev los teeb tsa nplooj ntawv. Raws li kev daws teeb meem, lawv tau tsim cov txheej txheem theej-on-write kom cov nplooj ntawv cov lus tau theej ntawm cov ntawv sau zoo li cov nplooj ntawv tsis tu ncua.
For more information:1950477648nn@gmail.com
