← Back to team overview

sslug-teknik team mailing list archive

Re: mdadm 3diske, Raid10 chunk-size near, far OG offset=2

 

fre, 19 12 2008 kl. 21:29 +0000, skrev Keld Jørn Simonsen:
> Den Fri, 19 Dec 2008 16:31:21 +0100 skrev Kenn Thyrsted:
> 
> > fre, 12 12 2008 kl. 10:10 +0100, skrev Jeppe Koefoed: <snip>
> >> Her var den:
> >> http://blog.jamponi.net/2008/07/raid56-and-10-benchmarks-
> on-26255_10.html
> >> 
> >> /Jeppe
> >> 
> >> 
> >> 
> > Tak for dét !
> > Jeg var ved at tro jeg måtte lade default opsætningen om at få skylden
> > for dårlig performance.
> > 
> > Nu kan jeg selv 'tage skraldet' ;-)
> > 
> > - Og så ble' jeg også klogere :-)
> 
> Hvor slemt er det?
> 
> Det hjalp for mig at køre:
> 
> 
> blockdev --setra 65536 /dev/md3
> 
> Og så var der en væsentlig patch i kerne 2.6.25 for ydelsen i raid10.f2
> 
> 
> 
Beklager det sene svar , men det tager en del tid med "trial and error".

Jeg besluttede mig for offset=2 for at få mest performance.

MEN:


Det ser ud til at der kun læses fra een (1) disk i et RAID10,o2 array
med 2 diske.
Eksempel: /dev/md3 = Raid10,o2 på 2 diske sdd1 og sdh1:

dd if=16GigaByte-FilPåRaid10Array of=/dev/null

Resulterer i:
33554432+0 records in
33554432+0 records out
17179869184 bytes (17 GB) copied, 353,121 s, 48,7 MB/s

MEN under kopieringen siger iostat:
avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0,67    0,00   10,07   39,87    0,00   49,40

Device:            tps    MB_read/s    MB_wrtn/s    MB_read    MB_wrtn
sdd               0,00         0,00         0,00          0          0
sdi             145,53        48,06         0,00        720          0
md3           11944,53        48,04         0,00        720          0

På _intet_ tidspunkt hentes der data fra /dev/sdd !??

Hvis jeg nu gentager "dd if=16GigaByte-FilPåRaid10Array of=/dev/null"

så _kan_ det ske at iostat melder:

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0,47    0,00    9,27   40,87    0,00   49,40

Device:            tps    MB_read/s    MB_wrtn/s    MB_read    MB_wrtn
sdd             120,67        39,16         0,00        587          0
sdi               0,00         0,00         0,00          0          0
md3            9751,67        39,21         0,00        588          0

På _intet_ tidspunkt hentes der data fra /dev/sdi !??

blockdev --setra 65536 /dev/md3 batter ikke rigtigt noget mht at læse
stripe-agtigt.

Chunk=1024;2048;4096;8192;16384 ændrer ikke på at der kun læses fra een
disk gennem hele 'dd seancen'.

Meget er prøvet - uden effekt :
mke2fs -j -b 1024 -E stride=2048,stripe-width=4096 /dev/md3
mke2fs -j -b 2048 -E stride=1024,stripe-width=2048 /dev/md3
mke2fs -j -b 4096 -E stride=512,stripe-width=1024 /dev/md3
mke2fs -j -b 4096 -E stride=512,stripe-width=512 /dev/md3
mke2fs -j -b 1024 -E stride=2048,stripe-width=4096 /dev/md3
mke2fs -j -b 4096 -E stripe-width=4096 /dev/md3
mke2fs -j -b 4096 -E stride=512,stripe-width=8192 /dev/md3
Spredhagl er prøvet - uden held :
mke2fs -j -b 4096 -E stride=512,stripe-width=10240 /dev/md3
mke2fs -j -b 4096 -E stride=1024,stripe-width=10240 /dev/md3
mke2fs -j -b 4096 -E stride=512,stripe-width=24676 /dev/md3
mke2fs -j -b 4096 -E stride=512,stripe-width=64 /dev/md3
mke2fs -j -b 2048 -E stride=512,stripe-width=64 /dev/md3
mke2fs -j -b 2048 -E stride=16,stripe-width=32 /dev/md3


- Hvad er det som jeg overser ??

Kommentarer er yderst velkomne !


/Kenn



Follow ups

References