Der LUKS Header hat leider keine direkte Verifizierungsmöglichkeit (abseits des akzeptierten oder nicht akzeptierten Passworts).
Also da gibts keine Prüfsumme die sagt: sorry, ich bin kaputt. Bzw. die gibts erst mit dem Passwort (sorry, dein Passwort ist falsch).
Du kannst aber davon ausgehen, daß der LUKS Header defekt ist, wenn das Schlüsselmaterial nicht nach Zufallsdaten aussieht.
Also mal den hexdump durchgehen, intaktes Beispiel mit einem Schlüssel kannst du dir selbst produzieren.
truncate -s 8M foobar.img
cryptsetup luksFormat foobar.img
hexdump -C foobar.img | less
00000000 4c 55 4b 53 ba be 00 01 61 65 73 00 00 00 00 00 |LUKS....aes.....|
00000010 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................|
00000020 00 00 00 00 00 00 00 00 78 74 73 2d 70 6c 61 69 |........xts-plai| cipher
00000030 6e 36 34 00 00 00 00 00 00 00 00 00 00 00 00 00 |n64.............|
00000040 00 00 00 00 00 00 00 00 73 68 61 32 35 36 00 00 |........sha256..|
00000050 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................|
00000060 00 00 00 00 00 00 00 00 00 00 10 00 00 00 00 20 |............... |
00000070 74 5c 31 74 7a a0 71 0d bc 0d 8c 92 cd 45 f2 1b |t\1tz.q......E..|
00000080 e4 21 60 d2 d9 55 91 7f cf e5 49 b1 60 29 15 35 |.!`..U....I.`).5| masterkey digest, salt, ...
00000090 9f 38 4a ab 15 04 8a b9 d8 d1 ff 7e 5c 7a 72 5b |.8J........~\zr[|
000000a0 2f fb bf d5 00 03 39 ce 64 65 36 38 32 34 64 31 |/.....9.de6824d1|
000000b0 2d 33 37 31 39 2d 34 31 31 33 2d 38 62 63 38 2d |-3719-4113-8bc8-| uuid
000000c0 37 37 39 39 37 38 36 66 37 62 38 65 00 00 00 00 |7799786f7b8e....|
000000d0 00 ac 71 f3 00 33 9c e6 c8 62 ae e9 35 1f 72 13 |..q..3...b..5.r.| slot0 iterations, salt, ...
000000e0 a2 8b e3 22 6c dc e9 d1 d3 09 bb af 99 7b 0d 67 |..."l........{.g|
000000f0 d6 46 fa d0 2d d9 71 60 00 00 00 08 00 00 0f a0 |.F..-.q`........|
...
00000250 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................|
*
00001000 8a fd fe 28 61 99 50 aa a1 d3 ce 92 d2 0e d1 26 |...(a.P........&| slot0 keymaterial
00001010 e7 d9 44 bd 47 ea 99 f7 b2 49 d0 f4 58 62 6f 87 |..D.G....I..Xbo.|
00001020 fd 71 16 3a 6c 82 b1 16 c8 43 09 b9 4d 86 d4 b3 |.q.:l....C..M...|
... hier lückenloser Zufallskram ...
000203d0 6b 31 5a 53 e4 1e 4f a2 bc f7 2c 14 10 6b ec 1d |k1ZS..O...,..k..|
000203e0 db a3 82 f9 19 ee b7 a0 1c 8f 21 ea fe 96 55 f0 |..........!...U.|
000203f0 55 f0 1d 07 5b 4d ec eb b8 03 37 00 bd f2 11 d7 |U...[M....7.....|
00020400 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................| slot1 ...
Bruteforce hatte ich mal woanders beschrieben. https://forum.ubuntuusers.de/topic/luks-passwort-vergessen/
Ein beliebter Fehler ist ansonsten noch, es mit dem falschen Tastaturlayout zu versuchen (US vs. DE). Je nachdem wo du das Passwort verwendet hattest, schon im Bootvorgang kann mit US Layout gewesen sein.