Allgemein geht das, was du beschreibst, mit dd. Das hat den unschönen Nachteil, dass das Image genau so groß ist wie die zu sichernde Partition oder Festplatte.
Empfehlen kann ich partimage. Das erstellt auch ein Partitionsimage, überspringt aber freie Bereiche wodurch das Image nur so groß ist, wie die Partition tatsächlich belegt ist. Das funktioniert leider nicht mit ext4, aber mit ext3.
Wenn du ein Systemabbild sicherst, brauchst du außerdem noch so etwas wie SystemRescueCD oder eine beliebige Live-CD, da das System bei der Sicherung nicht laufen sollte.
Wenn du nur Daten und kein ganzes System sichern willst, habe ich mit rsync sehr gute Erfahrungen gemacht. Das ist wunderbar um auf eine externe Festplatte oder über das Netzwerk zu sichern.