Mein Fehler. Ist auch tatsächlich ziemlich logisch, dass für angewendete Filter ein Stream neu enkodiert werden muss. Müsstest das Ausgangsmaterial also mit gleichen oder zumindest möglichst ähnlichen Werten in die neue, rotierte Datei konvertieren lassen. Ich kann jetzt aus Mangel an eigener Erfahrung keine Aussage dazu machen, inwieweit das Verwenden von Filtern bei der Konvertierung Probleme macht, die man durch verschiedene weitere Parameter kontern müsste.
Spontan würde ich vorschlagen für den Parameter -lavcopts den gleichen vcodec anzugeben und die vbitrate gleich der Bitrate des Ausgangsmaterials zu setzen. Beispielsweise:
mencoder -ovc lavc -lavcopts vcodec=mpeg4:vbitrate=4000 -vf rotate=1 -oac pcm WP_20120507_121701Z.mp4 -o WP_20120507_121701Z-rotated.mp4
Ich bin auch nicht der beste Ansprechpartner für diesen Anwendungsfall. Mit MEncoder habe ich bislang praktisch gar nicht gearbeitet, sondern vorwiegend mit FFmpeg bzw. avconv. Der Unterschied zwischen den Programmen ist releativ unwesentlich und die libavcodec-Familie verwenden beide. Allerdings hat meiner letzer Versuch ein Video für einen Video Player auf einem Embedded System lauffähig zu konvertieren lächerliche 9 Stunden Einlesen und Rumprobieren bis zum Erfolg gebraucht. Deswegen würde ich mich hier gerade gerne herausziehen…