Motif ist ein Toolkit der 80er und für moderne Desktop-Anwendungen vollkommen ungeeignet. Darüber hinaus aber wirst Du verschiedenste Antworten hören, die Frage nach dem besten Toolkit ist eine Glaubensfrage. Ich persönlich würde Dir von wxWidgets abraten, da dieses Toolkit verschiedene kleinere Unzulänglichkeiten hat, und manche Änderungen am Quelltext an der Sorgfalt der Entwickler zweifeln lassen.
Was die Wahl zwischen Qt und Gtk angeht, so spielen verschiedene Faktoren eine Rolle. Qt ist ein großes Toolkit mit diversen Funktionalitäten von Datenbank-Zugriff über XML bis hin zu Multimedia. Gtk dagegen ist nur ein GUI-Toolkit, für weitere Funktionalität sind zusätzliche Bibliotheken (e.g. GStreamer, usw.) erforderlich. Unter Linux ist das egal, unter Windows allerdings kann (aber muss nicht) problematisch sein, weil es die Installation erschwert.
Auch integriert sich Gtk nicht so gut in das System wie Qt. Unter Mac OS X benötigt Gtk einen X-Server und fällt damit völlig aus dem Rahmen, Gtk-Anwendungen unter Mac OS X sind kein Stück integriert. Qt dagegen nutzt auch unter Mac OS X native Steuerelemente und integriert sich soweit als möglich in das System. Unter Windows geben sich beide Toolkits nicht viel, unter Linux dagegen halte ich ebenfalls Qt für überlegen. Qt geht so weit, dass es sogar zwischen Gnome und KDE unterscheidet, und je nach laufender Umgebung die entsprechenden Datei-Dialoge verwendet, oder die Knöpfe in Dialogen entsprechend anordnet. Gtk dagegen fügt sich nicht in KDE ein, sondern bleibt ein Fremdkörper, was auch verschiedene Styles wie QtCurve nicht vollends verdecken können.
Auf der anderen Seite natürlich ist Gtk das native Gnome-Toolkit und im Punkto Integration in Gnome Qt natürlich überlegen.
Ich persönlich halte Qt für das beste verfügbare GUI-Toolkit, und würde es uneingeschränkt empfehlen. Letztlich aber kann Dir niemand diese Wahl abnehmen.