Windows 8 Developer Previewなので正式版とは異なる場合があります。 また、Windows Updateが走るときもあるため、エントリ執筆現在の情報をもとにかいています。
MetroStyleAppsでは、アプリケーションを起動すると、プロセスが後ろに走ったままサスペンドになります。
アプリケーションを明示的に終了したい場合は、以下のコードを実行します。
Application.Current.Exit();
これを実行すればプロセスがタスクマネージャーに残ることはありません。