MKV ist ein Containerformat. Da kann man reinpacken was man will. Dazu musst du nix umwandeln sondern eben (ohne neu zu codieren) nur die Videospur und die Audiospur(en) reinmuxen. Wenn du so große Unterschiede zwischen TS und MKV hast, wurde eines von beiden oder vielleicht sogar beide neucodiert. Wie groß sind denn deine Vob-Files der DVD? Die Summe der Hauptfilm-Vobs müsste ungefähr der Größe des MKVs entsprechen.
Welches Tool nimmst du denn um TS oder MKV zu erstellen?
Die meisten hier nehmen für MKVs "MakeMKV" oder "MKVToolnix". Beide Tools codieren nix neu, sondern belassen die Qualität (MPEG2 720*576) so wie sie ist.