[OMV] Datenkopie - mir fehlt 1,3TB

  • Die Frage ist sicherlich an alle gerichtet. Ich weiß es nicht. Eine Idee kam mir durch den Kopf - normalerweise wirst du mit den Dateien nicht so viel rumspielen (wie du davon machen etc.). Dabei werden sich access-Time Zeitstempel ändern, vielleicht mehr in der internen Struktur des FS. Von rsync erwarte ich, dass es nicht nur Größe, sondern auch Zeitstempel berücksichtigt. Wenn ein Byte in einem GB geändert wird, muss das ja trotzdem konsistent sein. Allerdings würde ich jetzt bei den hier diskutierten Befehlen immer nur Read/Access Stempel geändert erwarten - und da würde ich erwarten, dass rsync das versteht.

    Sind die Shares noch freigegeben? Ich würde jetzt (in privatem Umfeld, wo ich praktisch alleine werkle) für die ganzen Aktionen die ganzen Sharing-Services in OMV abschalten. Sonst kann daher auch noch "Rauschen" kommen.

    Kodi 21.1, 17.6, 21.1, 16, 20.5 on Windows 11 Pro, Android 6, Android 12, FireTV Box 2nd Gen, FireTV 4k Max 2nd Gen
    Media on NAS, OpenMediaVault 6 (Debian Linux).

  • Hm aber seltsam, die Datei lag also vorher schon da aber scheinbar ohne Dateigröße weil jetzt verbrauchts ja mehr Platz :D das ist komplett wirr und unlogisch. ich blicks nicht :(

    Ja die shares sind alle noch freigegeben ...

    Die Infos die wir bisher da haben machen für mich halt im Endergebnis einfach keinen Sinn :/

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • So und jetzt kotz ich im Strahl

    was tun sprach Zeus?

    und es werden immernoch dateien rüber kopiert ... das macht doch alles keinen Sinn [cm][ca]

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Hatte mal vor hmm.. 15..20 Jahren echte matschprobleme beim kopieren. So von meinen Vorurteilen her wuerde ich sagen WD HDD ;) - wo in grosssen Mediendateien dann irgendwelche Blocke nicht richtig kopiert wurden. Weiss gar nicht mehr genau, ob das selbst beim Abspielen so richtig aufgefallen ist. Aber fiel halt auf, weil ich von allen Dateien eine md5sum hatte. Kann seinerzeit auch gut Problem mit Stromversorgung ueber USB beim kopieren gewesen sein.

    Inzwischen soll ja angeblich die fehlerrate bei HDD bei 10^15..15 sein, also ein bit falsch pro 12.5 TByte oder weniger. Wer's glaubt. Das bezieht ja eben solche elektrischen Probleme nicht mit ein.

    Wenn man ISOs als filesystemstruktur rumliegen laesst, dann hat man natuerlich nervig viele dateien auf der Platte. Deswegen mag ich ja ISO als einzelne datei. Kann man bei Bedarf ja immer noch mounten. Kodi kann da ja auch reinsehen.

    So'n md5sum fuer alle dateien zu machen ist auf jeden Fall sinnvoll, wenn mans nicht im FS hat (ZFS oder so). Ich finds ja als separate Datei eigentlich besser. Wobei man leider wohl einen script schreiben sollte, weil man eigentlich den dateinamen, die md5sum UND das change-date haben will um spaeter mal zu vergleichen. Und wenn man wirklich mal Unterschiede hat, weiss welche kopie aelter und damit hoffentlich besser ist...

  • [an][an][an][an][an]

    Fehler gefunden

    rsync -a -p -h --progress /srv/dev-disk-by-uuid-28662a0d-117e-4bab-8d73-4b27f732df00 /srv/dev-disk-by-uuid-9d7ce947-3377-493c-9c9a-e291fe2f4ad4/

    das war mein Befehl, wer den Fehler findet darf ihn behalten ...
    Ändert dann aber nix am Ursprung ich hab scheinbar zu wenig Datenspeicher belegt...wir prüfen weiter


    ich hab jetzt einen anständigen RSYNC angestoßen von den einzelplatten auf die eine große - er sagt es fehlt nix

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Komisch. Stimmt natürlich schon, dass 1 TiB nicht durch Verzeichnis-Einträge erklärbar sind.

    Die Summe der du -sk Ergebnisse aus #5 macht für mergefs 5,543115932 TiB und für 12 TiB HDD 5,543616228 TiB. Das passt eigentlich für die 12 TiB Disk zu dem ersten df aus #1 und bei mir ist das ähnlich. Daher zweifle ich an

    Hm aber seltsam, die Datei lag also vorher schon da aber scheinbar ohne Dateigröße

    Das diff hätte es gezeigt, weil ohne Dateigröße verbraucht kann auch nix dahinter liegen ... Geht bei mir übrigens aus dem Gedächtnis schon mit gut 100 MB/s bei großen Dateien (die auch gleich binär erkannt werden).

    Normalerweise würde ich natürlich die Services auch nicht disablen - aber wenn es spooky wird, würde ich vermutlich machen (Zeit und Muse vorausgesetzt). Du hast nach der Diskussion schon getestet, dass nicht oben ein .Verzeichnis ist?

    Ich teste nochmals bei mir mit meinem Tool (von dem ich exakt weiß, welche verschiedenen Größen es anzeigt - was auf Disk benötigt wird, wie groß die Datei ist, ...) und vergleiche mit du-Ausgabe und df-Ausgabe und ls -l Ausgabe, wie da welcher Wert exakt zu stande kommt (bei mir). Grade mit Größe der Metadaten bei sehr vielen Verzeichnissen/Dateien kann es schon Überraschungen geben. Aber wie gesagt, bei mir sind du und df Daten ganz nah beieinander, und das war bei dir auch der Fall mit den Zahlen aus #1 und #5, wenn du jetzt 1 TiB mehr brauchst und auf mergerfs auch, dann ist das das komische. (Oder du hast doch oben ein .Verzeichnis). Kannst übrigens auch du -sk eine Ebene höher machen, natürlich. Das geht ja sehr schnell. Müssten die 5,54 TiB rauskommen, plus das was auf oberster Ebene nicht in Unterverzeichnissen liegt. (Klar, die df kiB in TiB umrechnen durch /(1024*1024*1024)
    EDIT: deinen Beitrag mit rsync Fehler hatte ich nicht gesehen, als ich das schrieb (den rsync Fehler nun schon, denke ich. Ich notier mir die Befehle immer, wenn ich es ein Mal sorgfältig getestet hab, wo man aufpassen muss mit letztem Pfadbestandteil in Quelle und Ziel und auch dem Slash). Meine Ausführung zur Größe sollte dennoch stimmen und sinnvoll sein.

    Kodi 21.1, 17.6, 21.1, 16, 20.5 on Windows 11 Pro, Android 6, Android 12, FireTV Box 2nd Gen, FireTV 4k Max 2nd Gen
    Media on NAS, OpenMediaVault 6 (Debian Linux).

    Einmal editiert, zuletzt von buers (16. Dezember 2024 um 18:01)

  • Bissel zurück Rudern, ich war zu dumm für den einen rsync befehl.

    Also von mergefs auf 12TB alles kopiert angeblich, von den 2 einzelenen auf die eine große mit Rsync - nix fehlt.

    Kann ich jetzt beim rsync was falsch gemacht haben das er was auslässt? Wie soll ich jetzt am besten die Daten vergleichen?
    Danke für eure Geduld und Unterstützung! [aw]

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Ich habe mich jetzt mit den Befehle aus Seite 1 vorgearbeitet.

    Code
    find -type f -printf '%h/%f\t%s\n' | sort -k +2 > /tmp/original

    beim Ordner Filme gab es jetzt tatsächlich Unterschiede!

    Ich nehme das Beispiel "300" ganz oben.

    Jetzt bitte Erklärung

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Ick habs, ick habs! :D

    [ah] Soll ichs verraten? Ach komm.


    Code
    root@kiwi:/srv/dev-disk-by-uuid-ebcde689-0bb5-425c-be49-045a637463f2/Aufnahmen/Zum Ausziehen verfuehrt# ls
    'Zum Ausziehen verfuehrt-1.ts'  'Zum Ausziehen verfuehrt.ts'
    
    root@kiwi:/srv/dev-disk-by-uuid-28662a0d-117e-4bab-8d73-4b27f732df00/Aufnahmen/Zum Ausziehen verfuehrt# ls
    'Zum Ausziehen verfuehrt-1.ts'  'Zum Ausziehen verfuehrt.ts'

    Da habe ich wohl mal bei einem der früheren Kopiervorgänge Mist gebaut und ... ähm ja also, ich mein [ah][ag]


    Vielen Dank an euch beide te36 und buers !! Ich hab hier heute wirklich sehr viel gelernt was mich wirklich weiter bringt!

    An so etwas simples hab ich einfach nicht gedacht, 1,3 TB sind einfach doppelt vorhanden und RSYNC kopiert halt nicht doppelt .... der cp ja auch nicht und aus dem Pool ja auch nicht ... alles war richtig nur der User halt etwas beschränkt [aa]

    Ein glück hab ich den richtigen Nick! :P :D

    ich glaub ich mach ab morgen Gas Wasser Sch** und gut :D :D

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Hast Du Dich gruendlich gewaschen nachdem Du das letzte Mal Windows angefasst hast ? Da koennte das Linux sonst alergisch reagieren [bj]

    Diese Ausgaben hier:

    < 113504 ./300/300a.avi

    > 649264 ./300/300a.avi

    Sind jetzt aber nicht von dem printf, sondern von dem von mir vorgeschlagenen 'du' ?? Das Printf wuerde ja in der Zeile erst den Pfadnamen und dann die Groesse drucken...

    Du hast nicht gesagt, welches der beiden das Original ist...

    Ich wuerde erst mal ein "cmp" machen um die beiden zu vergleichen. Wenn die unterschiedlich sind, dann guckset Dir nochmal genau Dein Kopierprogramm an.

    Aber dadurch, das das eine per "ls -l" viel groesser ist als bei "du" hat das auf jeden Fall loecher. Wenn dieses lochfile das vom mergerfs ist musste erstmal ein "du -s -k" auf das Original unterhalb des mergerfs machen. Und hoffen, das es keine Loecher hat. Ansonsten isses ja wohl kaputt. Mediendateien habe nicht soviel loecher/null-bloecke.

    Wenn dem so ist - also die mergerfs variante hat loecher, das original dadrunter nicht... Naja, dann haste einen grund, warum man nicht mergerfs nehmen will ;(

    Kleinere Unterschiede im "du" wie bei den anderen dateien koennen immer von filesystemdetails kommen. Da ist dann das printf == groesse vom "ls -l" besser. Das du ist nur gut um so grosse probleme festzustellen.

  • Die Unterschiede kommen daher, wenn die Dateien doppelt sind. Da haben die anderen Programme bissele Problemchen mit dem auslesen, versteh ich sogar :D jetzt nach dem Bereinigen ist alles guti tutti! Alle größen etc exakt gleich groß, keine Unterschiede mehr

    ich mag mergefs ... :) :D

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Kapier ich nicht!

    664842240 / 1024 = 649260 KByte. Also ziemlich genau was bei einer Kopie angezeigt wurde im Diff. Prima.

    Aber: Jetzt erklaer mir mal, wie die andere Kopie derselben Datei nur 113504 KByte gross ist im du, obwohl sie im ls -l als 664842240 gross angegeben ist - und trotzdem soll die Deiner Meinung nach nicht kaputt sein.

  • Weil das diff auf das mergefs volumen lief und nicht auf die lokalen platten.

    Ich habe verglichen den Inhalt des MergeFS Volumes mit der großen einzelnen Platte. Im Volumen war aber die Datei 2x Vorhanden und das wirft dann wohl so einige Programme aus der Bahn.

    also:

    /mergefs/Filme/300/300.avi

    so liegt sie im Volumen und war real vorhanden auf:

    /sda1/filme/300/300.avi

    /sdb1/filme/300/300.avi

    vereinfach dargestellt ;) MergeFS selbst kam damit zurecht und der SMB Share auch, aber halt filesystem basierte Programme nicht so recht.

    Jetzt nachdem ich die doppelte Datei gelöscht habe wird der Wert auch nicht mehr Unterschiedich angezeigt, im Diff erschreint das nicht mehr als Unterschiedlich mit der Dateigröße.

    Für so etwas sind natürlich auch "programme" wie find und diff nicht wirkich ausgelegt, das sie die Antwort bekommen File liegt im Filesystem auf der gleichen Stelle 2x

    Und zu dieser doppelten Datei kam es auch nur weil ich bei einem früheren kopieren etwas gröber gearbeitet hatte weil ne Platte am sterben war. Und somit hab ich manuell auf diese Platte die Dateien doppelt drauf geschoben statt sauber auf das mergefs volumen.

    Hab ich sonst auch nie so gemacht, immer anständig aufs volumen und er sieht ja wo was vorhanden ist und dann hätte es auch sauber geklappt. Tja ein alter Fehler der nun zum Vorschein kommt.

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • passt also :) oder sind diese 4 bytes ... ein Unterschied? Dann analyse ich gerne nochmal die dateien genau. find ich definitiv auch interessant! und da hast du halt deutlich mehr Ahnung als ich

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Weil das Programm beim auslesen einfach nicht zurecht kam. Er spricht eine Datei an und ließt aber zeitgleich 2 aus ;) das kann nicht funktionieren, da kommt alles raus nur nix anständiges.

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

  • Nein.
    Diese doppelte Dartei habe ich selbst hinterrückst am mergeFS vorbei manuell reingeschoben. Das FS kann da nix für und kann damit umgehen. Es hat auch extra ein tool zum deduplizieren und bereinigt dann so etwas.

    Andere Programme können - für mich logischer weise - damit nicht sauber umgehen. Das es da zu fehler kommt versteh ich völlig. Das ist definitiv kein normaler Zustand. Aber es hat sich sonst nicht weiter geäußert das Problem. Nur bei exakt dem fragen nach bspw der Dateigröße kam es zu seltsamen ergebnissen.

    Da kann aber mergefs nichts für. Und es war ja auch absolut garnichts kaputt, nichtmal ansatzweise. Einfach nur die Anzeige eines programmes gab ein komischen Wert aus aber einen Fehlerzustand hat es nie gegeben. Die Datei ließ sich sauber abspielen und die Anzeige war ja auch richitg.

    das Einzige was am Ende zählt ist
    dass ihr lebt was ihr liebt und liebt wofür ihr lebt


    Kodi HTPC - W11 | AMD Athlon 3000G | Pioneer A 504R Bj. 96
    OMV NAS - NAS | Emby Server | LogitechMediaServer
    3x Logitech SqueezeBox & 3x RasPi PiCorePlayer
    Unifi Netzwerk | Sophos XGS Firewall | Agfeo TK | Kentix Security
    Loxone SmartHome

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!