Der Kratzplatz räumt sich auf
39,1 GB in FLARO_TRANSCODE, und das war kein Normalzustand, sondern ein
Leck: für jede Mitnahme baut der Server eine MP4 in Quellgrösse und löschte
sie nie. Die einzige Löschung, die es gab, räumte ältere Fassungen
derselben Datei weg. Stromordner verschwanden nur beim geordneten
Herunterfahren, Untertitel gar nicht.
**Zuerst: fertig heisst fertig.** ffmpeg schrieb direkt auf den Endnamen.
Nach einem harten Abbruch lag dort eine abgeschnittene Datei, `IsReady`
meldete „fertig", und sie ging so hinaus — und ein Aufräumer konnte
vollständig und abgeschnitten nicht unterscheiden. Gebaut wird jetzt unter
`.teil`, umbenannt erst nach Erfolg. Dabei muss das Format ausdrücklich
gesetzt werden: ffmpeg wählt den Muxer an der Endung und antwortet auf
`.teil` mit „Unable to choose an output format". Das hätte jedes Umpacken
zerlegt; die Prüfung hat es gefunden, bevor es jemand zu spüren bekam.
**Zwei Stufen für die Pakete.** Verwaiste gehen bedingungslos: unleserlicher
Name, fremde Bauart, kein Eintrag in der Mediathek, oder der Zeitstempel im
Namen passt nicht mehr. Der Rest fällt unter Obergrenze (20 GB) und Alter
(7 Tage), Ältestes zuerst.
Beides, und nicht eines: ein Alter allein löst den Fall nicht, denn die 39
GB waren gültige, aktuelle Dateien, jede für sich berechtigt. Eine
Obergrenze allein ist zu grob — ein Topf knapp darunter, in dem seit Wochen
nichts gebraucht wurde, besetzt ein Volume, das anderes braucht.
„Zuletzt gebraucht" ist die Änderungszeit der Paketdatei selbst, bei jeder
Auslieferung neu gestempelt. Die Zugriffszeit wäre das Naheliegende, nur
führt sie nicht jedes Dateisystem — mit `noatime` steht sie still, und der
Aufräumer hielte alles für uralt.
Ein laufender Download wird nie gelöscht: ein Benutzungszähler hält die
Datei fest, solange die Antwort läuft, dazu eine Schonfrist von 30 Minuten.
Der Zähler ist auch unter Linux nötig — der laufende Strom überlebt ein
Entfernen, die Fortsetzung einer Bereichsanfrage nicht, und der Client finge
von vorn an.
**Stromordner** werden beim Start bedingungslos geleert — nach einem Start
gibt es keine einzige Sitzung, also ist jeder Ordner verwaist. Im Betrieb
nur die ohne passende Sitzung, deren Änderungszeit älter ist als die
Geduld; das fängt auch den Fall, dass `Abraeumen` an einem IOException
scheitert und der Ordner für immer liegenbleibt.
**Untertitel** nur, wenn sie verwaist sind. Keine Obergrenze: eine .vtt ist
Kilobytes, und eine gültige wird wieder gebraucht — sie nach Platz zu
löschen hiesse, Minuten Lesearbeit gegen Megabytes zu tauschen. Eine leere
bleibt ausdrücklich liegen: sie ist das Ergebnis „diese Spur hat keinen
Text", und wer sie wegräumt, lässt bei jedem Start eine vierzig Gigabyte
grosse Datei neu durchlesen.
**Vier Anlässe, kein Dienst.** Start, vor jedem Umpacken, nach einem Scan,
auf Knopfdruck — wie alles Wiederkehrende in diesem Server. Einer zur Zeit;
wer nicht hineinkommt, geht weiter.
Gemessen am laufenden Server mit Attrappen:
vorher packages 17408 KB (4), untertitel 5 KB (3), 1 Stromordner
nachher 14 MB freigegeben, 4 Dateien
gültiges Paket blieb, verwaistes/veraltetes/Teilstück weg,
verwaiste .vtt weg, gültige blieben, Stromordner weg
Obergrenze 1 MB, Datei in der Schonfrist -> bleibt
Obergrenze 1 MB, Schonfrist vorbei -> 3072 KB freigegeben
In der Übersicht steht die Belegung je Unterordner mit Dateizahl und
daneben „Jetzt aufräumen"; die drei Zahlen stehen unter Wiedergabe, wo
Transcoder-Stufe und Schwellen schon stehen — der Kratzplatz ist, was die
Wiedergabe hinterlässt.
714 Tests grün, davon 36 neue.
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
Scarriffle
co-authored by
Claude Opus 5
Claude Opus 5
parent
1b4784f1db
commit
c4af182d31
@@ -72,11 +72,80 @@ public sealed class PackageCoordinator(
|
||||
/// Vorgabe markierte Tonspuren in getrennten Alternativgruppen und
|
||||
/// liefen gleichzeitig.
|
||||
/// </remarks>
|
||||
private const int Bauart = 2;
|
||||
public const int Bauart = 2;
|
||||
|
||||
/// <summary>Der Ordner, in dem die umgepackten Dateien liegen.</summary>
|
||||
public string Ordner => Path.Combine(pfade.Transcode, "packages");
|
||||
|
||||
public string PathFor(Guid fileId, DateTimeOffset geändert) =>
|
||||
Path.Combine(pfade.Transcode, "packages",
|
||||
$"{fileId:N}-{geändert.ToUnixTimeMilliseconds()}-{Bauart}.mp4");
|
||||
Path.Combine(Ordner, Paketname.Bauen(fileId, geändert, Bauart));
|
||||
|
||||
/// <summary>Wer gerade an einer Datei hängt — die wird nicht weggeräumt.</summary>
|
||||
///
|
||||
/// <remarks>
|
||||
/// <para>
|
||||
/// <b>Die Schonfrist allein genügt nicht.</b> Ein Download über
|
||||
/// Mobilfunk dauert Stunden, und zwischen zwei Bereichsanfragen kann
|
||||
/// lange nichts kommen. Eine Datei, die in dieser Pause verschwindet,
|
||||
/// kostet den ganzen Download: der laufende Strom überlebt ein
|
||||
/// Entfernen unter Linux zwar, die <b>Fortsetzung</b> aber nicht — der
|
||||
/// Client bekäme 202 und finge von vorn an. Genau das schliesst die
|
||||
/// Beschreibung dieser Klasse oben aus.
|
||||
/// </para>
|
||||
/// </remarks>
|
||||
private readonly ConcurrentDictionary<string, int> _inBenutzung = new();
|
||||
|
||||
public bool IstInBenutzung(string pfad) => _inBenutzung.ContainsKey(pfad);
|
||||
|
||||
/// <summary>Hält eine Datei fest, bis das Ergebnis entsorgt wird.</summary>
|
||||
public IDisposable Benutzen(string pfad)
|
||||
{
|
||||
_inBenutzung.AddOrUpdate(pfad, 1, (_, alt) => alt + 1);
|
||||
return new Griff(this, pfad);
|
||||
}
|
||||
|
||||
private sealed class Griff(PackageCoordinator wem, string pfad) : IDisposable
|
||||
{
|
||||
private bool _weg;
|
||||
|
||||
public void Dispose()
|
||||
{
|
||||
if (_weg) return;
|
||||
_weg = true;
|
||||
wem._inBenutzung.AddOrUpdate(pfad, 0, (_, alt) => alt - 1);
|
||||
wem._inBenutzung.TryRemove(new KeyValuePair<string, int>(pfad, 0));
|
||||
}
|
||||
}
|
||||
|
||||
/// <summary>Hält fest, dass diese Datei gerade gebraucht wurde.</summary>
|
||||
///
|
||||
/// <remarks>
|
||||
/// <b>Die Änderungszeit als Benutzungsstempel.</b> Die Zugriffszeit wäre
|
||||
/// das Naheliegende, nur führt sie nicht jedes Dateisystem — mit
|
||||
/// <c>noatime</c> steht sie still, und der Aufräumer hielte alles für
|
||||
/// uralt. Die Änderungszeit führt jedes, sie übersteht den Neustart, und
|
||||
/// nach dem Bauen steht sie schon auf einem richtigen Wert.
|
||||
///
|
||||
/// <b>Gedrosselt.</b> Eine Bereichsanfrage je Sekunde ist bei einem Film
|
||||
/// normal; jedes Mal den Inode anzufassen wäre Schreiblast für nichts.
|
||||
/// </remarks>
|
||||
public void AlsBenutztStempeln(string pfad)
|
||||
{
|
||||
try
|
||||
{
|
||||
// Nur im eigenen Ordner. Der Zweig für durchgereichte Dateien
|
||||
// liefert eine Mediendatei aus — die fasst hier niemand an.
|
||||
if (!Path.GetFullPath(pfad).StartsWith(Path.GetFullPath(Ordner), StringComparison.Ordinal)) return;
|
||||
|
||||
var jetzt = clock.GetUtcNow();
|
||||
if (jetzt - File.GetLastWriteTimeUtc(pfad) < TimeSpan.FromMinutes(5)) return;
|
||||
File.SetLastWriteTimeUtc(pfad, jetzt.UtcDateTime);
|
||||
}
|
||||
catch (Exception fehler) when (fehler is IOException or UnauthorizedAccessException)
|
||||
{
|
||||
log.LogDebug(fehler, "{Datei} liess sich nicht stempeln.", pfad);
|
||||
}
|
||||
}
|
||||
|
||||
public bool IsReady(Guid fileId, DateTimeOffset geändert) => File.Exists(PathFor(fileId, geändert));
|
||||
|
||||
@@ -104,6 +173,13 @@ public sealed class PackageCoordinator(
|
||||
if (!File.Exists(datei.Path))
|
||||
throw new InvalidOperationException($"„{Path.GetFileName(datei.Path)}“ liegt nicht mehr da.");
|
||||
|
||||
// **Erst aufräumen, dann messen.** Der Augenblick vor dem
|
||||
// Umpacken ist der eine, in dem der Platz wirklich gebraucht
|
||||
// wird — und `PlatzPruefen` sagt danach die Wahrheit statt
|
||||
// „kein Platz", obwohl zwanzig Gigabyte Altlast herumliegen.
|
||||
await bereich.ServiceProvider.GetRequiredService<Kratzplatzpflege>()
|
||||
.LaufenAsync(Kratzplatzpflege.Anlass.VorDemUmpacken);
|
||||
|
||||
PlatzPruefen(datei.SizeBytes);
|
||||
|
||||
var spuren = await db.MediaStreams.AsNoTracking()
|
||||
@@ -115,6 +191,13 @@ public sealed class PackageCoordinator(
|
||||
|
||||
var plan = DeliveryDecider.ForDownload(datei.Container, gelesen);
|
||||
var ziel = PathFor(fileId, datei.ModifiedAt);
|
||||
// **Erst unter `.teil`, dann umbenennen.** Vorher schrieb ffmpeg
|
||||
// direkt auf den Endnamen; nach einem harten Abbruch lag dort
|
||||
// eine abgeschnittene Datei, `IsReady` meldete „fertig", und sie
|
||||
// ging so hinaus. Ein Aufräumer konnte vollständig und
|
||||
// abgeschnitten nicht unterscheiden. Umbenennen ist auf
|
||||
// demselben Dateisystem ein Zug und kann nicht halb geschehen.
|
||||
var teil = ziel + ".teil";
|
||||
Directory.CreateDirectory(Path.GetDirectoryName(ziel)!);
|
||||
AelteresWegraeumen(fileId, ziel);
|
||||
|
||||
@@ -125,7 +208,10 @@ public sealed class PackageCoordinator(
|
||||
|
||||
var umpacker = bereich.ServiceProvider.GetRequiredService<FfmpegRemuxer>();
|
||||
var ergebnis = await umpacker.RunAsync(
|
||||
new RemuxRequest(datei.Path, ziel, gelesen, plan), datei.Duration, fortschritt);
|
||||
new RemuxRequest(datei.Path, teil, gelesen, plan), datei.Duration, fortschritt);
|
||||
|
||||
if (ergebnis.Success) File.Move(teil, ziel, overwrite: true);
|
||||
else { try { File.Delete(teil); } catch (IOException) { /* Kür */ } }
|
||||
|
||||
_zustand[fileId] = ergebnis.Success
|
||||
? new PackageState("ready", 1, _zustand[fileId].StartedAt, clock.GetUtcNow(), null)
|
||||
|
||||
Reference in New Issue
Block a user