technik: Aufrufe über ein Ereignis-Log zählen statt im Request
Bisher lief pro Seitenaufruf ein UPDATE press_releases SET hits = hits + 1 im Request. Auf der über 1 GB großen Tabelle blockiert dieser Schreibzugriff, sobald dort eine Schemaänderung läuft — die wartenden Requests belegten dabei PHP-FPM-Worker und DB-Verbindungen, bis die ganze Seite stand. Der Request schreibt jetzt nur noch in die kleine Append-Tabelle press_release_events, und selbst dabei wird jeder Fehler geschluckt und gemeldet: Ein Aufruf-Zähler darf eine Seite niemals langsamer oder kaputt machen. Die Summierung in press_releases.hits übernimmt gebündelt der Scheduler. Der Fortschritt läuft über eine Wasserstandsmarke (höchste bereits verbuchte Event-ID) statt über einen Zwischenspeicher, damit bei einem Neustart kein Aufruf verloren geht. Zähler und Marke werden je Durchgang gemeinsam committet — sonst wäre nur der Durchgang wiederanlaufsicher, nicht der Abbruch darin, und der nächste Lauf verbuchte dieselben Aufrufe doppelt. Eine Migration setzt die Marke beim Deploy auf den Ist-Stand; ohne sie würde der erste Lauf den gesamten Altbestand ein zweites Mal aufaddieren. Weil das Log damit mit dem Traffic wächst und als einzige Log-Tabelle des Systems keine Bereinigung hatte, begrenzt press-releases:purge-events es auf einen Aufbewahrungszeitraum (Default 395 Tage = 13 Monate, damit der Vorjahresmonats-Vergleich möglich bleibt). Gelöscht wird ausschließlich unterhalb der Wasserstandsmarke — alles darüber ist noch nicht in hits verbucht und wäre sonst dauerhaft verloren. Fehlt die Marke, bricht der Lauf ab, statt zu raten. Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This commit is contained in:
parent
f8728c5bca
commit
6a34ab48ee
11 changed files with 565 additions and 12 deletions
120
app/Console/Commands/AggregatePressReleaseViews.php
Normal file
120
app/Console/Commands/AggregatePressReleaseViews.php
Normal file
|
|
@ -0,0 +1,120 @@
|
|||
<?php
|
||||
|
||||
namespace App\Console\Commands;
|
||||
|
||||
use App\Enums\PressReleaseEventType;
|
||||
use App\Models\AppSetting;
|
||||
use App\Models\PressRelease;
|
||||
use App\Models\PressReleaseEvent;
|
||||
use App\Scopes\PortalScope;
|
||||
use Illuminate\Console\Command;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
/**
|
||||
* Schreibt die gezählten Aufrufe aus dem Ereignis-Log in den Gesamtzähler
|
||||
* `press_releases.hits`.
|
||||
*
|
||||
* Hintergrund: Früher lief pro Seitenaufruf ein `UPDATE press_releases SET
|
||||
* hits = hits + 1` im Request. Auf der über 1 GB großen Tabelle blockiert
|
||||
* dieser Schreibzugriff, sobald eine Schemaänderung läuft (FULLTEXT-Indizes
|
||||
* erzwingen dort einen COPY-Rebuild) — die wartenden Requests haben dann
|
||||
* PHP-FPM-Worker und MySQL-Verbindungen belegt, bis die ganze Seite stand.
|
||||
* Der Request schreibt jetzt nur noch das Ereignis in die kleine Log-Tabelle;
|
||||
* die Summierung passiert hier gebündelt.
|
||||
*
|
||||
* Fortschritt läuft über eine Wasserstandsmarke (höchste bereits verarbeitete
|
||||
* Event-ID) statt über einen Zwischenspeicher: Das Log ist die dauerhafte
|
||||
* Quelle, dadurch geht bei einem Neustart kein Aufruf verloren und ein
|
||||
* doppelter Lauf zählt nichts doppelt. Zähler und Marke werden je Durchgang
|
||||
* gemeinsam committet — sonst wäre nur der Durchgang selbst, nicht der
|
||||
* einzelne Abbruch darin, wiederanlaufsicher.
|
||||
*/
|
||||
class AggregatePressReleaseViews extends Command
|
||||
{
|
||||
protected $signature = 'press-releases:aggregate-views {--chunk=5000 : Ereignisse je Durchgang}';
|
||||
|
||||
protected $description = 'Überträgt gezählte Aufrufe aus dem Ereignis-Log in press_releases.hits.';
|
||||
|
||||
/**
|
||||
* Wasserstandsmarke: höchste bereits in `hits` verbuchte Event-ID.
|
||||
*/
|
||||
public const WatermarkKey = 'press_release_views.aggregated_through_id';
|
||||
|
||||
public function handle(): int
|
||||
{
|
||||
$chunk = max(100, (int) $this->option('chunk'));
|
||||
$watermark = AppSetting::getValue(self::WatermarkKey);
|
||||
|
||||
// Fehlende Marke heißt: noch nie initialisiert. Sie jetzt als 0 zu
|
||||
// lesen wäre fatal — `press_releases.hits` enthält den Bestand bereits,
|
||||
// ein Lauf ab 0 würde jedes Alt-Ereignis ein zweites Mal aufaddieren.
|
||||
// Das kann im Deploy-Fenster passieren, wenn der Scheduler den neuen
|
||||
// Task startet, bevor die Migration gelaufen ist. Also setzen wir die
|
||||
// Marke auf den Ist-Stand und zählen erst ab dem nächsten Aufruf.
|
||||
if ($watermark === null) {
|
||||
$latest = (int) PressReleaseEvent::query()->max('id');
|
||||
AppSetting::setValue(self::WatermarkKey, $latest);
|
||||
|
||||
$this->info("Wasserstandsmarke erstmalig auf Event-ID {$latest} gesetzt — der Bestand steckt bereits in `hits`.");
|
||||
|
||||
return self::SUCCESS;
|
||||
}
|
||||
|
||||
$watermark = (int) $watermark;
|
||||
|
||||
$totalEvents = 0;
|
||||
$totalReleases = 0;
|
||||
|
||||
while (true) {
|
||||
// Obergrenze des Durchgangs zuerst festlegen, damit gleichzeitig
|
||||
// eintreffende Aufrufe die Summe nicht gegen die Marke verschieben.
|
||||
// Bewusst über die IDs statt über max(): eine Aggregatfunktion
|
||||
// ignoriert das limit und lieferte die Marke des GESAMTEN Rests.
|
||||
$ids = PressReleaseEvent::query()
|
||||
->where('id', '>', $watermark)
|
||||
->orderBy('id')
|
||||
->limit($chunk)
|
||||
->pluck('id');
|
||||
|
||||
if ($ids->isEmpty()) {
|
||||
break;
|
||||
}
|
||||
|
||||
$upperBound = (int) $ids->last();
|
||||
|
||||
$counts = PressReleaseEvent::query()
|
||||
->where('id', '>', $watermark)
|
||||
->where('id', '<=', $upperBound)
|
||||
->where('type', PressReleaseEventType::View->value)
|
||||
->selectRaw('press_release_id, count(*) as views')
|
||||
->groupBy('press_release_id')
|
||||
->pluck('views', 'press_release_id');
|
||||
|
||||
// Zähler und Marke gehören in EINE Transaktion. Ohne sie wäre der
|
||||
// Lauf nur zwischen den Durchgängen wiederanlaufsicher: Bricht der
|
||||
// Prozess mitten im Chunk ab (OOM, Deploy, kill), sind ein Teil der
|
||||
// Zähler schon erhöht, die Marke steht aber noch auf dem alten
|
||||
// Stand — der nächste Lauf verbuchte genau diese Aufrufe ein
|
||||
// zweites Mal.
|
||||
DB::transaction(function () use ($counts, $upperBound, &$totalEvents, &$totalReleases): void {
|
||||
foreach ($counts as $pressReleaseId => $views) {
|
||||
PressRelease::query()
|
||||
->withoutGlobalScope(PortalScope::class)
|
||||
->whereKey((int) $pressReleaseId)
|
||||
->increment('hits', (int) $views);
|
||||
|
||||
$totalReleases++;
|
||||
$totalEvents += (int) $views;
|
||||
}
|
||||
|
||||
AppSetting::setValue(self::WatermarkKey, $upperBound);
|
||||
});
|
||||
|
||||
$watermark = $upperBound;
|
||||
}
|
||||
|
||||
$this->info("Aufrufe verbucht: {$totalEvents} auf {$totalReleases} Pressemitteilungen (Stand Event-ID {$watermark}).");
|
||||
|
||||
return self::SUCCESS;
|
||||
}
|
||||
}
|
||||
Loading…
Add table
Add a link
Reference in a new issue