images: KI-Vorab-Check für Titelbilder — Vision-Sichtung mit definiertem Ausgang je Befund, Admin-Queue, Protokoll und Archiv-Snapshot (Bildkennzeichnung Block K)

Decision-Update Abschnitt 12 (E15, S24): Sichtung auf offensichtliche
Probleme, keine Rechteprüfung, öffentlich weiterhin „automatisierte Prüfung".

- ImagePrecheckManager mit openai- und deterministic-Treiber (Muster der
  Text-Prüfstrecke), Bild auf 1024 px, Metadaten gestrippt, JPEG als Data-URI,
  Antwortschema 12.4; Fehler → Ausgang `error`, durchlassen mit Vermerk.
- Auswertung 12.3: reject (Stock-Wasserzeichen, Nacktheit/Gewalt, Dokument
  ab 0,85), queue (Screenshot, fremdes Logo, Kennzeichen ab 0,6 sowie
  Ablehnungskategorien 0,6–0,85), hint (Personen, „wirkt KI" nur bei „ohne
  KI", technischer Mangel). Stufe 1 wertet nur das Wasserzeichen; die KI setzt
  nie die Kennzeichnung (E9). Herabstufung per Config (12.8).
- Uploader: Check vor jedem Schreiben, Ablehnung speichert nichts und
  landet als ki_audits `image_precheck` an der PM; Hash-Bindung zwischen
  Vorprüfung im Formular und Speichern; Spalten precheck*, Snapshot
  `precheck_snapshot` im Bestätigungsprotokoll, Archiv-Payload erweitert.
- Queue: Bild zurückgehalten (withheld_at), Meldung läuft weiter; Admin
  entscheidet mit Vermerk (Freigabe/Ablehnung → ki_audits
  `image_precheck_review`); Ansicht „Bild-Sichtung" in der PM-Liste,
  Sichtungsblock auf der PM-Seite, Systemstatus-Zähler.
- Formular v2: Ablehnungsgrund unter dem Dateifeld, Hinweise nach der
  Dateiauswahl, „wird kurz gesichtet" an der Karte; API 422 mit Grund,
  Warnung `image_under_review`.
- Config images.precheck (IMAGE_PRECHECK aus, STAGE 1); 17 Tests.

Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
This commit is contained in:
Kevin Adametz 2026-09-22 13:27:31 +00:00
parent 3b613fadf4
commit 0e5cd20626
26 changed files with 1738 additions and 10 deletions

View file

@ -0,0 +1,78 @@
<?php
namespace App\Enums;
/**
* Kategorien des KI-Vorab-Checks mit ihrem Standardausgang (Decision-Update
* 12.3 und 12.4). Die Ablehnungskategorien können per Konfiguration auf die
* Queue herabgestuft werden (12.8), nie abgeschaltet.
*/
enum ImagePrecheckCategory: string
{
case StockWatermark = 'stock_watermark';
case NudityOrViolence = 'nudity_or_violence';
case DocumentOrId = 'document_or_id';
case ScreenshotOrCollage = 'screenshot_or_collage';
case ThirdPartyLogoProminent = 'third_party_logo_prominent';
case LicensePlateReadable = 'license_plate_readable';
case PersonsVisible = 'persons_visible';
case LooksAiGenerated = 'looks_ai_generated';
case TechnicalDefect = 'technical_defect';
public function defaultOutcome(): ImagePrecheckOutcome
{
return match ($this) {
self::StockWatermark, self::NudityOrViolence, self::DocumentOrId => ImagePrecheckOutcome::Reject,
self::ScreenshotOrCollage, self::ThirdPartyLogoProminent, self::LicensePlateReadable => ImagePrecheckOutcome::Queue,
self::PersonsVisible, self::LooksAiGenerated, self::TechnicalDefect => ImagePrecheckOutcome::Hint,
};
}
/** Stufe 1 (DU 12.7) wertet nur das Stock-Wasserzeichen aus. */
public function activeInStage(int $stage): bool
{
return $stage >= 2 || $this === self::StockWatermark;
}
public function label(): string
{
return match ($this) {
self::StockWatermark => 'Wasserzeichen einer Bildagentur',
self::NudityOrViolence => 'Nacktheit oder Gewalt',
self::DocumentOrId => 'Dokument oder Ausweis',
self::ScreenshotOrCollage => 'Screenshot oder Collage',
self::ThirdPartyLogoProminent => 'Fremdes Logo prominent',
self::LicensePlateReadable => 'Kfz-Kennzeichen lesbar',
self::PersonsVisible => 'Personen erkennbar',
self::LooksAiGenerated => 'Wirkt KI-generiert',
self::TechnicalDefect => 'Technischer Mangel',
};
}
/**
* Satz für den Einreicher bei automatischer Ablehnung (DU 12.3: „Grund in
* einem Satz, Bild neu hochladen"). Nur für Ablehnungskategorien belegt.
*/
public function rejectionMessage(): string
{
return match ($this) {
self::StockWatermark => __('Das Bild trägt das Wasserzeichen einer Bildagentur und kann so nicht verwendet werden. Bitte laden Sie eine lizenzierte Fassung ohne Wasserzeichen hoch.'),
self::NudityOrViolence => __('Das Bild zeigt Inhalte, die wir nicht veröffentlichen (Nacktheit oder Gewalt). Bitte wählen Sie ein anderes Bild.'),
self::DocumentOrId => __('Das Bild zeigt ein Dokument oder einen Ausweis. Bitte wählen Sie ein anderes Bild.'),
default => __('Das Bild kann so nicht verwendet werden. Bitte wählen Sie ein anderes Bild.'),
};
}
/** Hinweis im Formular (DU 12.3), ohne Eingriff. */
public function hintMessage(?string $note = null): string
{
return match ($this) {
self::PersonsVisible => __('Auf dem Bild sind Personen zu sehen. Mit Ihrer Bestätigung erklären Sie, dass sie mit der Veröffentlichung einverstanden sind.'),
self::LooksAiGenerated => __('Bitte prüfen Sie Ihre Angabe zur KI-Kennzeichnung.'),
self::TechnicalDefect => $note !== null && $note !== ''
? __('Das Bild könnte technisch mangelhaft sein: :note', ['note' => $note])
: __('Das Bild könnte technisch mangelhaft sein (zu klein, verzerrt oder Platzhalter).'),
default => $this->label(),
};
}
}

View file

@ -0,0 +1,38 @@
<?php
namespace App\Enums;
/**
* Ausgang des KI-Vorab-Checks (Decision-Update 12.3). Jeder Befund hat
* genau einen definierten Ausgang; kein Befund liegt nur im Log.
*/
enum ImagePrecheckOutcome: string
{
case Pass = 'pass';
case Hint = 'hint';
case Queue = 'queue';
case Reject = 'reject';
case Error = 'error';
public function label(): string
{
return match ($this) {
self::Pass => 'ohne Befund',
self::Hint => 'Hinweis an den Einreicher',
self::Queue => 'Sichtung durch den Admin',
self::Reject => 'automatisch abgelehnt',
self::Error => 'nicht geprüft (Fehler)',
};
}
public function rank(): int
{
return match ($this) {
self::Pass => 0,
self::Error => 1,
self::Hint => 2,
self::Queue => 3,
self::Reject => 4,
};
}
}