images: KI-Vorab-Check für Titelbilder — Vision-Sichtung mit definiertem Ausgang je Befund, Admin-Queue, Protokoll und Archiv-Snapshot (Bildkennzeichnung Block K)
Decision-Update Abschnitt 12 (E15, S24): Sichtung auf offensichtliche Probleme, keine Rechteprüfung, öffentlich weiterhin „automatisierte Prüfung". - ImagePrecheckManager mit openai- und deterministic-Treiber (Muster der Text-Prüfstrecke), Bild auf 1024 px, Metadaten gestrippt, JPEG als Data-URI, Antwortschema 12.4; Fehler → Ausgang `error`, durchlassen mit Vermerk. - Auswertung 12.3: reject (Stock-Wasserzeichen, Nacktheit/Gewalt, Dokument ab 0,85), queue (Screenshot, fremdes Logo, Kennzeichen ab 0,6 sowie Ablehnungskategorien 0,6–0,85), hint (Personen, „wirkt KI" nur bei „ohne KI", technischer Mangel). Stufe 1 wertet nur das Wasserzeichen; die KI setzt nie die Kennzeichnung (E9). Herabstufung per Config (12.8). - Uploader: Check vor jedem Schreiben, Ablehnung speichert nichts und landet als ki_audits `image_precheck` an der PM; Hash-Bindung zwischen Vorprüfung im Formular und Speichern; Spalten precheck*, Snapshot `precheck_snapshot` im Bestätigungsprotokoll, Archiv-Payload erweitert. - Queue: Bild zurückgehalten (withheld_at), Meldung läuft weiter; Admin entscheidet mit Vermerk (Freigabe/Ablehnung → ki_audits `image_precheck_review`); Ansicht „Bild-Sichtung" in der PM-Liste, Sichtungsblock auf der PM-Seite, Systemstatus-Zähler. - Formular v2: Ablehnungsgrund unter dem Dateifeld, Hinweise nach der Dateiauswahl, „wird kurz gesichtet" an der Karte; API 422 mit Grund, Warnung `image_under_review`. - Config images.precheck (IMAGE_PRECHECK aus, STAGE 1); 17 Tests. Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
This commit is contained in:
parent
3b613fadf4
commit
0e5cd20626
26 changed files with 1738 additions and 10 deletions
78
app/Enums/ImagePrecheckCategory.php
Normal file
78
app/Enums/ImagePrecheckCategory.php
Normal file
|
|
@ -0,0 +1,78 @@
|
|||
<?php
|
||||
|
||||
namespace App\Enums;
|
||||
|
||||
/**
|
||||
* Kategorien des KI-Vorab-Checks mit ihrem Standardausgang (Decision-Update
|
||||
* 12.3 und 12.4). Die Ablehnungskategorien können per Konfiguration auf die
|
||||
* Queue herabgestuft werden (12.8), nie abgeschaltet.
|
||||
*/
|
||||
enum ImagePrecheckCategory: string
|
||||
{
|
||||
case StockWatermark = 'stock_watermark';
|
||||
case NudityOrViolence = 'nudity_or_violence';
|
||||
case DocumentOrId = 'document_or_id';
|
||||
case ScreenshotOrCollage = 'screenshot_or_collage';
|
||||
case ThirdPartyLogoProminent = 'third_party_logo_prominent';
|
||||
case LicensePlateReadable = 'license_plate_readable';
|
||||
case PersonsVisible = 'persons_visible';
|
||||
case LooksAiGenerated = 'looks_ai_generated';
|
||||
case TechnicalDefect = 'technical_defect';
|
||||
|
||||
public function defaultOutcome(): ImagePrecheckOutcome
|
||||
{
|
||||
return match ($this) {
|
||||
self::StockWatermark, self::NudityOrViolence, self::DocumentOrId => ImagePrecheckOutcome::Reject,
|
||||
self::ScreenshotOrCollage, self::ThirdPartyLogoProminent, self::LicensePlateReadable => ImagePrecheckOutcome::Queue,
|
||||
self::PersonsVisible, self::LooksAiGenerated, self::TechnicalDefect => ImagePrecheckOutcome::Hint,
|
||||
};
|
||||
}
|
||||
|
||||
/** Stufe 1 (DU 12.7) wertet nur das Stock-Wasserzeichen aus. */
|
||||
public function activeInStage(int $stage): bool
|
||||
{
|
||||
return $stage >= 2 || $this === self::StockWatermark;
|
||||
}
|
||||
|
||||
public function label(): string
|
||||
{
|
||||
return match ($this) {
|
||||
self::StockWatermark => 'Wasserzeichen einer Bildagentur',
|
||||
self::NudityOrViolence => 'Nacktheit oder Gewalt',
|
||||
self::DocumentOrId => 'Dokument oder Ausweis',
|
||||
self::ScreenshotOrCollage => 'Screenshot oder Collage',
|
||||
self::ThirdPartyLogoProminent => 'Fremdes Logo prominent',
|
||||
self::LicensePlateReadable => 'Kfz-Kennzeichen lesbar',
|
||||
self::PersonsVisible => 'Personen erkennbar',
|
||||
self::LooksAiGenerated => 'Wirkt KI-generiert',
|
||||
self::TechnicalDefect => 'Technischer Mangel',
|
||||
};
|
||||
}
|
||||
|
||||
/**
|
||||
* Satz für den Einreicher bei automatischer Ablehnung (DU 12.3: „Grund in
|
||||
* einem Satz, Bild neu hochladen"). Nur für Ablehnungskategorien belegt.
|
||||
*/
|
||||
public function rejectionMessage(): string
|
||||
{
|
||||
return match ($this) {
|
||||
self::StockWatermark => __('Das Bild trägt das Wasserzeichen einer Bildagentur und kann so nicht verwendet werden. Bitte laden Sie eine lizenzierte Fassung ohne Wasserzeichen hoch.'),
|
||||
self::NudityOrViolence => __('Das Bild zeigt Inhalte, die wir nicht veröffentlichen (Nacktheit oder Gewalt). Bitte wählen Sie ein anderes Bild.'),
|
||||
self::DocumentOrId => __('Das Bild zeigt ein Dokument oder einen Ausweis. Bitte wählen Sie ein anderes Bild.'),
|
||||
default => __('Das Bild kann so nicht verwendet werden. Bitte wählen Sie ein anderes Bild.'),
|
||||
};
|
||||
}
|
||||
|
||||
/** Hinweis im Formular (DU 12.3), ohne Eingriff. */
|
||||
public function hintMessage(?string $note = null): string
|
||||
{
|
||||
return match ($this) {
|
||||
self::PersonsVisible => __('Auf dem Bild sind Personen zu sehen. Mit Ihrer Bestätigung erklären Sie, dass sie mit der Veröffentlichung einverstanden sind.'),
|
||||
self::LooksAiGenerated => __('Bitte prüfen Sie Ihre Angabe zur KI-Kennzeichnung.'),
|
||||
self::TechnicalDefect => $note !== null && $note !== ''
|
||||
? __('Das Bild könnte technisch mangelhaft sein: :note', ['note' => $note])
|
||||
: __('Das Bild könnte technisch mangelhaft sein (zu klein, verzerrt oder Platzhalter).'),
|
||||
default => $this->label(),
|
||||
};
|
||||
}
|
||||
}
|
||||
38
app/Enums/ImagePrecheckOutcome.php
Normal file
38
app/Enums/ImagePrecheckOutcome.php
Normal file
|
|
@ -0,0 +1,38 @@
|
|||
<?php
|
||||
|
||||
namespace App\Enums;
|
||||
|
||||
/**
|
||||
* Ausgang des KI-Vorab-Checks (Decision-Update 12.3). Jeder Befund hat
|
||||
* genau einen definierten Ausgang; kein Befund liegt nur im Log.
|
||||
*/
|
||||
enum ImagePrecheckOutcome: string
|
||||
{
|
||||
case Pass = 'pass';
|
||||
case Hint = 'hint';
|
||||
case Queue = 'queue';
|
||||
case Reject = 'reject';
|
||||
case Error = 'error';
|
||||
|
||||
public function label(): string
|
||||
{
|
||||
return match ($this) {
|
||||
self::Pass => 'ohne Befund',
|
||||
self::Hint => 'Hinweis an den Einreicher',
|
||||
self::Queue => 'Sichtung durch den Admin',
|
||||
self::Reject => 'automatisch abgelehnt',
|
||||
self::Error => 'nicht geprüft (Fehler)',
|
||||
};
|
||||
}
|
||||
|
||||
public function rank(): int
|
||||
{
|
||||
return match ($this) {
|
||||
self::Pass => 0,
|
||||
self::Error => 1,
|
||||
self::Hint => 2,
|
||||
self::Queue => 3,
|
||||
self::Reject => 4,
|
||||
};
|
||||
}
|
||||
}
|
||||
Loading…
Add table
Add a link
Reference in a new issue