images: KI-Vorab-Check für Titelbilder — Vision-Sichtung mit definiertem Ausgang je Befund, Admin-Queue, Protokoll und Archiv-Snapshot (Bildkennzeichnung Block K)
Decision-Update Abschnitt 12 (E15, S24): Sichtung auf offensichtliche Probleme, keine Rechteprüfung, öffentlich weiterhin „automatisierte Prüfung". - ImagePrecheckManager mit openai- und deterministic-Treiber (Muster der Text-Prüfstrecke), Bild auf 1024 px, Metadaten gestrippt, JPEG als Data-URI, Antwortschema 12.4; Fehler → Ausgang `error`, durchlassen mit Vermerk. - Auswertung 12.3: reject (Stock-Wasserzeichen, Nacktheit/Gewalt, Dokument ab 0,85), queue (Screenshot, fremdes Logo, Kennzeichen ab 0,6 sowie Ablehnungskategorien 0,6–0,85), hint (Personen, „wirkt KI" nur bei „ohne KI", technischer Mangel). Stufe 1 wertet nur das Wasserzeichen; die KI setzt nie die Kennzeichnung (E9). Herabstufung per Config (12.8). - Uploader: Check vor jedem Schreiben, Ablehnung speichert nichts und landet als ki_audits `image_precheck` an der PM; Hash-Bindung zwischen Vorprüfung im Formular und Speichern; Spalten precheck*, Snapshot `precheck_snapshot` im Bestätigungsprotokoll, Archiv-Payload erweitert. - Queue: Bild zurückgehalten (withheld_at), Meldung läuft weiter; Admin entscheidet mit Vermerk (Freigabe/Ablehnung → ki_audits `image_precheck_review`); Ansicht „Bild-Sichtung" in der PM-Liste, Sichtungsblock auf der PM-Seite, Systemstatus-Zähler. - Formular v2: Ablehnungsgrund unter dem Dateifeld, Hinweise nach der Dateiauswahl, „wird kurz gesichtet" an der Karte; API 422 mit Grund, Warnung `image_under_review`. - Config images.precheck (IMAGE_PRECHECK aus, STAGE 1); 17 Tests. Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
This commit is contained in:
parent
70e15d5df5
commit
8bb7049bdc
26 changed files with 1738 additions and 10 deletions
|
|
@ -80,4 +80,40 @@ return [
|
|||
'originals_directory' => 'press-release-originals',
|
||||
'published_snapshot_directory' => 'press-release-published',
|
||||
|
||||
/*
|
||||
|--------------------------------------------------------------------------
|
||||
| KI-Vorab-Check für Bilder (Bildkennzeichnung Block K, DU Abschnitt 12)
|
||||
|--------------------------------------------------------------------------
|
||||
|
|
||||
| Sichtung jedes neuen Titelbilds auf offensichtliche Probleme durch ein
|
||||
| Vision-Modell. Keine Rechteprüfung; öffentlich bleibt es „automatisierte
|
||||
| Prüfung". Drei Regeln: jeder Befund hat einen definierten Ausgang, der
|
||||
| Check setzt nie die KI-Kennzeichnung, Fehler lassen durch.
|
||||
|
|
||||
| enabled: Standard aus. Einschalten erst nach AVV mit dem Anbieter und
|
||||
| DSE-Absatz (K.6).
|
||||
| stage: 1 = nur Stock-Wasserzeichen wird ausgewertet (alle Kategorien
|
||||
| werden abgefragt und protokolliert), 2 = alle Kategorien.
|
||||
| provider/model/timeout: wie die Text-Prüfstrecke (services.openai).
|
||||
| reject_threshold / queue_threshold: Konfidenz, ab der die Kategorie
|
||||
| ihren Ausgang auslöst (DU 12.4: 0,85 / 0,6).
|
||||
| downgrade_to_queue: Ablehnungskategorien, die bei gehäuften Fehlurteilen
|
||||
| nur noch in die Queue gehen (DU 12.8), kommagetrennt.
|
||||
|
|
||||
*/
|
||||
|
||||
'precheck' => [
|
||||
'enabled' => (bool) env('IMAGE_PRECHECK', false),
|
||||
'stage' => (int) env('IMAGE_PRECHECK_STAGE', 1),
|
||||
'provider' => env('IMAGE_PRECHECK_PROVIDER', 'openai'),
|
||||
'model' => env('IMAGE_PRECHECK_MODEL'),
|
||||
'timeout' => (int) env('IMAGE_PRECHECK_TIMEOUT', 20),
|
||||
'reject_threshold' => (float) env('IMAGE_PRECHECK_REJECT_THRESHOLD', 0.85),
|
||||
'queue_threshold' => (float) env('IMAGE_PRECHECK_QUEUE_THRESHOLD', 0.6),
|
||||
'downgrade_to_queue' => array_values(array_filter(array_map('trim', explode(',', (string) env('IMAGE_PRECHECK_DOWNGRADE', ''))))),
|
||||
'max_edge' => 1024,
|
||||
'jpeg_quality' => 82,
|
||||
'prompt_version' => 'img-precheck-2026-09',
|
||||
],
|
||||
|
||||
];
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue