companies: Tippfehler und Zusätze im Trockenlauf als dieselbe Firma erkennen

Die Live-Läufe vom 11.09. mit Schwellwert 2, 3 und 4 haben zwei Schwächen der
Klassifizierung gezeigt, die vor 1a.2 behoben sein müssen — dort wird sie
dauerhaft in die Datenbank geschrieben.

Erstens stand JS Research mit 204 Firmen an zweiter Stelle der Agenturliste:
eine einzelne Firma, deren Name siebzehnmal leicht anders geschrieben war
("JS Research", "S Research UG", ...). Ebenso Dr. Müller / Dr. Mueller /
Dr. D. Müller und die Praxis Prof. Dhom mit Datumszusätzen im Namen. Ein
Tippfehler ist kein zweiter Kunde. Normalisierte Namen werden jetzt zu
Ähnlichkeits-Clustern zusammengefasst: geringe Levenshtein-Distanz oder ein
gemeinsamer Anfang aus drei Wörtern gilt unter EINER Firmen-E-Mail als dieselbe
Einheit. Echte Agenturen mit verschiedenen Kundennamen bleiben davon unberührt.

Zweitens galt Welcon Europe (Ltd. & Co. KG neben GmbH & Co. KG) als Agentur,
weil die Rechtsformen erst nach dem Entfernen der Satzzeichen abgeglichen
wurden — "gmbh & co kg" passte dann nie auf "gmbh co kg". Rechtsformen werden
jetzt als einzelne Wörter vom Ende her gestrippt, bis keines mehr passt; das
deckt alle Kombinationen ab, ohne sie einzeln aufzuführen.

Auf dem Bestand steigen die automatisch zusammenführbaren Namensvarianten
damit von 723 auf 1603 Adressen, die Sammeladressen sinken von 1425 auf 1082 —
was jetzt dort steht, sind durchweg Agenturen oder Mehrkunden-Absender.

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This commit is contained in:
Kevin Adametz 2026-09-11 08:55:04 +00:00
parent e536e52cdb
commit 5d0570bee0
2 changed files with 129 additions and 14 deletions

View file

@ -48,14 +48,33 @@ class CompanyMergeReport
* „Hoppe Unternehmensberatung" und „Hoppe Unternehmensberatung GmbH" sind
* dieselbe Firma.
*
* Als einzelne Wörter geführt und vom Ende her wiederholt entfernt, bis
* keines mehr passt. So fallen „GmbH & Co. KG", „Ltd. & Co. KG" und
* „AG & Co. KGaA" gleichermaßen weg, ohne dass jede Kombination einzeln
* aufgeführt sein muss — die Satzzeichen sind zu dem Zeitpunkt ohnehin
* schon fort.
*
* @var list<string>
*/
private const LegalForms = [
'gmbh & co kg', 'gmbh & co. kg', 'gmbh und co kg', 'ag & co kg',
'gmbh', 'mbh', 'ug haftungsbeschraenkt', 'ug', 'ohg', 'kgaa', 'kg', 'ag', 'se',
'e k', 'ek', 'ev', 'e v', 'gbr', 'partg', 'ltd', 'llc', 'inc', 'bv', 'nv', 'sa', 'srl', 'plc',
private const LegalFormTokens = [
'gmbh', 'mbh', 'ug', 'haftungsbeschraenkt', 'ohg', 'kgaa', 'kg', 'ag', 'se', 'co', 'cie', 'und',
'ek', 'ev', 'gbr', 'partg', 'ltd', 'llc', 'inc', 'bv', 'nv', 'sa', 'srl', 'plc', 'mvz',
];
/**
* Zwei normalisierte Namen gelten als derselbe, wenn sie sich nur um
* wenige Zeichen unterscheiden (Tippfehler: „Berursverband" /
* „Berufsverband", „S Research" / „JS Research") oder denselben Anfang
* teilen (Zusätze: „Praxis Prof Dr Dhom Kollegen" / „Praxis Prof Dr Dhom
* Partner"). Unter EINER Firmen-E-Mail ist ein gemeinsamer Anfang aus
* drei Wörtern ein sehr starkes Zeichen für dieselbe Einheit.
*/
private const SimilarMaxDistance = 2;
private const SimilarDistanceRatio = 0.15;
private const SharedPrefixWords = 3;
/**
* @param int $collectionThreshold ab wie vielen abweichenden Namen eine Adresse als Sammeladresse gilt (Entscheidung E1)
* @return array{
@ -188,7 +207,7 @@ class CompanyMergeReport
}
$group['namen'] = count($group['beispiele']);
$group['namen_normalisiert'] = count($group['normalisiert']);
$group['namen_normalisiert'] = $this->countDistinct(array_keys($group['normalisiert']));
unset($group['normalisiert']);
$result[] = $group;
@ -232,12 +251,60 @@ class CompanyMergeReport
$value = (string) preg_replace('/[^a-z0-9]+/', ' ', $value);
$value = trim((string) preg_replace('/\s+/', ' ', $value));
foreach (self::LegalForms as $form) {
if (str_ends_with($value, ' '.$form)) {
$value = trim(mb_substr($value, 0, -mb_strlen($form) - 1));
}
$words = explode(' ', $value);
// Vom Ende her, solange das letzte Wort eine Rechtsform ist — aber nie
// bis auf nichts: „AG" allein ist ein Firmenname, kein Zusatz.
while (count($words) > 1 && in_array(end($words), self::LegalFormTokens, true)) {
array_pop($words);
}
return $value;
return implode(' ', $words);
}
/**
* Zahl der wirklich verschiedenen Namen in einer Liste normalisierter
* Namen. Ähnliche werden gierig demselben Cluster zugeschlagen.
*
* @param list<string> $names
*/
private function countDistinct(array $names): int
{
$representatives = [];
foreach ($names as $name) {
foreach ($representatives as $representative) {
if ($this->similar($name, $representative)) {
continue 2;
}
}
$representatives[] = $name;
}
return count($representatives);
}
private function similar(string $a, string $b): bool
{
if ($a === $b) {
return true;
}
$length = max(mb_strlen($a), mb_strlen($b));
$allowed = max(self::SimilarMaxDistance, (int) ceil($length * self::SimilarDistanceRatio));
// levenshtein() arbeitet auf Bytes und ist auf 255 begrenzt — die
// Namen sind zu diesem Zeitpunkt ASCII und kurz.
if (levenshtein(substr($a, 0, 255), substr($b, 0, 255)) <= $allowed) {
return true;
}
$wordsA = explode(' ', $a);
$wordsB = explode(' ', $b);
return count($wordsA) >= self::SharedPrefixWords
&& count($wordsB) >= self::SharedPrefixWords
&& array_slice($wordsA, 0, self::SharedPrefixWords) === array_slice($wordsB, 0, self::SharedPrefixWords);
}
}