{"id":68,"date":"2025-08-18T09:14:53","date_gmt":"2025-08-18T09:14:53","guid":{"rendered":"https:\/\/slategrey-woodpecker-305632.hostingersite.com\/?p=68"},"modified":"2026-02-25T13:35:55","modified_gmt":"2026-02-25T13:35:55","slug":"how-we-integrated-a-vision-model-to-detect-illegal-postings-in-an-e-commerce-market-place","status":"publish","type":"post","link":"https:\/\/braynex.ai\/de\/how-we-integrated-a-vision-model-to-detect-illegal-postings-in-an-e-commerce-market-place\/","title":{"rendered":"Wie wir ein Vision-Modell integriert haben, um illegale Beitr\u00e4ge auf einem E-Commerce-Marktplatz zu erkennen"},"content":{"rendered":"

Kunden\u00fcbersicht<\/strong><\/h2>\n\n\n\n

Branche: E-Commerce<\/p>\n\n\n\n

Unternehmensgr\u00f6\u00dfe: 20+ Mitarbeiter<\/p>\n\n\n\n

Hauptangebot\/Produkt: B2C-Marktplatz-Anbieter<\/p>\n\n\n\n

Nutzer: 2+ Millionen; \u00fcber 2.000 registrierte (abonnierte) Anbieter\/Verk\u00e4ufer<\/p>\n\n\n\n

<\/div>\n\n\n\n

Ausgangssituation & Herausforderungen<\/strong><\/h2>\n\n\n\n

Unser Kunde ist seit 2014 in der E-Commerce-Branche t\u00e4tig und verwaltet und skaliert seine Marktplatz-Plattform erfolgreich mit Unterst\u00fctzung eines engagierten internen Teams. Die Plattform bedient zwei Kategorien von Anbietern: registrierte (verifizierte) und nicht registrierte (nicht verifizierte) Anbieter. F\u00fcr beide sind unterschiedliche Moderations-Workflows erforderlich.<\/p>\n\n\n\n

Um die Compliance (Regeleinhaltung) zu wahren und die Integrit\u00e4t der Plattform zu sch\u00fctzen, musste jeder von nicht registrierten Anbietern eingereichte Beitrag vor der Ver\u00f6ffentlichung manuell \u00fcberpr\u00fcft werden. Parallel dazu \u00fcberpr\u00fcfte das Moderationsteam kontinuierlich die Inhalte von registrierten Anbietern, um die fortlaufende Einhaltung der Nutzungsbedingungen (TOS) der Plattform sicherzustellen und die Verbreitung von verbotenem oder illegalem Material zu verhindern.<\/p>\n\n\n\n

Zum Zeitpunkt unserer Zusammenarbeit unterhielt der Kunde ein Team von \u00fcber sieben Moderatoren, die f\u00fcr die manuelle \u00dcberpr\u00fcfung und Freigabe von Tausenden von Beitr\u00e4gen t\u00e4glich verantwortlich waren \u2013 ein Prozess, der mit der Skalierung der Plattform zunehmend ressourcenintensiver geworden war.<\/p>\n\n\n\n

Zentraler Problempunkt (Key Pain Point):<\/p>\n\n\n\n

    \n
  1. Die extrem hohe Arbeitsbelastung, die erforderlich war, um den Marktplatz so zu pflegen, dass nur Beitr\u00e4ge ver\u00f6ffentlicht werden, die den Nutzungsbedingungen entsprechen, und gleichzeitig sicherzustellen, dass die Beitr\u00e4ge rechtzeitig verarbeitet werden, um nicht zu riskieren, Anbieter zu verlieren. Dies kristallisierte sich als gro\u00dfes Problem heraus, da die Plattform in den zwei Jahren vor unserer Zusammenarbeit ein erhebliches Wachstum verzeichnete.<\/li>\n<\/ol>\n\n\n\n
    <\/div>\n\n\n\n

    Unser Ansatz & Ergriffene Ma\u00dfnahmen<\/strong><\/h2>\n\n\n\n

    Analyse & Einblicke:<\/strong><\/h3>\n\n\n\n

    Um die Moderationsprozesse zu verstehen, baten wir darum, w\u00e4hrend der Verwaltungszeiten anwesend zu sein. Dort konnten wir die gesamten Abl\u00e4ufe (End-to-End-Operations) im Detail studieren und wurden direkt darin geschult, wie sowohl registrierte als auch nicht registrierte Anbieter verwaltet werden. Au\u00dferdem wurden uns die Nutzungsbedingungen (TOS) zur Verf\u00fcgung gestellt sowie alles, was unsere Integration vom Marktplatz fernhalten sollte, um nur einige zu nennen: Bilder von Kindern, Tieren, Dokumente mit privaten Informationen (wie Sozialversicherungsnummern), Waffen, etc.<\/p>\n\n\n\n

    <\/p>\n\n\n\n

    Anforderungen & Erwartungen<\/strong><\/h3>\n\n\n\n

    Das Ziel war es, den Moderationsprozess zu zentralisieren und zu rationalisieren, indem ein einheitliches Dashboard erstellt wird, auf dem alle potenziell illegalen Beitr\u00e4ge automatisch hervorgehoben und an einem Ort angezeigt werden. Dies erm\u00f6glichte es dem Moderationsteam, jeden markierten Beitrag effizient zu \u00fcberpr\u00fcfen und die entsprechende Ma\u00dfnahme zu ergreifen \u2013 entweder den Beitrag zu l\u00f6schen, wenn er gegen die Nutzungsbedingungen verstie\u00df, oder ihn freizugeben, wenn er als richtlinienkonform erachtet wurde.<\/p>\n\n\n\n

    Parallel dazu wurde das System so konzipiert, dass es Feedback von Moderatoren zu jeder KI-generierten Markierung sammelt und angibt, ob es sich um eine korrekte oder inkorrekte Erkennung handelte. Diese Feedback-Schleife lieferte wesentliche Daten, um die Genauigkeit und Zuverl\u00e4ssigkeit des Erkennungsmodells des Vision Agents kontinuierlich zu verbessern.<\/p>\n\n\n\n

    Mit zunehmender Reife des Systems sah die n\u00e4chste Phase eine Erweiterung der Automatisierungsfunktionen vor: nicht nur die Hervorhebung verd\u00e4chtiger Beitr\u00e4ge, sondern auch die Identifizierung von Konten mit Wiederholungst\u00e4tern zur potenziellen Sperrung sowie das automatische Entfernen von Beitr\u00e4gen oder Bildern, bei denen mit hoher Sicherheit (confidently) ein Versto\u00df gegen die Richtlinien der Plattform festgestellt wurde.<\/p>\n\n\n\n

    <\/p>\n\n\n\n

    Integration mit dem Gemini Vision Modell<\/strong><\/h3>\n\n\n\n

    Um dieses System zum Leben zu erwecken, haben wir Googles Gemini Vision Modell integriert, das in der Lage ist, sowohl Text- als auch Bildinhalte zu verstehen. Dies erm\u00f6glichte es unserem Moderations-Framework, Beitr\u00e4ge tiefgreifend zu analysieren \u2013 nicht nur basierend auf Bildunterschriften oder Titeln, sondern auch auf den tats\u00e4chlichen visuellen Elementen in den Bildern, die von den Anbietern hochgeladen wurden.<\/p>\n\n\n\n

    Wir haben den Workflow so gestaltet, dass jeder neue Beitrag, der von einem nicht registrierten Verk\u00e4ufer eingereicht wurde, automatisch durch unsere Pipeline lief. Der Textinhalt (Titel, Beschreibung) und alle begleitenden Bilder wurden zur Auswertung an die Gemini Vision API gesendet. Das Modell gab dann eine strukturierte Antwort zur\u00fcck, die den Inhalt gem\u00e4\u00df den in Zusammenarbeit mit dem Kunden definierten Risikokategorien klassifizierte: \u201eGenehmigt\u201c (Approved) oder \u201eAbgelehnt\u201c (Rejected).<\/p>\n\n\n\n

    Um Skalierbarkeit und Pr\u00e4zision zu gew\u00e4hrleisten, optimierten wir die Erkennungslogik mithilfe einer parallelen Batch-Bildanalyse, die es erm\u00f6glichte, mehrere Bilder in einer einzigen Anfrage zu verarbeiten. F\u00fcr jedes markierte Element generierte das System Konfidenzwerte (Confidence Scores) und hob die spezifischen Gr\u00fcnde f\u00fcr die Erkennung hervor (z. B. Vorhandensein von Waffen oder pers\u00f6nlichen Dokumenten).<\/p>\n\n\n\n

    Die Ergebnisse wurden dann im Dashboard f\u00fcr markierte Beitr\u00e4ge zentralisiert, wo die Mitarbeiter die KI-Ergebnisse \u00fcberpr\u00fcfen, Beitr\u00e4ge genehmigen oder l\u00f6schen und Feedback geben konnten. Im Laufe der Zeit wurde diese Feedback-Schleife genutzt, um die Prompts des Modells zu verfeinern und das kontextbezogene Verst\u00e4ndnis zu verbessern. Die Kombination aus Geminis visueller Intelligenz und unserem feedbackgesteuerten Iterationsprozess f\u00fchrte zu einem \u00e4u\u00dferst zuverl\u00e4ssigen, sich selbst verbessernden Moderationssystem, das in der Lage ist, die Einhaltung von Richtlinien im gro\u00dfen Ma\u00dfstab bei minimalem manuellen Aufwand aufrechtzuerhalten.<\/p>\n\n\n\n

    <\/div>\n\n\n\n

    Abschlie\u00dfende Ergebnisse & Auswirkungen (Closing Results & Impact)<\/strong><\/h2>\n\n\n\n

    Die Integration unseres Vision Model Systems transformierte den Moderations-Workflow des Kunden von einem vollst\u00e4ndig manuellen Prozess in ein halbautomatisiertes, KI-gest\u00fctztes System, das die operative Belastung des Teams drastisch reduzierte und die Gesamtkonsistenz der Inhaltsmoderation verbesserte. Was fr\u00fcher ein Team von sieben Moderatoren erforderte, die rund um die Uhr arbeiteten, wurde zu einem optimierten Prozess, bei dem die KI die erste \u00dcberpr\u00fcfung (Screening) \u00fcbernahm, sodass sich die menschlichen Moderatoren auf strategischere und wertsch\u00f6pfendere Aufgaben konzentrieren konnten.<\/p>\n\n\n\n

    Dieses Projekt zeigte auf, wie KI-gesteuerte Vision-Systeme \u2013 wenn sie mit strukturierten Feedback-Schleifen und menschlicher Aufsicht implementiert werden \u2013 Organisationen dabei helfen k\u00f6nnen, die perfekte Balance zwischen Effizienz und Genauigkeit zu erreichen, und letztendlich Teams bef\u00e4higen, intelligenter zu arbeiten und sich auf das zu konzentrieren, was das langfristige Wachstum wirklich vorantreibt.<\/p>","protected":false},"excerpt":{"rendered":"

    Wie KI, wenn sie richtig implementiert wird, Mitarbeiter bei allt\u00e4glichen Prozessen unterst\u00fctzen kann.<\/p>","protected":false},"author":1,"featured_media":3038,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-68","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/posts\/68","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/comments?post=68"}],"version-history":[{"count":15,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/posts\/68\/revisions"}],"predecessor-version":[{"id":3455,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/posts\/68\/revisions\/3455"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/media\/3038"}],"wp:attachment":[{"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/media?parent=68"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/categories?post=68"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/braynex.ai\/de\/wp-json\/wp\/v2\/tags?post=68"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}