








[OC] Ich habe eine automatisierte Pipeline aufgebaut, um mehr als eine Million Seiten aus dem Epstein-Dokumentenkorpus zu extrahieren, zu visualisieren und mit Querverweisen zu versehen
In den letzten ca. zwei Wochen habe ich ein Open-Source-Tool entwickelt, um die Epstein-Akten systematisch zu analysieren – den riesigen Fundus an Gerichtsdokumenten, Flugprotokollen, E-Mails, eidesstattlichen Aussagen und Finanzunterlagen, die in 12 Bänden veröffentlicht wurden. Der Korpus umfasst 1.050.842 Dokumente mit einer Länge von 2,08 Millionen Seiten.
Anstatt sie manuell durchzulesen, habe ich eine 18-stufige NLP/Computer-Vision-Pipeline erstellt, die automatisch:
Extrahiert und OCRs jedes PDF und erkennt redigierte Bereiche auf jeder Seite
Identifiziert mehr als 163.000 benannte Entitäten (Personen, Organisationen, Orte, Daten, Finanzzahlen) mit insgesamt über 15 Millionen Erwähnungen und löst dann Aliase auf "Jeffrey Epstein", "JEFFREY EPSTEN"Und "Jeffrey Epstein*" alle werden einem kanonischen Eintrag zugeordnet
Extrahiert Ereignisse (Besprechungen, Reisen, Kommunikation, Finanztransaktionen) mit Teilnehmern, Daten, Orten und Konfidenzwerten
Erkennt 20.779 Gesichter in Dokumentenbildern und -videos, gruppiert sie in 8.559 Identitätsgruppen und gleicht 2.369 Cluster mit Wikipedia-Profilfotos ab – wobei Epstein, Maxwell, Prince Andrew, Clinton und andere automatisch identifiziert werden
Findet Schwärzungsinkonsistenzen durch den Vergleich nahezu doppelter Dokumente: Von 22 Millionen nahezu doppelten Paaren und 5,6 Millionen redigierten Textausschnitten wurden 100 Fälle gekennzeichnet, in denen Text in einer Kopie geschwärzt, in einer anderen jedoch sichtbar gelassen wurde
Erstellt einen durchsuchbaren semantischen Index, sodass Sie nach Bedeutung und nicht nur nach Schlüsselwörtern suchen können
Das Ganze wird in ein Webinterface eingespeist, das ich mit Next.js erstellt habe. Hier ist, was jeder Screenshot zeigt:
Dokumente – Der Hauptbrowser des Korpus. 1.050.842 Dokumente, durchsuchbar nach Bates-Nummer und filterbar nach Volumen.
Suchergebnisse – Semantische Volltextsuche. Suchen "Ghislaine Maxwell" gibt 8.253 Dokumente mit hervorgehobenen Übereinstimmungen und Entitäts-Tags zurück.
Dokument-Viewer – Integrierter PDF-Viewer mit umschaltbarer Schwärzung und Entitätsüberlagerungen. Dies ist eine weitergeleitete E-Mail über das Maxwell Reddit-Konto (r/maxwellhill), das nach ihrer Verhaftung verstummte.
Entitäten – 163.289 extrahierte Entitäten, sortiert nach Erwähnungshäufigkeit. Jeffrey Epstein führt die Liste mit über 1 Million Erwähnungen in über 400.000 Dokumenten an.
Beziehungsnetzwerk – Zwangsgesteuertes Diagramm des gleichzeitigen Vorkommens von Entitäten in Dokumenten, farblich nach Typ codiert (Personen, Organisationen, Orte, Daten, Gruppen).
Dokumentzeitleiste – Jedes Dokument nach Datum grafisch dargestellt, farblich nach Volumen codiert. Man kann deutlich erkennen, dass sich die Dokumentenaktivität in den frühen 2000er-Jahren konzentrierte.
Gesichtscluster – Automatisierte Gesichtserkennung und Wikipedia-Abgleich. Das System fand 2.770 Gesichtsinstanzen von Epstein, 457 von Maxwell, 61 von Prinz Andrew und 59 von Clinton, die alle automatisch anhand von Dokumentenbildern abgeglichen wurden.
Schwärzungsinkonsistenzen – Die Pipeline verglich 22 Millionen nahezu doppelte Dokumentpaare und fand 100 Fälle, in denen geschwärzter Text in einem Dokument in einem anderen sichtbar blieb. Bei jeder Inkonsistenz werden der offengelegte Text, die redigierte Quelle und die nicht redigierte Quelle nebeneinander angezeigt.
Tools: Python (spaCy, InsightFace, PyMuPDF, Satztransformatoren, OpenAI API), Next.js, TypeScript, Tailwind CSS, S3
Quelle: github.com/doInfinitely/epsteinalysis
Datenquelle: Öffentlich veröffentlichte Epstein-Gerichtsdokumente (EFTA-Bände 1-12)
Von lymn
6 Kommentare
[github.com/doInfinitely/epsteinalysis](http://github.com/doInfinitely/epsteinalysis) returns a 404…
Save you typing: [epsteinalysis.com](http://epsteinalysis.com)
[https://epsteinalysis.com/events/timeline](https://epsteinalysis.com/events/timeline) – This locks up the page on Firefox
really cool. the App, NOT The stuff in it
This is perfect! Thank you for this!
Seems pretty vibe coded when I took a look at the code, but thanks for sharing.