{"id":16762,"date":"2025-07-06T12:41:03","date_gmt":"2025-07-06T11:41:03","guid":{"rendered":"https:\/\/procycons.com\/?p=16762"},"modified":"2025-07-09T10:41:49","modified_gmt":"2025-07-09T09:41:49","slug":"long-document-classification-benchmark-2025","status":"publish","type":"post","link":"https:\/\/procycons.com\/de\/blogs\/long-document-classification-benchmark-2025\/","title":{"rendered":"Long Document Classification 2025: XGBoost vs BERT Benchmark – Kompletter Leitfaden f\u00fcr KI-Textklassifikation"},"content":{"rendered":"

Artikel maschinell aus dem Englischen<\/a> \u00fcbersetzt<\/em><\/p>\n

Was ist Klassifikation langer Dokumente?<\/h2>\n

Die Klassifikation langer Dokumente ist ein spezialisiertes Teilgebiet der Dokumentenklassifikation im Natural Language Processing (NLP), das sich auf die Kategorisierung von Dokumenten mit 1.000+ W\u00f6rtern (2+ Seiten) konzentriert, wie etwa wissenschaftliche Arbeiten, Rechtsvertr\u00e4ge und technische Berichte. Anders als bei kurzen Texten stellen lange Dokumente besondere Herausforderungen dar: begrenzte Eingabel\u00e4ngen (z. B. 512 Token bei BERT), Verlust kontextueller Koh\u00e4renz beim Aufteilen des Dokuments, hohe Rechenkosten und die Notwendigkeit komplexer Label-Strukturen wie Multi-Label- oder hierarchische Klassifikation.<\/p>\n

Zusammenfassung<\/h2>\n

Diese Benchmark-Studie evaluiert verschiedene Ans\u00e4tze zur Klassifikation langer Dokumente (7.000-14.000 W\u00f6rter \u2248 14-28 Seiten \u2248 kurze bis mittlere wissenschaftliche Arbeiten) in 11 akademischen Kategorien. XGBoost<\/strong>\u00a0erwies sich als vielseitigste L\u00f6sung<\/strong> und erreichte F1-Werte (ausgewogenes Ma\u00df aus Precision und Recall) von 75-86 mit vern\u00fcnftigen Rechenanforderungen (Chen und Guestrin, 2016). Logistic Regression <\/strong>bietet das beste Effizienz-Leistungs-Verh\u00e4ltnis<\/strong> f\u00fcr ressourcenbeschr\u00e4nkte Umgebungen mit Trainingszeiten unter 20 Sekunden bei konkurrenzf\u00e4higer Genauigkeit (Genkin, Lewis und Madigan, 2005). \u00dcberraschenderweise schnitt RoBERTa-base<\/strong>\u00a0deutlich schlechter ab<\/strong> trotz seines allgemeinen Rufs, w\u00e4hrend traditionelle maschinelle Lernverfahren sich als hochgradig konkurrenzf\u00e4hig gegen\u00fcber fortgeschrittenen Transformer-Modellen erwiesen (Liu et al., 2019).<\/p>\n

Unsere Experimente analysierten 27.000+ Dokumente in vier Komplexit\u00e4tskategorien, von einfachem Keyword-Matching bis hin zu Large Language Models, und zeigten, dass traditionelle ML-Methoden oft ausgefeiltere Transformer \u00fcbertreffen und dabei 10x weniger Rechenressourcen verwenden<\/strong>. Diese \u00fcberraschenden Ergebnisse stellen die g\u00e4ngige Annahme in Frage, dass komplexe Modelle f\u00fcr die Klassifikation langer Dokumente notwendig sind.<\/p>\n

Schnelle Empfehlungen<\/h3>\n