Skip to content
Neu GreenPT Code: glm-5.2 und kimi-k2.7-code jetzt verfügbar GreenPT Code: glm-5.2 + kimi-k2.7-code
Konto erstellen

Technik

Warum Reranking die „letzte Meile“ der Relevanz ist

Eine lange Straße, die sich zum Horizont krümmt, als Sinnbild für Reranking als das letzte Stück einer Relevanz-Pipeline.

Retrieval bringt die richtige Antwort oft in die Ergebnisse, aber nicht nach ganz oben. Reranking ist das günstige, wirkungsstarke Muster, das die Lücke zwischen 80 % und 99 % Relevanz schließt.

Es gibt diese verbreitete Weisheit: Oft bekommt man ~80 % des Ergebnisses mit ~20 % des Aufwands. Und manchmal reichen 80 %. Suche gehört zu den Bereichen, in denen das nicht ganz stimmt.

Denk mal darüber nach: Ein großer Teil des Online-Marketings baute auf einem „kleinen”, aber entscheidenden Unterschied auf. Unter den Top 3 der Suchergebnisse zu stehen macht einen weit größeren Unterschied als Platz 8 bis 10.

Diese Perspektive lässt sich auch auf Retrieval anwenden: Viele Systeme bringen dich „in die Ergebnisse”, doch das Nutzererlebnis hängt oft davon ab, was zuerst auftaucht.

In den vergangenen Monaten haben wir ein wiederkehrendes Fehlermuster bei LLM-basierten KI-Anwendungen gesehen:

Das richtige Dokument oder die richtige Information steckt oft irgendwo in den Ergebnissen, aber nicht weit oben.

Ein Merkmal von LLM-getriebener Wissensarbeit ist der sehr hohe Durchsatz. Wenn Menschen im Prozess sind, konzentrieren sie sich meist auf die ersten paar Ergebnisse. In den seltenen Fällen, in denen sich Menschen aus dem Prozess herausnehmen lassen, verhalten sich automatisierte Workflows am Ende oft genauso. Dann ist der Systemdurchsatz weit höher als bei Menschen, aber die Erwartungen skalieren (mindestens) im selben Tempo. Rechenbeschränkungen drängen Workflows dann dazu, sich entweder auf die Top-Ergebnisse zu konzentrieren oder mit Ad-hoc-Implementierungen die Qualität zu sichern, auf Kosten höherer Komplexität. Höhere Komplexität wiederum macht Lösungen fragil und weniger flexibel.

Für Produkt-Entwickler fühlt sich das an, als liefe es auf eine Wahl hinaus zwischen:

  • „Es steckt irgendwo drin, aber nicht ganz dort, und das ist, naja.”
  • „Ich kann es zum Laufen bringen, aber wie gut werden wir es warten und erweitern?”

Genau hier kommen Reranker ins Spiel und tragen wesentlich dazu bei, von 80 % näher an 99 % zu rücken.

Kernidee: breit abrufen, dann eng neu ordnen

Reranking ist ein zweistufiges Muster:

  1. Erster Durchgang (Retrieval): etwas Schnelles, um eine Auswahlliste „vielleicht relevanter” Ergebnisse zu ziehen.
  2. Zweiter Durchgang (Reranking): etwas Durchdachteres, um die besten nach oben zu bringen.

(Es heißt Re-Ranking, weil du Ergebnisse ordnest, die schon einmal geordnet wurden.)

Die entscheidende praktische Einschränkung in diesem Aufbau ist, dass der zweite Schritt pro Ergebnis deutlich mehr kostet als der erste. Deshalb willst du ihn oft nur auf einer Auswahlliste laufen lassen. Das passt alles ins 80-20-Bild. Jenseits der 80 % stößt du auf steilere abnehmende Erträge, und Verbesserungen werden teurer. Ob sich das lohnt, muss von Fall zu Fall bewertet werden.

Reranking in einer echten Pipeline

In einer echten Retrieval-Pipeline zahlt es sich oft aus, einige Punkte anzugehen, bevor du überhaupt an die Reihenfolge denkst:

  • Grundlegende Prüfungen und Bereinigung (Tippfehler, Normalisierung)
  • Interpretation der Anfrage (Entitäten, Absicht)
  • Erweiterung oder Lockerung bei Bedarf (Expansion / Relaxation)

Dann:

  • Führe deinen schnellen Retrieval-Schritt aus, um Kandidaten zu sammeln.
  • Lege eine finale Ordnungsschicht darüber, das Reranking, damit die besten Kandidaten nach oben rücken.

(Wenn du eine Idee aus diesem Beitrag mitnimmst: Behandle Reranking als die letzte Meile der Relevanz.)

GreenPT stellt Reranking als API bereit, sodass du es in dein bestehendes Retrieval einklinken kannst.

Der praktische Vorteil ist, dass du Reranking einfach ausprobieren und sehen kannst, ob dir der Ertrag den Aufwand wert ist.

Und das kannst du tun, während du die Datenschutz-Erwartungen erfüllst, die deine Kunden, Mitarbeitenden oder Geschäftspartner tatsächlich haben. Wir:

  • halten den Umgang mit Daten berechenbar, indem wir deine Daten mit niemandem teilen
  • vermeiden es, Dateninhalte um die ganze Welt zu schicken, und bleiben in einer in der EU gehosteten Anwendung

Wenn du unseren Reranker ausprobierst, freuen wir uns über deine Rückmeldung:

  • in welchem Bereich du tätig bist
  • welche Anfragen am schwersten sind
  • was sich nach dem Hinzufügen von Reranking verändert hat

Du kannst auch direkt zur Reranker-API-Referenz springen.

Weiterlesen