跳到主要内容

文档转换器

📄️ RankLLM 重排序器

RankLLM 是一个灵活的重排序框架，支持列表式（listwise）、成对式（pairwise）和逐点式（pointwise）排序模型。它包括 RankVicuna、RankZephyr、MonoT5、DuoT5、LiT5 和 FirstMistral，并集成了 FastChat、vLLM、SGLang 和 TensorRT-LLM 以实现高效推理。RankLLM 针对检索和排序任务进行了优化，利用开源 LLM 和专有重排序器（如 RankGPT 和 RankGemini）。它支持批量推理、首个令牌重排序以及通过 BM25 和 SPLADE 进行检索。