drexalt/splade-NeoBERT-RetroMAE-pretrain-lighton-msmarco-triplets-20250919-064009

splade-NeoBERT-RetroMAE-pretrain trained on LightOn MS MARCO (triplets)

This is a SPLADE Sparse Encoder model finetuned from drexalt/NeoBERT-RetroMAE-pretrain on the ms-marco-en-bge-gemma dataset using the sentence-transformers library. It maps sentences & paragraphs to a 30522-dimensional sparse vector space and can be used for semantic search and sparse retrieval.

Model Details

Model Description

• —Model Type: SPLADE Sparse Encoder
• —Base model: drexalt/NeoBERT-RetroMAE-pretrain <!-- at revision 6188f69ff9405de3e499b9078f720bba84a4f9e2 -->
• —Maximum Sequence Length: 256 tokens
• —Output Dimensionality: 30522 dimensions
• —Similarity Function: Dot Product
• —Training Dataset:
• —ms-marco-en-bge-gemma
• —Language: en
• —License: apache-2.0

Model Sources

• —Documentation: Sentence Transformers Documentation
• —Documentation: Sparse Encoder Documentation
• —Repository: Sentence Transformers on GitHub
• —Hugging Face: Sparse Encoders on Hugging Face

Full Model Architecture

SparseEncoder(
  (0): MLMTransformer({'max_seq_length': 256, 'do_lower_case': False, 'architecture': 'NeoBERTLMHead'})
  (1): SpladePooling({'pooling_strategy': 'max', 'activation_function': 'relu', 'word_embedding_dimension': 30522})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SparseEncoder

# Download from the 🤗 Hub
model = SparseEncoder("drexalt/splade-NeoBERT-RetroMAE-pretrain-lighton-msmarco-triplets-20250919-064009")
# Run inference
sentences = [
    'The weather is lovely today.',
    "It's so sunny outside!",
    'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 30522]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

<!--

Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details> -->

<!--

Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details> -->

<!--

Out-of-Scope Use

List how the model may foreseeably be misused and address what users ought not to do with the model. -->

Evaluation

Metrics

Sparse Information Retrieval

• —Datasets: NanoSciFact, NanoMSMARCO, NanoTouche2020, NanoSCIDOCS, NanoNFCorpus, NanoClimateFEVER, NanoDBPedia, NanoFEVER, NanoFiQA2018, NanoHotpotQA, NanoMSMARCO, NanoNFCorpus, NanoNQ, NanoQuoraRetrieval, NanoSCIDOCS, NanoArguAna, NanoSciFact and NanoTouche2020
• —Evaluated with <code>SparseInformationRetrievalEvaluator</code>

Sparse Nano BEIR

• —Dataset: NanoBEIR_mean
• —Evaluated with <code>SparseNanoBEIREvaluator</code> with these parameters:

  {
      "dataset_names": [
          "scifact",
          "msmarco",
          "touche2020",
          "scidocs",
          "nfcorpus"
      ]
  }

Sparse Nano BEIR

• —Dataset: NanoBEIR_mean
• —Evaluated with <code>SparseNanoBEIREvaluator</code> with these parameters:

  {
      "dataset_names": [
          "climatefever",
          "dbpedia",
          "fever",
          "fiqa2018",
          "hotpotqa",
          "msmarco",
          "nfcorpus",
          "nq",
          "quoraretrieval",
          "scidocs",
          "arguana",
          "scifact",
          "touche2020"
      ]
  }

<!--

Bias, Risks and Limitations

What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model. -->

<!--

Recommendations

What are recommendations with respect to the foreseeable issues? For example, filtering explicit content. -->

Training Details

Training Dataset

ms-marco-en-bge-gemma

• —Dataset: ms-marco-en-bge-gemma at 1a1ffe7
• —Size: 390,000 training samples
• —Columns: <code>queryid</code>, <code>documentids</code>, and <code>scores</code>
• —Approximate statistics based on the first 1000 samples: | | queryid | documentids | scores | |:--------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:------------------------------------|:------------------------------------| | type | int | list | list | | details | <ul><li>644: ~0.10%</li><li>1719: ~0.10%</li><li>2157: ~0.10%</li><li>3632: ~0.10%</li><li>5575: ~0.10%</li><li>7530: ~0.10%</li><li>7733: ~0.10%</li><li>10000: ~0.10%</li><li>11452: ~0.10%</li><li>12446: ~0.10%</li><li>13664: ~0.10%</li><li>17448: ~0.10%</li><li>17795: ~0.10%</li><li>18824: ~0.10%</li><li>21727: ~0.10%</li><li>23989: ~0.10%</li><li>24770: ~0.10%</li><li>26754: ~0.10%</li><li>27175: ~0.10%</li><li>27721: ~0.10%</li><li>27723: ~0.10%</li><li>28334: ~0.10%</li><li>28342: ~0.10%</li><li>29607: ~0.10%</li><li>29730: ~0.10%</li><li>31835: ~0.10%</li><li>33090: ~0.10%</li><li>34151: ~0.10%</li><li>35889: ~0.10%</li><li>36200: ~0.10%</li><li>38182: ~0.10%</li><li>38342: ~0.10%</li><li>42832: ~0.10%</li><li>42841: ~0.10%</li><li>42856: ~0.10%</li><li>43820: ~0.10%</li><li>45258: ~0.10%</li><li>45839: ~0.10%</li><li>47540: ~0.10%</li><li>47755: ~0.10%</li><li>47781: ~0.10%</li><li>48207: ~0.10%</li><li>49155: ~0.10%</li><li>49452: ~0.10%</li><li>50139: ~0.10%</li><li>50735: ~0.10%</li><li>51337: ~0.10%</li><li>51828: ~0.10%</li><li>52912: ~0.10%</li><li>53327: ~0.10%</li><li>53951: ~0.10%</li><li>53988: ~0.10%</li><li>54767: ~0.10%</li><li>55368: ~0.10%</li><li>56356: ~0.10%</li><li>57618: ~0.10%</li><li>58452: ~0.10%</li><li>59968: ~0.10%</li><li>60785: ~0.10%</li><li>61904: ~0.10%</li><li>62733: ~0.10%</li><li>63831: ~0.10%</li><li>65464: ~0.10%</li><li>71841: ~0.10%</li><li>73265: ~0.10%</li><li>75949: ~0.10%</li><li>76816: ~0.10%</li><li>77344: ~0.10%</li><li>77979: ~0.10%</li><li>78972: ~0.10%</li><li>81043: ~0.10%</li><li>81981: ~0.10%</li><li>82056: ~0.10%</li><li>82966: ~0.10%</li><li>84035: ~0.10%</li><li>84824: ~0.10%</li><li>86719: ~0.10%</li><li>86799: ~0.10%</li><li>87177: ~0.10%</li><li>88256: ~0.10%</li><li>89175: ~0.10%</li><li>92808: ~0.10%</li><li>93380: ~0.10%</li><li>95115: ~0.10%</li><li>96613: ~0.10%</li><li>98048: ~0.10%</li><li>100245: ~0.10%</li><li>101251: ~0.10%</li><li>101686: ~0.10%</li><li>103182: ~0.10%</li><li>107769: ~0.10%</li><li>108253: ~0.10%</li><li>108572: ~0.10%</li><li>110324: ~0.10%</li><li>111089: ~0.10%</li><li>112000: ~0.10%</li><li>112740: ~0.10%</li><li>113398: ~0.10%</li><li>113532: ~0.10%</li><li>113934: ~0.10%</li><li>116924: ~0.10%</li><li>117136: ~0.10%</li><li>117157: ~0.10%</li><li>123410: ~0.10%</li><li>125448: ~0.10%</li><li>127034: ~0.10%</li><li>128380: ~0.10%</li><li>130264: ~0.10%</li><li>130599: ~0.10%</li><li>132013: ~0.10%</li><li>132898: ~0.10%</li><li>133690: ~0.10%</li><li>135002: ~0.10%</li><li>135924: ~0.10%</li><li>138374: ~0.10%</li><li>139243: ~0.10%</li><li>139534: ~0.10%</li><li>141523: ~0.10%</li><li>142182: ~0.10%</li><li>143312: ~0.10%</li><li>144987: ~0.10%</li><li>149159: ~0.10%</li><li>149716: ~0.10%</li><li>150908: ~0.10%</li><li>151331: ~0.10%</li><li>153047: ~0.10%</li><li>153146: ~0.10%</li><li>154800: ~0.10%</li><li>156039: ~0.10%</li><li>158479: ~0.10%</li><li>161069: ~0.10%</li><li>161718: ~0.10%</li><li>162861: ~0.10%</li><li>162876: ~0.10%</li><li>165888: ~0.10%</li><li>169295: ~0.10%</li><li>170256: ~0.10%</li><li>170715: ~0.10%</li><li>171176: ~0.10%</li><li>171657: ~0.10%</li><li>172597: ~0.10%</li><li>173226: ~0.10%</li><li>174418: ~0.10%</li><li>175692: ~0.10%</li><li>177168: ~0.10%</li><li>178407: ~0.10%</li><li>179051: ~0.10%</li><li>180942: ~0.10%</li><li>181620: ~0.10%</li><li>182143: ~0.10%</li><li>183694: ~0.10%</li><li>184277: ~0.10%</li><li>184572: ~0.10%</li><li>184724: ~0.10%</li><li>186481: ~0.10%</li><li>186610: ~0.10%</li><li>192925: ~0.10%</li><li>193352: ~0.10%</li><li>194019: ~0.10%</li><li>194460: ~0.10%</li><li>195439: ~0.10%</li><li>196547: ~0.10%</li><li>197040: ~0.10%</li><li>197418: ~0.10%</li><li>198433: ~0.10%</li><li>199210: ~0.10%</li><li>199338: ~0.10%</li><li>199791: ~0.10%</li><li>200397: ~0.10%</li><li>202382: ~0.10%</li><li>203988: ~0.10%</li><li>205385: ~0.10%</li><li>205705: ~0.10%</li><li>206888: ~0.10%</li><li>208271: ~0.10%</li><li>209498: ~0.10%</li><li>212726: ~0.10%</li><li>213144: ~0.10%</li><li>213495: ~0.10%</li><li>213695: ~0.10%</li><li>214523: ~0.10%</li><li>216442: ~0.10%</li><li>216727: ~0.10%</li><li>217493: ~0.10%</li><li>218565: ~0.10%</li><li>222067: ~0.10%</li><li>223055: ~0.10%</li><li>223792: ~0.10%</li><li>225372: ~0.10%</li><li>226832: ~0.10%</li><li>227203: ~0.10%</li><li>227337: ~0.10%</li><li>229143: ~0.10%</li><li>232535: ~0.10%</li><li>237977: ~0.10%</li><li>239043: ~0.10%</li><li>239437: ~0.10%</li><li>240022: ~0.10%</li><li>241528: ~0.10%</li><li>241619: ~0.10%</li><li>244978: ~0.10%</li><li>245704: ~0.10%</li><li>247459: ~0.10%</li><li>247720: ~0.10%</li><li>247734: ~0.10%</li><li>248077: ~0.10%</li><li>248461: ~0.10%</li><li>248614: ~0.10%</li><li>248812: ~0.10%</li><li>251907: ~0.10%</li><li>252013: ~0.10%</li><li>252245: ~0.10%</li><li>258765: ~0.10%</li><li>260365: ~0.10%</li><li>261646: ~0.10%</li><li>263822: ~0.10%</li><li>264361: ~0.10%</li><li>267477: ~0.10%</li><li>268329: ~0.10%</li><li>269967: ~0.10%</li><li>270313: ~0.10%</li><li>270322: ~0.10%</li><li>270761: ~0.10%</li><li>273251: ~0.10%</li><li>276097: ~0.10%</li><li>277751: ~0.10%</li><li>280053: ~0.10%</li><li>280592: ~0.10%</li><li>281408: ~0.10%</li><li>281878: ~0.10%</li><li>282080: ~0.10%</li><li>282419: ~0.10%</li><li>283911: ~0.10%</li><li>286311: ~0.10%</li><li>291412: ~0.10%</li><li>291881: ~0.10%</li><li>292627: ~0.10%</li><li>292840: ~0.10%</li><li>293640: ~0.10%</li><li>294561: ~0.10%</li><li>300138: ~0.10%</li><li>301920: ~0.10%</li><li>304373: ~0.10%</li><li>305262: ~0.10%</li><li>309459: ~0.10%</li><li>313082: ~0.10%</li><li>313229: ~0.10%</li><li>314550: ~0.10%</li><li>315680: ~0.10%</li><li>316714: ~0.10%</li><li>317976: ~0.10%</li><li>318974: ~0.10%</li><li>319387: ~0.10%</li><li>320727: ~0.10%</li><li>321284: ~0.10%</li><li>321620: ~0.10%</li><li>321697: ~0.10%</li><li>322644: ~0.10%</li><li>322777: ~0.10%</li><li>325189: ~0.10%</li><li>325613: ~0.10%</li><li>325923: ~0.10%</li><li>325974: ~0.10%</li><li>327409: ~0.10%</li><li>331472: ~0.10%</li><li>331651: ~0.10%</li><li>331690: ~0.10%</li><li>331878: ~0.10%</li><li>332017: ~0.10%</li><li>337917: ~0.10%</li><li>338193: ~0.10%</li><li>338396: ~0.10%</li><li>338435: ~0.10%</li><li>340563: ~0.10%</li><li>340985: ~0.10%</li><li>341302: ~0.10%</li><li>343414: ~0.10%</li><li>343984: ~0.10%</li><li>344553: ~0.10%</li><li>348913: ~0.10%</li><li>349457: ~0.10%</li><li>349724: ~0.10%</li><li>351718: ~0.10%</li><li>351859: ~0.10%</li><li>351959: ~0.10%</li><li>352005: ~0.10%</li><li>353537: ~0.10%</li><li>354487: ~0.10%</li><li>356469: ~0.10%</li><li>357656: ~0.10%</li><li>358674: ~0.10%</li><li>358678: ~0.10%</li><li>359503: ~0.10%</li><li>361481: ~0.10%</li><li>362266: ~0.10%</li><li>363210: ~0.10%</li><li>363865: ~0.10%</li><li>364426: ~0.10%</li><li>365162: ~0.10%</li><li>365515: ~0.10%</li><li>366665: ~0.10%</li><li>367398: ~0.10%</li><li>367957: ~0.10%</li><li>369497: ~0.10%</li><li>369860: ~0.10%</li><li>370019: ~0.10%</li><li>371409: ~0.10%</li><li>372292: ~0.10%</li><li>372653: ~0.10%</li><li>375514: ~0.10%</li><li>377945: ~0.10%</li><li>378097: ~0.10%</li><li>378537: ~0.10%</li><li>380320: ~0.10%</li><li>380806: ~0.10%</li><li>381916: ~0.10%</li><li>383848: ~0.10%</li><li>384502: ~0.10%</li><li>384547: ~0.10%</li><li>385189: ~0.10%</li><li>385221: ~0.10%</li><li>385749: ~0.10%</li><li>385951: ~0.10%</li><li>386535: ~0.10%</li><li>388768: ~0.10%</li><li>392194: ~0.10%</li><li>394642: ~0.10%</li><li>395570: ~0.10%</li><li>396221: ~0.10%</li><li>396756: ~0.10%</li><li>397331: ~0.10%</li><li>398926: ~0.10%</li><li>399380: ~0.10%</li><li>400037: ~0.10%</li><li>400343: ~0.10%</li><li>400609: ~0.10%</li><li>401472: ~0.10%</li><li>401761: ~0.10%</li><li>401967: ~0.10%</li><li>404305: ~0.10%</li><li>405949: ~0.10%</li><li>407553: ~0.10%</li><li>407708: ~0.10%</li><li>409399: ~0.10%</li><li>409838: ~0.10%</li><li>411746: ~0.10%</li><li>413000: ~0.10%</li><li>413511: ~0.10%</li><li>413675: ~0.10%</li><li>413911: ~0.10%</li><li>416290: ~0.10%</li><li>418149: ~0.10%</li><li>418298: ~0.10%</li><li>419284: ~0.10%</li><li>419532: ~0.10%</li><li>419949: ~0.10%</li><li>420579: ~0.10%</li><li>420807: ~0.10%</li><li>420927: ~0.10%</li><li>423069: ~0.10%</li><li>425579: ~0.10%</li><li>426808: ~0.10%</li><li>428033: ~0.10%</li><li>429031: ~0.10%</li><li>430007: ~0.10%</li><li>430592: ~0.10%</li><li>430826: ~0.10%</li><li>430901: ~0.10%</li><li>430903: ~0.10%</li><li>433049: ~0.10%</li><li>433713: ~0.10%</li><li>433796: ~0.10%</li><li>434328: ~0.10%</li><li>435485: ~0.10%</li><li>435627: ~0.10%</li><li>435729: ~0.10%</li><li>436515: ~0.10%</li><li>437335: ~0.10%</li><li>438533: ~0.10%</li><li>438725: ~0.10%</li><li>439725: ~0.10%</li><li>439851: ~0.10%</li><li>440341: ~0.10%</li><li>443256: ~0.10%</li><li>444291: ~0.10%</li><li>444403: ~0.10%</li><li>444640: ~0.10%</li><li>448082: ~0.10%</li><li>449067: ~0.10%</li><li>450251: ~0.10%</li><li>453494: ~0.10%</li><li>453501: ~0.10%</li><li>453638: ~0.10%</li><li>453695: ~0.10%</li><li>454079: ~0.10%</li><li>457124: ~0.10%</li><li>457407: ~0.10%</li><li>457579: ~0.10%</li><li>458750: ~0.10%</li><li>459643: ~0.10%</li><li>460043: ~0.10%</li><li>462915: ~0.10%</li><li>464528: ~0.10%</li><li>464678: ~0.10%</li><li>466160: ~0.10%</li><li>466600: ~0.10%</li><li>466791: ~0.10%</li><li>468340: ~0.10%</li><li>469418: ~0.10%</li><li>470998: ~0.10%</li><li>471252: ~0.10%</li><li>471769: ~0.10%</li><li>473468: ~0.10%</li><li>474433: ~0.10%</li><li>475687: ~0.10%</li><li>478462: ~0.10%</li><li>478627: ~0.10%</li><li>479833: ~0.10%</li><li>481517: ~0.10%</li><li>481912: ~0.10%</li><li>482251: ~0.10%</li><li>483728: ~0.10%</li><li>483890: ~0.10%</li><li>485520: ~0.10%</li><li>488134: ~0.10%</li><li>489124: ~0.10%</li><li>489376: ~0.10%</li><li>490398: ~0.10%</li><li>493234: ~0.10%</li><li>493505: ~0.10%</li><li>493648: ~0.10%</li><li>494644: ~0.10%</li><li>495294: ~0.10%</li><li>495360: ~0.10%</li><li>496126: ~0.10%</li><li>497769: ~0.10%</li><li>498414: ~0.10%</li><li>498726: ~0.10%</li><li>498981: ~0.10%</li><li>500995: ~0.10%</li><li>501001: ~0.10%</li><li>501789: ~0.10%</li><li>502984: ~0.10%</li><li>504205: ~0.10%</li><li>508829: ~0.10%</li><li>508845: ~0.10%</li><li>510553: ~0.10%</li><li>511430: ~0.10%</li><li>511487: ~0.10%</li><li>512332: ~0.10%</li><li>512661: ~0.10%</li><li>512741: ~0.10%</li><li>512915: ~0.10%</li><li>513708: ~0.10%</li><li>514051: ~0.10%</li><li>514563: ~0.10%</li><li>515223: ~0.10%</li><li>515364: ~0.10%</li><li>516418: ~0.10%</li><li>516637: ~0.10%</li><li>517840: ~0.10%</li><li>518894: ~0.10%</li><li>520483: ~0.10%</li><li>522865: ~0.10%</li><li>523759: ~0.10%</li><li>523846: ~0.10%</li><li>526008: ~0.10%</li><li>526138: ~0.10%</li><li>526655: ~0.10%</li><li>527299: ~0.10%</li><li>528600: ~0.10%</li><li>528694: ~0.10%</li><li>529439: ~0.10%</li><li>530909: ~0.10%</li><li>531445: ~0.10%</li><li>532078: ~0.10%</li><li>533882: ~0.10%</li><li>534104: ~0.10%</li><li>536186: ~0.10%</li><li>536212: ~0.10%</li><li>537444: ~0.10%</li><li>537520: ~0.10%</li><li>538423: ~0.10%</li><li>539263: ~0.10%</li><li>539636: ~0.10%</li><li>545921: ~0.10%</li><li>547490: ~0.10%</li><li>547492: ~0.10%</li><li>548218: ~0.10%</li><li>549054: ~0.10%</li><li>550820: ~0.10%</li><li>552453: ~0.10%</li><li>552644: ~0.10%</li><li>555727: ~0.10%</li><li>556804: ~0.10%</li><li>558029: ~0.10%</li><li>558103: ~0.10%</li><li>558352: ~0.10%</li><li>558771: ~0.10%</li><li>560527: ~0.10%</li><li>561614: ~0.10%</li><li>561858: ~0.10%</li><li>562834: ~0.10%</li><li>565305: ~0.10%</li><li>565740: ~0.10%</li><li>566564: ~0.10%</li><li>567434: ~0.10%</li><li>567456: ~0.10%</li><li>568467: ~0.10%</li><li>570216: ~0.10%</li><li>571260: ~0.10%</li><li>572176: ~0.10%</li><li>572497: ~0.10%</li><li>575986: ~0.10%</li><li>576853: ~0.10%</li><li>579232: ~0.10%</li><li>579353: ~0.10%</li><li>580148: ~0.10%</li><li>580853: ~0.10%</li><li>581113: ~0.10%</li><li>581345: ~0.10%</li><li>581875: ~0.10%</li><li>584494: ~0.10%</li><li>586147: ~0.10%</li><li>587796: ~0.10%</li><li>587814: ~0.10%</li><li>591672: ~0.10%</li><li>593150: ~0.10%</li><li>598583: ~0.10%</li><li>598638: ~0.10%</li><li>599154: ~0.10%</li><li>599290: ~0.10%</li><li>600132: ~0.10%</li><li>600815: ~0.10%</li><li>603309: ~0.10%</li><li>603355: ~0.10%</li><li>603461: ~0.10%</li><li>603787: ~0.10%</li><li>603900: ~0.10%</li><li>604747: ~0.10%</li><li>604805: ~0.10%</li><li>606403: ~0.10%</li><li>607099: ~0.10%</li><li>607797: ~0.10%</li><li>609837: ~0.10%</li><li>610187: ~0.10%</li><li>613668: ~0.10%</li><li>614681: ~0.10%</li><li>616594: ~0.10%</li><li>617770: ~0.10%</li><li>618662: ~0.10%</li><li>619170: ~0.10%</li><li>619399: ~0.10%</li><li>621600: ~0.10%</li><li>621608: ~0.10%</li><li>623656: ~0.10%</li><li>625137: ~0.10%</li><li>627017: ~0.10%</li><li>630574: ~0.10%</li><li>631582: ~0.10%</li><li>632919: ~0.10%</li><li>633230: ~0.10%</li><li>633632: ~0.10%</li><li>636966: ~0.10%</li><li>638759: ~0.10%</li><li>639767: ~0.10%</li><li>641132: ~0.10%</li><li>641376: ~0.10%</li><li>641669: ~0.10%</li><li>645093: ~0.10%</li><li>645864: ~0.10%</li><li>646114: ~0.10%</li><li>646707: ~0.10%</li><li>648005: ~0.10%</li><li>648355: ~0.10%</li><li>650644: ~0.10%</li><li>651019: ~0.10%</li><li>651339: ~0.10%</li><li>652131: ~0.10%</li><li>652207: ~0.10%</li><li>652670: ~0.10%</li><li>654222: ~0.10%</li><li>654840: ~0.10%</li><li>655082: ~0.10%</li><li>655591: ~0.10%</li><li>655859: ~0.10%</li><li>657240: ~0.10%</li><li>658492: ~0.10%</li><li>659774: ~0.10%</li><li>661171: ~0.10%</li><li>661580: ~0.10%</li><li>661704: ~0.10%</li><li>661968: ~0.10%</li><li>662750: ~0.10%</li><li>663194: ~0.10%</li><li>663274: ~0.10%</li><li>663547: ~0.10%</li><li>664528: ~0.10%</li><li>664748: ~0.10%</li><li>666952: ~0.10%</li><li>667159: ~0.10%</li><li>668528: ~0.10%</li><li>670056: ~0.10%</li><li>670065: ~0.10%</li><li>670902: ~0.10%</li><li>671229: ~0.10%</li><li>672174: ~0.10%</li><li>673513: ~0.10%</li><li>674085: ~0.10%</li><li>677257: ~0.10%</li><li>677508: ~0.10%</li><li>683883: ~0.10%</li><li>688308: ~0.10%</li><li>689597: ~0.10%</li><li>690035: ~0.10%</li><li>690904: ~0.10%</li><li>693320: ~0.10%</li><li>694959: ~0.10%</li><li>697481: ~0.10%</li><li>698659: ~0.10%</li><li>699617: ~0.10%</li><li>702989: ~0.10%</li><li>703243: ~0.10%</li><li>703339: ~0.10%</li><li>705788: ~0.10%</li><li>706304: ~0.10%</li><li>706525: ~0.10%</li><li>706894: ~0.10%</li><li>707165: ~0.10%</li><li>707598: ~0.10%</li><li>707620: ~0.10%</li><li>707993: ~0.10%</li><li>708478: ~0.10%</li><li>708651: ~0.10%</li><li>709728: ~0.10%</li><li>709845: ~0.10%</li><li>710249: ~0.10%</li><li>711382: ~0.10%</li><li>714173: ~0.10%</li><li>717379: ~0.10%</li><li>718995: ~0.10%</li><li>720506: ~0.10%</li><li>720668: ~0.10%</li><li>724097: ~0.10%</li><li>724315: ~0.10%</li><li>724558: ~0.10%</li><li>726635: ~0.10%</li><li>726808: ~0.10%</li><li>727625: ~0.10%</li><li>730378: ~0.10%</li><li>731259: ~0.10%</li><li>739182: ~0.10%</li><li>742226: ~0.10%</li><li>743149: ~0.10%</li><li>743394: ~0.10%</li><li>743528: ~0.10%</li><li>744351: ~0.10%</li><li>745143: ~0.10%</li><li>745811: ~0.10%</li><li>747095: ~0.10%</li><li>747726: ~0.10%</li><li>747980: ~0.10%</li><li>748108: ~0.10%</li><li>748342: ~0.10%</li><li>748976: ~0.10%</li><li>748991: ~0.10%</li><li>749248: ~0.10%</li><li>749863: ~0.10%</li><li>750619: ~0.10%</li><li>751018: ~0.10%</li><li>751783: ~0.10%</li><li>752979: ~0.10%</li><li>754263: ~0.10%</li><li>755137: ~0.10%</li><li>756046: ~0.10%</li><li>760293: ~0.10%</li><li>761411: ~0.10%</li><li>761471: ~0.10%</li><li>761625: ~0.10%</li><li>761935: ~0.10%</li><li>767987: ~0.10%</li><li>768527: ~0.10%</li><li>770501: ~0.10%</li><li>772536: ~0.10%</li><li>773659: ~0.10%</li><li>774670: ~0.10%</li><li>776468: ~0.10%</li><li>776562: ~0.10%</li><li>777846: ~0.10%</li><li>777864: ~0.10%</li><li>780791: ~0.10%</li><li>780957: ~0.10%</li><li>780991: ~0.10%</li><li>782585: ~0.10%</li><li>783642: ~0.10%</li><li>783976: ~0.10%</li><li>784609: ~0.10%</li><li>786700: ~0.10%</li><li>793126: ~0.10%</li><li>793563: ~0.10%</li><li>795050: ~0.10%</li><li>795054: ~0.10%</li><li>796151: ~0.10%</li><li>796264: ~0.10%</li><li>797744: ~0.10%</li><li>798480: ~0.10%</li><li>802097: ~0.10%</li><li>803510: ~0.10%</li><li>804435: ~0.10%</li><li>804518: ~0.10%</li><li>804872: ~0.10%</li><li>805643: ~0.10%</li><li>806230: ~0.10%</li><li>806747: ~0.10%</li><li>807332: ~0.10%</li><li>807470: ~0.10%</li><li>808153: ~0.10%</li><li>808587: ~0.10%</li><li>809365: ~0.10%</li><li>809446: ~0.10%</li><li>809983: ~0.10%</li><li>810950: ~0.10%</li><li>811099: ~0.10%</li><li>811386: ~0.10%</li><li>811403: ~0.10%</li><li>815366: ~0.10%</li><li>815524: ~0.10%</li><li>818224: ~0.10%</li><li>818544: ~0.10%</li><li>818617: ~0.10%</li><li>819142: ~0.10%</li><li>822177: ~0.10%</li><li>822507: ~0.10%</li><li>823547: ~0.10%</li><li>825082: ~0.10%</li><li>828061: ~0.10%</li><li>828923: ~0.10%</li><li>829699: ~0.10%</li><li>830078: ~0.10%</li><li>830424: ~0.10%</li><li>830595: ~0.10%</li><li>831631: ~0.10%</li><li>833869: ~0.10%</li><li>833907: ~0.10%</li><li>834894: ~0.10%</li><li>835515: ~0.10%</li><li>835827: ~0.10%</li><li>835847: ~0.10%</li><li>836790: ~0.10%</li><li>843377: ~0.10%</li><li>843575: ~0.10%</li><li>843626: ~0.10%</li><li>843657: ~0.10%</li><li>846730: ~0.10%</li><li>847281: ~0.10%</li><li>847427: ~0.10%</li><li>848024: ~0.10%</li><li>848694: ~0.10%</li><li>848895: ~0.10%</li><li>848954: ~0.10%</li><li>849655: ~0.10%</li><li>851683: ~0.10%</li><li>852250: ~0.10%</li><li>852811: ~0.10%</li><li>853880: ~0.10%</li><li>853934: ~0.10%</li><li>855257: ~0.10%</li><li>856337: ~0.10%</li><li>856995: ~0.10%</li><li>859625: ~0.10%</li><li>860662: ~0.10%</li><li>861568: ~0.10%</li><li>861656: ~0.10%</li><li>863523: ~0.10%</li><li>863672: ~0.10%</li><li>863961: ~0.10%</li><li>864446: ~0.10%</li><li>864556: ~0.10%</li><li>866532: ~0.10%</li><li>866649: ~0.10%</li><li>867194: ~0.10%</li><li>870477: ~0.10%</li><li>870667: ~0.10%</li><li>871031: ~0.10%</li><li>871729: ~0.10%</li><li>872633: ~0.10%</li><li>872860: ~0.10%</li><li>874197: ~0.10%</li><li>874357: ~0.10%</li><li>874590: ~0.10%</li><li>876887: ~0.10%</li><li>877339: ~0.10%</li><li>877783: ~0.10%</li><li>878476: ~0.10%</li><li>878489: ~0.10%</li><li>878860: ~0.10%</li><li>878932: ~0.10%</li><li>880048: ~0.10%</li><li>880321: ~0.10%</li><li>880809: ~0.10%</li><li>882131: ~0.10%</li><li>882381: ~0.10%</li><li>883131: ~0.10%</li><li>886272: ~0.10%</li><li>887638: ~0.10%</li><li>887729: ~0.10%</li><li>888126: ~0.10%</li><li>888188: ~0.10%</li><li>888851: ~0.10%</li><li>889148: ~0.10%</li><li>889389: ~0.10%</li><li>890831: ~0.10%</li><li>891511: ~0.10%</li><li>892807: ~0.10%</li><li>894111: ~0.10%</li><li>894324: ~0.10%</li><li>894764: ~0.10%</li><li>897231: ~0.10%</li><li>897238: ~0.10%</li><li>897803: ~0.10%</li><li>901427: ~0.10%</li><li>902386: ~0.10%</li><li>903160: ~0.10%</li><li>905195: ~0.10%</li><li>905599: ~0.10%</li><li>908394: ~0.10%</li><li>908696: ~0.10%</li><li>909023: ~0.10%</li><li>909204: ~0.10%</li><li>910750: ~0.10%</li><li>910956: ~0.10%</li><li>914710: ~0.10%</li><li>915363: ~0.10%</li><li>915448: ~0.10%</li><li>915989: ~0.10%</li><li>916754: ~0.10%</li><li>917374: ~0.10%</li><li>917444: ~0.10%</li><li>917479: ~0.10%</li><li>917976: ~0.10%</li><li>919034: ~0.10%</li><li>919130: ~0.10%</li><li>919336: ~0.10%</li><li>920459: ~0.10%</li><li>920607: ~0.10%</li><li>922430: ~0.10%</li><li>924029: ~0.10%</li><li>924790: ~0.10%</li><li>925681: ~0.10%</li><li>925849: ~0.10%</li><li>932585: ~0.10%</li><li>932774: ~0.10%</li><li>933534: ~0.10%</li><li>934150: ~0.10%</li><li>935157: ~0.10%</li><li>935630: ~0.10%</li><li>935761: ~0.10%</li><li>936400: ~0.10%</li><li>936512: ~0.10%</li><li>936890: ~0.10%</li><li>939949: ~0.10%</li><li>940144: ~0.10%</li><li>945115: ~0.10%</li><li>948199: ~0.10%</li><li>948772: ~0.10%</li><li>949624: ~0.10%</li><li>949718: ~0.10%</li><li>950665: ~0.10%</li><li>952891: ~0.10%</li><li>954919: ~0.10%</li><li>955688: ~0.10%</li><li>956269: ~0.10%</li><li>962408: ~0.10%</li><li>964810: ~0.10%</li><li>966623: ~0.10%</li><li>967147: ~0.10%</li><li>969039: ~0.10%</li><li>971651: ~0.10%</li><li>973150: ~0.10%</li><li>980121: ~0.10%</li><li>980396: ~0.10%</li><li>980786: ~0.10%</li><li>981314: ~0.10%</li><li>981535: ~0.10%</li><li>983326: ~0.10%</li><li>985161: ~0.10%</li><li>986195: ~0.10%</li><li>988141: ~0.10%</li><li>991167: ~0.10%</li><li>992327: ~0.10%</li><li>992354: ~0.10%</li><li>992509: ~0.10%</li><li>994441: ~0.10%</li><li>995020: ~0.10%</li><li>996662: ~0.10%</li><li>997527: ~0.10%</li><li>998795: ~0.10%</li><li>999915: ~0.10%</li><li>1000106: ~0.10%</li><li>1001764: ~0.10%</li><li>1002141: ~0.10%</li><li>1002356: ~0.10%</li><li>1005052: ~0.10%</li><li>1007129: ~0.10%</li><li>1007259: ~0.10%</li><li>1007415: ~0.10%</li><li>1009914: ~0.10%</li><li>1009951: ~0.10%</li><li>1011440: ~0.10%</li><li>1012507: ~0.10%</li><li>1013782: ~0.10%</li><li>1014809: ~0.10%</li><li>1015056: ~0.10%</li><li>1016328: ~0.10%</li><li>1017973: ~0.10%</li><li>1018299: ~0.10%</li><li>1018968: ~0.10%</li><li>1019115: ~0.10%</li><li>1019219: ~0.10%</li><li>1020063: ~0.10%</li><li>1020130: ~0.10%</li><li>1022190: ~0.10%</li><li>1023201: ~0.10%</li><li>1024543: ~0.10%</li><li>1024606: ~0.10%</li><li>1024930: ~0.10%</li><li>1025185: ~0.10%</li><li>1026676: ~0.10%</li><li>1028674: ~0.10%</li><li>1030701: ~0.10%</li><li>1031533: ~0.10%</li><li>1035569: ~0.10%</li><li>1037792: ~0.10%</li><li>1038825: ~0.10%</li><li>1039819: ~0.10%</li><li>1039919: ~0.10%</li><li>1042457: ~0.10%</li><li>1043108: ~0.10%</li><li>1043431: ~0.10%</li><li>1046184: ~0.10%</li><li>1048500: ~0.10%</li><li>1052529: ~0.10%</li><li>1057156: ~0.10%</li><li>1057339: ~0.10%</li><li>1057741: ~0.10%</li><li>1061188: ~0.10%</li><li>1061419: ~0.10%</li><li>1064296: ~0.10%</li><li>1065147: ~0.10%</li><li>1065457: ~0.10%</li><li>1065746: ~0.10%</li><li>1066082: ~0.10%</li><li>1066588: ~0.10%</li><li>1068675: ~0.10%</li><li>1069549: ~0.10%</li><li>1071610: ~0.10%</li><li>1072247: ~0.10%</li><li>1077841: ~0.10%</li><li>1079219: ~0.10%</li><li>1082126: ~0.10%</li><li>1082163: ~0.10%</li><li>1137763: ~0.10%</li><li>1141097: ~0.10%</li><li>1141295: ~0.10%</li><li>1141792: ~0.10%</li><li>1141994: ~0.10%</li><li>1142798: ~0.10%</li><li>1143738: ~0.10%</li><li>1144602: ~0.10%</li><li>1144685: ~0.10%</li><li>1145413: ~0.10%</li><li>1146161: ~0.10%</li><li>1148800: ~0.10%</li><li>1150674: ~0.10%</li><li>1152966: ~0.10%</li><li>1154122: ~0.10%</li><li>1154138: ~0.10%</li><li>1154637: ~0.10%</li><li>1155176: ~0.10%</li><li>1156340: ~0.10%</li><li>1157490: ~0.10%</li><li>1161014: ~0.10%</li><li>1161027: ~0.10%</li><li>1163168: ~0.10%</li><li>1165814: ~0.10%</li><li>1166850: ~0.10%</li><li>1167486: ~0.10%</li><li>1168784: ~0.10%</li><li>1173520: ~0.10%</li><li>1173851: ~0.10%</li><li>1174026: ~0.10%</li><li>1175589: ~0.10%</li><li>1176417: ~0.10%</li><li>1176708: ~0.10%</li><li>1177172: ~0.10%</li><li>1180766: ~0.10%</li><li>1180797: ~0.10%</li><li>1181008: ~0.10%</li><li>1181902: ~0.10%</li><li>1182883: ~0.10%</li></ul> | <ul><li>size: 32 elements</li></ul> | <ul><li>size: 32 elements</li></ul> |
• —Samples: | queryid | documentids | scores | |:--------------------|:----------------------------------------------------------------|:---------------------------------------------------------------------------| | <code>401967</code> | <code>[6705462, 6337046, 7109100, 3494181, 7044691, ...]</code> | <code>[27.25, 17.28125, 15.8359375, 16.046875, 18.03125, ...]</code> | | <code>720668</code> | <code>[6444886, 5294662, 1672294, 7735669, 1950104, ...]</code> | <code>[28.9375, 14.84375, 13.3671875, 14.890625, 22.828125, ...]</code> | | <code>636966</code> | <code>[2250068, 3211646, 4360683, 4515171, 2960232, ...]</code> | <code>[27.0625, 11.0234375, 11.4453125, 15.640625, 10.8359375, ...]</code> |
• —Loss: <code>SpladeLoss</code> with these parameters:

  {
      "loss": "SparseMultipleNegativesRankingLoss(scale=1.0, similarity_fct='dot_score', gather_across_devices=False)",
      "document_regularizer_weight": 0.005,
      "query_regularizer_weight": 0.001
  }

Evaluation Dataset

ms-marco-en-bge-gemma

• —Dataset: ms-marco-en-bge-gemma at 1a1ffe7
• —Size: 10,000 evaluation samples
• —Columns: <code>queryid</code>, <code>documentids</code>, and <code>scores</code>
• —Approximate statistics based on the first 1000 samples: | | queryid | documentids | scores | |:--------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:------------------------------------|:------------------------------------| | type | int | list | list | | details | <ul><li>443: ~0.10%</li><li>1339: ~0.10%</li><li>2485: ~0.10%</li><li>2507: ~0.10%</li><li>2566: ~0.10%</li><li>3348: ~0.10%</li><li>3773: ~0.10%</li><li>4235: ~0.10%</li><li>5337: ~0.10%</li><li>6008: ~0.10%</li><li>6047: ~0.10%</li><li>6587: ~0.10%</li><li>8626: ~0.10%</li><li>10143: ~0.10%</li><li>10440: ~0.10%</li><li>10570: ~0.10%</li><li>11081: ~0.10%</li><li>11859: ~0.10%</li><li>12134: ~0.10%</li><li>17771: ~0.10%</li><li>18449: ~0.10%</li><li>18710: ~0.10%</li><li>18722: ~0.10%</li><li>18737: ~0.10%</li><li>19013: ~0.10%</li><li>20625: ~0.10%</li><li>21165: ~0.10%</li><li>23764: ~0.10%</li><li>25898: ~0.10%</li><li>27605: ~0.10%</li><li>27819: ~0.10%</li><li>28835: ~0.10%</li><li>29183: ~0.10%</li><li>29232: ~0.10%</li><li>30617: ~0.10%</li><li>32317: ~0.20%</li><li>33311: ~0.10%</li><li>35163: ~0.10%</li><li>36494: ~0.10%</li><li>37392: ~0.10%</li><li>42016: ~0.10%</li><li>42271: ~0.10%</li><li>42652: ~0.10%</li><li>42897: ~0.10%</li><li>44258: ~0.10%</li><li>44917: ~0.10%</li><li>46524: ~0.10%</li><li>46866: ~0.10%</li><li>46901: ~0.10%</li><li>47070: ~0.10%</li><li>49349: ~0.10%</li><li>50118: ~0.10%</li><li>50543: ~0.10%</li><li>52317: ~0.10%</li><li>53878: ~0.10%</li><li>58884: ~0.10%</li><li>59022: ~0.10%</li><li>59151: ~0.10%</li><li>61203: ~0.10%</li><li>61238: ~0.10%</li><li>63049: ~0.10%</li><li>63528: ~0.10%</li><li>63719: ~0.10%</li><li>64141: ~0.10%</li><li>64554: ~0.10%</li><li>65160: ~0.10%</li><li>65581: ~0.10%</li><li>67059: ~0.10%</li><li>67920: ~0.10%</li><li>68837: ~0.10%</li><li>69046: ~0.10%</li><li>69448: ~0.10%</li><li>69833: ~0.10%</li><li>69866: ~0.10%</li><li>70162: ~0.10%</li><li>71481: ~0.10%</li><li>72764: ~0.10%</li><li>74620: ~0.10%</li><li>74820: ~0.10%</li><li>75474: ~0.10%</li><li>79125: ~0.10%</li><li>79517: ~0.10%</li><li>79982: ~0.10%</li><li>80819: ~0.10%</li><li>80864: ~0.10%</li><li>82883: ~0.10%</li><li>84110: ~0.10%</li><li>89219: ~0.10%</li><li>91541: ~0.10%</li><li>91638: ~0.10%</li><li>93391: ~0.10%</li><li>93784: ~0.10%</li><li>94350: ~0.10%</li><li>94491: ~0.10%</li><li>95322: ~0.10%</li><li>96700: ~0.10%</li><li>99078: ~0.10%</li><li>99609: ~0.10%</li><li>100706: ~0.10%</li><li>101050: ~0.10%</li><li>101495: ~0.10%</li><li>101955: ~0.10%</li><li>102913: ~0.10%</li><li>103282: ~0.10%</li><li>104561: ~0.10%</li><li>105491: ~0.10%</li><li>105701: ~0.10%</li><li>107591: ~0.10%</li><li>108546: ~0.10%</li><li>108671: ~0.10%</li><li>108916: ~0.10%</li><li>109085: ~0.10%</li><li>109169: ~0.10%</li><li>109613: ~0.10%</li><li>109619: ~0.10%</li><li>111408: ~0.10%</li><li>111758: ~0.10%</li><li>112761: ~0.10%</li><li>113476: ~0.10%</li><li>113970: ~0.10%</li><li>115109: ~0.10%</li><li>115351: ~0.10%</li><li>115767: ~0.10%</li><li>116001: ~0.10%</li><li>116102: ~0.10%</li><li>116300: ~0.10%</li><li>116562: ~0.10%</li><li>117373: ~0.10%</li><li>118795: ~0.10%</li><li>119830: ~0.10%</li><li>123176: ~0.10%</li><li>124462: ~0.10%</li><li>124770: ~0.10%</li><li>124967: ~0.10%</li><li>125007: ~0.10%</li><li>128027: ~0.10%</li><li>131290: ~0.10%</li><li>131658: ~0.10%</li><li>133109: ~0.10%</li><li>134151: ~0.10%</li><li>139409: ~0.10%</li><li>140561: ~0.10%</li><li>140703: ~0.10%</li><li>141918: ~0.10%</li><li>141925: ~0.10%</li><li>141955: ~0.10%</li><li>142268: ~0.10%</li><li>142297: ~0.10%</li><li>144506: ~0.10%</li><li>145203: ~0.10%</li><li>145269: ~0.10%</li><li>145560: ~0.10%</li><li>146345: ~0.10%</li><li>148203: ~0.10%</li><li>148813: ~0.10%</li><li>151737: ~0.10%</li><li>152017: ~0.10%</li><li>153788: ~0.10%</li><li>154400: ~0.10%</li><li>154682: ~0.10%</li><li>156103: ~0.10%</li><li>156280: ~0.10%</li><li>157935: ~0.10%</li><li>157971: ~0.10%</li><li>158015: ~0.10%</li><li>159334: ~0.10%</li><li>161391: ~0.10%</li><li>162245: ~0.10%</li><li>163548: ~0.10%</li><li>168113: ~0.10%</li><li>171846: ~0.10%</li><li>172667: ~0.10%</li><li>174272: ~0.10%</li><li>175378: ~0.10%</li><li>179320: ~0.10%</li><li>180494: ~0.10%</li><li>180499: ~0.10%</li><li>181263: ~0.10%</li><li>181851: ~0.10%</li><li>182941: ~0.10%</li><li>183090: ~0.10%</li><li>187409: ~0.10%</li><li>188579: ~0.10%</li><li>193664: ~0.10%</li><li>194801: ~0.10%</li><li>196322: ~0.10%</li><li>199001: ~0.10%</li><li>200283: ~0.10%</li><li>200546: ~0.10%</li><li>200738: ~0.10%</li><li>201063: ~0.10%</li><li>202305: ~0.10%</li><li>202837: ~0.10%</li><li>206203: ~0.10%</li><li>206797: ~0.10%</li><li>208808: ~0.10%</li><li>209628: ~0.10%</li><li>210074: ~0.10%</li><li>210102: ~0.10%</li><li>213227: ~0.10%</li><li>213394: ~0.10%</li><li>216181: ~0.10%</li><li>217194: ~0.10%</li><li>218583: ~0.10%</li><li>219427: ~0.10%</li><li>220289: ~0.10%</li><li>221019: ~0.10%</li><li>224108: ~0.10%</li><li>224355: ~0.10%</li><li>225423: ~0.10%</li><li>226322: ~0.10%</li><li>226658: ~0.10%</li><li>229844: ~0.10%</li><li>232626: ~0.10%</li><li>234761: ~0.10%</li><li>235288: ~0.10%</li><li>235502: ~0.10%</li><li>235889: ~0.10%</li><li>236106: ~0.10%</li><li>236433: ~0.10%</li><li>239949: ~0.10%</li><li>243869: ~0.10%</li><li>244940: ~0.10%</li><li>245922: ~0.10%</li><li>249228: ~0.10%</li><li>249541: ~0.10%</li><li>250507: ~0.10%</li><li>250655: ~0.10%</li><li>251134: ~0.10%</li><li>252289: ~0.10%</li><li>255157: ~0.10%</li><li>255909: ~0.10%</li><li>256632: ~0.10%</li><li>256987: ~0.10%</li><li>258044: ~0.10%</li><li>259149: ~0.10%</li><li>259173: ~0.10%</li><li>259767: ~0.10%</li><li>260095: ~0.10%</li><li>260410: ~0.10%</li><li>261783: ~0.10%</li><li>264170: ~0.10%</li><li>264419: ~0.10%</li><li>264869: ~0.10%</li><li>265064: ~0.10%</li><li>266139: ~0.10%</li><li>268748: ~0.10%</li><li>269642: ~0.10%</li><li>269702: ~0.10%</li><li>270467: ~0.10%</li><li>271608: ~0.10%</li><li>272711: ~0.10%</li><li>273999: ~0.10%</li><li>275639: ~0.10%</li><li>276654: ~0.10%</li><li>277197: ~0.10%</li><li>279032: ~0.10%</li><li>279410: ~0.10%</li><li>279630: ~0.10%</li><li>280089: ~0.10%</li><li>281948: ~0.10%</li><li>284096: ~0.10%</li><li>284548: ~0.10%</li><li>285265: ~0.10%</li><li>287350: ~0.10%</li><li>288762: ~0.10%</li><li>289528: ~0.10%</li><li>290772: ~0.10%</li><li>292074: ~0.10%</li><li>293094: ~0.10%</li><li>293883: ~0.10%</li><li>295291: ~0.10%</li><li>295603: ~0.10%</li><li>298121: ~0.10%</li><li>298543: ~0.10%</li><li>299085: ~0.10%</li><li>300865: ~0.10%</li><li>302506: ~0.10%</li><li>303724: ~0.10%</li><li>304557: ~0.10%</li><li>305972: ~0.10%</li><li>306785: ~0.10%</li><li>307160: ~0.10%</li><li>307799: ~0.10%</li><li>308615: ~0.10%</li><li>311035: ~0.10%</li><li>316102: ~0.10%</li><li>316111: ~0.10%</li><li>316133: ~0.10%</li><li>316202: ~0.10%</li><li>316289: ~0.10%</li><li>317123: ~0.10%</li><li>318256: ~0.10%</li><li>320588: ~0.10%</li><li>320925: ~0.10%</li><li>322641: ~0.10%</li><li>323468: ~0.10%</li><li>323835: ~0.10%</li><li>324901: ~0.10%</li><li>327707: ~0.10%</li><li>329260: ~0.10%</li><li>329648: ~0.10%</li><li>329838: ~0.10%</li><li>330061: ~0.10%</li><li>330663: ~0.10%</li><li>330807: ~0.10%</li><li>330974: ~0.10%</li><li>332704: ~0.10%</li><li>333840: ~0.10%</li><li>334816: ~0.10%</li><li>335766: ~0.10%</li><li>337229: ~0.10%</li><li>338146: ~0.10%</li><li>338194: ~0.10%</li><li>339664: ~0.10%</li><li>341818: ~0.10%</li><li>344315: ~0.10%</li><li>344662: ~0.10%</li><li>345312: ~0.10%</li><li>345687: ~0.10%</li><li>346171: ~0.10%</li><li>347029: ~0.10%</li><li>348510: ~0.10%</li><li>350517: ~0.10%</li><li>350535: ~0.10%</li><li>351955: ~0.10%</li><li>352665: ~0.10%</li><li>352812: ~0.10%</li><li>353104: ~0.10%</li><li>357553: ~0.10%</li><li>358196: ~0.10%</li><li>358659: ~0.10%</li><li>359529: ~0.10%</li><li>359551: ~0.10%</li><li>359692: ~0.10%</li><li>361608: ~0.10%</li><li>363458: ~0.10%</li><li>364348: ~0.10%</li><li>364978: ~0.10%</li><li>366046: ~0.10%</li><li>366495: ~0.10%</li><li>366844: ~0.10%</li><li>367094: ~0.10%</li><li>368051: ~0.10%</li><li>370716: ~0.10%</li><li>370781: ~0.10%</li><li>372265: ~0.10%</li><li>372634: ~0.10%</li><li>373261: ~0.10%</li><li>374548: ~0.10%</li><li>375223: ~0.10%</li><li>375237: ~0.10%</li><li>376234: ~0.10%</li><li>377043: ~0.10%</li><li>381322: ~0.10%</li><li>381643: ~0.10%</li><li>382516: ~0.10%</li><li>383382: ~0.10%</li><li>383890: ~0.10%</li><li>385208: ~0.10%</li><li>386049: ~0.10%</li><li>388912: ~0.10%</li><li>389251: ~0.10%</li><li>390141: ~0.10%</li><li>390687: ~0.10%</li><li>390750: ~0.10%</li><li>393671: ~0.10%</li><li>396241: ~0.10%</li><li>398913: ~0.10%</li><li>399175: ~0.10%</li><li>402430: ~0.10%</li><li>402571: ~0.10%</li><li>402676: ~0.10%</li><li>405695: ~0.10%</li><li>406856: ~0.10%</li><li>407411: ~0.10%</li><li>407639: ~0.10%</li><li>408779: ~0.10%</li><li>409165: ~0.10%</li><li>411685: ~0.10%</li><li>412016: ~0.10%</li><li>412040: ~0.10%</li><li>412458: ~0.10%</li><li>412491: ~0.10%</li><li>413526: ~0.10%</li><li>414731: ~0.10%</li><li>415069: ~0.10%</li><li>415839: ~0.10%</li><li>416134: ~0.10%</li><li>418401: ~0.10%</li><li>419667: ~0.10%</li><li>420073: ~0.10%</li><li>420656: ~0.10%</li><li>422014: ~0.10%</li><li>427509: ~0.10%</li><li>427937: ~0.10%</li><li>429487: ~0.10%</li><li>429901: ~0.10%</li><li>430705: ~0.10%</li><li>432848: ~0.10%</li><li>433086: ~0.10%</li><li>436198: ~0.10%</li><li>438296: ~0.10%</li><li>441132: ~0.10%</li><li>441877: ~0.10%</li><li>443175: ~0.10%</li><li>443573: ~0.10%</li><li>444154: ~0.10%</li><li>449228: ~0.10%</li><li>449283: ~0.10%</li><li>451115: ~0.10%</li><li>451876: ~0.10%</li><li>455683: ~0.10%</li><li>457903: ~0.10%</li><li>458731: ~0.10%</li><li>459983: ~0.10%</li><li>461205: ~0.10%</li><li>462470: ~0.10%</li><li>463584: ~0.10%</li><li>464784: ~0.10%</li><li>465104: ~0.10%</li><li>465253: ~0.10%</li><li>465535: ~0.10%</li><li>468025: ~0.10%</li><li>468235: ~0.10%</li><li>468466: ~0.10%</li><li>470667: ~0.10%</li><li>473901: ~0.10%</li><li>473914: ~0.10%</li><li>475375: ~0.10%</li><li>476851: ~0.10%</li><li>476854: ~0.10%</li><li>477065: ~0.10%</li><li>477225: ~0.10%</li><li>478229: ~0.10%</li><li>478392: ~0.10%</li><li>479574: ~0.10%</li><li>480637: ~0.10%</li><li>482668: ~0.10%</li><li>486833: ~0.10%</li><li>486859: ~0.10%</li><li>489175: ~0.10%</li><li>490059: ~0.10%</li><li>494070: ~0.10%</li><li>495237: ~0.10%</li><li>495316: ~0.10%</li><li>496320: ~0.10%</li><li>498510: ~0.10%</li><li>499605: ~0.10%</li><li>501904: ~0.10%</li><li>502026: ~0.10%</li><li>502033: ~0.10%</li><li>508227: ~0.10%</li><li>511488: ~0.10%</li><li>511907: ~0.10%</li><li>512597: ~0.10%</li><li>512915: ~0.10%</li><li>513249: ~0.10%</li><li>514635: ~0.10%</li><li>517374: ~0.10%</li><li>517701: ~0.10%</li><li>518157: ~0.10%</li><li>518658: ~0.10%</li><li>518786: ~0.10%</li><li>519403: ~0.10%</li><li>519879: ~0.10%</li><li>520512: ~0.10%</li><li>522177: ~0.10%</li><li>525110: ~0.10%</li><li>527316: ~0.10%</li><li>528107: ~0.10%</li><li>528704: ~0.10%</li><li>530137: ~0.10%</li><li>530302: ~0.10%</li><li>530780: ~0.10%</li><li>531678: ~0.10%</li><li>532409: ~0.10%</li><li>532584: ~0.10%</li><li>533143: ~0.10%</li><li>534129: ~0.10%</li><li>535187: ~0.10%</li><li>536199: ~0.10%</li><li>536599: ~0.10%</li><li>537644: ~0.10%</li><li>538169: ~0.10%</li><li>539826: ~0.10%</li><li>542564: ~0.10%</li><li>545912: ~0.10%</li><li>545993: ~0.10%</li><li>547717: ~0.10%</li><li>548040: ~0.10%</li><li>549751: ~0.10%</li><li>551105: ~0.10%</li><li>552126: ~0.10%</li><li>553674: ~0.10%</li><li>556131: ~0.10%</li><li>557312: ~0.10%</li><li>559732: ~0.10%</li><li>559886: ~0.10%</li><li>563110: ~0.10%</li><li>564365: ~0.10%</li><li>566624: ~0.10%</li><li>567383: ~0.10%</li><li>569060: ~0.10%</li><li>569251: ~0.10%</li><li>569771: ~0.10%</li><li>570775: ~0.10%</li><li>570845: ~0.10%</li><li>571997: ~0.10%</li><li>572270: ~0.10%</li><li>574160: ~0.10%</li><li>575009: ~0.10%</li><li>576484: ~0.10%</li><li>577065: ~0.10%</li><li>578179: ~0.10%</li><li>578370: ~0.10%</li><li>580677: ~0.10%</li><li>580888: ~0.10%</li><li>581222: ~0.10%</li><li>581327: ~0.10%</li><li>581989: ~0.10%</li><li>582550: ~0.10%</li><li>582900: ~0.10%</li><li>583350: ~0.10%</li><li>584141: ~0.10%</li><li>584920: ~0.10%</li><li>584923: ~0.10%</li><li>586847: ~0.10%</li><li>588343: ~0.10%</li><li>593787: ~0.10%</li><li>596617: ~0.10%</li><li>597234: ~0.10%</li><li>597608: ~0.10%</li><li>598599: ~0.10%</li><li>599592: ~0.10%</li><li>599718: ~0.10%</li><li>600586: ~0.10%</li><li>606826: ~0.10%</li><li>609646: ~0.10%</li><li>610274: ~0.10%</li><li>611268: ~0.10%</li><li>611529: ~0.10%</li><li>611791: ~0.10%</li><li>614117: ~0.10%</li><li>615394: ~0.10%</li><li>616220: ~0.10%</li><li>616418: ~0.10%</li><li>618082: ~0.10%</li><li>619999: ~0.10%</li><li>620465: ~0.10%</li><li>620662: ~0.10%</li><li>620997: ~0.10%</li><li>621572: ~0.10%</li><li>623109: ~0.10%</li><li>623670: ~0.10%</li><li>623728: ~0.10%</li><li>623946: ~0.10%</li><li>628018: ~0.10%</li><li>631863: ~0.10%</li><li>632315: ~0.10%</li><li>632861: ~0.10%</li><li>634611: ~0.10%</li><li>636385: ~0.10%</li><li>639260: ~0.10%</li><li>639622: ~0.10%</li><li>640949: ~0.10%</li><li>640989: ~0.10%</li><li>646455: ~0.10%</li><li>646499: ~0.10%</li><li>647243: ~0.10%</li><li>647939: ~0.10%</li><li>650802: ~0.10%</li><li>651502: ~0.10%</li><li>651526: ~0.10%</li><li>652009: ~0.10%</li><li>652294: ~0.10%</li><li>657107: ~0.10%</li><li>658066: ~0.10%</li><li>658914: ~0.10%</li><li>659557: ~0.10%</li><li>661071: ~0.10%</li><li>661336: ~0.10%</li><li>662454: ~0.10%</li><li>665505: ~0.10%</li><li>665959: ~0.10%</li><li>666013: ~0.10%</li><li>666341: ~0.10%</li><li>668792: ~0.10%</li><li>669492: ~0.10%</li><li>669558: ~0.10%</li><li>670082: ~0.10%</li><li>670742: ~0.10%</li><li>671136: ~0.10%</li><li>671193: ~0.10%</li><li>672608: ~0.10%</li><li>672835: ~0.10%</li><li>674391: ~0.10%</li><li>675104: ~0.10%</li><li>675372: ~0.10%</li><li>677305: ~0.10%</li><li>677890: ~0.10%</li><li>678391: ~0.10%</li><li>681576: ~0.10%</li><li>685170: ~0.10%</li><li>686342: ~0.10%</li><li>686966: ~0.10%</li><li>689526: ~0.10%</li><li>690227: ~0.10%</li><li>696325: ~0.10%</li><li>697225: ~0.10%</li><li>697808: ~0.10%</li><li>700027: ~0.10%</li><li>702035: ~0.10%</li><li>705421: ~0.10%</li><li>705612: ~0.10%</li><li>706679: ~0.10%</li><li>708187: ~0.10%</li><li>708238: ~0.10%</li><li>712050: ~0.10%</li><li>714669: ~0.10%</li><li>714961: ~0.10%</li><li>716075: ~0.10%</li><li>716116: ~0.10%</li><li>716344: ~0.10%</li><li>716624: ~0.10%</li><li>717804: ~0.10%</li><li>721552: ~0.10%</li><li>721789: ~0.10%</li><li>721957: ~0.10%</li><li>722014: ~0.10%</li><li>724255: ~0.10%</li><li>725183: ~0.10%</li><li>725448: ~0.10%</li><li>725767: ~0.10%</li><li>726104: ~0.10%</li><li>726587: ~0.10%</li><li>727024: ~0.10%</li><li>727156: ~0.10%</li><li>730320: ~0.10%</li><li>730770: ~0.10%</li><li>731354: ~0.10%</li><li>731879: ~0.10%</li><li>732610: ~0.10%</li><li>732698: ~0.10%</li><li>735401: ~0.10%</li><li>739257: ~0.10%</li><li>739583: ~0.10%</li><li>741318: ~0.10%</li><li>741691: ~0.10%</li><li>741848: ~0.10%</li><li>742003: ~0.10%</li><li>742580: ~0.10%</li><li>745206: ~0.10%</li><li>745845: ~0.10%</li><li>754986: ~0.10%</li><li>757466: ~0.10%</li><li>757805: ~0.10%</li><li>759035: ~0.10%</li><li>760741: ~0.10%</li><li>761793: ~0.10%</li><li>763743: ~0.10%</li><li>764323: ~0.10%</li><li>766777: ~0.10%</li><li>767806: ~0.10%</li><li>768176: ~0.10%</li><li>768852: ~0.10%</li><li>769457: ~0.10%</li><li>770537: ~0.10%</li><li>774104: ~0.10%</li><li>774251: ~0.10%</li><li>775067: ~0.10%</li><li>778051: ~0.10%</li><li>779127: ~0.10%</li><li>779362: ~0.10%</li><li>779454: ~0.10%</li><li>780108: ~0.10%</li><li>780695: ~0.10%</li><li>783048: ~0.10%</li><li>783897: ~0.10%</li><li>784862: ~0.10%</li><li>784935: ~0.10%</li><li>785801: ~0.10%</li><li>787041: ~0.10%</li><li>788439: ~0.10%</li><li>789789: ~0.10%</li><li>790489: ~0.10%</li><li>791855: ~0.10%</li><li>791859: ~0.10%</li><li>792390: ~0.10%</li><li>794875: ~0.10%</li><li>795108: ~0.10%</li><li>799696: ~0.10%</li><li>803461: ~0.10%</li><li>804522: ~0.10%</li><li>806167: ~0.10%</li><li>806470: ~0.10%</li><li>810097: ~0.10%</li><li>810948: ~0.10%</li><li>811204: ~0.10%</li><li>811554: ~0.10%</li><li>811683: ~0.10%</li><li>812199: ~0.10%</li><li>814497: ~0.10%</li><li>814708: ~0.10%</li><li>815270: ~0.10%</li><li>815821: ~0.10%</li><li>815836: ~0.10%</li><li>815925: ~0.10%</li><li>816401: ~0.10%</li><li>816458: ~0.10%</li><li>816480: ~0.10%</li><li>818531: ~0.10%</li><li>823107: ~0.10%</li><li>823561: ~0.10%</li><li>824395: ~0.10%</li><li>824569: ~0.10%</li><li>826112: ~0.10%</li><li>829389: ~0.10%</li><li>832746: ~0.10%</li><li>836133: ~0.10%</li><li>837032: ~0.10%</li><li>838069: ~0.10%</li><li>842032: ~0.10%</li><li>846925: ~0.10%</li><li>848179: ~0.10%</li><li>848571: ~0.10%</li><li>849372: ~0.10%</li><li>850018: ~0.10%</li><li>850721: ~0.10%</li><li>852450: ~0.10%</li><li>852635: ~0.10%</li><li>852784: ~0.10%</li><li>852976: ~0.10%</li><li>854485: ~0.10%</li><li>855921: ~0.10%</li><li>856032: ~0.10%</li><li>856461: ~0.10%</li><li>857487: ~0.10%</li><li>857759: ~0.10%</li><li>858929: ~0.10%</li><li>859178: ~0.10%</li><li>859386: ~0.10%</li><li>860985: ~0.10%</li><li>862910: ~0.10%</li><li>863448: ~0.10%</li><li>863510: ~0.10%</li><li>863982: ~0.10%</li><li>864019: ~0.10%</li><li>864503: ~0.10%</li><li>864729: ~0.10%</li><li>865937: ~0.10%</li><li>866571: ~0.10%</li><li>869893: ~0.10%</li><li>872961: ~0.10%</li><li>875927: ~0.10%</li><li>877487: ~0.10%</li><li>878491: ~0.10%</li><li>878820: ~0.10%</li><li>879350: ~0.10%</li><li>880735: ~0.10%</li><li>883836: ~0.10%</li><li>884008: ~0.10%</li><li>884014: ~0.10%</li><li>884283: ~0.10%</li><li>884303: ~0.10%</li><li>885930: ~0.10%</li><li>886955: ~0.10%</li><li>889478: ~0.10%</li><li>891344: ~0.10%</li><li>892526: ~0.10%</li><li>893235: ~0.10%</li><li>893255: ~0.10%</li><li>893480: ~0.10%</li><li>893901: ~0.10%</li><li>893921: ~0.10%</li><li>895744: ~0.10%</li><li>895825: ~0.10%</li><li>896288: ~0.10%</li><li>896564: ~0.10%</li><li>897120: ~0.10%</li><li>898084: ~0.10%</li><li>898095: ~0.10%</li><li>898978: ~0.10%</li><li>901146: ~0.10%</li><li>901257: ~0.10%</li><li>902784: ~0.10%</li><li>903994: ~0.10%</li><li>904029: ~0.10%</li><li>904198: ~0.10%</li><li>907767: ~0.10%</li><li>908685: ~0.10%</li><li>909245: ~0.10%</li><li>913864: ~0.10%</li><li>915040: ~0.10%</li><li>915586: ~0.10%</li><li>915869: ~0.10%</li><li>916945: ~0.10%</li><li>917518: ~0.10%</li><li>918182: ~0.10%</li><li>919448: ~0.10%</li><li>919499: ~0.10%</li><li>920072: ~0.10%</li><li>920349: ~0.10%</li><li>921159: ~0.10%</li><li>923770: ~0.10%</li><li>924014: ~0.10%</li><li>924065: ~0.10%</li><li>924072: ~0.10%</li><li>926221: ~0.10%</li><li>927987: ~0.10%</li><li>929051: ~0.10%</li><li>930818: ~0.10%</li><li>931469: ~0.10%</li><li>931850: ~0.10%</li><li>932756: ~0.10%</li><li>933095: ~0.10%</li><li>933778: ~0.10%</li><li>935756: ~0.10%</li><li>937390: ~0.10%</li><li>938451: ~0.10%</li><li>938669: ~0.10%</li><li>939746: ~0.10%</li><li>941129: ~0.10%</li><li>942158: ~0.10%</li><li>942331: ~0.10%</li><li>942416: ~0.10%</li><li>942623: ~0.10%</li><li>943029: ~0.10%</li><li>943129: ~0.10%</li><li>943663: ~0.10%</li><li>944634: ~0.10%</li><li>945381: ~0.10%</li><li>948279: ~0.10%</li><li>950297: ~0.10%</li><li>951857: ~0.10%</li><li>952362: ~0.10%</li><li>953381: ~0.10%</li><li>955723: ~0.10%</li><li>957119: ~0.10%</li><li>957349: ~0.10%</li><li>958002: ~0.10%</li><li>958007: ~0.10%</li><li>960030: ~0.10%</li><li>961747: ~0.10%</li><li>965399: ~0.10%</li><li>966592: ~0.10%</li><li>967328: ~0.10%</li><li>968579: ~0.10%</li><li>968935: ~0.10%</li><li>969446: ~0.10%</li><li>970144: ~0.10%</li><li>970922: ~0.10%</li><li>971636: ~0.10%</li><li>972041: ~0.10%</li><li>973456: ~0.10%</li><li>974656: ~0.10%</li><li>974751: ~0.10%</li><li>974959: ~0.10%</li><li>979768: ~0.10%</li><li>980523: ~0.10%</li><li>984866: ~0.10%</li><li>987470: ~0.10%</li><li>988254: ~0.10%</li><li>993570: ~0.10%</li><li>993634: ~0.10%</li><li>994567: ~0.10%</li><li>994733: ~0.10%</li><li>996234: ~0.10%</li><li>996314: ~0.10%</li><li>996757: ~0.10%</li><li>997955: ~0.10%</li><li>998317: ~0.10%</li><li>998700: ~0.10%</li><li>998811: ~0.10%</li><li>1000859: ~0.10%</li><li>1000922: ~0.10%</li><li>1001057: ~0.10%</li><li>1005643: ~0.10%</li><li>1006099: ~0.10%</li><li>1006876: ~0.10%</li><li>1007733: ~0.10%</li><li>1008083: ~0.10%</li><li>1011174: ~0.10%</li><li>1011413: ~0.10%</li><li>1011697: ~0.10%</li><li>1011782: ~0.10%</li><li>1011905: ~0.10%</li><li>1013317: ~0.10%</li><li>1015452: ~0.10%</li><li>1016043: ~0.10%</li><li>1016157: ~0.10%</li><li>1016410: ~0.10%</li><li>1018376: ~0.10%</li><li>1018961: ~0.10%</li><li>1019606: ~0.10%</li><li>1023116: ~0.10%</li><li>1024566: ~0.10%</li><li>1026677: ~0.10%</li><li>1028700: ~0.10%</li><li>1028871: ~0.10%</li><li>1030478: ~0.10%</li><li>1031437: ~0.10%</li><li>1032545: ~0.10%</li><li>1033696: ~0.10%</li><li>1034343: ~0.10%</li><li>1034620: ~0.10%</li><li>1034834: ~0.10%</li><li>1035642: ~0.10%</li><li>1036069: ~0.10%</li><li>1036943: ~0.10%</li><li>1038746: ~0.10%</li><li>1039406: ~0.10%</li><li>1040276: ~0.10%</li><li>1041380: ~0.10%</li><li>1043526: ~0.10%</li><li>1043756: ~0.10%</li><li>1044923: ~0.10%</li><li>1044957: ~0.10%</li><li>1049910: ~0.10%</li><li>1051461: ~0.10%</li><li>1052711: ~0.10%</li><li>1052969: ~0.10%</li><li>1053905: ~0.10%</li><li>1058080: ~0.10%</li><li>1058160: ~0.10%</li><li>1064375: ~0.10%</li><li>1064391: ~0.10%</li><li>1065363: ~0.10%</li><li>1066328: ~0.10%</li><li>1066617: ~0.10%</li><li>1068057: ~0.10%</li><li>1069911: ~0.10%</li><li>1070292: ~0.10%</li><li>1071676: ~0.10%</li><li>1075294: ~0.10%</li><li>1075480: ~0.10%</li><li>1075527: ~0.10%</li><li>1076956: ~0.10%</li><li>1079965: ~0.10%</li><li>1081007: ~0.10%</li><li>1137534: ~0.10%</li><li>1137849: ~0.10%</li><li>1138309: ~0.10%</li><li>1138962: ~0.10%</li><li>1139808: ~0.10%</li><li>1140272: ~0.10%</li><li>1140810: ~0.10%</li><li>1142529: ~0.10%</li><li>1143266: ~0.10%</li><li>1143779: ~0.10%</li><li>1146317: ~0.10%</li><li>1146640: ~0.10%</li><li>1147448: ~0.10%</li><li>1148341: ~0.10%</li><li>1150575: ~0.10%</li><li>1150954: ~0.10%</li><li>1151475: ~0.10%</li><li>1153618: ~0.10%</li><li>1156747: ~0.10%</li><li>1157725: ~0.10%</li><li>1159416: ~0.10%</li><li>1159692: ~0.10%</li><li>1160067: ~0.10%</li><li>1160330: ~0.10%</li><li>1160471: ~0.10%</li><li>1161575: ~0.10%</li><li>1161589: ~0.10%</li><li>1162437: ~0.10%</li><li>1163150: ~0.10%</li><li>1163408: ~0.10%</li><li>1164689: ~0.10%</li><li>1165833: ~0.10%</li><li>1166599: ~0.10%</li><li>1167894: ~0.10%</li><li>1168800: ~0.10%</li><li>1169741: ~0.10%</li><li>1170056: ~0.10%</li><li>1171358: ~0.10%</li><li>1171992: ~0.10%</li><li>1172073: ~0.10%</li><li>1172300: ~0.10%</li><li>1173128: ~0.10%</li><li>1173637: ~0.10%</li><li>1173997: ~0.10%</li><li>1174102: ~0.10%</li><li>1174970: ~0.10%</li><li>1174991: ~0.10%</li><li>1175871: ~0.10%</li><li>1175902: ~0.10%</li><li>1176864: ~0.10%</li><li>1178242: ~0.10%</li><li>1178552: ~0.10%</li><li>1180306: ~0.10%</li><li>1180795: ~0.10%</li><li>1180962: ~0.10%</li><li>1181927: ~0.10%</li><li>1183939: ~0.10%</li><li>1185338: ~0.10%</li><li>1185754: ~0.10%</li></ul> | <ul><li>size: 32 elements</li></ul> | <ul><li>size: 32 elements</li></ul> |
• —Samples: | queryid | documentids | scores | |:---------------------|:----------------------------------------------------------------|:----------------------------------------------------------------------------| | <code>1031437</code> | <code>[4421662, 6691457, 763928, 2409406, 3950402, ...]</code> | <code>[21.078125, 14.6328125, 15.1640625, 12.84375, 12.1328125, ...]</code> | | <code>578179</code> | <code>[5025500, 3408725, 456079, 7559462, 290820, ...]</code> | <code>[23.09375, 20.328125, 22.71875, 22.296875, 17.921875, ...]</code> | | <code>307799</code> | <code>[3998942, 3614389, 1644576, 6415293, 6655775, ...]</code> | <code>[24.171875, 13.8984375, 18.609375, 18.1875, 17.96875, ...]</code> |
• —Loss: <code>SpladeLoss</code> with these parameters:

  {
      "loss": "SparseMultipleNegativesRankingLoss(scale=1.0, similarity_fct='dot_score', gather_across_devices=False)",
      "document_regularizer_weight": 0.005,
      "query_regularizer_weight": 0.001
  }

Training Hyperparameters

Non-Default Hyperparameters

• —eval_strategy: steps
• —per_device_train_batch_size: 4
• —per_device_eval_batch_size: 4
• —gradient_accumulation_steps: 16
• —num_train_epochs: 2
• —bf16: True
• —dataloader_drop_last: True
• —dataloader_num_workers: 4
• —dataloader_prefetch_factor: 2
• —load_best_model_at_end: True
• —batch_sampler: no_duplicates

All Hyperparameters

<details><summary>Click to expand</summary>

• —overwrite_output_dir: False
• —do_predict: False
• —eval_strategy: steps
• —prediction_loss_only: True
• —per_device_train_batch_size: 4
• —per_device_eval_batch_size: 4
• —per_gpu_train_batch_size: None
• —per_gpu_eval_batch_size: None
• —gradient_accumulation_steps: 16
• —eval_accumulation_steps: None
• —torch_empty_cache_steps: None
• —learning_rate: 5e-05
• —weight_decay: 0.0
• —adam_beta1: 0.9
• —adam_beta2: 0.999
• —adam_epsilon: 1e-08
• —max_grad_norm: 1.0
• —num_train_epochs: 2
• —max_steps: -1
• —lr_scheduler_type: linear
• —lr_scheduler_kwargs: {}
• —warmup_ratio: 0.0
• —warmup_steps: 0
• —log_level: passive
• —log_level_replica: warning
• —log_on_each_node: True
• —logging_nan_inf_filter: True
• —save_safetensors: True
• —save_on_each_node: False
• —save_only_model: False
• —restore_callback_states_from_checkpoint: False
• —no_cuda: False
• —use_cpu: False
• —use_mps_device: False
• —seed: 42
• —data_seed: None
• —jit_mode_eval: False
• —use_ipex: False
• —bf16: True
• —fp16: False
• —fp16_opt_level: O1
• —half_precision_backend: auto
• —bf16_full_eval: False
• —fp16_full_eval: False
• —tf32: None
• —local_rank: 0
• —ddp_backend: None
• —tpu_num_cores: None
• —tpu_metrics_debug: False
• —debug: []
• —dataloader_drop_last: True
• —dataloader_num_workers: 4
• —dataloader_prefetch_factor: 2
• —past_index: -1
• —disable_tqdm: False
• —remove_unused_columns: True
• —label_names: None
• —load_best_model_at_end: True
• —ignore_data_skip: False
• —fsdp: []
• —fsdp_min_num_params: 0
• —fsdp_config: {'minnumparams': 0, 'xla': False, 'xlafsdpv2': False, 'xlafsdpgrad_ckpt': False}
• —fsdp_transformer_layer_cls_to_wrap: None
• —accelerator_config: {'splitbatches': False, 'dispatchbatches': None, 'evenbatches': True, 'useseedablesampler': True, 'nonblocking': False, 'gradientaccumulationkwargs': None}
• —parallelism_config: None
• —deepspeed: None
• —label_smoothing_factor: 0.0
• —optim: adamwtorchfused
• —optim_args: None
• —adafactor: False
• —group_by_length: False
• —length_column_name: length
• —ddp_find_unused_parameters: None
• —ddp_bucket_cap_mb: None
• —ddp_broadcast_buffers: False
• —dataloader_pin_memory: True
• —dataloader_persistent_workers: False
• —skip_memory_metrics: True
• —use_legacy_prediction_loop: False
• —push_to_hub: False
• —resume_from_checkpoint: None
• —hub_model_id: None
• —hub_strategy: every_save
• —hub_private_repo: None
• —hub_always_push: False
• —hub_revision: None
• —gradient_checkpointing: False
• —gradient_checkpointing_kwargs: None
• —include_inputs_for_metrics: False
• —include_for_metrics: []
• —eval_do_concat_batches: True
• —fp16_backend: auto
• —push_to_hub_model_id: None
• —push_to_hub_organization: None
• —mp_parameters:
• —auto_find_batch_size: False
• —full_determinism: False
• —torchdynamo: None
• —ray_scope: last
• —ddp_timeout: 1800
• —torch_compile: False
• —torch_compile_backend: None
• —torch_compile_mode: None
• —include_tokens_per_second: False
• —include_num_input_tokens_seen: False
• —neftune_noise_alpha: None
• —optim_target_modules: None
• —batch_eval_metrics: False
• —eval_on_start: False
• —use_liger_kernel: False
• —liger_kernel_config: None
• —eval_use_gather_object: False
• —average_tokens_across_devices: False
• —prompts: None
• —batch_sampler: no_duplicates
• —multi_dataset_batch_sampler: proportional
• —router_mapping: {}
• —learning_rate_mapping: {}

</details>

Training Logs

<details><summary>Click to expand</summary>