Modelpublic

jangedoo/all-MiniLM-L6-v3-nepali-rag

sourceHugging Faceupdated 4mo agoView on Hugging Face

0likes71downloads

Model Card

SentenceTransformer based on jangedoo/all-MiniLM-L6-v3-nepali

This is a sentence-transformers model finetuned from jangedoo/all-MiniLM-L6-v3-nepali on the indic_rag_ne, textbook_qa_context, textbook_qa_rephrased, yunika_nepali_qa and nepal_legal_rag_qa datasets. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

—Model Type: Sentence Transformer
—Base model: jangedoo/all-MiniLM-L6-v3-nepali
—Maximum Sequence Length: 256 tokens
—Output Dimensionality: 384 dimensions
—Similarity Function: Cosine Similarity
—Training Datasets:
—indic_rag_ne
—textbook_qa_context
—textbook_qa_rephrased
—yunika_nepali_qa
—nepal_legal_rag_qa
—Languages: as, bn, en, gu, hi, kn, ks, mai, ml, mni, mr, ne, or, pa, sat, ta, te, ur

Model Sources

—Documentation: Sentence Transformers Documentation
—Repository: Sentence Transformers on GitHub
—Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

bash

pip install -U sentence-transformers

Then you can load this model and run inference.

python

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("jangedoo/all-MiniLM-L6-v3-nepali-rag")
# Run inference
sentences = [
    'देवानी संहिताका केही सामान्य सिद्धान्तहरू के-के हुन्? यस संहिताले कसरी नेपालको कानुनी व्यवस्था कायम राख्न मदत गर्छ?',
    'ओसारपसारसम्बन्धी कसुर ० अंश, अपुताली, दान, बकस, संरक्षक, | ० नागरिकतासम्बन्धी कसुर माथवर, मातृक तथा पैतृक अख्तियारी, » लाग औपधसम्वन्धी कसर धर्म पुत्र वा धर्म पुत्री 1 घत टमा ० सवारी साधनल गर्न दु! कसुर ० कुनै करार, अर्ध करार, अनुचित त समद्िअन्तर्गतको कनै हक वा दावी ० राष्ट्रिय तथा सार्वजनिक सम्पदा विरुद्धको कसुर « दुष्कृति, अर्ध दुष्कृति वा त्रुटिपूर्ण ” करणीसम्बन्धी कसुर उत्पादनसम्बन्धी हक वा दावी ० चोरी, डाँका, लुटपिट, ठगी, नाप तौलसम्बन्धी ० सुविधाभार, क्षतिपूर्ति र देवानी प्रकृतिको सुर अन्य कुनै विषय ० गोपनीयता र गाली बेइज्जतिसम्बन्धी कसुर ० अपराध संहिता २०७४ को भाग रर ३ मा उल्लिखित सबै अपराधसम्बन्धी कसुरहरू १. मुलुकी देवानी संहिता मुलुकी देवानी संहितामा उल्लेख भएअनुसार मुलुकमा कानुन र व्यवस्था कायम गर्न यो संहिता बनेको हो । यसले सर्वसाधारणको नैतिकता, शिष्टाचार, सदाचार र सुविधा एवम् आर्थिक हित कायम राख्न मदत गर्छ | आर्थिक, सामाजिक र सांस्कृतिक क्षेत्रमा न्यायपूर्ण व्यवस्था कायम गर्न सहयोग गर्छ | विभिन्न जात, जाति वा सम्प्रदायबिचको सुसम्बन्ध कायम राख्नका लागि पनि यसले मार्गदर्शन गर्छ । ३. देवानी संहितामा भएका केही कानुनी प्रावधान देवानी संहिताको सामान्य सिद्धान्त कानुनको अज्ञानता क्षम्य हुने छैन । कानुन सबैले जानेको अनुमान गरिने छ । कसैले पनि सार्वजनिक हित विपरीत हुने गरी कुनै काम कारबाही गर्न पाउने छैन । कानुन विपरीतको काम अमान्य हुने छ । सामाजिक अध्ययन तथा जीवनोपयोगी शिक्षा, कक्षा १२ कुनै काम गर्दा वा गराउँदा कसैको गल्तीले अरूलाई हानि, नोक्सानी हुन गएमा त्यसरी हानि, नोक्सानी भएको क्षतिको दायित्व त्यस्तो गल्ती गर्ने वा गराउने व्यक्तिले व्यहोर्नुपर्ने छ । प्रत्येक व्यक्तिले आफूले गरेको गलत कार्यको परिणाम आफैँले व्यहोर्नुपर्ने छ | कसैले पनि अन्य व्यक्तिलाई दुःख दिने, हैरानी हुने वा निजको इज्जत, प्रतिष्ठा वा सम्पत्तिमा क्षति पुग्ने गरी कुनै काम गर्न वा गराउन हुँदैन । कसैले पनि आफूले गरेको गल्तीबाट भएको फाइदा लिन पाउने छैन । आफ्नो संरक्षकत्व, माथवरी, अधीन वा प्रभावमा रहेको वा प्रभाव पर्न सक्ने व्यक्तिको हितविपरीत गरिएको काम अमान्य हुने छ। प्रत्येक व्यक्तिले अन्य व्यक्तिको व्यक्तित्वलाई स्वीकार गर्नुपर्ने छ । प्रत्येक व्यक्तिले आफू रहे बसेको ठाउँको समुदाय वा छिमेकीलाई हानिनोक्सानी नहुने गरी असल छिमेकीपन कायम गर्नुपर्ने छ । कुनै व्यक्ति उपर फौजदारी कसुरमा मात्र कारबाही चलाएको वा नचलाएको आधारमा त्यस्तो व्यक्तिले कानुनबमोजिमको देवानी दायित्वबाट छुटकारा पाउने छैन । कानुन विपरीतका प्रथा वा परम्परालाई न्यायको रोहवरमा मान्यता दिइने छैन । विषय, प्रसङ्ग वा प्रकृतिले कुनै कानुनी व्यवस्था नेपाली नागरिकलाई मात्र लागु हुने अवस्थामा बाहेक यो संहिता वा देवानी कानुनसम्बन्धी अन्य प्रावधान विदेशीको हकमा पनि समान रूपमा लागु हुने छ। यस देवानी संहिताको भाग २ मा व्यक्तिसम्बन्धी कानुन, भाग ३ मा पारिवारिक कानुन, भाग ४ मा सम्पत्तिसम्बन्धी कानुन, भाग ५ मा करार तथा दायित्वसम्बन्धी कानुन र भाग ६ मा निजी अन्तर्राट्रिय कानुनसम्बन्धी कानुनी व्यवस्था रहेको छ । यी कानुनका केही अंशहरू यसप्रकार रहेका छन् : बिस वर्ष उमेर पुगेपछि मात्र विवाह गर्न पाइने छ । पुरुष र महिला दुवैको मन्जुरी बिना भएको विवाह बदर हुने छ । हाडनाता करणीमा सजाय हुने नाताका व्यक्तिबिच भएको विवाह बदर हुन्छ। कुनै पुरुषसँगको सम्पर्कबाट महिलाले गर्भधारण गरी शिशु जन्मिएको प्रमाणित भएमा त्यस्तो पुरुष र महिलाबिच स्वतः विवाह भएको मानिने छ । तर बहु विवाह भएको, जबरजस्ती करणी भएको, उमेर नपुगी',
    'कहरवा/ख्याली (२/४) यस गीतमा कहरवा तालको प्रयोग चौगुन लयमा गरिएको हुनाले १ मात्रा बजाउदा वा बोल्दा लाग्ने समय अवधि भित्र ४ मात्रालाई एक साथ लिएर बजाउन अथवा बोल्नु पर्ने हुन्छ । यसका लागि तबला वा मादलका एक भन्दा बढी बोल समूहलाई स्वरलिपिमा लेख्दा अर्ध चन्द्रकार भित्र राख्ने गरिन्छ | उदाहरणका लागि (धा 5 धागेनति) । यसमा धा बोल्दा लाग्ने समय र धागेनति बोल्दा वा बजाउदा लाग्ने समय समान हुनु पर्दछ | यसलाई तल उल्लेख गरिएअनुसार गीतको साथमा अभ्यास गर्नुहोस् । | मात्रा । १ २ 3 ४ ५ ६ ७ 5 न का थि जा मादलको घिं - ना ती फत् घिं fe ताङ बोल ant नति नक धिना धागे नति नक घिना धागे नति नक धिना धागे नति नक far बोल घिंश्नाती फतृधिंघिताङ घिंडनाती फतृघिंधिताङ | घिंश्नाती फतृधिंघिताङ घिं$नाती फतृघिंधिताङ बोल _ _— — _ _— — 0 स्वरलिपि — कक्षागत गीत - हत्केलामा माटो राखौँ [स्वर | पन म ग रे - - न म - ग रे सा - - न यसरी नै बाँकी गीतका हरफहरुलाई पनि स्वरलिपिमा मिलाएर गाउदै जानुहोस् । स्वास्थ्य, शारीरिक तथा तिर्जवात्मक कला कक्षा ७ RR (ख) स्थानीय गीत र स्वदेश गान (Local and Petrotic Song) (अ) मालाश्री गीत/ धुन (Malashree Song/Tune) तपाईंहरूले मालाश्री गीत/धुनलाई रेडियो, टेलिभिजन सुन्नु भएको छ होला | यो गीत/धुन विशेष गरी शरद क्रतुको सुरुवातसँगै नेपालीहरूको महान चाड बडादसैँको नवरात्रिको बे लामा गाउने बजाउने गरिन्छ । यसमा देवी भैरवीको स्तुति र वर्णन गरिएको छ 1 तल मालाश्री गीत र त्यसको स्वरलिपि दिइएको छ | स्वरलिपिलाई हेरेर मात्रालाई ख्याल गदैं तबलाको बोलमा बजाउँदै गाउने अश्यास गर्नुहोस् : स्केल Cm ताल - कहरवा/ख्याली ताल/(२/४) यस गीतमा पनि कहरवा तालको प्रयोग चौगुन लयमा गरिएको हुनाले १ मात्रा बजाउँदा वा बोल्दा लाग्ने समय अवधिभित्र ४ मात्रालाई एक साथ लिएर बजाउन अथवा बोल्नुपर्ने हुन्छ । यसका लागि तबला वा मादलका एकभन्दा बढी बोल समूहलाई स्वरलिपिमा लेख्दा अर्ध चन्द्रकार fea राख्ने गरिन्छ, जस्तै उदाहरणका लागि (धा = anata) | यसमा धा बोल्दा लाग्ने समय र धागेनति, बोल्दा वा बजाउँदा लाग्ने ———_L__—"” LD मात्रा १ रे 3 v 4 ६ ७ ० न क घि नता मादलको घिं - ना ती फत् fa fa ताङ बोल ant नति नक धिना धागे नति नक धिना | धागे नति नक धिना धागे नति नक far घिंड्नाती फतृधिंघिताङ घिं$ नाती फतृषिंधिताङ | घिं$नाती फतृघिंघिताङ घिं$नाती फतृषिंधिताङ 0 Re स्वास्थ्य, शारीरिक तथा तिर्जवात्मक कला कक्षा ७ स्वरलिपि - मालाश्री गीत/धुन we | -पप॒पसाँ la fm a प - a wy म ग रेसा [जय | = [=e मम । [जय | समय समान हुनुपर्छ | यसलाई तल उल्लेख गरिएअनुसार गीतको साथमा अभ्यास गर्नुहोस् | जय देवी भैरवी गोरखनाथ, दर्शन दे भवानी हे प्रथम देवी उत्पन्न भई हे, जन्म लिए कैलास हे आउ देवी पाउ छमछम, चौसटठी योगिनी साथ हे (आ) गीत : असारे महिनामा कियाकलाप १२.६ तल एउटा गीत र त्यसको स्वरलिपि दिइएको छ । स्वरलिपिलाई हेरेर मात्रालाई ख्याल गर्दै कहरवा वा सेलो तालमा बजाउँदै गाउने अभ्यास गर्नुहोस् । असारै महिनामा, पानी पस्यो रुझाउने । एक्लो यो मेरो मन, कसरी बुझाउने । भन्थिन है मैच्याङले, रुदै धरर । नौ डाँडा',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

<!--

Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details> -->

<!--

Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details> -->

<!--

Out-of-Scope Use

List how the model may foreseeably be misused and address what users ought not to do with the model. -->

Evaluation

Metrics

Information Retrieval

—Datasets: indic_rag_ne, textbook_qa_nepali, yunika_nepali_qa and nepal_legal_rag_qa
—Evaluated with <code>InformationRetrievalEvaluator</code>

Metric	indic_rag_ne	textbook_qa_nepali	yunika_nepali_qa	nepal_legal_rag_qa
cosine_accuracy@10	0.5978	0.7055	0.9302	0.8252
cosine_precision@10	0.0598	0.0706	0.093	0.0825
cosine_precision@50	0.0143	0.0165	0.02	0.0185
cosine_recall@10	0.5978	0.7055	0.9302	0.8252
cosine_recall@50	0.7136	0.8233	1.0	0.9231
cosine_ndcg@10	0.473	0.5678	0.7866	0.6677
cosine_mrr@10	0.4331	0.5249	0.7395	0.6168
cosine_map@100	0.4393	0.531	0.7427	0.6223

<!--

Bias, Risks and Limitations

What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model. -->

<!--

Recommendations

What are recommendations with respect to the foreseeable issues? For example, filtering explicit content. -->

Training Details

Training Datasets

<details><summary>indicragne</summary>

indicragne

—Dataset: indic_rag_ne at 72117d4
—Size: 50,000 training samples
—Columns: <code>query</code> and <code>document</code>
—Approximate statistics based on the first 1000 samples: | | query | document | |:--------|:-----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------| | type | string | string | | details | <ul><li>min: 6 tokens</li><li>mean: 38.33 tokens</li><li>max: 112 tokens</li></ul> | <ul><li>min: 3 tokens</li><li>mean: 119.86 tokens</li><li>max: 256 tokens</li></ul> |
—Samples: | query | document | |:-----------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>मधुपर्क मासिकको कुन मासिक अंकमा सम्पादक श्रीओम श्रेष्ठ हुन्?</code> | <code>२६. २०७३ फागुन सम्पादक श्रीओम श्रेष्ठ</code> | | <code>इम्प्याक्ट रेस्लिङको मूल कम्पनीलाई कुन कम्पनीद्वारा खरीद गरिएको थियो?</code> | <code>यसको स्थापनादेखि नै यो संयुक्त राज्य अमेरिकामा डब्ल्युडब्ल्युई पछिको सबैभन्दा ठूलो कुस्ती प्रवर्द्धक कम्पनी बनेको छ। सन् २०१४ मा स्पाइकसँग अमेरिकी टेलिभिजन सम्झौता गुमाउनुका साथै मौद्रिक तथा कर्मचारीहरूको मुद्दाको कारणले गर्दा सन् २०१७ मा लामो समयदेखि प्रतिद्वन्द्वी रिङ अफ अनर नामक अर्को कुस्ती प्रवर्द्धक कम्पनी भन्दा पछाडि परेको जनाइएको थियो। सन् २०१९ देखि, स्थायी अन्तर्राष्ट्रिय टेलिभिजन वितरण र यसको मूल कम्पनीलाई एएक्सएस टिभीद्वारा खरीद गरिएको थियो जसले पछि इम्प्याक्टको सम्पूर्ण कार्यक्रमहरू प्रशारण गर्न सुरु गरेको थियो।</code> | | <code>सुरिनाम देशलाई कति प्रशासनिक जिल्लामा विभाजन गरिएको छ?</code> | <code>देशलाई दश प्रशासनिक जिल्लामा विभाजन गरिएको छ, प्रत्येकको अध्यक्षतामा राष्ट्रपतिद्वारा नियुक्त जिल्ला आयुक्त, जसलाई बर्खास्त गर्ने अधिकार पनि छ। सुरिनाम थप ६२ रिसोर्ट मा विभाजित छ।</code> |
—Loss: <code>CachedMultipleNegativesSymmetricRankingLoss</code> with these parameters:

json

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "mini_batch_size": 32
  }

</details> <details><summary>textbookqacontext</summary>

textbookqacontext

—Dataset: textbook_qa_context at 3a8ad3a
—Size: 4,160 training samples
—Columns: <code>query</code> and <code>document</code>
—Approximate statistics based on the first 1000 samples: | | query | document | |:--------|:------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------| | type | string | string | | details | <ul><li>min: 14 tokens</li><li>mean: 70.75 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>min: 87 tokens</li><li>mean: 255.72 tokens</li><li>max: 256 tokens</li></ul> |
—Samples: | query | document | |:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>वाच्य परिवर्तनका नियमहरूको प्रयोग गरी दिदीले आमाबुबालाई स्पष्ट शब्दमा भनेभने वाक्यलाई कर्मवाच्यमा रूपान्तरण गर्नुहोस्।</code> | <code>रूपमा सबैले सम्मान गर्नु ....। १५. दिइएको सन्दर्भ पढ्नुहोस् र निर्देशनअनुसार गर्नुहोस् : दिदीले १२ कक्षा पूरा गरेपश्चात् आमाबुबाले उहाँको विवाह गरिदिने विचार गरिदिनुभयो । दिदीले तत्काल विवाह गर्न अनिच्छा जनाउनुभयो । उहाँले उच्च शिक्षा हासिल गरी शिक्षक बन्ने लक्ष्य लिनुभएको रहेछ । आमाबुबाले चाहिँ उहाँलाई उच्च शिक्षा अध्ययन गर्न अनिच्छा देखाउनुभयो । दिदीले प्रस्टसँग आमाबुबालाई भन्नुभयो, “हजुरहरूले जतिसुकै करकाप गरे पनि अहिले मेरो विवाह गर्ने विचार छैन । विवाहमा लाग्ने रकम मेरो उच्च शिक्षाका लागि लगानी गरिदिनुहोस् ।” दिदीको कुरामा आमाबुबा सहमत हुनुभयो । छेउमा बसेर उहाँहरूका कुराकानी सुनिरहेका राजनले सोचे, “असल भविष्य निर्माणका लागि आफूले सोचेको क्षेत्रमा अगाडि बढ्न कसैले रोक्न नहुने रहेछ |” राजनकी दिदीले जस्तै आफूले इच्छाएका राम्रा काममा कसैले अवरोध गर्न खोजेमा सोप्रति तपाईँ कसरी अनिच्छा व्यक्त गर्नुहुन्छ, कक्षामा सुनाउनुहोस् | भाषिक संरचना र वर्णविन्यास १. दिइएका विषयस्तु पढ्नुहोस् र कक्षामा छलफल गर्नुहोस् : कर्तुवाच्य कर्मवाच्य भाववाच्य (क) सञ्जय तिमीलाई सञ्जयबाट तिमी | (महिमाद्वारा) आज...</code> | | <code>सेल र विद्युतीय परिपथ सम्बन्धी प्रश्न 1. सेलले कुन प्रकारको ऊर्जालाई विद्युतीय ऊर्जामा रूपान्तरण गर्छ ? 2. साधारण सेल (Simple Cell) ले कति समयसम्म विद्युतीय ऊर्जा उत्पादन गर्न सक्छ र यसलाई एक ठाउँबाट अर्को ठाउँमा लैजान के सजिलो छ ? 3. विद्युतीय परिपथमा कुन कुन तत्वहरू हुनु पर्छ र यसलाई कसरी बनाइन्छ ? 4. विद्युतीय स्रोत, सुचालक तार र लोड भनेका के हुन् र यिनीहरूका केही उदाहरणहरू के के हुन् ?</code> | <code>तपाईंले टर्चलाइट, रेडियो आदिमा सेल प्रयोण गरेको देख्नुभरुको छ ? यसले कसरी काम गर्छ होला, छलफल गर्नुहोस् । सेलले रासायनिक शक्तिलाई विद्युत् शक्तिमा रूपान्तरण गर्छ । उक्त विद्युत् शक्तिलाई उपकरणको सहायतामा प्रकाश, ताप, ध्वनि आदि शक्तिमा रूपान्तरण गरिन्छ | विजन तथा प्रविधि कश्षा& १६१ ७ साधारण सेल (Simple Cell) हामीले ड्वाइसेल त देखेकै छौँ | यसको प्रयोग टर्चलाइट, रेडियो, भित्ते घडी आदिमा Tew | के तपाईँले साधारण सेल देख्नुभएको छ ? यसको बनावट कस्तो हुन्छ ? यसले कसरी विद्युत् उत्पादन गर्छ, छलफल INT | सावधानीः साधारण सेलमा सल्फृयुरिक अम्ल (sulphuric acid) को प्रयोग णरिरुकाले शिक्षकको निगरानी र सहयोण बिना यसमा काम गर्नुहुँदैन | रुउटा बिकर वा काँचको णिलास, रुउटा तामाको पाता, रुउटा जस्ता पाता, तामाको तारका दुईओटा टुक्रा, फिक्का सल्फ्युरिक अम्ल र रुउटा टर्चलाइटको बल्ब ल्याउनुहोस् । शिक्षकको निणरानी र सहयोणमा बिकरमा आधाजति फिक्का सल्फ्युरिक अम्ल (dilute sulphuric acid) राख्नुहोस् | अब फिक्का अम्ल राखिरुको बिकरमा रुउटा तामाको पाता र अर्को जस्ताको पाता बल्व स्वीच डुबाउनुहोस् | ती wees सुचालक तारले (A...</code> | | <code>सिमसार पारिस्थितिक प्रणालीले कुन कुन प्रकारका जीवजन्तुलाई वासस्थान प्रदान गर्दछ र यसले कसरी जल परिचालन र शुद्धीकरण प्रक्रिया निरन्तर चलिरहने गर्दछ ?</code> | <code>सेफोक्सुन्डो ताल क्षेत्रमा कुट्की, भ्याकुर, विष, जटामसी, लघुपत्र र हिमाली साग जस्ता वनस्पति तथा पंक्षीमा सुनजुरे हाँस, चखेवा चखेवी, बगाले सिमकुखुरा, मरुल, सिन्दुरे हाँस र खोयाँ हाँस जस्ता जनावरहरू पाइन्छन् | रसुवा जिल्लामा अवस्थित गोसाइकुण्ड ताल क्षेत्रमा १०० प्रजातिका वनस्पति तथा हाब्रे र कस्तूरी मृग जस्ता संरक्षित जनावर आश्रित रहेका छन् । सिमसार पारिस्थितिक प्रणालीको महत्त्व सिमसार पारिस्थितिक प्रणालीमा धेरै सङ्ख्यामा जीवाणु, वनस्पति, कीटपतङगर, उभयचर, घस्रने प्राणी, चरा, माछा र स्तनधारी जीवलाई वासस्थान प्रदान गरेको छ । जलवायु, भौगोलिक स्वरूप र जल परिचालनलगायत Qs वातावरण विज्ञान, कक्षा-१० भौतिक एवम् रासायनिक प्रक्रियाले सिमसारमा जैविक विविधता पाइन्छ । सिमसारभित्र जल परिचालन र शुद्धीकरण प्रक्रिया निरन्तर चलिरहने हुनाले यसलाई प्रकृतिको मिर्गौला पनि भन्ने गरिन्छ । जमिनमा बग्ने सतहको भल सिमसारमा मिसिएपछि त्यसबाट बगाएर ल्याएका पौष्टिक तत्त्वण्समेत सिमसारले सोसेर लिन्छ । त्यसैले सिमसार अत्यन्त उत्पादनशील पारिस्थितिकीय प्रणाली हो । यहाँ पानी शुद्धीकरण हुनुको साथै माछालगायतका जलचरलाई प्रशस्त ...</code> |
—Loss: <code>CachedMultipleNegativesSymmetricRankingLoss</code> with these parameters:

json

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "mini_batch_size": 32
  }

</details> <details><summary>textbookqarephrased</summary>

textbookqarephrased

—Dataset: textbook_qa_rephrased at 3a8ad3a
—Size: 4,160 training samples
—Columns: <code>query</code> and <code>document</code>
—Approximate statistics based on the first 1000 samples: | | query | document | |:--------|:------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------| | type | string | string | | details | <ul><li>min: 14 tokens</li><li>mean: 70.75 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>min: 180 tokens</li><li>mean: 255.81 tokens</li><li>max: 256 tokens</li></ul> |
—Samples: | query | document | |:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>वाच्य परिवर्तनका नियमहरूको प्रयोग गरी दिदीले आमाबुबालाई स्पष्ट शब्दमा भनेभने वाक्यलाई कर्मवाच्यमा रूपान्तरण गर्नुहोस्।</code> | <code>दिदीले १२ कक्षा पूरा गरेपछि आमाबुबाले उनको विवाह गरिदिने विचार गरे। तर दिदीले विवाह गर्न अनिच्छुक भइन् किनभने उनले उच्च शिक्षा हासिल गरेर शिक्षक बन्ने लक्ष्य राखेकी थिइन्। आमाबुबाले भने उनको उच्च शिक्षा अध्ययनमा अनिच्छा देखाए। दिदीले आमाबुबालाई स्पष्ट शब्दमा भनिन्, "तपाईंहरूले जतिसुकै करकाप गरे पनि अहिले मेरो विवाह गर्ने इच्छा छैन। विवाहमा लाग्ने रकम मेरो उच्च शिक्षाका लागि लगानी गरिदिनुहोस्।" दिदीको कुरामा आमाबुबा सहमत भए। यसपछि वाच्य परिवर्तनका नियमहरू दिइएका छन्। कर्तुवाच्यलाई कर्मवाच्यमा परिवर्तन गर्दा कर्तामा 'द्वारा/बाट' विभक्ति थपिन्छ, धातुमा 'ई' प्रत्यय थपेर कर्मअनुसारको लिङ्ग, वचन, पुरुष, आदर मिल्ने प्रत्यय लगाई क्रियापद बनाइन्छ। कर्ममा 'लाई' विभक्ति लागेको छ भने त्यसलाई हटाइन्छ। आज्ञार्थ वा इच्छार्थ वाक्यमा भने कर्म एकवचनमा भए धातुमा 'इयोस्' र बहुवचनमा भए 'इयुन्' प्रत्यय जोडेर क्रियापद बनाइन्छ। क्रियाको काल, पक्ष, भाव, करण, अकरण आदि परिवर्तन गर्न नहुनेछ। कर्तुवाच्यलाई भाववाच्यमा परिवर्तन गर्दा पनि 'म' सर्वनामलाई 'अ' बनाइन्छ, धातुमा 'इ' प्रत्यय थपेर पुलिङ्ग, एकवचन, तृतीय पुर...</code> | | <code>सेल र विद्युतीय परिपथ सम्बन्धी प्रश्न 1. सेलले कुन प्रकारको ऊर्जालाई विद्युतीय ऊर्जामा रूपान्तरण गर्छ ? 2. साधारण सेल (Simple Cell) ले कति समयसम्म विद्युतीय ऊर्जा उत्पादन गर्न सक्छ र यसलाई एक ठाउँबाट अर्को ठाउँमा लैजान के सजिलो छ ? 3. विद्युतीय परिपथमा कुन कुन तत्वहरू हुनु पर्छ र यसलाई कसरी बनाइन्छ ? 4. विद्युतीय स्रोत, सुचालक तार र लोड भनेका के हुन् र यिनीहरूका केही उदाहरणहरू के के हुन् ?</code> | <code>सेलहरू र विद्युतीय परिपथ सेलहरू रासायनिक ऊर्जालाई विद्युतीय ऊर्जामा रूपान्तरण गर्छन्। त्यसपछि त्यस विद्युतीय ऊर्जालाई प्रकाश, ताप, ध्वनि आदि ऊर्जामा रूपान्तरण गर्न सकिन्छ। साधारण सेल (Simple Cell) ले पनि विद्युतीय ऊर्जा उत्पादन गर्छ तर यसले धेरै विद्युतीय ऊर्जा उत्पादन गर्न सक्दैन र लामो समयसम्म प्रयोग गर्न पनि सकिदैन। साधारण सेलमा सल्फ्युरिक अम्ल (sulphuric acid) प्रयोग हुने भएकोले यसलाई सजिलैसँग एक ठाउँबाट अर्को ठाउँमा लैजान सकिन्छ। विद्युतीय परिपथ भनेको विद्युतीय प्रवाह हुने मार्ग हो। यसमा विद्युतीय स्रोत (सेल), सुचालक तार र लोड (बलब) हुनु पर्छ। विद्युतीय स्रोत, सुचालक तार र लोडलाई जोडेर बनाइएको विद्युतीय प्रवाह हुने नियमित मार्गलाई विद्युतीय परिपथ भनिन्छ। ड्राई सेल, फोटोसेल, डाइनामो, जेनेरेटर आदि विद्युतीय स्रोत हुन् भने बत्ती, हिटर, पंखा, रेडियो, टेलिभिजन आदि विद्युतीय उपकरणहरू हुन् जसलाई लोड पनि भनिन्छ। सेल र विद्युतीय परिपथको प्रयोगबाट विद्युतीय ऊर्जा उत्पादन गर्न सकिन्छ र त्यसलाई दैनिक जीवनका विभिन्न कामहरूमा प्रयोग गर्न सकिन्छ।</code> | | <code>सिमसार पारिस्थितिक प्रणालीले कुन कुन प्रकारका जीवजन्तुलाई वासस्थान प्रदान गर्दछ र यसले कसरी जल परिचालन र शुद्धीकरण प्रक्रिया निरन्तर चलिरहने गर्दछ ?</code> | <code>सेफोक्सुन्डो ताल क्षेत्रमा विभिन्न प्रकारका वनस्पति र जनावरहरू पाइन्छन्, जस्तै कुट्की, भ्याकुर, विष, जटामसी, लघुपत्र, हिमाली साग, सुनजुरे हाँस, चखेवा चखेवी, बगाले सिमकुखुरा, मरुल, सिन्दुरे हाँस र खोयाँ हाँस। रसुवा जिल्लाको गोसाइकुण्ड ताल क्षेत्रमा १०० प्रजातिका वनस्पति तथा संरक्षित जनावरहरू जस्तै हाब्रे र कस्तूरी मृग पनि पाइन्छन्। सिमसार पारिस्थितिक प्रणालीले धेरै जीवाणु, वनस्पति, कीटपतङगर, उभयचर, घस्रने प्राणी, चरा, माछा र स्तनधारी जीवलाई वासस्थान प्रदान गर्दछ। जलवायु, भौगोलिक स्वरूप, जल परिचालन र भौतिक एवम् रासायनिक प्रक्रियाहरूले सिमसारमा जैविक विविधता प्रदान गर्दछन्। सिमसारले जल परिचालन र शुद्धीकरण प्रक्रिया निरन्तर चलिरहने हुनाले यसलाई प्रकृतिको मिर्गौला पनि भनिन्छ। सिमसारले जमिनमा बग्ने सतहको पानीबाट पौष्टिक तत्त्वहरू सोसेर लिन्छ, जसले गर्दा यो अत्यन्त उत्पादनशील पारिस्थितिकीय प्रणाली हो। सिमसारले पानी शुद्धीकरण गर्नुका साथै माछा र अन्य जलचरहरूलाई प्रशस्त आहार प्रदान गर्दछ। बाढी आउँदा सिमसारले बाढीको पानी जम्मा गरेर राख्छ, जसले बाढी नियन्त्रणमा मुख्य भूमिका खेल्दछ। सिमसारले वा...</code> |
—Loss: <code>CachedMultipleNegativesSymmetricRankingLoss</code> with these parameters:

json

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "mini_batch_size": 32
  }

</details> <details><summary>yunikanepaliqa</summary>

yunikanepaliqa

—Dataset: yunika_nepali_qa at 2c1c337
—Size: 212 training samples
—Columns: <code>query</code> and <code>document</code>
—Approximate statistics based on the first 212 samples: | | query | document | |:--------|:-----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------| | type | string | string | | details | <ul><li>min: 10 tokens</li><li>mean: 32.51 tokens</li><li>max: 85 tokens</li></ul> | <ul><li>min: 77 tokens</li><li>mean: 221.99 tokens</li><li>max: 256 tokens</li></ul> |
—Samples: | query | document | |:-------------------------------------------------------------------|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>टेलिभिजनमा देखाउने छविहरूको बोर्डर किन काटिएको हुन्छ?</code> | <code>ओभरस्क्यान चलचित्र डिभिडिटमा रूपान्तरण गर्दा सबैभन्दा सामान्य समस्या हो। सामान्य जनतालाई खुशी पार्ने किसिमले धेरै जसो टेलिभिजनहरू बनाइन्छन्। त्यसकारण, तपाईंले टिभीमा देख्नुहुने सबै चीजमा सीमाना काटौती, माथि, तल र छेउहरू हुन्थ्यो। यो छविले पूरै स्क्रिन छोप्दछ भन्ने सुनिश्चित गर्नको लागि बनाइएको हो। त्यसलाई ओभरस्क्यान भनिन्छ। दुर्भाग्यवश, तपाईंले डिभिडि बनाउँदा, यसका बोर्डरहरू पनि सम्भावित रूपमा काटिनेछन् र यदि भिडियोमा उपशीर्षकहरू तल्लो भागको एकदमै नजिक भएमा, तिनीहरूलाई पूर्ण रूपमा देखाइनेछैन।</code> | | <code>दुर्घटनामा कसको मृत्यु भयो ?</code> | <code>इन्डियानापोलिस मोटर स्पिडवेमा दुर्घटनामा परेर 13 वर्षे मोटरसाइकल रेसर पिटर लेन्जको मृत्यु भएको छ। आफ्नो वार्म-अप ल्यापमा हुँदा, लेन्ज आफ्नो बाइकबाट खसे र त्यसपछि रेसर साथी जेभियर जायतले हाने। उनलाई अन-ट्र्याक चिकित्सा कर्मचारीद्वारा तुरून्तै हेरियो र एक स्थानीय अस्पतालमा लगियो जहाँ पछि उनको मृत्यु भयो। जायत दुर्घटनामा चोटरहित थियो।</code> | | <code>बाढीपछि पानीको बहाव कति बढ्यो ?</code> | <code>1963 मा ड्यामको निर्माण भएपछि, नदीभरि विभिन्न पदार्थहरू फैलाउने मौसमी बाढीहरू रोकिएका थिए। तलमर स्यान्डबार तथा समुद्री किनारको सिर्जना गर्न आवश्यक थियो, जसले वन्यजन्तुको आवासका रूपमा काम गर्थ्यो। नतिजास्वरूप, दुई माछा प्रजातिहरू लोप भइसकेका छन् र हम्पब्याक चबसहित अन्य दुई लोपोन्मुख भएका छन्। बाढीपछि पानीको सतह केही फिट मात्रै बढ्ने भए तापनि, अधिकारीहरूले यसलाई बालुवाका बारको बाँध भत्काउनका लागि पर्याप्त हुनेछ भनेर आशा लिएका छन्।</code> |
—Loss: <code>CachedMultipleNegativesSymmetricRankingLoss</code> with these parameters:

json

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "mini_batch_size": 32
  }

</details> <details><summary>nepallegalrag_qa</summary>

nepallegalrag_qa

—Dataset: nepal_legal_rag_qa at ed884c8
—Size: 1,500 training samples
—Columns: <code>query</code> and <code>document</code>
—Approximate statistics based on the first 1000 samples: | | query | document | |:--------|:------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------| | type | string | string | | details | <ul><li>min: 13 tokens</li><li>mean: 41.35 tokens</li><li>max: 143 tokens</li></ul> | <ul><li>min: 82 tokens</li><li>mean: 231.72 tokens</li><li>max: 256 tokens</li></ul> |
—Samples: | query | document | |:---------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>What are the penalties for violating Section 262 by using banned currency?</code> | <code>[Context 1] Law: National Penal (Code) Act, 2017 | Chapter: Chapter-22 Offences Relating to Currency | Section: Section 262 > Section 262: Prohibition of bringing prohibited currency into use: Section 262, Sub-section (1): No person shall bring into use, exchange or possess a currency in use but circulation of which has been banned by order of the competent authority under law, in violation of such order. Section 262, Su... [Context 2] Law: National Penal (Code) Act, 2017 | Chapter: Chapter-22 Offences Relating to Currency | Section: Section 263 > Section 263: Prohibition of burning, tearing, melting bank notes or coins or writing on bank notes: Section 263, Sub-section (1): No person shall, except with the order of the competent authority, burn a coin or bank note tendered as currency or so melt or tear it that it is incapable of being used...</code> | | <code>लगत कट्टा गर्दा रोक्का गरिएको सम्पत्तिको के व्यवस्था छ?</code> | <code>[Context 1] Law: मुलुकी फौजदारी कार्यविधि संहिता, २०७४ | Section: दफा १६० > दफा १६०: लगत कट्टा गर्नु पर्ने: दफा १६०, उपदफा (१): अदालतले दफा १५१ को उपदफा (१) वा (२) बमोजिम खडा भएको लगत देहायको अवस्थामा कारण खुलाई कट्टा गर्नु पर्नेछः- दफा १६०, उपदफा (१), खण्ड (क): कसूरदारले यस परिच्छेद बमोजिम कैद भुक्तान गरेमा, दफा १६०, उपदफा (१), खण्ड (ख): कसूरदारले प्रचलित कानून बमोजिम श्रम... [Context 2] Law: मुलुकी फौजदारी कार्यविधि संहिता, २०७४ | Section: दफा १६० > दफा १६०, उपदफा (२), खण्ड (ख): दश वर्षभन्दा बढी कैद सजाय भएकोमा चालीस वर्ष, दफा १६०, उपदफा (२), खण्ड (ग): पाँच वर्षभन्दा बढी दश वर्षसम्म कैद सजाय भएकोमा तीस वर्ष, दफा १६०, उपदफा (२), खण्ड (घ): एक वर्षभन्दा बढी पाँच वर्षसम्म कैद सजाय भएकोमा बीस वर्ष, दफा १६०, उपदफा (२), खण्ड (ङ): एक वर्षसम्मको कैद सजा...</code> | | <code>What is the role of the Government of Nepal in managing foreign assistance and loans as per the Constitution?</code> | <code>[Context 1] Law: Constitution of Nepal, 2072 (2015) | Part: Part-5 Structure of State and Distribution of State Power | Section: Article 59 > Article 59. Exercise of financial powers: (1) The Federation, State and Local level shall make laws, make annual budget, decisions, formulate and implement policies and plans on any matters related to financial powers within their respective jurisdictions. (2) The Federation may so make necessary po... [Context 2] Law: Constitution of Nepal, 2072 (2015) | Part: Part-5 Structure of State and Distribution of State Power | Section: Article 60 > Article 60. Distribution of sources of revenue: (1) The Federation, State and Local level may impose taxes on matters falling within their respective jurisdiction and collect revenue from these sources. Provided that provisions relating to the imposition of taxes and collection of revenue on matters...</code> |
—Loss: <code>CachedMultipleNegativesSymmetricRankingLoss</code> with these parameters:

json

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "mini_batch_size": 32
  }

</details>

Training Hyperparameters

Non-Default Hyperparameters

—eval_strategy: steps
—per_device_train_batch_size: 64
—gradient_accumulation_steps: 4
—learning_rate: 2e-05
—num_train_epochs: 10
—warmup_ratio: 0.05
—load_best_model_at_end: True
—batch_sampler: no_duplicates

All Hyperparameters

<details><summary>Click to expand</summary>

—overwrite_output_dir: False
—do_predict: False
—eval_strategy: steps
—prediction_loss_only: True
—per_device_train_batch_size: 64
—per_device_eval_batch_size: 8
—per_gpu_train_batch_size: None
—per_gpu_eval_batch_size: None
—gradient_accumulation_steps: 4
—eval_accumulation_steps: None
—torch_empty_cache_steps: None
—learning_rate: 2e-05
—weight_decay: 0.0
—adam_beta1: 0.9
—adam_beta2: 0.999
—adam_epsilon: 1e-08
—max_grad_norm: 1.0
—num_train_epochs: 10
—max_steps: -1
—lr_scheduler_type: linear
—lr_scheduler_kwargs: {}
—warmup_ratio: 0.05
—warmup_steps: 0
—log_level: passive
—log_level_replica: warning
—log_on_each_node: True
—logging_nan_inf_filter: True
—save_safetensors: True
—save_on_each_node: False
—save_only_model: False
—restore_callback_states_from_checkpoint: False
—no_cuda: False
—use_cpu: False
—use_mps_device: False
—seed: 42
—data_seed: None
—jit_mode_eval: False
—use_ipex: False
—bf16: False
—fp16: False
—fp16_opt_level: O1
—half_precision_backend: auto
—bf16_full_eval: False
—fp16_full_eval: False
—tf32: None
—local_rank: 0
—ddp_backend: None
—tpu_num_cores: None
—tpu_metrics_debug: False
—debug: []
—dataloader_drop_last: False
—dataloader_num_workers: 0
—dataloader_prefetch_factor: None
—past_index: -1
—disable_tqdm: False
—remove_unused_columns: True
—label_names: None
—load_best_model_at_end: True
—ignore_data_skip: False
—fsdp: []
—fsdp_min_num_params: 0
—fsdp_config: {'minnumparams': 0, 'xla': False, 'xlafsdpv2': False, 'xlafsdpgrad_ckpt': False}
—fsdp_transformer_layer_cls_to_wrap: None
—accelerator_config: {'splitbatches': False, 'dispatchbatches': None, 'evenbatches': True, 'useseedablesampler': True, 'nonblocking': False, 'gradientaccumulationkwargs': None}
—deepspeed: None
—label_smoothing_factor: 0.0
—optim: adamw_torch
—optim_args: None
—adafactor: False
—group_by_length: False
—length_column_name: length
—ddp_find_unused_parameters: None
—ddp_bucket_cap_mb: None
—ddp_broadcast_buffers: False
—dataloader_pin_memory: True
—dataloader_persistent_workers: False
—skip_memory_metrics: True
—use_legacy_prediction_loop: False
—push_to_hub: False
—resume_from_checkpoint: None
—hub_model_id: None
—hub_strategy: every_save
—hub_private_repo: None
—hub_always_push: False
—hub_revision: None
—gradient_checkpointing: False
—gradient_checkpointing_kwargs: None
—include_inputs_for_metrics: False
—include_for_metrics: []
—eval_do_concat_batches: True
—fp16_backend: auto
—push_to_hub_model_id: None
—push_to_hub_organization: None
—mp_parameters:
—auto_find_batch_size: False
—full_determinism: False
—torchdynamo: None
—ray_scope: last
—ddp_timeout: 1800
—torch_compile: False
—torch_compile_backend: None
—torch_compile_mode: None
—include_tokens_per_second: False
—include_num_input_tokens_seen: False
—neftune_noise_alpha: None
—optim_target_modules: None
—batch_eval_metrics: False
—eval_on_start: False
—use_liger_kernel: False
—liger_kernel_config: None
—eval_use_gather_object: False
—average_tokens_across_devices: False
—prompts: None
—batch_sampler: no_duplicates
—multi_dataset_batch_sampler: proportional

</details>

Training Logs

Epoch	Step	Training Loss	indic_rag_ne_cosine_ndcg@10	textbook_qa_nepali_cosine_ndcg@10	yunika_nepali_qa_cosine_ndcg@10	nepal_legal_rag_qa_cosine_ndcg@10
0.2128	50	1.0766	-	-	-	-
0.4255	100	0.9661	-	-	-	-
0.6383	150	0.9012	-	-	-	-
0.8511	200	0.8192	-	-	-	-
1.0638	250	0.7827	0.4389	0.5282	0.7807	0.6418
1.2766	300	0.7369	-	-	-	-
1.4894	350	0.712	-	-	-	-
1.7021	400	0.7195	-	-	-	-
1.9149	450	0.7212	-	-	-	-
2.1277	500	0.6511	0.4558	0.5469	0.7820	0.6461
2.3404	550	0.6259	-	-	-	-
2.5532	600	0.6672	-	-	-	-
2.7660	650	0.6267	-	-	-	-
2.9787	700	0.6407	-	-	-	-
3.1915	750	0.5772	0.4647	0.5515	0.7759	0.6586
3.4043	800	0.5959	-	-	-	-
3.6170	850	0.5975	-	-	-	-
3.8298	900	0.5802	-	-	-	-
4.0426	950	0.5462	-	-	-	-
4.2553	1000	0.5444	0.4675	0.5588	0.7869	0.6583
4.4681	1050	0.5712	-	-	-	-
4.6809	1100	0.5525	-	-	-	-
4.8936	1150	0.5629	-	-	-	-
5.1064	1200	0.5238	-	-	-	-
5.3191	1250	0.525	0.4704	0.5566	0.7869	0.6569
5.5319	1300	0.5072	-	-	-	-
5.7447	1350	0.5305	-	-	-	-
5.9574	1400	0.5083	-	-	-	-
6.1702	1450	0.4974	-	-	-	-
6.3830	1500	0.4907	0.4705	0.5622	0.7869	0.6660
6.5957	1550	0.5231	-	-	-	-
6.8085	1600	0.4834	-	-	-	-
7.0213	1650	0.5013	-	-	-	-
7.2340	1700	0.4729	-	-	-	-
7.4468	1750	0.4866	0.4711	0.5662	0.7869	0.6682
7.6596	1800	0.4879	-	-	-	-
7.8723	1850	0.5005	-	-	-	-
8.0851	1900	0.4698	-	-	-	-
8.2979	1950	0.4716	-	-	-	-
8.5106	2000	0.4806	0.4722	0.5659	0.7896	0.6695
8.7234	2050	0.4865	-	-	-	-
8.9362	2100	0.4487	-	-	-	-
9.1489	2150	0.4583	-	-	-	-
9.3617	2200	0.48	-	-	-	-
9.5745	2250	0.4556	0.4730	0.5678	0.7866	0.6677
9.7872	2300	0.4643	-	-	-	-
10.0	2350	0.4535	-	-	-	-

—The bold row denotes the saved checkpoint.

Framework Versions

—Python: 3.11.9
—Sentence Transformers: 4.1.0
—Transformers: 4.55.4
—PyTorch: 2.7.1+cu126
—Accelerate: 1.10.0
—Datasets: 4.3.0
—Tokenizers: 0.21.2

Citation

BibTeX

If you use this model, please cite it as:

bibtex

@misc{subedi2026allminilml6v3nepalirag,
  author       = {Subedi, Sanjaya},
  title        = {all-MiniLM-L6-v3-nepali-rag: A Nepali Sentence Transformer for Retrieval-Augmented Generation},
  year         = {2026},
  publisher    = {Hugging Face},
  journal      = {Hugging Face model repository},
  howpublished = {\url{https://huggingface.co/jangedoo/all-MiniLM-L6-v3-nepali-rag}},
  note         = {Fine-tuned Sentence Transformer model for Nepali semantic search and retrieval-augmented generation}
}