CoolFace
Modelpublic

meet5568/bhash_finetune_phaseB

sourceHugging Faceupdated 1mo agoView on Hugging Face
0likes78downloads
Model Card

SentenceTransformer

This is a sentence-transformers model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • —Model Type: Sentence Transformer <!-- - Base model: Unknown -->
  • —Maximum Sequence Length: 400 tokens
  • —Output Dimensionality: 768 dimensions
  • —Similarity Function: Cosine Similarity <!-- - Training Dataset: Unknown --> <!-- - Language: Unknown --> <!-- - License: Unknown -->

Model Sources

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 400, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

bash
pip install -U sentence-transformers

Then you can load this model and run inference.

python
from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("meet5568/bhash_finetune_phaseB")
# Run inference
sentences = [
    'Le Chal Mujhe, Le Chal Mujhe\nKahin Door Yahan Se Door\nYahan Se Door\nKho Jaayenge Phir Kahin\nRou Aayenge Phir Wahin\nAakhein Tujhe Dhoondhe Kahin\nAb Aaja Sata Na, Tu Aaja Sata Na\nTeri Chaahaton Mein Phiroon Baawri\nAye Humnava Tu Khoya Kahan\nAankhein Tujhe Dhoondhe Kahin\nKho Jaayenge Phir Kahin Ro Aayenge Phir Wahin\nLo Chal Pade, Lo Hum Chal Pade\nTere Sang, Tere Sang, Tere Sang\nBhaag Jaayenge Phir Kahin\nLaut Aayenge Phir Wahin.',
    'Woh jab meri rahat ke\nKadam the maaz bhoot\nMere anda yeh samandar\nMeri dhukhoon ka mar hoon\nBarson guzare hai aap\nDil pe nahin aetbaar\nKal joothi meri jawani\nAaj hai kahani\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nAise pighal jaate hai\nMere dil mein samaate hai\nSapne saja jaate hai\nAur jakar paate hai\nZindagi ka yeh safar\nKoi samjhe to nahin\nYehi rasta hai mera\nKoi aata hi nahin\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nEnglish tanslation\nThere was a season when my steps were unwavering\nWithin me was this ocean\nThat would repair and cure me of all my pains\nBut at the passing of time\nI am no longer certain of my hearts integrity\nThe days of my youth\nNow only an abstract memory\nIs my essence just a delusion?\nHow long do I submit to such a night\nWhere dreams are shattered\nAnd mine forsake me\nMy silent cries reveal the stains of my memory\nEverything is fragmented its falling apart\nYet perfectly connected, attached, aligned in my heart\nA collage of hopes I had commissioned from within\nWere denied me and blotted out\nThey cannot understand my lifes journey\nSo I alone must complete it',
    "ਤੇਰੇ ਰੰਗ ਵਿਚ ਰੰਗ ਜਾਵਾਂ मैं अब अभी\nਤੇਰੇ ਸੰਗ ਸੰਗ ਬਹਿ ਜਾਵਾਂ में अब अभी\nसुनूं मैं तू जो फ़रमाए जैसी तेरी मर्ज़ी\nਜਿਸ ਪਾਸੇ ਲੈ ਜਾਏ जैसी तेरी मर्ज़ी\nसपने वही दिखाए जैसी तेरी मर्ज़ी\nमन से जो तू चाहे जैसी तेरी मर्ज़ी\nइश्क वाली अर्जियां मंज़ूर कर ਦੀਆਂ\nਕਰ ਲੇ ਗ਼ੁਸਤਾਖ਼ੀਆਂ, ਕਰ ਲੇ ਮਨਮਰਜ਼ੀਆਂ, ਹਾਏ ਮਨਮਰਜ਼ੀਆਂ\nओहो हाय, मेरे ध्यान में, मेरे ध्यान में\nਹਰ ਵੇਲੇ मेरे ध्यान मे\nਅਹਿਸਾਨ ਵੇ, ਅਹਿਸਾਨ ਵੇ, कैसे भूलूँ एहसान\nक़ुरबान ਵੇ, क़ुरबान ਵੇ, तेरी हस्ती पे क़ुरबान ਵੇ\nअरमान ਵੇ, अरमान ਵੇ, तुझसे ही जुड़े अरमान\nतुझसे ही जुड़े अरमान\nतुझसे ही जुड़े अरमान\nनाज़ तेरे मैं ਉਠਾਵਾਂ जैसी तेरी मर्ज़ी\nਜਦ ਕੇਹ ਦੇ ਮੁਸਕਾਵਾਂ जैसी तेरी मर्ज़ी\nਇਸ਼ਕ 'ਚ ਮੈਂ ਇਤਰਾਵਾਂ जैसी तेरी मर्ज़ी\nਸਜਦਾ ਕਰਦਾ ਜਾਵਾਂ जैसी तेरी मर्ज़ी\nइश्क वाली अर्जियां मंज़ूर कर ਦੀਆਂ\nਕਰ ਲੇ ਗ਼ੁਸਤਾਖ਼ੀਆਂ, ਕਰ ਲੇ ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ, ਮਨਮਰਜ਼ੀਆਂ",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

<!--

Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details> -->

<!--

Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details> -->

<!--

Out-of-Scope Use

List how the model may foreseeably be misused and address what users ought not to do with the model. -->

<!--

Bias, Risks and Limitations

What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model. -->

<!--

Recommendations

What are recommendations with respect to the foreseeable issues? For example, filtering explicit content. -->

Training Details

Training Dataset

Unnamed Dataset
  • —Size: 3,200 training samples
  • —Columns: <code>sentence0</code>, <code>sentence1</code>, and <code>sentence_2</code>
  • —Approximate statistics based on the first 1000 samples: | | sentence0 | sentence1 | sentence_2 | |:--------|:-------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------| | type | string | string | string | | details | <ul><li>min: 22 tokens</li><li>mean: 303.12 tokens</li><li>max: 400 tokens</li></ul> | <ul><li>min: 42 tokens</li><li>mean: 310.03 tokens</li><li>max: 400 tokens</li></ul> | <ul><li>min: 30 tokens</li><li>mean: 307.95 tokens</li><li>max: 400 tokens</li></ul> |
  • —Samples: | sentence0 | sentence1 | sentence_2 | |:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>मेहँदी लगी थी, दुल्हन सजी थी<br>मेहँदी लगेगी, दुल्हन सजेगी<br>आँसू छुपा के तेरा भाई हँसेगा<br>डोली को काँधा देगा और ये कहेगा<br>"तेरे साथ हूँ मैं, तेरे साथ हूँ मैं<br>तेरे साथ हूँ मैं, तेरे साथ हूँ मैं"<br>वो भोले-भाले से खिलौने बुलाएँ<br>आ, गुड़िया की फिर शादी रचाएँ<br>बचपन की बातें यादों में आएँ<br>बेफ़िक्रियों के मौसम बताएँ<br>बचपन की बातें यादों में आएँ<br>बेफ़िक्रियों के मौसम बताएँ<br>मेहँदी लगी थी, दुल्हन सजी थी<br>मेहँदी लगेगी, दुल्हन सजेगी<br>आँसू छुपा के तेरा भाई हँसेगा<br>डोली को काँधा देगा और ये कहेगा<br>"तेरे साथ हूँ मैं, तेरे साथ हूँ मैं<br>तेरे साथ हूँ मैं, तेरे साथ हूँ मैं"<br>सर्दियों की वो छत देगी गवाही<br>ज़्यादा थीं मस्तियाँ, थोड़ी पढ़ाई<br>रूठना, रूठ के फिर मान जाना<br>प्यार था, प्यार में मीठी लड़ाई<br>ऐसा लगे है जैसे बातें हैं ये तो कल की<br>सीखी क्यूँ जाने हमने इतनी बातें अकल की<br>नासमझियों को आजा फिर से बुलाएँ<br>बचपन के बीते दिन वो आ ढूँढ लाएँ<br>तेरे साथ हूँ मैं, तेरे साथ हूँ मैं<br>तेरे साथ हूँ मैं, तेरे साथ हूँ मैं<br>होश था ना कोई, ना था ठिकाना<br>खेल थे सच सभी, झूठ था ज़माना<br>फ़र्क़ था ना कोई, ना कोई दूरी<br>रोने का, हँसने का एक था बहाना<br>काग़ज़ पे चेहरा मेर...</code> | <code>हो उमड़-घुमड़ कर आई रे घटा<br>कारे-कारे बदरा की छाई-छाई रे घटा<br>जब सनन पवन को लगा तीर<br>बादल को चीर निकला रे नीर<br>झर-झर झर-झर अब धार झरे<br>ओ धरती जल से माँग भरे<br>ओ उमड़-घुमड़ कर<br>नन्हीं-नन्हीं बूँदनियों की खनन-खनन खन खन्जरी<br>बजाती आई बजाती आई देखो भाई बरखा दुल्हनिया<br>छुक-छुक छुक-छुक सैंया<br>आज डारूँ तोरे गलवा में बैंया<br>मैं तो नाचूँ तेरे संग-संग सैंया हो सैंया हो सैंया<br>हो सावन का सन्देसा लेकर निकली जोगन घर से<br>जो कोई इसके प्यार को तरसे वहीं नवेली बरसे<br>कारे-कारे बादरवा की झनन-झनन झन झाँझरी<br>बजाती आई है देखो भाई बरखा दुल्हनिया<br>हो उमड़-घुमड़ कर<br>मीठी-मीठी मस्त पवन की सनन-सनन सन बाँसुरी<br>बजाती आई देखो भाई बरखा दुल्हनिया<br>हरी-हरी चुनरी साजे कलियों का कँगना बाजे<br>देख के अपनी बरखा रानी की मीठी मुस्कान रे<br>सावन के दूल्हे की चमक उठी शान रे<br>गोरी-गोरी बिजुरिया की चमक-चमक चम पंखड़ी<br>चमकाती आई देखो भाई बरखा दुल्हनिया<br>हो उमड़-घुमड़ कर<br>रंग-बिरंगी झोली भरके भरन-भरन भण्डार रे<br>लुटाती आई देखो भाई बरखा दुल्हनिया<br>धरती ने गठरी खोली<br>भरी-भरी अपनी झोली अनमोली भैया<br>खेलो-खेलो ख़ुशियों की होली हो होली हो होली<br>धन-धन हमरी धरती<br>सबके जीवन के ये अधूरे...</code> | <code>आज हमने सबक़ वो पढ़ डाला<br>जिसको दुनिया "किताब" कहती है<br>और एक ऐसा काम कर डाला<br>जिसको दुनिया "हिसाब" कहती है<br>कभी कुछ खोया, कभी कुछ पाया<br>कभी कुछ खोया, कभी कुछ पाया<br>कभी कुछ खोया, कभी कुछ पाया<br>जब पा लिया, ख़ुश हो गए<br>जब खो दिया, दिल रो दिया<br>इसी खोने-पाने का नाम "ज़िंदगी" है<br>बिना खोए-पाए नाकाम ज़िंदगी है<br>कभी कुछ खोया, कभी कुछ पाया<br>कभी कुछ खोया, कभी कुछ पाया<br>जब पा लिया, ख़ुश हो गए<br>जब खो दिया, दिल रो दिया<br>इसी खोने-पाने का नाम "ज़िंदगी" है<br>बिना खोए-पाए नाकाम ज़िंदगी है<br>कभी कुछ खोया, कभी कुछ पाया<br>ज़माने ने जो कुछ भी हमको दिया<br>सर आँखों पे हमने उसे रख लिया<br>कभी ये ना सोचा, बुरा कि भला<br>सदा ख़ुश रहें सब, यही है दुआ<br>वही हमने काटा, जो हमने था बोया<br>जब पा लिया, ख़ुश हो गए<br>जब खो दिया, दिल रो दिया<br>इसी खोने-पाने का नाम "ज़िंदगी" है<br>बिना खोए-पाए नाकाम ज़िंदगी है<br>कभी कुछ खोया, कभी कुछ पाया<br>मेरा हमसफ़र भी कहीं खो गया<br>बताओ, भला हम करें भी तो क्या?<br>कोई हमसे आके ज़रा सीख ले<br>है मर-मर के जीने में कैसा मज़ा<br>वही हमने काटा, जो हमने था बोया<br>जब पा लिया, ख़ुश हो गए<br>जब खो दिया, दिल रो दिया<br>इसी खोने-पाने का नाम "ज़िंदगी" है<br>ब...</code> | | <code>Ye din kyun nikalataa hai?<br>Ye raat kyun hotee hai?<br>Ye peed kahaan se uthati hai?<br>Ye aankh kyun roti hai?<br>Mohabbat hai kya chiz<br>Mohabbat hai kya chiz, hamko batao<br>Mohabbat hai kya chiz, hamko batao<br>Mohabbat hai kya chiz, hamko batao<br>Ye kisne shuru kee, hamein bhee sunaao<br>Mohabbat hai kya chiz<br>Mohabbat hai kya chiz<br>Shaam tak tha ek bhanvaraa phool par mandla raha<br>Raat hone par kamal kee pankhadi mein band tha<br>Qaid se chhootaa subah, to hamne poocha kya hua<br>Kuch naa bola, apanee dhun mein bas yahi gaata raha<br>Mohabbat hai kya chiz, hamko batao<br>Ye kisne shuru kee, hamein bhee sunaao<br>Mohabbat hai kya chiz<br>Mohabbat hai kya chiz<br>Dahakta hai badan kaise, sulagati hain ye saansein kyun?<br>Ye kaisee aag hotee hai, pighlatee hai ye shammaa kyun?<br>Dahakta hai badan kaise, sulagati hain ye saansein kyun?<br>Ye kaisee aag hotee hai, pighlatee hai ye shammaa kyun?<br>Jal uthi shammaa to machal kar, parvaanaa aa gaya<br>Aag ke daaman mein apanae-aapako lipataa diya<br>Hamne poocha duusare kee aag mein rakhaa hai kya<br>...</code> | <code>Jise zindagi dhoondh rahi hai<br>Kya yeh woh maqaam mera hai?<br>Yahaan chain se bas ruk jaaun<br>Kyun dil yeh mujhe kehta hai?<br>Jazbaat naye se mile hain<br>Jaane kya asar yeh hua hai<br>Ik aas mili phir mujhko<br>Jo qubool kisi ne kiya hai<br>Haan, kisi shayar ki ghazal jo de rooh ko sukoon ke pal<br>Koi mujhko yoon mila hai jaise banjaare ko ghar<br>Naye mausam ki seher, ya sard mein dopeher<br>Koi mujhko yoon mila hai jaise banjaare ko ghar<br>♪<br>Jaise koi kinaara deta ho sahara<br>Mujhe woh mila kisi mod par<br>Koi raat ka taara karta ho ujaala<br>Waise hi roshan kare woh sheher<br>Dard mere woh bhula hi gaya, kuch aisa asar hua<br>Jeena mujhe phir se woh sikha raha<br>Hmm, jaise baarish kar de tar, ya marham dard par<br>Koi mujhko yoon mila hai jaise banjaare ko ghar<br>Naye mausam ki seher, ya sard mein dopeher<br>Koi mujhko yoon mila hai jaise banjaare ko ghar<br>♪<br>Muskaata yeh chehra deta hai jo pehra<br>Jaane chhupaata kya dil ka samundar<br>Auron ko toh har-dum saaya deta hai<br>Woh dhoop mein hai khada khud magar<br>Chot lagi hai usey, phir kyun meh...</code> | <code>तुम बिन मुझे मैं जीने ना दूँ<br>होना मेरा मैं होने ना दूँ<br>इस पल तू अभी मिल जाए<br>या कल की सुबह ना आए<br>चली आ, चली आ<br>चली आ, चली आ<br>चली आ, चली आ<br>चली आ, चली आ<br>तुम बिन मुझे मैं जीने ना दूँ<br>होना मेरा मैं होने ना दूँ<br>रूठा-रूठा प्यार मेरा है<br>दिल में घना सा अँधेरा है<br>अरे, आ, चली आ, चली आ<br>किया ज़िंदगी ने इशारा है<br>तू ही जीने का सहारा है<br>अरे, आ, चली आ, चली आ<br>इस आँसू को मैं चुप होने ना दूँ<br>दिल के दर्द को कम होने ना दूँ<br>तू यहीं बस अभी लौट आए<br>या जान ये मेरी मर जाए<br>चली आ, चली आ<br>चली आ, चली आ<br>चली आ, चली आ<br>चली आ, चली आ</code> | | <code>तेरे होंठों से अच्छा लगता है मुझे कहलाना<br>ओ, ज़ालिमा, ओ, ज़ालिमा<br>फ़रमाइश मेरी मान लेना, फिर ज़रा दोहराना<br>ओ, ज़ालिमा, हो, ज़ालिमा<br>हाँ, तेरे होंठों से अच्छा लगता है मुझे कहलाना<br>ओ, ज़ालिमा, हो, ज़ालिमा<br>फ़रमाइश मेरी मान लेना, फिर ज़रा दोहराना<br>ओ, ज़ालिमा, ओ, ज़ालिमा<br>दो दिन की नहीं थी ये दिल्लगी<br>अपना सिलसिला पुराना हुआ<br>कोई दूसरा मुझ पे ना हुआ<br>एक तू जिस तरह दीवाना हुआ<br>मैं सबकुछ तेरे नाम कर दूँ, एक बार बुलाना<br>ओ, ज़ालिमा, ओ, ज़ालिमा (ज़ालिमा)<br>साँसों में तेरी नज़दीकियों का इत्र तू घोल दे, घोल दे<br>मैं ही क्यूँ इश्क़ ज़ाहिर करूँ? तू भी कभी बोल दे, बोल दे<br>बाँहों से रहे दो पल दूर तो<br>मुझ को यूँ लगे, ज़माना हुआ<br>सीने से मेरे लग भी जा ज़रा<br>काफ़ी रूठना-मनाना हुआ<br>मेरे गालों पे उँगलियों से आ ज़रा लिख जाना<br>ओ, ज़ालिमा, ओ, ज़ालिमा<br>हाँ, तेरे होंठों से अच्छा लगता है मुझे कहलाना<br>ओ, ज़ालिमा, ओ, ज़ालिमा<br>ओ, ज़ालिमा (ज़ालिमा, ज़ालिमा)</code> | <code>Chahat ki barish itni<br>Saanson ki khushboo ghuli<br>Mehki fizaayein, bheegi palak<br>Thehar, thehar.<br>Itna na dil tu dhadak<br>Itna na dil tu dhadak<br>O. Itna na dil tu dhadak<br>Mmm. Itna na dil tu dhadak<br>Mmm.<br>Honthon se behki hain<br>Seene mein bhadki<br>Soyi chahat jo meri<br>Thehre haa bahon mein<br>Utre ho dil se<br>Jaise raahot ho meri<br>Neeche samandar, upar falak<br>Thehar, thehar.<br>Itna na dil tu dhadak<br>Mmm. Itna na dil tu dhadak<br>O. Itna na dil tu dhadak<br>Mmm. Itna dil tu dhadak<br>Mmm.</code> | <code>ख़ुद ही दिल का रोग लगाये<br>ख़ुद ही बैठा रोये<br>नैना रे नैना, तुझसे बुरा ना कोय<br>नैना रे, तू ही बुरा तू ही बुरा<br>तुझसे बुरा ना कोय<br>ख़ुद ही दिल का रोग लगाये<br>ख़ुद ही बैठा रोये<br>नैना रे तुझसे बुरा ना कोय<br>नैना रे, तू ही बुरा तू ही बुरा<br>तुझसे बुरा ना कोय<br>नैना रे<br>सबकी प्रेम कहानियाँ दिल की बेचैनियाँ<br>तू ही शुरू करवाये<br>ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये<br>नैना रे नैना तुझसे बुरा न कोय<br>नैना रे नैना तुझसे बुरा न कोय<br>ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये<br>नैना रे नैना<br>आँसू बन के छलका जाए, दिल का पैमाना<br>इश्क़ में है इतने सदमें, दिल ने ना जाना<br>अब इक पल की भी दूरियाँ, मुझसे सही जाए ना<br>दर्द भरी तन्हाईयाँ, मुझसे सही जाए ना<br>नैना रे तू ही बुरा तू ही बुरा<br>तुझसे बुरा ना कोय<br>ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये<br>नैना रे नैना<br>टूटे सपनें बिखरा अरमाँ, क्या हुआ हासिल<br>बेबसी का छाया आलम, क्या करे ये दिल<br>काटे कटे ना रतियाँ, मुश्किल जुदाई भरी<br>याद आये बीती बतियाँ, लागे युगों सी घड़ी<br>नैना रे तू ही बुरा तू ही बुरा<br>तुझसे बुरा ना कोय<br>ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये<br>नैना रे नैना</code> |
  • —Loss: <code>TripletLoss</code> with these parameters:
json
  {
      "distance_metric": "TripletDistanceMetric.EUCLIDEAN",
      "triplet_margin": 0.5
  }

Training Hyperparameters

Non-Default Hyperparameters
  • —per_device_train_batch_size: 4
  • —per_device_eval_batch_size: 4
  • —num_train_epochs: 5
  • —fp16: True
  • —multi_dataset_batch_sampler: round_robin
All Hyperparameters

<details><summary>Click to expand</summary>

  • —overwrite_output_dir: False
  • —do_predict: False
  • —eval_strategy: no
  • —prediction_loss_only: True
  • —per_device_train_batch_size: 4
  • —per_device_eval_batch_size: 4
  • —per_gpu_train_batch_size: None
  • —per_gpu_eval_batch_size: None
  • —gradient_accumulation_steps: 1
  • —eval_accumulation_steps: None
  • —torch_empty_cache_steps: None
  • —learning_rate: 5e-05
  • —weight_decay: 0.0
  • —adam_beta1: 0.9
  • —adam_beta2: 0.999
  • —adam_epsilon: 1e-08
  • —max_grad_norm: 1
  • —num_train_epochs: 5
  • —max_steps: -1
  • —lr_scheduler_type: linear
  • —lr_scheduler_kwargs: {}
  • —warmup_ratio: 0.0
  • —warmup_steps: 0
  • —log_level: passive
  • —log_level_replica: warning
  • —log_on_each_node: True
  • —logging_nan_inf_filter: True
  • —save_safetensors: True
  • —save_on_each_node: False
  • —save_only_model: False
  • —restore_callback_states_from_checkpoint: False
  • —no_cuda: False
  • —use_cpu: False
  • —use_mps_device: False
  • —seed: 42
  • —data_seed: None
  • —jit_mode_eval: False
  • —use_ipex: False
  • —bf16: False
  • —fp16: True
  • —fp16_opt_level: O1
  • —half_precision_backend: auto
  • —bf16_full_eval: False
  • —fp16_full_eval: False
  • —tf32: None
  • —local_rank: 0
  • —ddp_backend: None
  • —tpu_num_cores: None
  • —tpu_metrics_debug: False
  • —debug: []
  • —dataloader_drop_last: False
  • —dataloader_num_workers: 0
  • —dataloader_prefetch_factor: None
  • —past_index: -1
  • —disable_tqdm: False
  • —remove_unused_columns: True
  • —label_names: None
  • —load_best_model_at_end: False
  • —ignore_data_skip: False
  • —fsdp: []
  • —fsdp_min_num_params: 0
  • —fsdp_config: {'minnumparams': 0, 'xla': False, 'xlafsdpv2': False, 'xlafsdpgrad_ckpt': False}
  • —fsdp_transformer_layer_cls_to_wrap: None
  • —accelerator_config: {'splitbatches': False, 'dispatchbatches': None, 'evenbatches': True, 'useseedablesampler': True, 'nonblocking': False, 'gradientaccumulationkwargs': None}
  • —deepspeed: None
  • —label_smoothing_factor: 0.0
  • —optim: adamw_torch
  • —optim_args: None
  • —adafactor: False
  • —group_by_length: False
  • —length_column_name: length
  • —ddp_find_unused_parameters: None
  • —ddp_bucket_cap_mb: None
  • —ddp_broadcast_buffers: False
  • —dataloader_pin_memory: True
  • —dataloader_persistent_workers: False
  • —skip_memory_metrics: True
  • —use_legacy_prediction_loop: False
  • —push_to_hub: False
  • —resume_from_checkpoint: None
  • —hub_model_id: None
  • —hub_strategy: every_save
  • —hub_private_repo: False
  • —hub_always_push: False
  • —gradient_checkpointing: False
  • —gradient_checkpointing_kwargs: None
  • —include_inputs_for_metrics: False
  • —eval_do_concat_batches: True
  • —fp16_backend: auto
  • —push_to_hub_model_id: None
  • —push_to_hub_organization: None
  • —mp_parameters:
  • —auto_find_batch_size: False
  • —full_determinism: False
  • —torchdynamo: None
  • —ray_scope: last
  • —ddp_timeout: 1800
  • —torch_compile: False
  • —torch_compile_backend: None
  • —torch_compile_mode: None
  • —dispatch_batches: None
  • —split_batches: None
  • —include_tokens_per_second: False
  • —include_num_input_tokens_seen: False
  • —neftune_noise_alpha: None
  • —optim_target_modules: None
  • —batch_eval_metrics: False
  • —eval_on_start: False
  • —use_liger_kernel: False
  • —eval_use_gather_object: False
  • —prompts: None
  • —batch_sampler: batch_sampler
  • —multi_dataset_batch_sampler: round_robin

</details>

Training Logs

EpochStepTraining Loss
0.6255000.4831
1.2510000.4388
1.87515000.372
2.520000.2571
3.12525000.2126
3.7530000.1386
4.37535000.1184
5.040000.0845

Framework Versions

  • —Python: 3.10.12
  • —Sentence Transformers: 3.3.1
  • —Transformers: 4.45.2
  • —PyTorch: 2.11.0+cu128
  • —Accelerate: 1.14.0
  • —Datasets: 5.0.1
  • —Tokenizers: 0.20.3

Citation

BibTeX

Sentence Transformers
bibtex
@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}
TripletLoss
bibtex
@misc{hermans2017defense,
    title={In Defense of the Triplet Loss for Person Re-Identification},
    author={Alexander Hermans and Lucas Beyer and Bastian Leibe},
    year={2017},
    eprint={1703.07737},
    archivePrefix={arXiv},
    primaryClass={cs.CV}
}

<!--

Glossary

Clearly define terms in order to be accessible across audiences. -->

<!--

Model Card Authors

Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction. -->

<!--

Model Card Contact

Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors. -->