CoolFace
Modelpublic

thivy/splade-multilingual-norwegian-health-merged-v3

sourceHugging Faceapache-2.0updated 3mo agoView on Hugging Face
0likes
Model Card

SPLADE multilingual fine-tuned on Norwegian health triplets (merged-v3)

This is a Asymmetric Inference-free SPLADE Sparse Encoder model finetuned from opensearch-project/opensearch-neural-sparse-encoding-multilingual-v1 on the eti-embedding-training-data-2048-triplets-merged-v3 dataset using the sentence-transformers library. It maps sentences & paragraphs to a 105879-dimensional sparse vector space and can be used for semantic search and sparse retrieval.

Model Details

Model Description

Model Sources

Full Model Architecture

SparseEncoder(
  (0): Router(
    (sub_modules): ModuleDict(
      (query): Sequential(
        (0): SparseStaticEmbedding({'frozen': True}, dim=105879, tokenizer=BertTokenizerFast)
      )
      (document): Sequential(
        (0): MLMTransformer({'max_seq_length': 512, 'do_lower_case': False, 'architecture': 'BertForMaskedLM'})
        (1): SpladePooling({'pooling_strategy': 'max', 'activation_function': 'relu', 'word_embedding_dimension': 105879})
      )
    )
  )
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

bash
pip install -U sentence-transformers

Then you can load this model and run inference.

python
from sentence_transformers import SparseEncoder

# Download from the 🤗 Hub
model = SparseEncoder("thivy/splade-multilingual-norwegian-health-merged-v3")
# Run inference
queries = [
    "- Hvilke typer aktiviteter kan v\u00e6re nyttige for barn med VCFS for \u00e5 fremme utvikling?",
]
documents = [
    '# Tilrettelegging for læring\n\n##### **Kognitiv funksjon og læring**\n\nMange med VCFS har en ujevn kognitiv profil med vansker innen enkelte områder. De kan ha redusert evne til å tolke synsinntrykk og har ofte nonverbale lærevansker (NVL). NVL kan påvirke berørings- og synsoppfatning, rom-/retningssans og sansemotorisk integrasjon samt flere andre kognitive funksjoner som har stor betydning for mestring av nye eller uventede situasjoner. Konsentrasjons- og oppmerksomhetsvansker  og vansker med teoretisk og abstrakt tenkning kan i skolesammenheng gi økt behov for tilrettelegging. Problemer med planlegging, komme i gang med og utføre oppgaver, er ofte områder som krever oppfølging i barnehage og skole.\n\nTil tross for økt risiko for vansker på ulike områder, er det stor variasjon innen gruppen med personer med VCFS. Enkelte har ikke lærevansker og har ikke behov for tilrettelegging i barnehage og skole. Frambu kjenner til personer med VCFS med høyere utdanning.\n\n##### **Kommunikasjon og språk**\n\nVerbalspåket er ofte forsinket i tidlig barnealder, og det er vanlig med alternativ og supplerende kommunikasjon før verbalspråket viser en god utvikling. Ved skolestart kan barna vise relativt gode språklige ferdigheter i form av adekvat lydering og godt språklig minne. De kan følge en vanlig utvikling innen leseopplæringen. Etter hvert som kravene øker, vil mange kunne slite med innholdsforståelsen. Mange med VCFS har lite mimikk, og dette kan bidra til usikkerhet ved kommunikasjon.\n\n##### **Sosial og emosjonell utvikling**\n\nBarn og ungdommer med VCFS kan være mer utrygge i sosiale sammenhenger og kan ha behov for skjerming fra større grupper, deler av skolehverdagen. De kan være sårbare for sanseinntrykk og kan lett bli overstimulert i krevende miljøer. Enkelte kan vise tegn på mistrivsel og ha behov for å isolere seg.\n\nBarnehage og skole bør ha et tett samarbeid med foreldre for lettere å kunne avdekke mistrivsel og utrygghet. Barn og ungdom med VCFS er ofte avhengig av trygge voksenpersoner som kan være en støtte ved behov og som kan bidra til at de kan takle utfordringer i hverdagen.\n\n##### **Kartlegging**\n\nKartlegging av språk og kognitiv funksjon kan bidra til riktig forståelse av funksjonsnivå og behov for tilrettelegging. Symptomer som gir mistanke om ADHD/ADD eller autismespekterforstyrrelser bør følges opp med utredning og tiltak.\n\n*Faglig oppdatert 19.03.2020*',
    "For eksempel kan de ta kontakt med andre på en måte som kan oppfattes som klossete og upassende (5 ) . Fordi de er glade og positive, kan de let t få en maskotrolle i gruppa . Det er ikke heldig , da det kan innebære de blir møtt med for lave forventninger. Videre vil g ode rollemodeller være viktig, de har lett for å ta etter andres adferd\n\nSosiale ferdigheter må læres og trenes jevnlig hele livet. Hos førskolebarn og elever bør sosial trening være en del av kartlegging og opplæringsplan e n . Start tidlig med samværsregler som handler om hvem en hilser på og hvem en viser nærhet, når det passer og hvor ofte. Alle barn og voksne som er sammen med dem , må minnes på å holde samværsreglene. En må også sørge for at personen med W illiams' syndrom ikke føler seg avvist, men får dekket sine behov for nærhet og trygghet. Å lære om egen kropp, sette egne grenser og respektere andres bør stå på planen gjennom hele livet.\n\nOgså i sosiale medier kan de sosiale kodene være vanskelige å forstå. Av den grunn er det viktig å ha jevnlig f okus på og opplæring i bruk av sosiale medier. Som andre er de glade i likes og ønsker seg mange venner eller følgere, men har ofte dårligere forståelse av hvor grensene går og hva som ligger bak kommunikasjonen . De kan være ukritiske i forhold til hvem de kommer i kontakt med og hva de selv publiserer (6) . Les mer om sosiale medier og nett vett h os [Buf dir o](https://bufdir.no/Bibliotek/Dokumentside/?docId=BUF00003828) g [Redd Barna.](https://www.reddbarna.no/vaart-arbeid/barn-i-norge/nettvett?gclid=EAIaIQobChMIsKuOq5i46AIVBeAYCh0FaQ6cEAAYASAAEgKZ5vD_BwE)\n\n## **Musikk**\n\nPersoner med W illiams ' syndrom er ofte glade i sang og musikk. Det henger sannsynligvis sammen med godt utviklet auditiv persepsjon. De er samtidig ømfintlige for lyd og kan lett bli engstelige ved spesielle lyder (1). De kan likevel tåle ganske høye lyder om de selv er med på å lage dem. Det er fint å bruke musikk som motivasjonsfaktor.\n\n## **Fysisk aktivitet**\n\nBarn med W illiams ' syndrom er forsinket i sin motoriske utvikling, både grov- og finmotorisk. De er også sansemotorisk svake. De aller fleste har behov for oppfølging av fysioterapeut (2). Fysioterapeuten kan også veilede og gi råd til skolen.\n\nPersoner med W illiams' syndrom har behov for å være i daglig fysisk aktivitet. Noen er glad i aktivitet, men å være i en gymsal/idrettshall med mange høye , påtrengende lyder og mye aktivitet kan lett bli for mye. De kan lett bli overstimulert, engstelige og kan ha behov for skjerming. L es mer om motorisk utvikling og fysisk aktivitet under menypunktet om fysioterapi.\n\n## **Tilrettelegging for læring og utvikling**\n\nFor å skape tilstrekkelig trygghet for personer med W illiams ' syndrom er det helt nødvendig med faste rutiner, struktur og forutsigbarhet. Uforutsette endringer og brudd i rutinene kan skape engstelse og usikkerhet . D e er avhengig av faste og trygge voksenpersoner som hjelper dem med å organisere og strukturere dagen . Konsentrasjons- og oppmerksomhetsvansker gjør at de har behov for hjelp til å komme i gang og å holde fokus underveis . Både fysisk miljø og opplæringsmateriell bør være ryddig og oversiktlig, med så få forstyrrelser som mulig både visuelt og auditivt.\n\nS å mye som mulig av undervisningen bør skje gjennom praktiske oppgaver og i naturlige situasjoner. Kunnskap som ikke kan forankres i det praktiske kan lett bli borte.\n\nMange med W illiams' syndrom lærer mest effektivt ved å snakke seg gjennom arbeidsoppgavene eller hendelser. Dette gjelder alt fra matematikkoppgaver til praktiske kunst- og håndverksoppgaver eller til sosial læring. Det er studier som viser at personer med W illiams' syndrom profiterer på korte arbeidsøkter og hyppige pauser . Det har virket positivt med tanke på konsentrasjonsspenn , hukommelse og styrking av innlæring . For litt eldre barn kan det se ut som m odell - læring, det å få observere andre, fungerer godt (1) . Flere forholder seg godt til konsekvente og konkrete regler og avtaler .\n\nFor noen år siden var det vanlig å tenke at personer med Williams ' syndrom ikke kunne lære å lese og skrive, men Frambu til kjenner mange som har lært seg dette i ulik grad. Vansker med visuell persepsjon gjør det utfordrende å lære, huske og gjengi bokstaver og tall. H åndskrift kan være vanskelig og slits omt når en strever med finmotorikk . For de fleste bør derfor s krivetrening begrenses til et minimum. Bruk heller digitale hjelpemidler til skrivetrening. Videre vil tidlig systematisk stimulering av fonetisk bevissthet og vekt på fonetisk lesing anbefales framfor helordslesing. Fonetisk lesing tar i bruk auditive strategier, mens helordslesing handler om å gjenkjenne ordbilder visuelt (3).\n\nLes mer om utviklingshemming og tilrettelegging hos [STATPED](https://www.statped.no/utviklingshemming/) (Statlig spesialpedagogisk tjeneste).\n\n[L es mer på Frambus temasider om muligheter og rettigheter i utdanningen](https://frambu.no/tema/overgangen-til-skole-spesialpedagogiske-rettigheter-og-muligheter/)\n\n| Personer med Williams' syndrom er svært glad i  sosial kontakt, men strever ofte med sosial  forståelse. Øv på sosial kompetanse.   |\n|-------------------------------------------------------------------------------------------------------------------------------------|\n| Språk er en sterk side, men kan også føre til at  personen blir overvurdert.                                                        |\n| Det er ofte vanskelig å tolke visuelle inntrykk. Derfor er tid og mengde vanskelig.                                                 |\n| Oversikt og struktur er nødvendig for at personer med Williams' syndrom skal trives og lære.                                        |\n| Lag en dagsplan med hyppige pauser tilpasset  konsentrasjonsspenn og behov fot aktivitet.                                           |\n| Personer med Williams' syndrom lærer best gjennom praktiske oppgaver.                                                               |\n|                                                                                                                                     |\n\n*Denne artikkelen ble faglig oppdatert 29. april 2020*\n\n## \n\n### **Hvordan er det å leve med en sjelden diagnose?**\n\nVi har mye nyttig informasjon på temasidene våre. [Du kan lese dem her!](https://frambu.no/temaer) .",
    '# Skjema - Utlån av behandlingshjelpemidler\n\nFor å ta i bruk behandlingshjelpemidler og/eller forbruksmateriell må skjemaet «Utlån av behandlingshjelpemidler og utlevering av forbruksmateriell» fylles ut. Skjemaet skal signeres av lege ved helseforetaket, avtalespesialist tilknyttet helseforetaket eller andre helseforetaket har avtale med. Utstyret lånes ut til pasienten så lenge det foreligger et behandlingsbehov.\n\nPåse at felt for ICD-10 hoveddiagnose-kode og inntil 2 bi-diagnose-koder som begrunner behov for utlån av utstyr og forbruksmateriell er fylt ut sammen med begrunnelse for utstyrsvalg. Det skal også påføres om opplæring er gjennomført eller hvem dette er avtalt med.\n\nFerdig utfylt skjema sendes helseforetaket hvor pasienten har adresse i folkeregisteret, se [Landsoversikt](https://behandlingshjelpemidler.no/enhet/) .\n\n**NB!** De fleste helseforetak benytter elektroniske skjema som erstatter dette skjemaet.\n\n### Utlånsskjema\n\n[Nasjonalt\\_skjema-ver-202404031](https://behandlingshjelpemidler.no/wp-content/uploads/2024/04/Nasjonalt_skjema-ver-202404031.docx)',
]
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# [1, 105879] [3, 105879]

# Get the similarity scores for the embeddings
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
# tensor([[32.2851, 14.5990,  8.8281]])

<!--

Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details> -->

<!--

Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details> -->

<!--

Out-of-Scope Use

List how the model may foreseeably be misused and address what users ought not to do with the model. -->

Evaluation

Metrics

Sparse Information Retrieval
Metricdev_irtest_ir
dot_accuracy@10.5250.559
dot_accuracy@50.8870.89
dot_accuracy@100.940.945
dot_precision@10.5250.559
dot_precision@30.26830.2723
dot_precision@50.17740.178
dot_precision@100.0940.0945
dot_recall@10.5250.559
dot_recall@30.8050.817
dot_recall@50.8870.89
dot_recall@100.940.945
dot_ndcg@100.74170.7604
dot_mrr@100.67680.7001
dot_map@1000.6790.7027
queryactivedims19.05218.825
querysparsityratio0.99980.9998
corpusactivedims2980.50612953.7629
corpussparsityratio0.97180.9721
avg_flops11.000110.9013

<!--

Bias, Risks and Limitations

What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model. -->

<!--

Recommendations

What are recommendations with respect to the foreseeable issues? For example, filtering explicit content. -->

Training Details

Training Dataset

eti-embedding-training-data-2048-triplets-merged-v3
  • —Dataset: eti-embedding-training-data-2048-triplets-merged-v3 at a4f297d
  • —Size: 565,173 training samples
  • —Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
  • —Approximate statistics based on the first 1000 samples: | | anchor | positive | negative | |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------| | type | string | string | string | | details | <ul><li>min: 5 tokens</li><li>mean: 21.62 tokens</li><li>max: 60 tokens</li></ul> | <ul><li>min: 30 tokens</li><li>mean: 432.35 tokens</li><li>max: 512 tokens</li></ul> | <ul><li>min: 26 tokens</li><li>mean: 393.83 tokens</li><li>max: 512 tokens</li></ul> |
  • —Samples: | anchor | positive | negative | |:----------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>Kva gjer sjukehuset når krefttypen til barnet er så uvanleg at dei ikkje har ein ferdig behandlingsplan?</code> | <code># 9.4. Sjeldne svulster<br><br>I tillegg til de svulstene som her er omtalt, finnes det en rekke andre svulsttyper som forekommer svært sjelden. Dette gjelder dels svulsttyper som er mer eller mindre spesifikke for barnealder, dels mer «voksne» svulster. Felles for disse ekstremt sjeldne svulsttypene er at det ikke finnes spesifikke behandlingsprotokoller for barn, og man må som regel i hvert enkelt tilfelle skreddersy en behandling ut fra histologisk type, barnets alder og egne eller andres erfaringer med lignende svulsttyper.<br><br>Les hele</code> | <code># Pakkeforløp for kreft hos barn<br><br>Barneonkologisk avdeling, i noen tilfeller nevrokirurgisk avdeling, er primært ansvarlig for kontrollopplegget, og kontrollene utføres i samarbeid med de lokale barneavdelinger.<br><br>Ved mistanke om tilbakefall og undersøkelsene bekrefter dette, planlegger barneonkologen etter MDT- møte behandlingsopplegget. Beslutning om behandling tas i samråd med pasient/familie.<br><br># Informasjon og dialog med pasient/pårørende<br><br>Den legen som ser pasienten ved kontrollundersøkelser har ansvar for at familien informeres om undersøkelsesresultater. Ofte deltar kontaktsykepleier i poliklinikken/ved dagposten i denne informasjonen.<br><br># Støttebehandling og sykepleie<br><br>Sykepleier/koordinator bør ha selvstendige konsultasjoner eventuelt i form av spesielle poliklinikkonsultasjoner for å kartlegge pasientens behov for habilitering og familiens psykososiale situasjon.<br><br># Håndtering av tilbakefall<br><br>Ved tilbakefall av kreftsykdom (lokalt eller regionalt residiv, eller fjernmetastaser)...</code> | | <code>rette opp ryggen til ungdom</code> | <code># Skoliose hos ungdom - operasjon <br> <br>Ved operasjon avstivar vi dei aktuelle områda av ryggen. <br> <br>Dersom ryggskeivskapen blir stor, er det sannsynleg at han vil auke vidare etter at du er utvaksen. </code> | <code>Jeg har taushetsplikt.<br><br>##### Lege<br><br>Martine Ødegård<br><br>##### Sexologisk rådgiver for barn og unge opp til 25 år<br><br>Miriam (Mie) Englund<br><br>Mobil 474 89 259<br><br>HFU har en sexologisk rådgiver som gir råd og veiledning om seksualitetet og seksuell helse for barn og unge med familier. Lurer du på noe knyttet til seksualitet, eller har du nen utfordringer eller problemer?<br><br>Vi tilbyr:<br><br>Samtaler på helsestasjon for ungdom.<br><br>Samarbeid med andre fagpersoner ved behov.<br><br>Aktuelle tema og råd for veiledning kan være:<br><br>- Seksuell helse og utvikling<br>- Endringer knyttet til seksuell lyst eller mangel på seksuell lyst<br>- Samleiesmerter og andre smertetilstander i vulva/penis<br>- Prestasjonsangst<br>- Ereksjonssvikt<br>- For tidlig sædavgang<br>- Orgasmeutfordringer<br>- Seksualitet og sykdom<br>- Seksualitet og funksjonsvariasjon<br>- Seksualitet etter seksuelle overgrep eller negative seksuelle opplevelser<br>- Seksualitet og ulike tenningsmønster, fetisjer og fantasier<br>- Seksualitet og identitet, kjønnsidentitet, kjønnsinkongr...</code> | | <code>Hva skjer dersom et utviklingsavvik oppdages under fosterdiagnostikk?</code> | <code># Å stille ein sjeldan diagnose<br><br>Mange opplever ein lang og krunglete veg før ein sjeldan diagnose blir stilt. Av og til kjem ikkje legen fram til ein endeleg diagnose.<br><br>Sjeldne tilstandar kan vere vanskelege å diagnostisere, fordi ulike delar av kroppen din kan bli påverka.<br><br>Samtidig kan stadig fleire sjeldne tilstandar diagnostiserast. Dette kjem av store framsteg innan medisinsk genetikk.<br><br>Diagnoseprosessen krev eit tett samarbeid mellom personen som blir greidd ut, familien og helsetenesta. Diagnosen kan stillast på ulike stadium i livet.<br><br>## Å stille ein diagnose på fosterstadiet<br><br>Fosterdiagnostikk kan gjere det mogleg å oppdage ein del sjeldne utviklingsavvik hos fosteret. Dersom avviket må behandlast, er det i nokre tilfelle mogleg å behandle fosteret medan det endå er i mors mage. Nokre svært alvorlege tilstandar kan gjere at fosteret ikkje overlever. Det kan føre til svangerskapsavbrot (abort).<br><br>[Om legen mistenker eller har fun...</code> | <code>## Hvordan skille et andrespråk i utvikling fra språkforstyrrelser?<br><br>Hvorfor opplever vi at noen barn og unge med flerspråklig bakgrunn har så usikre språkferdigheter at det kan forveksles med DLD?<br><br>Det kan være vanskelig å identifisere flerspråklige barn og unge med lærevansker - spesielt vansker med språk og lesing.<br><br>Flerspråklige barn og unge utvikler språk på samme måte som enspråklige, og det å eksponeres for flere språk er ikke et hinder for å utvikle gode språkferdigheter. Det antas at det er samme prosentandel flerspråklige som enspråklige barn og unge som har ulike typer lærevansker. Det er allikevel overidentifisering, når det gjelder flerspråklige elever med mulige spesialpedagogiske behov.<br><br>## Et andrespråk i utvikling kan ligne DLD<br><br>Det er spesielt komplisert å skille mellom flerspråklige barn som er tidlig i sin norskspråklige utvikling og flerspråklige barn med DLD. I begge tilfeller vil språkferdighetene på norsk kjennetegnes av:<br><br>- svakt ordforråd<br>- usikre bøyningsform...</code> |
  • —Loss: <code>SpladeLoss</code> with these parameters:
json
  {
      "loss": "SparseMultipleNegativesRankingLoss(scale=1.0, similarity_fct='dot_score', gather_across_devices=False)",
      "document_regularizer_weight": 3e-05,
      "query_regularizer_weight": 5e-05
  }

Evaluation Dataset

eti-embedding-training-data-2048-triplets-merged-v3
  • —Dataset: eti-embedding-training-data-2048-triplets-merged-v3 at a4f297d
  • —Size: 500 evaluation samples
  • —Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
  • —Approximate statistics based on the first 500 samples: | | anchor | positive | negative | |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------| | type | string | string | string | | details | <ul><li>min: 6 tokens</li><li>mean: 22.07 tokens</li><li>max: 61 tokens</li></ul> | <ul><li>min: 50 tokens</li><li>mean: 440.21 tokens</li><li>max: 512 tokens</li></ul> | <ul><li>min: 27 tokens</li><li>mean: 394.4 tokens</li><li>max: 512 tokens</li></ul> |
  • —Samples: | anchor | positive | negative | |:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| | <code>koble ting sammen for bedre lyd</code> | <code>](#hva)<br><br>### Hva er hjelpemiddelet?<br><br>Alle høreapparatmodeller har tilbehør som kan benyttes i ulike lyttesituasjoner.<br><br>Tilbehør til høreapparat er fjernkontroller eller mellomledd som du trenger for å koble høreapparatet ditt til andre lydkilder eller hjelpemidler.<br><br>Dette kan være eksterne mikrofoner som kobles til høreapparatet ditt for at du skal høre tale bedre. Det kan også være tilbehør for å koble TV eller radio direkte til høreapparatet.<br><br>Lyttehjelpemidler til TV og radio Hjelpemiddel<br><br>Du kan få egen fjernkontroll som tilbehør hvis du trenger det, for eksempel hvis du har redusert finmotorikk.<br><br>Et tilbehør kan være en telefonstreamer, som kobler mobiltelefonen til høreapparatet. Samtidig har mange nyere høreapparater løsninger for blåtann (bluetooth). Disse kan koble høreapparatet direkte til mobiltelefon, nettbrett eller datamaskin uten bruk av et tilbehør.<br><br>Lyttehjelpemidler for telefon Hjelpemi...</code> | <code>Fra åpen dør til å stange hodet i veggen. Foreldres erfaringer med skole-hjem-samarbeid når barna og de unge har en sjelden diagnose. 2017(3). (Enkeltsstudie).<br>28. Utdanningsdirektoratet. 2024. Samarbeid mellom hjem og skole . (Offentlig nettside).<br>29. Lov om grunnskoleopplæringa og den vidaregåande opplæringa (opplæringslova), (2023). (Offentlig nettside).<br>30. Velferdsetaten NAV. 2019. Rundskriv til Folketrygdloven kap. 10: Stønad for å kompensere for utgifter til bedring av arbeidsevnen og funksjonsevnen i dagliglivet. § 10-8 Forholdet til ytelser etter annen lovgivning .<br><br>Send klage Ettersend dokumentasjon<br><br>#### Anke vedtak<br><br>Hvis du er uenig i svaret på klagen din fra Nav klageinstans, kan du med noen unntak anke vedtaket. Fristen for å anke står i vedtaket.<br><br>Send anke Ettersend dokumentasjon<br><br>Du kan også bruke advokat eller gi fullmakt til en person som klager på dine vegne.<br><br>Klagerettigheter Slik gjør du det<br><br>Saksbehandlingstid...</code> | <code>Leveringstid for hjelpemiddelet kommer i tillegg til saksbehandlingstiden.<br><br>\| Saken gjelder \| Forventet saksbehandlingstid \|<br>\|---------------------------------------\|--------------------------------\|<br>\| Søknad om hjelpemiddel til dagligliv \| 17 dager \|<br>\| Søknad om hjelpemiddel til arbeidsliv \| 21 dager \|<br><br>### Personvern og automatisk saksbehandling<br><br>For å kunne vurdere barnets rett til støtte til briller, må Nav behandle noen personopplysninger om barnet.<br><br>Slik behandler Nav personopplysningene<br><br>Vi behandler personopplysninger om<br><br>- fødselsnummer<br>- navn<br>- alder<br>- bostedsadresse<br>- brillestyrke<br>- tidligere støtte til briller<br><br>Fra optiker får Nav informasjon om barnets fødselsnummer og brillestyrke. Dette trenger vi for å validere navn, alder og om barnet er bosatt på en folkeregistrert adresse. Basert på brillestyrken, regner vi ut hvor mye støtte barnet har rett på. Vi sjekker også at barnet ikke allere...</code> | | <code>Vi har en gutt på 8 år med stor tannbehandlingsangst og flere hull som må fikses, når kan tannbehandling i narkose vurderes og hva må vi ha med i samtykke og info?</code> | <code>Generell veileder i pediatri kapittel 13.5 og 13.6 (helsebiblioteket.no) . <br> <br>Sedasjon kan bidra til at barn og unge som ikke mestrer tannbehandling med smertelindring, får mindre psykisk belastning og derav motvirke utvikling av tannbehandlingsangst med påfølgende ressurskrevende tiltak. <br> <br>Midazolam er førstevalg fordi virkestoffet har rask innsettende effekt og kortere halveringstid enn diazepam, jf. Tannbehandlingsangst (legemiddelhandboka.no) . En systematisk oversikt viser at bruk av oral midazolam fører til en mer samarbeidsvillig pasient enn placebo, og det ble rapportert få bivirkninger (Ashley et al., 2018). En retningslinje fra NICE 2010, og som ble gjennomgåt...</code> | <code>Det er behov for at fylkeskommunen utarbeider planer med en gradvis økning av personell.<br><br>Kartleggingsverktøyet NOT-S kan lastes ned gratis, men personell som skal benytte dette må lære seg verktøyet. Det at tannhelsepersonell begynner å bruke dette verktøyet er tonet ned i anbefalingen.<br><br># Tannhelsepersonell skal ved behov samarbeide tverrfaglig om utredning, behandling og oppfølging av barn og unge<br>## Begrunnelse<br>### Forskningsgrunnlag<br>##### PICO<br>##### Beskrivelse av inkluderte studier<br><br>Populasjon (P)<br>Barn og ungdom med habilteringsbehov<br>Tiltak (I)<br>Vurdering av oral motorikk og funksjon for hvert barn<br>Sammenligning (C)<br>Ingen vurdering av oral motorikk og funksjon<br>Forskningsgrunnlaget er basert på 2 systematiske oversikter og 12 primærstudier fra søk utført av biblioteket i Helsedirektoratet.<br><br>#### Oral helse<br><br>En systematisk oversikt så på oral helse hos personer innlagt på intensivavdeling på sykehus (Terezakis et al., 2011). Fem studier ble inkludert, hvorav en studi...</code> |
  • —Loss: <code>SpladeLoss</code> with these parameters:
json
  {
      "loss": "SparseMultipleNegativesRankingLoss(scale=1.0, similarity_fct='dot_score', gather_across_devices=False)",
      "document_regularizer_weight": 3e-05,
      "query_regularizer_weight": 5e-05
  }

Training Hyperparameters

Non-Default Hyperparameters
  • —eval_strategy: steps
  • —per_device_train_batch_size: 32
  • —per_device_eval_batch_size: 32
  • —learning_rate: 2e-05
  • —weight_decay: 0.01
  • —num_train_epochs: 1.0
  • —warmup_ratio: 0.1
  • —bf16: True
  • —dataloader_num_workers: 4
  • —load_best_model_at_end: True
  • —ddp_find_unused_parameters: False
  • —batch_sampler: no_duplicates
  • —router_mapping: {'anchor': 'query', 'positive': 'document', 'negative': 'document'}
All Hyperparameters

<details><summary>Click to expand</summary>

  • —overwrite_output_dir: False
  • —do_predict: False
  • —eval_strategy: steps
  • —prediction_loss_only: True
  • —per_device_train_batch_size: 32
  • —per_device_eval_batch_size: 32
  • —per_gpu_train_batch_size: None
  • —per_gpu_eval_batch_size: None
  • —gradient_accumulation_steps: 1
  • —eval_accumulation_steps: None
  • —torch_empty_cache_steps: None
  • —learning_rate: 2e-05
  • —weight_decay: 0.01
  • —adam_beta1: 0.9
  • —adam_beta2: 0.999
  • —adam_epsilon: 1e-08
  • —max_grad_norm: 1.0
  • —num_train_epochs: 1.0
  • —max_steps: -1
  • —lr_scheduler_type: linear
  • —lr_scheduler_kwargs: {}
  • —warmup_ratio: 0.1
  • —warmup_steps: 0
  • —log_level: passive
  • —log_level_replica: warning
  • —log_on_each_node: True
  • —logging_nan_inf_filter: True
  • —save_safetensors: True
  • —save_on_each_node: False
  • —save_only_model: False
  • —restore_callback_states_from_checkpoint: False
  • —no_cuda: False
  • —use_cpu: False
  • —use_mps_device: False
  • —seed: 42
  • —data_seed: None
  • —jit_mode_eval: False
  • —bf16: True
  • —fp16: False
  • —fp16_opt_level: O1
  • —half_precision_backend: auto
  • —bf16_full_eval: False
  • —fp16_full_eval: False
  • —tf32: None
  • —local_rank: 0
  • —ddp_backend: None
  • —tpu_num_cores: None
  • —tpu_metrics_debug: False
  • —debug: []
  • —dataloader_drop_last: True
  • —dataloader_num_workers: 4
  • —dataloader_prefetch_factor: None
  • —past_index: -1
  • —disable_tqdm: False
  • —remove_unused_columns: True
  • —label_names: None
  • —load_best_model_at_end: True
  • —ignore_data_skip: False
  • —fsdp: []
  • —fsdp_min_num_params: 0
  • —fsdp_config: {'minnumparams': 0, 'xla': False, 'xlafsdpv2': False, 'xlafsdpgrad_ckpt': False}
  • —fsdp_transformer_layer_cls_to_wrap: None
  • —accelerator_config: {'splitbatches': False, 'dispatchbatches': None, 'evenbatches': True, 'useseedablesampler': True, 'nonblocking': False, 'gradientaccumulationkwargs': None}
  • —parallelism_config: None
  • —deepspeed: None
  • —label_smoothing_factor: 0.0
  • —optim: adamwtorchfused
  • —optim_args: None
  • —adafactor: False
  • —group_by_length: False
  • —length_column_name: length
  • —project: huggingface
  • —trackio_space_id: trackio
  • —ddp_find_unused_parameters: False
  • —ddp_bucket_cap_mb: None
  • —ddp_broadcast_buffers: False
  • —dataloader_pin_memory: True
  • —dataloader_persistent_workers: False
  • —skip_memory_metrics: True
  • —use_legacy_prediction_loop: False
  • —push_to_hub: False
  • —resume_from_checkpoint: None
  • —hub_model_id: None
  • —hub_strategy: every_save
  • —hub_private_repo: None
  • —hub_always_push: False
  • —hub_revision: None
  • —gradient_checkpointing: False
  • —gradient_checkpointing_kwargs: None
  • —include_inputs_for_metrics: False
  • —include_for_metrics: []
  • —eval_do_concat_batches: True
  • —fp16_backend: auto
  • —push_to_hub_model_id: None
  • —push_to_hub_organization: None
  • —mp_parameters:
  • —auto_find_batch_size: False
  • —full_determinism: False
  • —torchdynamo: None
  • —ray_scope: last
  • —ddp_timeout: 1800
  • —torch_compile: False
  • —torch_compile_backend: None
  • —torch_compile_mode: None
  • —include_tokens_per_second: False
  • —include_num_input_tokens_seen: no
  • —neftune_noise_alpha: None
  • —optim_target_modules: None
  • —batch_eval_metrics: False
  • —eval_on_start: False
  • —use_liger_kernel: False
  • —liger_kernel_config: None
  • —eval_use_gather_object: False
  • —average_tokens_across_devices: True
  • —prompts: None
  • —batch_sampler: no_duplicates
  • —multi_dataset_batch_sampler: proportional
  • —router_mapping: {'anchor': 'query', 'positive': 'document', 'negative': 'document'}
  • —learning_rate_mapping: {}

</details>

Training Logs

<details><summary>Click to expand</summary>

EpochStepTraining LossValidation Lossdev_ir_dot_ndcg@10test_ir_dot_ndcg@10
-1-1--0.4908-
0.000112.8535---
0.0057501.8611---
0.01131001.5624---
0.01701501.2044---
0.02272001.1151---
0.02832501.1168---
0.03403001.0335---
0.03963501.0167---
0.04534001.0117---
0.05104500.9121---
0.05665000.8883---
0.06235500.9276---
0.06806000.8744---
0.07366500.8781---
0.07937000.8585---
0.08497500.8068---
0.09068000.8329---
0.09638500.8196---
0.1883-0.73230.6322-
0.10199000.7792---
0.10769500.7313---
0.113310000.7721---
0.118910500.8113---
0.124611000.6899---
0.130211500.7229---
0.135912000.7072---
0.141612500.705---
0.147213000.6553---
0.152913500.6966---
0.158614000.6756---
0.164214500.6773---
0.169915000.6391---
0.175515500.6525---
0.181216000.631---
0.186916500.6282---
0.192517000.6256---
0.198217500.623---
0.21766-0.57270.6767-
0.203918000.6091---
0.209518500.6173---
0.215219000.6013---
0.220819500.5893---
0.226520000.5996---
0.232220500.5822---
0.237821000.5903---
0.243521500.5523---
0.249222000.5332---
0.254822500.6167---
0.260523000.5374---
0.266123500.5359---
0.271824000.5671---
0.277524500.5471---
0.283125000.5674---
0.288825500.5316---
0.294526000.5354---
0.32649-0.48510.6846-
0.300126500.5231---
0.305827000.5088---
0.311427500.5437---
0.317128000.4926---
0.322828500.546---
0.328429000.5026---
0.334129500.522---
0.339830000.4814---
0.345430500.4744---
0.351131000.4486---
0.356731500.5311---
0.362432000.4877---
0.368132500.4779---
0.373733000.4514---
0.379433500.4602---
0.385134000.4805---
0.390734500.4727---
0.396435000.4654---
0.43532-0.44890.6974-
0.402035500.5019---
0.407736000.4648---
0.413436500.4861---
0.419037000.4561---
0.424737500.4684---
0.430438000.4837---
0.436038500.47---
0.441739000.4549---
0.447339500.4472---
0.453040000.4337---
0.458740500.4291---
0.464341000.4484---
0.470041500.4316---
0.475742000.4183---
0.481342500.4648---
0.487043000.4187---
0.492643500.413---
0.498344000.4048---
0.54415-0.38180.7165-
0.504044500.4282---
0.509645000.4274---
0.515345500.4248---
0.521046000.4044---
0.526646500.4285---
0.532347000.4612---
0.537947500.4407---
0.543648000.4106---
0.549348500.4123---
0.554949000.4073---
0.560649500.4057---
0.566350000.426---
0.571950500.386---
0.577651000.3908---
0.583251500.3871---
0.588952000.3998---
0.594652500.3786---
0.65298-0.34970.7248-
0.600253000.3731---
0.605953500.4316---
0.611654000.4254---
0.617254500.4093---
0.622955000.3797---
0.628555500.3713---
0.634256000.3881---
0.639956500.386---
0.645557000.4065---
0.651257500.3647---
0.656958000.3914---
0.662558500.3991---
0.668259000.3549---
0.673859500.3859---
0.679560000.3478---
0.685260500.3658---
0.690861000.3526---
0.696561500.3827---
0.76181-0.34340.7302-
0.702262000.3691---
0.707862500.3757---
0.713563000.3555---
0.719163500.3481---
0.724864000.3437---
0.730564500.3718---
0.736165000.3847---
0.741865500.349---
0.747566000.3797---
0.753166500.3572---
0.758867000.3807---
0.764467500.3405---
0.770168000.3579---
0.775868500.3506---
0.781469000.3467---
0.787169500.3896---
0.792870000.3286---
0.798470500.3821---
0.87064-0.32680.7346-
0.804171000.3665---
0.809771500.336---
0.815472000.3841---
0.821172500.3408---
0.826773000.3613---
0.832473500.3621---
0.838174000.3255---
0.843774500.3565---
0.849475000.3402---
0.855075500.3265---
0.860776000.361---
0.866476500.379---
0.872077000.3636---
0.877777500.3337---
0.883478000.3177---
0.889078500.3172---
0.894779000.3215---
0.97947-0.30210.7324-
0.900379500.3324---
0.906080000.3356---
0.911780500.3219---
0.917381000.3285---
0.923081500.3599---
0.928782000.3239---
0.934382500.3051---
0.940083000.3467---
0.945683500.3461---
0.951384000.3199---
0.957084500.342---
0.962685000.337---
0.968385500.3341---
0.974086000.3562---
0.979686500.3095---
0.985387000.3509---
0.990987500.342---
0.996688000.3235---
1.08830-0.29670.7417-
-1-1--0.74170.7604
  • —The bold row denotes the saved checkpoint. </details>

Framework Versions

  • —Python: 3.14.3
  • —Sentence Transformers: 5.2.0
  • —Transformers: 4.57.3
  • —PyTorch: 2.9.1+cu128
  • —Accelerate: 1.12.0
  • —Datasets: 4.4.2
  • —Tokenizers: 0.22.1

Citation

BibTeX

Sentence Transformers
bibtex
@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}
SpladeLoss
bibtex
@misc{formal2022distillationhardnegativesampling,
      title={From Distillation to Hard Negative Sampling: Making Sparse Neural IR Models More Effective},
      author={Thibault Formal and Carlos Lassance and Benjamin Piwowarski and Stéphane Clinchant},
      year={2022},
      eprint={2205.04733},
      archivePrefix={arXiv},
      primaryClass={cs.IR},
      url={https://arxiv.org/abs/2205.04733},
}
SparseMultipleNegativesRankingLoss
bibtex
@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}
FlopsLoss
bibtex
@article{paria2020minimizing,
    title={Minimizing flops to learn efficient sparse representations},
    author={Paria, Biswajit and Yeh, Chih-Kuan and Yen, Ian EH and Xu, Ning and Ravikumar, Pradeep and P{'o}czos, Barnab{'a}s},
    journal={arXiv preprint arXiv:2004.05665},
    year={2020}
}

<!--

Glossary

Clearly define terms in order to be accessible across audiences. -->

<!--

Model Card Authors

Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction. -->

<!--

Model Card Contact

Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors. -->