CoolFace
Modelpublic

karrelin/ik_llamacpp

sourceHugging Faceupdated 1y agoView on Hugging Face
0likes
speculative.cpp.o45 linesDownload Raw Back to common.dir
1ELF>F@@#"	��AWAVAUATUH��SH���dH�%(H��$�1���pA����1�D��H�(H�xI��H�@�H�f���:fo
�"�*��I�D$h)�$�(
H��$�H�D$0)�$��
H�D$ �2)�$�fo
f�D$0H�D$PH�D$@H�D$p�$�(
H�D$`H��$�DŽ$��?DŽ$�@DŽ$��?DŽ$Ƅ$DŽ$����H�D$(H�D$Hf�T$PH�D$hf�L$pH��$�HDŽ$�f��$�AD$X�$�)�$HDŽ$ �L�t$ H��L�l$(H��$H���H�{H�D$H��$ L��L�H�;t	M���zL�l$I���5I���A��CL�kL�s B�/L�|$@H�{0L�l$HH�{ L��L�t	M���-L�l$I����I����M����L�k(L�s@B�/L�|$`H�{PL�l$hH�{@L��L�t	M����L�l$I���I����M���L�kHL�s`B�/L��$�H�{pL��$�H�{`L��L�t	M����L�l$I���{I���aA��CpH�D$L�khL�t$ H��$�B�/I��H��$I�� I�}I�EH9���I�EH�p�M9�u�f���	HDŽ$8�$(�H�P	f��H��$(L��$PH��$8H�H��H��L��$pL��$�L��$@H�P���@�k�PHDŽ$HƄ$PL��$`HDŽ$hƄ$pDŽ$��?L��$�HDŽ$�HDŽ$�HDŽ$�DŽ$��?HDŽ$�Ƅ$�DŽ$�3H��$0�$��$��H���H��H���H��$�I�D$H��tH��$�H)��H��$�H��tH��H���H��u�H��$�H��$�1�H���H��$�HDŽ$�HDŽ$�H��$�L9�t	H���H��$`L9�tH��$pH�p�H��$@L9�tH��$PH�p�H��$(H��tH��$8H)��H��$H��$H9�t3�H�}H�EH9�tsH�EH�� H�p�H9�u�H��$H��tH��$ H��H)��H��$�dH+%(�{H���L��[]A\A]A^A_ÐM��������0f�H�� H9��s���딐M9����������f�A��C0����@A��CP�T���@M��������$DH�t$1�L���H�C`H��H�D$H�CpL��L���L�l$H�{`�^����H�t$1�L���H�C@H��H�D$H�CPL��L���L�l$H�{@������H�t$1�L���H�C H��H�D$H�C0L��L���L�l$H�{ �6����H�t$1�H���H�H��H�D$H�CL��L���L�l$H�;����I��H�=����H�����H�����H�����H�����H�����H���ff.���H��t_UH��H��H���uP�uH�u@�u8�u0�u(�u �u�u�H�}XH��PH��tH�uhH)��H��p]������AWI��AVI��AUL�-ATUSH��hdH�%(H�D$X1��L��H���H��I���L���H���L��H�5��A����1�E��D��D�D$�L���L��H�5�����$1��ɉL$�:$tHD�D$�L$1�L��H�5��1�H�T$XdH+%(�}H��h[]A\A]A^A_�@H���L����9���L��H�5�1��H���H��A���H��A���H����H��E��A��AWL���H�5�1��YL��^�L��A���L����L����H��A��A��AV���1�L��H�5�_1�AX����DH���L����9��(���H���L����9�����H���L����9������H���L������)�A��A��DH�A�����9�Nû�D$����D��;\$����H�����L��H�$�H�<$H�����t�H�|$0���L���H�|$��L���H�l$0�L�D$I���L��H�5�1��H�|$H�D$ H9�tH�D$ H�p�H�|$0H�D$@H9�tH�D$@H�p�1����������H��A��L��1�h��ٿH�5�X1�Z�o������H�����H���f���UH��AWL�~AVI��AUA��ATSH��H��H��h���H�>D�E��U�H�U�H�M��E�dH�%(H�E�1�H�FXH��X����H�I��H�[D)�M�FXH��H��p���I�^`H)։�p���H��A��A)ŸDH�L)�H��H�����D��Ic�L��P����]�H����p���A��E1�Dž`���E1�D)�E��E��L��1�E9�~FD��p����f���9�tH��9�~4E��D9�t�D��p����E�9�~A9�D9�~5D��`���A��I��H��D9��H��P���H�E�H��h���Hc]�f��H�@H��H��=��H���[1�E1�E������`���I�V`B�4 I�FXH)�H����9�}Hc�D�]�D9�����`�������A9��L���H�M�C�\%Hc�H�AH+H��H9�r<�j��H���F�I�v`H�E�H��H�@H��p���H)�H��H9��3f�ɿH�E�)M��H�P�E1�L��fHn�H�E�H�U�H�M�fHn҉�L�$�H�fl�D)�)E��4��H�}�H��tH�u�H)��H�E�I�v`H�J�!I;vh�B���H��X����H�E�H��7���H��H���fHn�I��H��h���fl�H�xL�)�p���H��H��P���L)�H����M����H��h���fo�p���L�H�X0E���E���I�>�I�FXI;F`�v���I�F`�m���A�F��~4H��A�w@I�>A�w8A�w0A�w(A�w A�wA�wA�wA�v�H��PI�^`L��I+^XH���f���H�E�)E��H�PfHn�L�m�L����E�fHn�L��H�U�fl�A��ډƉE�)E��H�}�H��tH�u�H)��I�v`I;vh���E�H���F�I�v`H��A�w@I�>A�w8A�w0A�w(A�w A�wA�wA�wA�v�I�~H��P��E�D�c�\��p���H�]�H��`�������}D�E�H���F�H��H�qH+0H��9u��WH��E�/@�Ef���H�E�)E��H�P�]��L��fHn�fHn�H�U�L��fl�A�D���)E��H�}�H��tH�u�H)��H��A�w@I�>A�w8A�w0A�w(A�w A�wA�wA�wA�7�I�v`H��PI;vh���H��I�v`A��D9�p�����L���I�~I�61�1��I�~�H��H�I�~�I�6��‰E��E��H��h���H�qH;q�����H��`���H���H��h���H�pH+0H��9u������H�E�dH+%(��H��h���H�e�[A\A]A^A_]�H��`���H��X�����-�����`���I�>1�1����A��I�>�������A��1��I�NXHc�H��I�F`H��H9�tH)�H��H��H���I�VXH��I�F`H��H)�H�H9�tI�N`H)�H��A9������I�>�����D��1��I�VXIc�H��I;F`�R��������L��L��L��H����L��H���I��H��h���H�pL)�L��L��P����L��P���������~A��9������Lc�I���Z��I��A�A�H��h���L�HH��L��H+H��9E������I�FXI�V`D��I����H)�A��H��9��a���H�YJ� I9�u�H��h���L��H���L�KH��h����Dž`���E1��N���H��X���H�U���+���H�pL)������H�=���H�����H�����H�����H�����H�����H�����H�����ATUSH��H�� H��tH��0H)��H���H��tfDH��H�m��H��u�H���H���1�H���H���H��HǃHǃ�H���H9�t	H���H���H���H9�tH���H�p�H���H���H9�tH���H�p�H���H��tH���H)��L�cxH�kpI9�t-fDH�}H�EH9�t;H�EH�� H�p�I9�u�H�kpH��t,H���H��[H)�]A\�fDH�� I9�u���D[]A\�basic_string::_M_construct null not validllama_speculative_are_compatible%s: draft model vocab type must match target model to use speculation but vocab_type_dft = %d while vocab_type_tgt = %d6%s: draft vocab special tokens must match target vocab to use speculation7%s: tgt: bos = %d (%d), eos = %d (%d)8%s: dft: bos = %d (%d), eos = %d (%d)9%s: draft model vocab must closely match target model to use speculation but target vocab size %d does not match draft vocab size %d - difference %d, max allowed %d10%s: draft vocab vocab must match target vocab to use speculation but token %d content differs - target '%s', draft '%s'11L��p�H�����H���H��$H��$ H)�H��t�H��$�L�t$ H�� H�;H�CH9�t
H�CH�p�L9�u�H���H��$(H��$8H)�H��t�L��$H��$I9�t`H�;H�CH9�t
H�CH�p�H�� ��H���H���I���L9�tH�;H�CH9�t
H�CH�p�H�� ���H��$H��$ H)�H��t�H���H�|$H�D$ H9�tH�D$ H�p�H�|$0H�D$@H9�tH�D$@H�p�H���H�}�H�u�H)�H��t�H��h���H�8H�pH)�H��t�H�����9.+Y����������������pf����/��������=��B]����������������	��12��13����3%s: vocab_type tgt: %d14%s: vocab_type dft: %d15vector::reservevector::_M_realloc_insert��AWI��H��������AVAUATUSH��L�gL�7L��L)�H��H9��H���H��I��HE�1�H�H����L)�H����H����1�1�A�M)�L�|fHnljK�'fHn�fl�)$H��(M��CM��u+fo$H�]UH��[]A\A]A^A_�f�L���M��H�uL��L)����f�L��L��L���M��t���H��������H��H�$�H�$H��H��R���H��������H9�HG�H����H�=���UH�-H���H�=H��]H��dkfypmxnt@(33s?��L=�?�?�?�����A�@���=�?��L?GCC: (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0GNU�zRx�4uF�A�A �G16DBKQABzPLRx��P$�F�B�B �B(�A0�D8�G��178D0A(B BBBB x,�������8�iJ�PC C(C0C8C@CHCPCXC`MZ����F�E�E �I(�A0�A8�D��188A0A(B BBBE\�H�Y�D�h�H�Y�D�s�M�T�C� \B�������H�GF�O�B �B(�A0�A8�DP�198A0A(B BBBCH��E�C
B�F�E�F���.PX.�.PM.�.Pu.�20A 8�������+E�Z��	
,G,B�n8�+&5:?D I0N@S21X220^dj23Xp24�v25(|26P�27 �28x�0���"u���"u��!"06GWm���
&5EWe�i���@� K_s������"GLTr����<Q^��Wm�����speculative.cppC.0.0_Z22llama_speculative_initP13llama_context.cold_Z32llama_speculative_are_compatiblePK13llama_contextS1_.cold_Z27llama_speculative_gen_draftP17llama_speculative24llama_speculative_paramsRKSt6vectorIiSaIiEEi.cold_GLOBAL__sub_I__Z22llama_speculative_initP13llama_context_ZStL8__ioinit.LC2.LC0.LC1.LC4.LC6.LC7.LC9.LC11.LC12.LC13.LC14.LC15.LC16.LC17.LC19.LC18.LC22.LC21_ZN21llama_sampling_paramsD5Ev_ZN21llama_sampling_paramsD2Ev_ZdlPvmmemset_ZN21llama_sampling_paramsD1EvDW.ref.__gxx_personality_v0llama_n_batch_Znwmllama_batch_initllama_get_modelllama_get_model_vocab_Z19llama_sampling_initPK11llama_vocabRK21llama_sampling_params_ZNSt7__cxx1112basic_stringIcSt11char_traitsIcESaIcEE9_M_createERmmmemcpy_ZSt19__throw_logic_errorPKc__stack_chk_fail_Unwind_Resume__cxa_end_catch__cxa_begin_catch__cxa_rethrow_Z22llama_speculative_freeP17llama_speculative_Z19llama_sampling_freeP22llama_sampling_contextllama_batch_free_Z32llama_speculative_are_compatiblePK13llama_contextS1_llama_vocab_type_Z18llama_log_internal14ggml_log_levelPKczllama_add_bos_tokenllama_add_eos_tokenllama_token_eosllama_token_bosllama_n_vocabllama_token_get_textstrcmp_Z20llama_token_to_pieceB5cxx11PK13llama_contextib_ZNSt6vectorIiSaIiEE17_M_realloc_insertIJRKiEEEvN9__gnu_cxx17__normal_iteratorIPiS1_EEDpOT_memmove_ZSt20__throw_length_errorPKc_Z27llama_speculative_gen_draftP17llama_speculative24llama_speculative_paramsRKSt6vectorIiSaIiEEillama_n_ctx_Z17llama_batch_clearR11llama_batch_Z15llama_batch_addR11llama_batchiiRKSt6vectorIiSaIiEEbllama_kv_cache_clearllama_decode_Z20llama_sampling_resetP22llama_sampling_context_Z21llama_sampling_sampleP22llama_sampling_contextP13llama_contextS2_i_Z29llama_sampling_get_candidatesP22llama_sampling_context_Z21llama_sampling_acceptP22llama_sampling_contextP13llama_contextibllama_kv_cache_seq_rmllama_kv_cache_seq_add_ZNSt8ios_base4InitC1Ev_GLOBAL_OFFSET_TABLE__ZNSt8ios_base4InitD1Ev__dso_handle__cxa_atexit,)��������9*��������Z+��������a��������r���������������������������������������������*��������J$��������q*������������������w,��������-���������.���������$���������$���������%��������&$��������D$��������b$��������$���������$���������$��������{/���������0���������/���������0���������/��������0��������;/��������U0��������l��������q1��������v2���������9��������:��������$��������S��������p,��������{,���������-���������-���������<������������������=���������<������������������=��������		��������	=��������D	>��������N	>��������`	��������l	=��������t	?��������	@���������	>���������	A���������	���������	=���������	?���������	@���������	>���������	A��������29��������30=��������31?��������&32?��������633A��������@34A��������P35@��������Z36@��������j37B��������t38B���������39C���������40C���������41D���������42E��������E��������"��������.=��������K$��������h$������������������=���������2��������.J���������
K��������*��������dL��������y$���������F���������*�������� M��������oN���������K���������*���������L���������$��������AN��������NO���������*��������L��������$��������FN��������{K���������P���������Q���������R���������F��������0F��������IS��������`T���������G���������S���������G��������$���������F���������F���������2��������� ��������H�������������������q������-$���������(�Ej'j3j?jKjWj"$��������E$��������g%���������$���������$���������$��������$��������2$��������V$��������	$��������4��������5��������:$��������d$��������q4���������$���������$���������&���������4���������6���������$��������7�������� $��������(4��������E$��������b$��������j4��������$���������$���������4���������G���������$���������0��������43*��������>!��������CH����������������U��������*W��������"X��������'Y��������3 c(x���<��,@5\�,�v�44 �)~lnu��.symtab.strtab.shstrtab.rela.text.data.bss.rela.text._ZN21llama_sampling_paramsD2Ev.rodata.str1.8.rela.text.unlikely.gcc_except_table.rodata.str1.1.rodata._ZNSt6vectorIiSaIiEE17_M_realloc_insertIJRKiEEEvN9__gnu_cxx17__normal_iteratorIPiS1_EEDpOT_.str1.1.rela.text._ZNSt6vectorIiSaIiEE17_M_realloc_insertIJRKiEEEvN9__gnu_cxx17__normal_iteratorIPiS1_EEDpOT_.rela.text.startup.rela.init_array.rodata.rodata.cst16.rodata.cst8.rela.data.rel.local.DW.ref.__gxx_personality_v0.comment.note.GNU-stack.note.gnu.property.rela.eh_frame.group$@ "$L F$X ( p[@18
 &�,�6�u1@8>� [2H�o��j@?� ~���2T@�2��G45@A� v+q@�Ax �0�@B �8	�PP�����@(B �0�,��� �@@B� � p!#	)��C+