handsukwoo/qwen2.5_7b_2split_Performance_Evaluation

from openai import OpenAI
import base64

# 현재 사용 중인 설정 (localhost의 vLLM 서버)
client = OpenAI(
    api_key="empty",  # vLLM은 빈 키 사용
    base_url="http://localhost:8001/v1"  # vLLM 서버 주소
)

# 또는 RunPod 엔드포인트 사용 시
# client = OpenAI(
#     api_key="rpa_토큰",
#     base_url="https://api.runpod.ai/v2/엔드포인트/openai/v1"
# )

# 이미지 인코딩
def encode_image(path):
    with open(path, "rb") as f:
        return base64.b64encode(f.read()).decode("utf-8")

# 피부 진단 instruction (한국어)
instruction = """너는 피부 병변을 진단하는 전문 AI이다. 다음은 네가 진단할 수 있는 피부 병변 목록이며, 각 병변의 임상적 특징은 아래와 같다. 환자에게 나타난 병변의 이미지와 설명을 바탕으로 가장 적합한 질병을 하나 선택하여 진단하라.

0: 광선각화증
1: 기저세포암
2: 멜라닌세포모반
3: 보웬병
4: 비립종
5: 사마귀
6: 악성흑색종
7: 지루각화증
8: 편평세포암
9: 표피낭종
10: 피부섬유종
11: 피지샘증식증
12: 혈관종
13: 화농 육아종
14: 흑색점

<root><label id_code="{코드}" score="{점수}">{진단명}</label><summary>{진단소견}</summary><similar_labels><similar_label id_code="{코드}" score="{점수}">{유사질병명}</similar_label></similar_labels></root>
"""

# 진단 수행
image_base64 = encode_image("path_to_skin_image.jpg")
response = client.chat.completions.create(
    model="model_name",  # vLLM에서 로드된 모델명
    messages=[
        {
            "role": "user",
            "content": [
                {"type": "text", "text": instruction},
                {
                    "type": "image_url", 
                    "image_url": {
                        "url": f"data:image/jpeg;base64,{image_base64}",
                    },
                },
            ],
        }
    ],
)

print(response.choices[0].message.content)

<root>
<label id_code="1" score="85.2">기저세포암</label>
<summary>이미지에서는 진주빛 반투명 결절 형태의 병변이 관찰됩니다. 이러한 병변은 일반적으로 천천히 성장하며 주변 조직으로 깊게 침습할 수 있는 특성을 가지고 있습니다...</summary>
<similar_labels>
<similar_label id_code="3" score="12.0">보웬병</similar_label>
<similar_label id_code="0" score="8.5">광선각화증</similar_label>
</similar_labels>
</root>

├── evaluation_results.json    # 상세 평가 결과
├── class_performance.csv      # 클래스별 성능 지표
├── confusion_matrix.png       # 혼동행렬 시각화
├── class_performance.png      # 성능 차트
└── README.md                  # 모델 문서 (이 파일)