rotative
huggingface blog · 2026年5月8日

ROCmを使用しAMD MI300X上でファインチューニングされたMedQA臨床AI

新しい臨床AIモデルがROCmを使用して完全にAMDハードウェア上でファインチューニングされ、HuggingFaceエコシステムがCUDAなしで機能することを実証した。Qwen3-1.7Bベースのモデルは2,000サンプルを5分で学習した。

read in English · 简体中文 · 繁體中文 · 한국어

A project named MedQA successfully fine-tuned a clinical question-answering model using only AMD hardware and the ROCm software stack. Built on a single AMD Instinct MI300X with 192 GB of HBM3 memory, the pipeline fine-tuned Qwen3-1.7B using LoRA without any CUDA dependencies or code changes. Training on 2,000 MedMCQA samples took approximately 5 minutes, utilizing full fp16 precision to avoid quantization. The resulting model generates answers and clinical explanations for medical multiple-choice questions, validating that the HuggingFace ecosystem—including Transformers, PEFT, and TRL—operates seamlessly on ROCm.

read at source ↗

← rotative