تنظیم دقیق Phi-3 با QLoRA
تنظیم دقیق مدل زبان Phi-3 Mini مایکروسافت با استفاده از QLoRA (تطبیق کوانتومی با رتبه پایین).
QLoRA به بهبود درک مکالمه و تولید پاسخ کمک می‌کند.
برای بارگذاری مدل‌ها در حالت ۴ بیت با استفاده از transformers و bitsandbytes، باید accelerate و transformers را از منبع نصب کنید و مطمئن شوید که جدیدترین نسخه از کتابخانه bitsandbytes را دارید.
نمونه‌ها
- اطلاعات بیشتر با این دفترچه نمونه
- نمونه‌ای از اسکریپت تنظیم دقیق در پایتون
- نمونه‌ای از تنظیم دقیق با Hugging Face Hub و LORA
- نمونه‌ای از تنظیم دقیق با Hugging Face Hub و QLORA
سلب مسئولیت:
این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما تلاش می‌کنیم دقت ترجمه را حفظ کنیم، لطفاً توجه داشته باشید که ترجمه‌های خودکار ممکن است شامل خطاها یا نواقصی باشند. سند اصلی به زبان اصلی باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حساس، ترجمه حرفه‌ای انسانی توصیه می‌شود. ما مسئولیتی در قبال سوء تفاهم‌ها یا برداشت‌های نادرست ناشی از استفاده از این ترجمه نداریم.