مدل هوش مصنوعی Orca-Math مایکروسافت معرفی شد
منبع: https://rasanika.com
مایکروسافت مدل هوش مصنوعی Orca-Math را معرفی کرد؛
این هوش مصنوعی یک مدل زبانی کوچک (SLM) است اما از مدل‌های بسیار بزرگ‌تری مانند جمینای پرو گوگل و GPT-3.5 در حل مسائل ریاضی بهتر عمل می‌کند.
البته این مدل کاملاً توسط مایکروسافت ایجاد نشده، درواقع Orca-Math برپایه مدل 7 میلیارد پارامتری شرکت Mistral ساخته شده است.
مدل Orca-Math با مجموعه داده‌ای متشکل از 200 هزار مسئله ریاضی آموزش دیده است؛
هرچند این میزان کوچک‌تر از سایر مجموعه داده‌های ریاضی است، اما این میزان داده امکان آموزش سریع‌تر و مقرون‌به‌صرفه را فراهم می‌کند.
همچنین Orca-Math تحت یک فرایند یادگیری تکراری قرار داشته، بدین صورت که حل مسائل تکراری را تمرین می‌کرد و به‌طور مداوم براساس بازخورد سیگنال‌های ناظر، خود را بهبود می‌داد.
مایکروسافت مدل زبانی اصلی Orca با 13 میلیارد پارامتر را در ژوئن 2023 (خردادماه) معرفی کرد که از GPT-4 به‌عنوان معلم هوش مصنوعی خود استفاده می‌کرد.
Orca 2 نیز در نسخه‌های 13 و 7 میلیارد پارامتری در نوامبر 2023 (آبان‌ماه) معرفی شد که هر دو برپایه مدل متن‌باز متا یعنی Llama 2 LLM بودند.
حالا عضو جدید خانواده Orca، با 7 میلیارد پارامتر، مخصوص حل مسائل ریاضی است و می‌تواند در این زمینه کاربردهای مختلفی داشته باشد.