عملکرد خیره کننده پلتفرم هوش مصنوعی Groq مدل لاما 3
منبع: https://rasanika.com
متا روز گذشته همزمان با ارائه هوش مصنوعی اختصاصی خود در اینستاگرام، واتس‌اپ و فیسبوک، مدل زبان بزرگ جدید لاما 3 (Llama 3) را در اختیار تأمین‌کنندگان سرویس‌های ابری قرار داده است.
پلتفرم هوش مصنوعی شرکت Groq سرعت استنتاج برق‌آسای بیش از 800 توکندرثانیه را با مدل لاما 3 متا ارائه می‌کند.
پردازش 800 توکندرثانیه (یا حدود 48 هزار توکن‌در‌دقیقه) برای Llama 3 به‌اندازه‌ای سریع است که با وجود آن، مدل‌های هوش مصنوعی در هر دقیقه می‌توانند حدود 500 کلمه تولید کنند.
Groq ادعا می‌کند که این معماری می‌تواند عملکرد و کارایی بسیار بالاتری را برای استنتاج هوش مصنوعی ارائه کند، و نتیجه عملکرد پردازشی 800 توکندرثانیه برای لاما 3 به ادعای آن اعتبار می‌بخشد.
گفتنی است که استارتاپ Groq ارتباطی با هوش مصنوعی Grok، متعلق به استارتاپ xAI ایلان ماسک ندارد.