بدون لاگین روزی ۵ تا ویدیوی ۵ ثانیه ای hd با مینی مکس h3 بساز:
fal.ai/tools/minimax-h3-max
وسط یه سشن طولانی بدون دلیل واقعی مدل رو عوض نکنید.
تعویض مدل رایگان نیست.
تو اکثر سیستم‌های اینفرنس، کش پرامپت به مدل و ارائه‌دهنده‌ی خاص گره خورده. وقتی سشن رو از مدل A به مدل B منتقل می‌کنید، مدل جدید نمی‌تونه از کش مدل قبلی استفاده کنه.
باید کل ورودی رو دوباره پردازش کنه:
→ دستورالعمل‌های سیستمی
→ تاریخچه‌ی مکالمه
→ مهارت‌ها و حافظه
→ تعریف ابزارها
→ فایل‌ها و کانتکست بازیابی‌شده
→ تمام توکن‌هایی که تو سشن جمع شده
این کار سه هزینه‌ی فوری داره:
۱. هزینه‌ی توکن بالاتر
ممکنه قبلاً برای پردازش اون کانتکست پول داده باشید. مدل جدید باید پیش پردازش خودش رو انجام بده، پس عملاً دوباره برای ورودی هزینه می‌پردازید.
۲. تأخیر بیشتر
پیش پردازش کانتکست طولانی معمولاً همون چیزیه که اولین توکن رو دیر می‌ده. عوض کردن مدل می‌تونه یه سشن گرم رو دوباره به استارت سرد تبدیل کنه.
۳. رفتار کمتر پایدار
مدل‌های مختلف همون دستورالعمل‌ها رو جور دیگه تفسیر می‌کنن. تعویض مداوم می‌تونه لحن، انتخاب ابزار، سبک استدلال و پیوستگی کار رو تغییر بده.
رویکرد بهتر:
- یه مدل اصلی برای کل سشن انتخاب کنید
- مدل دیگه رو فقط برای ساب‌تسک‌های جدا استفاده کنید
- به مدل‌های تخصصی کانتکست کوچک و هدفمند بدید
- فقط وقتی عوض کنید که بهبود کیفیت واقعاً هزینه رو توجیه کنه
- وقتی هدف کاملاً عوض شد، سشن جدید شروع کنید
روتینگ مدل ارزشمنده ولی پریدن تصادفی بین مدل‌ها گرونه.
بوکانت retweeted
اجرای مدل غول‌پیکر Qwen3.8-Flash-Next روی فقط یک کارت گرافیک RTX 3090، بدون هیچ ترفند خاصی مثل MTP یا DFlash! 🔥
یک مدل ۱۲۵ میلیارد پارامتری (MoE) مستقیماً روی سیستمی که خیلی از ما در خانه داریم:
مشخصات و منابع:
• نسخه کوانتایز: ۸۲ گیگابایت (UD-IQ3_XXS)
• سخت‌افزار: ۲۴ گیگابایت رم گرافیک + ۶۴ گیگابایت رم سیستم (۲۳ گیگابایت VRAM اشغال‌شده)
• حافظه کانتکست: تا ۱۵۸ هزار توکن قابل استفاده (تست‌شده تا ۱۲۸ هزار توکن)
بنچمارک و سرعت:
⚡ اوج پردازش ورودی (Prefill): ۱۶۸ توکن بر ثانیه (در ۳۲ هزار توکن)
⚡ میانگین خروجی متن (Decode): ۲۱ توکن بر ثانیه
⚡ اوج خروجی متن: ۳۳ توکن بر ثانیه
تمام این نتیجه فوق‌العاده فقط با موتور llama.cpp و یک کارت ۳۰۹۰ به‌دست آمده. آینده اجرای محلی هوش مصنوعی همین‌جاست! 🤯
بوکانت retweeted
برای کسایی ک vouch دادند امشب قرعه کشی میکنم. حضور در اسپیس الزامی نیست.
با سایتی ک درست کردم قرعه کشی رو بین کسایی ک‌انجام دادند برگزار میکنم.
قرار شد ب ۵ نفر هرکدام ۵ دلار روی شبکه سولانا $USDC ارسال کنیم.
سوالی هم داشتید استیج تشریف بیارید درخدمتم.
کانال رو پیگیری کنید
اسپیس امشب ساعت ده شب خواهد بود.
خارج از موعد هست ولی نیازه
موضوعات:
پروژه @ActionModelAI و کمپین ۱۰۰ هزار دالریش.
کامانز
گپی درباره هوش مصنوعی و آپدیت درباره اتفاقات اخیر.
با سیستم یا لپ تاپ تون آماده باشید چنتا از تسک ها رو باهم انجام بدیم.
teapawt.net/i/spaces/1YxNrbewqBNxw
بوکانت retweeted
🐂 چالش Ox Alpha
با Ox Alpha یه ابزار بسازید که یکی از مشکلات واقعی زندگی روزمره‌ی مردم رو حل کنه.
هرچی ایده خلاقانه‌تر و ابزار کاربردی‌تر باشه، شانس بردنتون بیشتره 👀
📹 آموزش استفاده رایگان از Ox Alpha: youtu.be/FIhoccZtpZQ
برای شرکت در چالش:
1- ابزار یا پروژه‌ای که ساختید رو همراه با یه توضیح کوتاه و ترجیحاً عکس/ویدئو ازش توییت کنید.
2- من رو توی توییت تگ کنید: @MatinSenPai
3- عضو کانال اسپانسر چالش، Lira Candles باشید: t.me/liracandles
من پروژه‌هایی که برام جالب باشن رو ری‌توییت میکنم و در نهایت از بین شرکت‌کننده‌ها ۵ پروژه برتر رو انتخاب میکنم. 🔥
🎁 جایزه هرکدوم از ۵ برنده: یک شمع صدف و توت‌فرنگی از Lira 🕯️🍓
معیار انتخابم بیشتر روی خلاقیت ایده، کاربردی بودن و کیفیت چیزی که با Ox Alpha ساختید خواهد بود.
تا فردا همین ساعت می‌تونید توی چالش شرکت کنید! چون احتمالا آخرین مهلت استفاده‌ی رایگان از مدل Ox Alpha خواهد بود طبق گفته‌ی OpenCode
دوتا گزارش فنی نوشتم و دادم به هرمیس که برای جلسه فردا بررسیشون کنه. با توجه به رفرنسهایی که داده بودم رفت تو کامپیوترم و تمام فایلهای رفرنس داده شده رو پیدا کرد و ضمیمه کرد به فرایند بررسیش!
کل کار رو هم سپرد به تیم باتهایی که قبلا تشکیل داده بودم!
شورا برگزار کردند و تمیز و مرتب به ایفای نقش تخصصی خودشون پرداختند!
خروجی واقعا چشم نواز بود :)
