Production LLMs • Agents • Evals • AI Infra Writing in Persian about what I build & test Creator of LLM for Humans ↓

Berlin, Germany
Joined July 2019
پرامپت‌نویسی مهمه، اما خیلی وقت‌ها مشکل اصلاً از پرامپت نیست. وقتی جواب مدل خراب می‌شه، قبل از طولانی‌تر کردن پرامپت باید پرسید: اطلاعات لازم در کانتکست بوده؟ بازیابی درست انجام شده؟ ابزار و جریان کار درست بوده؟ خروجی ارزیابی شده؟ ۱/۳
🤖 Made with AI
2
4
1
26
3,324
ایونت امروز مثل تخم مرغ شانسی بود، هیچی نگفتن چی میخوان بگن اگه امروز چیز بدرد بخوری گفتن، توییت میکنم 😄🤫
1
9
172
اگه یه ذره روحیه‌ی هکری داشته باشین، احتمالاً عاشق REA میشین! از اون ابزارهاست که میگم کاش چند سال پیش دستم بود! یه جعبه‌ابزار فوق‌العاده برای کسایی که کرم هک، مود کردن و سرک کشیدن توی دل‌وروده‌ی اپ‌ها رو دارن! این ریپو ۳ هفته اس ترند شده و ۳۸۵ هزار استار گرفته🔥 بیشتر 👇🏻
این REA یجوری ترسناکه که از دیشب که تستش کردم، کرک و پشمی بهم نمونده. دیشب یه فایل apk بهش دادم و از ترس اینکه کلاد اکانتمو بن کنه، روی لوکال و Qwen دیکامپایلش کردم. عملا زندگینامه اپ، حتی کلیدهای API فایربیس رو درآورد و یه اسکریپ نوشت برام که مستقیم و خارج از اپ API رو کال کنه. تهش هم ازش خواستم یه داکیومنت کامل از همه‌ی endpoint ها و ساختار اپ بسازه. در ادامه هم با تحلیل endpoint ها یه تصویر کلی از بکند داد و ازش داکیومنت ساخت. تا اینجای کار شاید بگید خب که چی، ولی که چیش تازه اینجا شروع شد. همه‌ی داکیومنت‌ها و اطلاعاتی که از اپ داشتم رو بازنویسی کردم در قالب داکیومنت‌های یه پرداکت جدید(که کلاد بهش گیر نده و سیشن رو فلگ نکنه) و از کلاد خواستم از صفر کل پروژه رو بسازه. صبح که بیدار شدم دیدم کل بکند، فرونت و اپ رو با فلاتر از صفر ساخته تست کرده و خودش باگهاشو برطرف کرده، و نه تنها خیلی تمیز کار میکنه، بلکه با یکم کار بیشتر میشه به عنوان که پروداکت واقعی ازش استفاده کرد. حالا هی بگید AI قرار نیست بیکارمون کنه
3
3
85
7,548
مثلاً یه APK بهش می‌دین و می‌گین منطق تولید کد ورود رو پیدا کن. ایجنت می‌تونه کلاس‌ها رو سرچ کنه، مسیر اجرا رو دنبال کنه و کد دی‌کامپایل‌شده رو توضیح بده. توی نمونه‌ی رسمی Aegis همین کار رو کردن، بعد بازسازی اون الگوریتم تست میکنه و حدس نمیزنه!!
1
1
311
جذاب‌تر اینکه REA فقط برای APK نیست؛ باینری‌ها، اپ‌های دسکتاپ، JavaScript و فایل‌های ترافیک شبکه رو هم بررسی می‌کنه. البته قرار نیست سورس بکند رو از هوا دربیاره یا هر اپی رو کامل بازسازی کنه. ولی برای دیدن پشت‌صحنه‌ی نرم‌افزارها وسوسه‌کننده‌ست. ریپو: github.com/morluto/rea
1
290
یه بازار جالب برای GPU داره شکل می‌گیره: مدیرعامل Hyperbolic می‌گه میشه B300 رو ساعتی ۴ تا ۵ دلار اجاره کرد و ظرفیتش رو با نرخ ۱۰ تا ۲۰ دلار فروخت. یعنی به‌جای فروش توکن، خود قدرت پردازشی رو معامله کنی. اختلاف قیمت وسوسه‌کننده‌ست و یجور دلالی gpu هست ولی توضیحات اضافه هم‌داره👇🏻
GPUs are becoming money-printing machines. Lock in B300s at $4–5/GPU-hour and sell the capacity at $10–20/hour. That's 2–5x the rental price. Neolabs are already hoarding GPUs. If you're sitting on H100s, B200s, or B300s, Hyperbolic can help turn your GPU capacity into revenue. Start hoarding compute and monetizing it.
1
1
25
1,737
اجاره‌ی ساعتی ۵ دلار یه B300 که کل ماه روشن باشه ۳۶۰۰ دلار هزینه می‌ذاره؛ حتی اگه استفاده نشه و وقتی این قیمت ۵ دلاری رو گیر میاری که قرارداد بلند مدت بگیری ولی تضمینی نیست که همیشه خریدار باشه چه برسه به ۱۰ تا ۲۰ دلاری بنظرم هنوزم وسوسه کننده‌س! حداقل تا وقتی که بازار ai داغه!
4
113
این مدل جدید اپن سورس رو از دست ندین! فقط ۶ گیگ رم نیاز داره برای اجرا 🔥
NVIDIA releases Nemotron-3.5-Bolt-E4B, a new model that runs locally on 6GB RAM. 💚 Bolt-E4B can run on edge devices like phones and delivers top-tier performance for its size. Trained on Gemma 4, it supports vision. GGUF: huggingface.co/unsloth/NVIDI… Guide: unsloth.ai/docs/models/nemot…
2
9
380
اگه توی آلمان زندگی می‌کنین، این رشته رو حداقل یه بار بخونین! من ۲ ساله اینجام و هنوز بعضی زباله‌ها منو جلوی سطل‌ها گیر میندازن؛ آخرش هم دست‌به‌دامن چت‌جی‌پی‌تی میشم ((: برای همین یک راهنمای خوب ساختم، موارد مرزی و ترفندهای تفکیک رو توی یه راهنمای تصویری کامل جمع کردم 👇🏻
1
7
358
این‌ها زباله‌ی سطل‌های معمولی نیستن: باتری، پاوربانک، کابل و شارژر، لامپ ال‌ای‌دی، رنگ مایع و اسپریِ نیمه‌پُر. باتری لیتیومیِ آسیب‌دیده خطر آتیش‌سوزی داره. این‌ها رو به محل جمع‌آوری مخصوص تحویل بدین؛ نه زرد، نه خاکستری. اسپری بدن فقط وقتی کاملاً خالیه میره زرد.
1
3
47
لباس سالم رو اهدا کنین؛ مبل و تشک خراب هم زباله‌ی حجیم هستن. برای چیزای مبهم، عکس و اسم شهرتون رو به ChatGPT بدین که واقعا کار راه اندازه! مشخصه که این رشته رو هم با کمک AI ساختم ولی فقط می‌خواستم یه راهنمای تصویری داشته باشم که کار خودم رو راه بندازه. بوکمارک یادتون نره :)
3
42