Pinned Tweet
אם אתם עובדים עם AI, הנה כמה דברים שלומדים רק כשמגיעים לפרודקשן:
• מודל טוב זה החלק הקל.
האתגר האמיתי הוא דאטה, אינטגרציה ו־latency.
• מה שעובד במחקר לא תמיד עובד עם משתמשים.
העולם האמיתי שובר הנחות מהר.
• יותר דאטה איכותי > מודל יותר מתוחכם.
ברוב המקרים זה צוואר הבקבוק.
• עדיף פתרון פשוט שעובד היום.
ממערכת “מושלמת” שלא מגיעה לפרודקשן.
• כל החלטה היא trade-off.
אין ארכיטקטורה מושלמת יש נכונה להקשר.
אנחנו חיים בעידן מופלא בפעם ה#3688.
היום היה לנו דמו שבועי (כל יום חמישי מציגים פיצ'רים חדשים).
השבוע עשיתי עבודת פרפורמנס ותהיתי איך להציג את זה. רציתי להראות ויזואלית את התהליך המייגע והמתסכל שהיה לפני במוצר לעומת השיפור עכשיו, אבל הדמו סלוט שלי היה קצר מדי בשביל להריץ תהליך שלם בלייב.
אז הבוקר פשוט ישבתי עם קלוד:
1. הקלטתי את המוצר לפני ואחרי.
2. נתתי לו את הויז'ן שלי לסטורי טלינג של הסרטון.
3. הוא ייצר את כל האסטים בפיגמה דרך MCP (אני אפילו לא פתחתי פיגמה).
4. יצא וידאו מטורף ומצחיק שמראה יום בחיי היוזר שלנו ואיך הוא משתמש במוצר מהעיניים שלו לפני השיפור ולאחריו.
בסוף הדמו? אנשים פחות התעניינו בשיפורי הפרפורמנס ויותר ב"איך יצרת את הווידאו הזה?!" 😂
אז ארזתי את כל הקריאטיב הזה כסקיל ושלחתי לכולם.
התחלתי את היום בלי רעיון איך להציג, וסיימתי עם וידאו ברמה גבוהה וכלי שכל החברה יכולה להשתמש בו בדמואים ללקוחות ושמייצר לנו שפה ויזואלית.
מיותר לייצר שגם עבודה "אמיתית" נעשתה היום :).
איך נרמלנו את זה שאנתרופיק מוציאים הודעה חגיגית על "חיסכון של 99% במכסה!", כשכל מה שהם עשו זה לתקן באג שגרם לסוכן לקרוא שוב ושוב קונטקסט מיותר?
זה לא "פיצ'ר אופטימיזציה" מהפכני שחייבים להכיר, זה פשוט להפסיק לחייב אותנו על תקלה שלכם.
היום עבדתי עם קלוד על פיצ'ר והוא עצר אותי באמצע ואמר לי "לכי לדבר עם X, היא צריכה לאשר את זה".
X היא חברת צוות, מעצבת המוצר שלנו, שמעצבת את המוצר בקוד.
כמות הפיצ'רים שהמפתחים מייצרים אינה מאפשרת עיצוב מוצר על ידה בצורה שלא תהווה צוואר בקבוק.
הדרך שבה היא מתמודדת עם זה היא לדאוג שהקלוד של כולם יעצב את המוצר **כמוה**, בלי שהיא תהיה שם.
איך היא עושה את זה?
1. קלוד.מד עם הוראות מפורטות על העיצוב הבסיסי. למשל: פלטת צבעים, פונטים.
2. בנק קומפוננטות וקונספטים לשימוש למשל: כפתורים, תפריטים.
3. סקילים טובים שמתערבים בפיתוח, בונים את העיצוב נכון ומתריעים על עיצוב חדש שדורש אותה בלופ.
המבחן? איך נראה דף שעוצב ע"י מפתח פעם או אחרי התשתית והסקילים. שמים וארץ אם תשאלו אותה, אפילו על דברים שאנחנו לא רואים בכלל :)
כל דקה שהיא משקיעה בתשתית הזו, ולא בשיפור עיצוב של פיצ'ר ספציפי, זה דקה שמפנה אותה לדברים מורכבים ומעניינים ושגורמת ל10X פיצ'רים להוולד כמו שצריך.
תהיו X. תבינו מה הmoat הייחודי שלכם בצוות ואיך אתם בונים אותו כתשתית.
Miriam Horovicz retweeted
אחד הדברים המעניינים שראיתי בזמן האחרון.
בדקו את היכולת של אסטרה (OpenAI) להבין ולערוך משקולות של מודלים והתוצאות די הזויות בעיני.
כלומר: להסתכל על עשרות אלפי מספרים שמרכיבים מודל ואשכרה לעשות איתם דברים.
בואו, זה סופר מעניין 🧵>>
כולנו עכשיו סביב אותה השאלה: איפה לשחרר לאייג'נט ואיפה להישאר על ההגה? איפה הוא עוזר לנו, ואיפה אנחנו עוזרים לו?
העניין הוא שאין לזה תשובה אחת אבסולוטית. מוצר לשימוש אישי לא דומה למוצר פרודקשן, וכלי עזר יומיומי לא מתנהג כמו מערכת קריטית בדיפנס.
מעבר לזה, זה תלוי מומחיות. מפתח שלא שוחה בדבאופס דווקא ישחרר שם בכיף לאייג'נט, אבל באזור נוחות שלו? שם הוא יבדוק ולא ימהר לסמוך בעיניים עצומות.
בסוף, הרבה פעמים, אנחנו משחררים שליטה לא איפה שהאייג'נט הכי חכם, אלא איפה שנוח לנו להודות שאנחנו פחות.
להיות לקוח שבוי זה להשתמש באייג'נט אחד כדי לכתוב את הקוד, ובשני כדי לצמצם אותו למינימום הדרוש, ולהבין שלמי שמכרו לך אותם אין שום אינטרס לחסוך לך את הטוקנים של הכתיבה והמחיקה.
ה-UI של קלוד וג'יפיטי זה לא רק מודל, זה גם לא רק אייג'נט, זו אפליקציה שמתוזמרת מקצה לקצה. מעלים קובץ, ה-Code Interpreter טוחן אותו, החיפוש רץ ברקע והזיכרון עובד. מוצר שהוא מערכת שלמה או אם תרצו "הרנס".
כשאתה בונה מוצר אייג'נטי ב-API אתה מקבל מודל ונילה ומשם צריך להתחיל לבנות.
מהיום הראשון המוצר שלך נמדד מול מעטפת שלמה שלא קיימת שם, וזה מעמיד אותך מול ברירה ארכיטקטונית:
לבנות Harness משלך ולרדוף אחרי היכולות של המעבדות כדי לשכפל את החוויה אצלך או להתהפך, לבנות MCP Server ולשים את היכולות של המוצר שלך בתוך ה-Harness המוכן שלהן.
מדברים המון על אבולואציה של אייג'נטים (ועושים הרבה פחות), אבל כמעט ולא מדברים על הפרשנות של המספרים בעולם האמיתי.
כשמישהו אומר "הסוכן שלי מדויק ב-85%", המספר הזה חסר משמעות בוואקום. 85% זה מטורף או כישלון? אפשר בכלל להגיע ל-100%?
המספר הוא תמיד יחסי, והכל תלוי במטריקה שרלוונטית לבעיה ובבייסליין של המציאות בשטח:
משימה שלא הייתה קיימת עד היום? 85% (ואפילו 60%) יכול להיות ערך עצום שנולד מכלום.
החלפה של תהליך אנושי? הבנצ'מרק הוא לא 100% תיאורטי, אלא אחוז הטעויות האמיתי של הבן אדם שעושה את זה עכשיו. אם אדם טועה ב-15% מהזמן בגלל עומס או שחיקה, האייג'נט כבר תיקף את עצמו, רק בסקייל בעלות ובמהירות אחרים.
לפני שנלחמים לשרוף משאבים על ה-15% האחרונים, שווה להבין מה הבייסליין שאנחנו באמת מודדים מולו.
אם אני אינני אני, אז מי אני בכלל?
אם שואלים אותך "מה עשית?" ואתה עונה "לא זוכר, קלוד עשה".
אין לך מושג מה עובד, מה לא ומה הסיפור של המוצר-
אז האייג'נט בצוות הוא כבר לא ה-LLM.
האייג'נט הזה הוא אתה.
אם אני אינני אני, אז מי אני בכלל?
אחד הדברים הכי כיפיים (וממכרים!) בעבודה עם אייג'נט זה לתת לו לתקתק את "העבודות השחורות".
להוסיף דשבורד, לזרוק איזה אלרט או לסדר פייג'ינג. הוא אמנם לא יגדיל ראש מעצמו, אבל ברגע שמבקשים, הוא עוזר לסגור את המשימה בצורה יותר שלמה, בלי להתעייף או להתלונן :)
"אם לא תשלח, איך תקח?"
זה נחמד לוודא שהאייג'נט עובד, אבל אם זרקתם אותו לפתור סימפטום בלי להבין בכלל מה הבעיה המקורית, איך תדעו שהוא בכלל פתר את הדבר הנכון?
לבנות מאפס , דיפ טק, לרוץ מהר, ולתת ערך מהר.
איך זה מתכנס בעולם מולטידיספלינארי מורכב? זה חלק מהדילמות המרתקות של היום יום שלי לאחרונה.
נקודה מעולה של עוזי על הדילמה הזו מכלי ראשון 👇
Physical AI is the hot space right now. Here's what building in it really feels like...
It's a constant balancing act. On one hand, you're building incredibly complex infrastructure from absolute zero to teach AI the laws of physics. That takes deep, foundational engineering.
On the other hand, the AI gold rush demands warp speed. You have to meet the customers fast and get real, tangible products in their hands yesterday.
You can't iterate your way out of gravity, and five years hiding in a lab is too long. The real challenge?
Shipping deep tech at software speed.
מכירים את זה שקלוד פולט פתרון מבריק, נקודה למחשבה או פקודה שתצטרכו בהמשך, אבל הטקסט טס למעלה ולכו תגללו עכשיו חצי שעה לחפש אותו? 🤦♀️ אז לא עוד.
הכירו את Nugget 🚀 – כלי קטן שנותן לכם לסמן מהתשובה מה שתרצו ולשמור את כל ה"פנינים". אפשר גם לנהל לפי סוגים וסטטוסים. הכל מסודר מול העיניים!
הלוואי ו- @AnthropicAI יוסיפו בהמשך תמיכה מובנית ב-Right Click כדי שנוכל לעשות את זה אפילו בלי להקליד משהו נוסף.
תודה ל @TzafrirR על ההשראה! 🙌
גיטהאב (תתנו לקלוד שלכם והוא יתקין): github.com/Miriam2040/nugget
ההבטחה: בונים תשתית AI עם AWS Bedrock כדי למנוע Vendor Lock-in ולהחליף מודלים בלחיצת כפתור בשירות מאובטח.
הפנטזיה: המוצר יתנהג בצורה דומה, לא משנה מי הספק או המודל הספציפי שכרגע בשימוש.
המציאות: הבדלים קטנים בין הקונפיגורציות שוברות לך את המוצר בשקט.
השבוע גיליתי כמה הבדלי התנהגות קריטיים כשעוברים בין מודלים וספקים שונים שחשוב להכיר👇
פרמטר ה-max_tokens (או max_completion_tokens ב-OpenAI) מגביל את סך כל הטוקנים שהמודל מייצר בחזרה, וזה כולל בתוכו גם את תהליך החשיבה הנסתר.
אם המודל מוגדר לחשיבה אינטנסיבית (כמו הדיפולט של סונט), אבל מגבלת הטוקנים הכוללת נמוכה מדי - תיווצר בעיה.



