כולם רצים למודלים הגדולים והחזקים ביותר. אבל מה אם זו דווקא הדרך הכי יקרה — ולא בהכרח הכי טובה — לבנות מוצר AI?

בפרק הזה אנחנו מארחים את שרון דהן, Chief Architect ב getimpala.ai, ונכנסים למה שבאמת קורה מאחורי כל קריאת API ל-LLM: למה inference עולה כל כך הרבה, איך GPU ו-KV Cache משפיעים על החשבון, ולמה ניהול קונטקסט נכון יכול להיות חשוב יותר מגודל המודל.

דיברנו על איך לפרק משימות כדי לגרום למודלים קטנים לעבוד טוב יותר, איך שינוי בשאלה בלבד יכול לשפר משמעותית את התוצאות, למה מודלים סיניים משנים את כלכלת ה-AI — ומה קורה כש-Agents מתחילים לדבר אחד עם השני ומפסיקים את יום העבודה של בני האדם.

פרק על מודלים, כסף, Context Engineering והדרך לבנות AI שעובד גם בסקייל — בלי לשרוף את התקציב

כשה-AI כבר יודע לכתוב כמעט את כל הקוד, מה נשאר למפתח לעשות?

בפרק הזה אנחנו מדברים עם דור יהודה, Staff Engineer ב-monday.com, ומאיה אשר מצוות הגיוס, על השינוי שעובר תפקיד המפתח — ועל הדרך שבה השינוי הזה משנה גם את מי שאנחנו מחפשים ואיך אנחנו מגייסים.

נדבר על המעבר מכתיבת קוד לחשיבה מערכתית, judgment ואימפקט; על AI Fluency כיכולת חדשה שאנחנו מחפשים לאורך כל תהליך הגיוס; על למה ניסיון בשפה או framework ספציפי הופך לפחות משמעותי; ואיך נראים ראיונות בעולם שבו שימוש ב-AI הוא כבר חלק מהעבודה עצמה.

מה קורה כשה-Agent כבר לא רק מחפש מידע — אלא מתחיל להבין את הארגון ולקבל החלטות?

בפרק הזה אנחנו מארחים את רועי זלטה, Solution Engineer בעולמות ה-Data וה-AI ב-Microsoft, לשיחה על Company Brain: מוח ארגוני שמחבר בין מסמכים, שיחות, אנשים, החלטות וההקשר שמאחוריהן.

נדבר על ההבדל בין RAG, Team Brain ו-Company Brain, על מנגנוני Dreaming שמנקים ומארגנים את זיכרון ה-Agent, על העלות והמורכבות של תחזוקת קונטקסט ארגוני — ועל הרגע שבו ארגונים יצטרכו לוותר על חלק מהשליטה כדי לאפשר ל-Agents לפעול באמת.

וגם: למה בני האדם עצמם הופכים לצמתים בגרף הידע, ומה יהיה היתרון התחרותי האמיתי בעולם שבו המודלים זמינים לכולם.