עוד כמה נקודות קטנות שחשוב לשים לב אליהם בהקשר של LLM Provider, זה להבין אם אפשר או אי אפשר לעשות Fine-tuning. בשלב ההתחלתי, כ-150 סוכני AI יסייעו לכ-80,000 עובדי EY ברחבי העולם לנהל באופן יעיל כ-3 מיליון תהליכי דיווח מס וכ-30 מיליון תהליכי מיסוי בשנה, תוך התמודדות עם דרישות רגולטוריות מורכבות. בתחום הקמעונאות, סוכנים אלו מסוגלים לנהל באופן עצמאי מלאי והמלצות קנייה, לזהות מחסור צפוי וליזום הזמנת מלאי אוטומטית, תוך התאמת ההיצע בזמן אמת להעדפות הלקוח. לאחר מספר שנים של התקדמות בתחום הבינה המלאכותית, בפרט היוצרת (Gen AI), השנה האחרונה מסמנת שלב חדש ומשמעותי ביותר עם התפתחותה של Agentic AI.
ביותר
הם מציעים גם כל מיני אינטגרציות, אז אתם יכולים לקבל את זה דרך SageMaker, את ההוסטינג, וזה מאפשר לכם בעצם גם לבחור את החומרה, כן? למשל, אתם יכולים, יש לכם input של פרומפט ו-output של ה-LLM, אתם יכולים לתת פידבק, זה פרומפט טוב, זה use-case טוב, זה הצלחה, ואז בעצם ליצור מזה dataset לתיוג, ל-Fine Tuning או Few-shot examples, תלוי לאן אתם רוצים לקחת את זה. וחוץ מזה הוא גם כמובן סופר את הטוקנים הנכנסים, את הטוקנים היוצאים, ואתם יכולים לקבל הערכה של כמה פרומפט עולה ואתם יכולים בעצם גם ליצור dataset-ים מהפרומפטים. הוא מדפיס בעצם את כל ה-chain-ים ואיך פרומפטים קשורים ל-chain-ים ואיך chain-ים קשורים אחד לשני.
האם צריך רקע קודם בבינה מלאכותית כדי להשתתף בקורס?
- יש את Text Generation Web UI של מישהו ב-GitHub שקוראים לו Oobabooha, או Oobabooga, משהו כזה, צחוק קל שזה פשוט איזשהו Lightweight UI שאתם גם יכולים לשחק, להוריד מודלים מהאינטרנט ולשחק איתם On-Prem ולהעריך ביצועים.
- נכון, עושה רושם שלא יצטרכו מתכנתים ברמה גבוהה לבניית אפליקציות דסקטופ ומובייל, אתרי אינטרנט ומערכות פשוטות – אפשר להשתמש בקורסור, base44, loveable וחבריהם.
- המקרים הללו הפכו לאזהרות לכל העולם – וכולם היו ניתנים למניעה.
- היא מתורגמת (interpreted) — הקוד רץ ישירות בלי הידור.
- לא רק תחביר — אלא frameworks, סביבות עבודה, ופרויקטים אמיתיים.
- לאותה סכמה, שרק ב-sidenote אני, חשוב להגיד, הוא לא מציית ב-100% במקרים, אבל בוא נגיד זה מעלה לו את הדיוק באופן משמעותי, אז עדיין אני חושב ששווה לשים Output Parser לצידו.
- הקורס במכללת ג’ון ברייס מלמד כיצד להפוך את התיאוריה והמתודולוגיות המתקדמות לכלים פרקטיים בניהול ופיתוח הלמידה בארגון.
תוך שבוע יש לכם דליפת שכר פנימית. ״10 חולשות סייבר שעסקים בישראל מתעלמים מהן — ואיך AI מונע אותן״ מפעיל אחד לא הפעיל מערכות חירום בזמן.
איך גורמים ל-LLM לעבוד דרך ה-API כסוכן?
רוב הכלים, הספריות והפריימוורקים המתקדמים ביותר בעולם הבדיקות וה-AI בנויים ומותאמים לשפת פייתון. עדיפות גבוהה לרקע בפייתון, שכן כל דוגמאות הקוד, התרגולים והכלים שנלמד בקורס יתבססו בשפה זו. במהלך הקורס נלמדות שיטות עבודה עם מודלים גדולים (LLMs) בסביבה עצמאית ומבוססת API, בניית סוכני AI לביצוע משימות בדיקה ואוטומציה, פיתוח ממשקים לאינטראקציה עם מערכות AI, ויישום מתודולוגיות מתקדמות להערכת איכות של מערכות מבוססות בינה מלאכותית.
DLP ל-GenAI — אילו פתרונות עובדים בישראל?
עוד כזה דברים חמודים שיש ב-LangSmith זה נגיד שאתה ממש יכול לראות ברמת הסשן outsource AI development Israel מה היה הפלואו, אז אתה רואה כאילו האייג’נט התחיל לרוץ, הוא השתמש ב-tool הזה, ואז אחרי זה הוא הלך לעוד tool והביא את המידע ואז הוציא את ה-output, וואטאבר. בשביל זה יש כלים כמו PromptLayer או Pezzo הישראלים, ויש גם עוד מיני כלי כזה שנקרא Tokenizer, שאתם יכולים להכניס אליו את הפרומפט שלכם, והוא אומר לכם כמה טוקנים יש בו. בהיבט של Prompt Management, זה יותר כלים שנועדו לאפשר לכם לראות את כל הפרומפטים שלכם באפליקציה, ולהבין איך הם עובדים, ולתת לכם שליטה מבחוץ, במקום בתוך הקוד, איזשהו כלי חיצוני, No-code עם UI, שמאפשר לכם גם Version control. שני הדברים שאני כן אגיד, זה אחד, learnprompting.org, פשוט, לא יודע, אני אהבתי אותו, זה כזה כל מיני מדריכים יחסית פשוטים לפי קונספטים שמעניין אתכם, אם זה security, אם זה structuring, כל מיני כאלה. וגם יכול להיות שהתשובה שאנחנו נשמור, היא תהיה… כאילו צריך לעדכן אותה מדי פעם בהתאם לכל מיני לוגיקות.
הכלים: מה באמת שווה ללמוד ב-2025
אולי לפני זה שווה רגע להפריד – יש הוסטינג של האפליקציה עצמה ויש הוסטינג של ה-LLM. אז נקודה אחרונה, אממ… זה נושא של סרבינג והוסטינג. וכל הנושא של אבולואציה, שהיום יש כל מיני Out of the Box Evaluators ש-LangSmiths מציעים, וגם אפשר לבנות Evaluators custom-יים, לדאטה שהוא unstructured, כן? אז למשל אם אנחנו מדברים על Sequential-chains-ים שמכין chain-ים בעצמו, אז הוא כבר נותן לכם את כל הסטאק ומראה לכם מה קרה בכל הריצה. אז LangChain יצאו עם פלטפורמה בשם LangSmith, שנותנת דבר ראשון ויזיביליות יותר טובה. עוד נושא חשוב זה כל העניין של ה-debugging והאבלואציה.
אנו עומדים בחוד החנית של שילוב AI מתקדם, אנליטיקה ופורנזיקה דיגיטלית בחקירות פיננסיות מורכבות, ועובדים בממשק עם גופי אכיפה ישראליים ובינלאומיים מובילים. המחלקה משתפת פעולה עם גופי אכיפה בישראל, כמו גם עם רשויות אכיפה במדינות אחרות, ובכלל זאת מבצעת חקירות בחו"ל בהתאם לאמנות שעליהן חתומה הרשות. בוגרי התוכנית יקבלו כלים פרקטיים להפקת תובנות עסקיות מהמידע הגולמי הנמצא במאגר החברה, וניצולן לידע תחרותי בעל ערך מוסף. בוגרי התוכנית מפתחים טכניקות לעבודה עם דאטה מובנה, מובנה למחצה ולא מובנה, כולל שימוש במערכות ייעודיות לכמויות מידע עצומות, ביצוע תהליכי אנליזה, תרגול ניתוח מידע, שיטות חיפוש במערכות ועבודה מול מערכת קבצים
סופר איג’נט בניית סוכני Ai
כל עוד בנקים, ביטוח ובריאות צריכים מערכות — Java רלוונטית. התחביר פשוט, הקהילה ענקית, ויש כמות מטורפת של חומרי לימוד בעברית ובאנגלית. אם אתם לא בטוחים — Python, כי סף הכניסה נמוך יותר ותוכלו לגלות מה מושך אתכם תוך כדי. לא רק תחביר — אלא frameworks, סביבות עבודה, ופרויקטים אמיתיים. הבחירה הראשונה היא נקודת התחלה, לא נקודת סיום.
היו חלק מהשינוי
זה פוגע ממש מינורית בביצועים, ומבחינת… בביצועים מבחינת האיכות של המודל אני מתכוון, מבחינת ביצועים בזמני ריצה זה יכול להיות גם סדר גודל יותר טוב. ומה שאתם צריכים לחשוב עליו פה, זה בעצם על השיקולי compliance ו-privacy שיש לכם, ה-reliability שאתם מצפים מה-API שלכם. כשאתם עושים הוסטינג אתם, יש לכם פה עוד בחירה שאתם צריכים לקבל, האם אני רץ על CPU או על GPU, כן? כשעובדים עם Hugging Face, אז גם הם מציעים Inference-endpoints, שהם עושים בעצם הוסטינג למודל אצלם. אז ההוסטינג של האפליקציה הוא די straightforward, שרת יחסית פשוט.
ובאמת, כל השאלות האלה, זה שאלות שעלו מאנשים בקבוצת הוואטסאפ שלנו. ניסינו פשוט לעשות איזשהו… איזשהו מילון כזה שאומר, אוקיי, מה אני צריך לחשוב כרגע כשאני בוחר את ה-LLM הזה, או את הפריימורק הזה, או את הדאטאבייס הזה. בעצם אתם צריכים לקחת בחשבון המון פרמטרים.