בקצרה: הרבה פיילוטים של AI בארגונים נתקעים לפני פרודקשן, כי הם מתחילים מטכנולוגיה ולא מבעיה מוגדרת. ה-ROI נמצא בתהליכים ספציפיים שאפשר למדוד: עיבוד מסמכים (ב-Psika.ai זמן המחקר ירד מ-4 שעות ל-20 דקות לתיק), סיוע לנציגי שירות (במחקר של NBER מ-2023, נציגים עם עוזר AI פתרו בממוצע 14% יותר פניות בשעה) וסקירת קוד. צ׳אטבוטים גנריים, החלטות אוטונומיות וייצור המוני של תוכן שיווקי מבזבזים כסף.
הרבה פיילוטים של AI לא מגיעים לפרודקשן
ב-2024 Gartner צפתה שעד סוף 2025 לפחות 30% מפרויקטי ה-GenAI יינטשו אחרי שלב ה-POC. הסיבות שציינה: נתונים באיכות נמוכה, בקרת סיכונים חלשה, עלויות שמטפסות וערך עסקי לא ברור. אנחנו פוגשים את זה שוב ושוב: ה-POC עובד בדמו, ואז נשאר במאגר הקוד, כי אף אחד לא תכנן איך הוא נכנס לעבודה היומיומית של הצוותים.
הבעיה היא לא הטכנולוגיה. GPT-4, Claude ו-Gemini מספיק טובים. הבעיה היא שחברות מתחילות עם "אנחנו צריכים אסטרטגיית AI" במקום "יש לנו בעיה ספציפית ש-AI אולי יפתור".
איפה GenAI מספק ROI מדיד
אחרי שבנינו מערכות AI עבור שירותים פיננסיים, טכנולוגיה משפטית ולקוחות ממשלתיים, אנחנו רואים דפוסים ברורים.
עיבוד וניתוח מסמכים
כל ארגון שטובע במסמכים הוא מועמד טוב. בדיקת חוזים משפטיים, עיבוד תביעות ביטוח, בדיקת ציות רגולטורי. בודק אנושי קורא 30-50 עמודים בשעה. מערכת AI מעבדת 500 עמודים בשעה, ברמת דיוק שתואמת בודקים בכירים בסיווגים שגרתיים. היא עוברת על כל הערימה בקריאה ראשונה, מסווגת את המקרים השגרתיים ומשאירה לבודק את מה שבאמת דורש שיקול דעת.
ב-Psika.ai, מערכת המחקר המשפטי שבנינו, סוכני AI מחפשים תקדימים, בונים מבנה טיעון ומצליבים פסיקות קשורות. עורך הדין מקבל נקודת פתיחה מסודרת ומשקיע את הזמן שלו בניתוח, במקום בחיפוש. זמן המחקר של עורכי הדין ירד מ-4 שעות ל-20 דקות לכל תיק, ומדדנו את זה על פני אלפי שאילתות במשרדי עורכי דין אמיתיים.
שדרוג שירות לקוחות
לא צ׳אטבוטים שמתסכלים משתמשים, אלא AI שעוזר לנציגים אנושיים להגיב מהר יותר. הנציג רואה שאלה של לקוח, ה-AI מציע תגובה מבוססת מאמרי מאגר ידע ופתרונות מוצלחים קודמים, הנציג בודק ושולח. זמן התגובה יורד ב-40%, העקביות משתפרת, וחניכת נציגים חדשים לוקחת ימים במקום שבועות. מחקר של NBER מ-2023 בדק עוזר כזה אצל 5,179 נציגי תמיכה: הם פתרו בממוצע 14% יותר פניות בשעה, ואצל הנציגים החדשים והפחות מנוסים השיפור הגיע ל-34%.
ניהול ידע ארגוני
בכל ארגון יש ידע קריטי שכלוא בדפי Confluence, שרשורי Slack וראשים של עובדים שעוזבים. מערכות RAG שמנדקסות מסמכים פנימיים ועונות על שאלות עובדים בשפה טבעית מספקות ערך מיידי. ה-ROI קשה למדידה מדויקת, אבל הגידול בפרודוקטיביות בולט.
סקירת קוד והאצת פיתוח
סקירת קוד עם AI תופסת שגיאות לוגיות, בעיות אבטחה וחוסר עקביות שבודקים אנושיים מחמיצים כשהם עייפים. אצלנו סקירת AI היא המעבר הראשון: היא מטפלת בבדיקות השיטתיות, והסוקרים האנושיים מתמקדים בארכיטקטורה ובלוגיקה העסקית. סקירות שלקחו שעתיים לוקחות עכשיו 30 דקות.
איפה GenAI מבזבז כסף
צ׳אטבוטים גנריים. אם הצ׳אטבוט שלכם פשוט עוטף GPT עם תוכן האתר, בניתם מנוע חיפוש גרוע יותר.
קבלת החלטות אוטונומית. לכל החלטה עם השלכות רגולטוריות, פיננסיות או בטיחותיות, AI צריך להכין אפשרויות למקבלי החלטות אנושיים. אוטומציה מלאה נשמעת מרשימה במצגות לדירקטוריון, אבל יוצרת חשיפה משפטית.
ייצור תוכן שיווקי. לייצר 100 פוסטים עם AI זה קל. לייצר 100 פוסטים שלקוחות רוצים לקרוא זה קשה. ההנחיות של Google מ-2023 ברורות: היא מתגמלת תוכן מועיל, לא משנה איך נכתב, ותוכן שמיוצר באוטומציה כדי לתמרן את הדירוג נחשב ספאם. מאה פוסטים גנריים לא יקדמו אתכם בחיפוש, וגם לא יבנו אמון במותג.
איך לבנות פרויקט AI שמצליח
להתחיל מתהליך עבודה, לא מטכנולוגיה. לזהות תהליך ספציפי שבו בני אדם מבלים שעות על משימות שחוזרות על עצמן. למפות את התהליך. ואז לשאול: אילו שלבים מרוויחים מ-AI?
למדוד את הבסיס קודם. לפני שבונים משהו, למדוד ביצועים נוכחיים. כמה זמן המשימה לוקחת? מה שיעור השגיאות? לעקוב אחרי המספרים כדי להוכיח ROI אחרי הפריסה.
ככה עבדנו במערכת ה-AI לניהול רמזורים שבנינו לחברת טכנולוגיות תנועה ישראלית. מדדנו זמני המתנה, עיכובים באוטובוסים וזרימת תנועה מול תוכניות התזמון הקבועות, שהיו מדד הבסיס. מול המספרים האלה אפשר היה להראות בדיוק מה השתנה: 25% פחות זמן המתנה בצמתים ועד 30% פחות עיכובים באוטובוסים. אחרי הפיילוט, העיר הרחיבה את המערכת לצמתים מרכזיים נוספים.
לבנות שכבת אינטגרציה דקה. לא להינעל בספק מודלים אחד. לבנות את המערכת כך שמודל ה-AI הוא רכיב שניתן להחלפה. כשמודל טוב יותר מגיע (ויגיע), מחליפים מודול אחד, לא את כל המערכת.
לתכנן בני אדם בלולאה. כל פלט AI צריך להיות ניתן לסקירה על ידי בן אדם. ציוני ביטחון קובעים אילו פלטים צריכים בדיקה. פלטים עם ביטחון גבוה עוברים, ביטחון נמוך מסומן לבדיקה. כך הבודקים משקיעים את הזמן שלהם רק במקרים המסופקים, והגישה מספקת דיוק של 95% ומעלה ושומרת על המהירות.
יכולות מודל שבאמת משתלמות במערכות ארגוניות
כל כמה חודשים יוצא מודל חדש. שלוש יכולות באמת משנות את מה שאפשר לבנות.
קריאת פונקציות ופלט מובנה. המודל מחזיר JSON לפי סכמה שאתם מגדירים, ויכול לקרוא לפונקציות בקוד שלכם. כך LLM הופך מכלי שמייצר טקסט לרכיב במערכת אמיתית. בפרויקטי ה-Agentic AI שלנו, המעבר מניתוח טקסט חופשי לקריאת פונקציות הוריד את שגיאות הפענוח מכ-15% לפחות מ-2%.
קלט רב-מודאלי. מודל אחד קורא תמונות, אודיו וטקסט יחד. כך אפשר לעבד מסמכים בלי שלב OCR נפרד, גם מסמכים שמשלבים עברית ואנגלית, ולבצע בדיקה ויזואלית לבקרת איכות.
מודלים של חשיבה. המודלים האלה עוברים על הבעיה שלב אחר שלב לפני שהם עונים. במחקר משפטי, במידול פיננסי ובסקירת קוד הם נותנים תוצאות טובות יותר. הם גם איטיים ויקרים יותר, אז כדאי לשמור אותם למשימות שבהן הדיוק חשוב יותר מהמהירות.
בכל מה שיש לו השלכה רגולטורית, פיננסית או בטיחותית, המודל נשאר בתפקיד יועץ: הוא מכין המלצה, ואדם מחליט.
שאלות נפוצות
מהו תקציב ריאליסטי לפרויקט AI ארגוני? פיילוט של 3 חודשים מתחיל ב-300 אלף ש״ח ויכול להגיע ל-600 אלף ש״ח. פריסה לפרודקשן לאורך 6 חודשים מתחילה ב-900 אלף ש״ח ויכולה לעבור את 1.8 מיליון ש״ח. זה כולל תשתית, עלויות מודל ועבודת אינטגרציה.
באיזה מודל להשתמש? לרוב תרחישי השימוש הארגוניים, הבחירה בין GPT-4, Claude ו-Gemini פחות חשובה מהנדסת ההנחיות וצינור הנתונים שלכם. לבחור אחד, לבנות טוב, ולהחליף אחר כך אם צריך. רוב המערכות בפרודקשן משתמשות ביותר ממודל אחד: מודל חשיבה לניתוחים מורכבים ומודל קטן יותר למשימות פשוטות בנפח גבוה.
כדאי לחכות למודלים טובים יותר לפני שמתחילים? לא. הארכיטקטורה ועבודת האינטגרציה שאתם עושים היום עוברות גם למודלים הבאים. כשמגיע מודל טוב יותר, מחליפים את שכבת המודל, ושאר המערכת נשארת כמו שהיא.
איך מטפלים בפרטיות נתונים עם מודלי AI? להשתמש בממשקי API (לא מוצרים צרכניים), ליישם הסכמי עיבוד נתונים עם ספקים, ולשקול מודלים מאוכסנים בעצמכם עבור נתונים רגישים. Azure OpenAI Service ו-AWS Bedrock שומרים את הנתונים בתוך גבול הענן שלכם.
רוצים לגלות איפה AI יספק ערך אמיתי בעסק שלכם? דברו עם צוות ייעוץ ה-AI שלנו.