הארכיטקטורה סביב מודל ה-AI חשובה יותר מהמודל עצמו
מה נאמר בכנס
בפתח מפגש של פורום e-Gov שנערך בירושלים, במלון וולדורף אסטוריה, עלה נושא התשתיות שעומדות מאחורי מערכות הבינה המלאכותית בשירות הציבורי. המפגש התקיים מבית אנשים ומחשבים, ובו השתתפו יותר מ-350 איש. את המפגש הנחה יובל אלגד, מנהל המגזר הציבורי במלם תים, ונושאו היה ״מחזון למציאות: בונים את ה-AI של השירות הציבורי״.
סהר דולב, סמנכ״ל הטכנולוגיות של מלם תים, פתח את הדיון בטענה מרכזית. לדבריו, מודל השפה עצמו כבר אינו מקור יתרון מובהק. המודל טוב ושימושי, אבל אין הוא המנוע של המערכת. לפי דולב, מה שמייצר ערך לארגון הוא העטיפה, כלומר הארכיטקטורה שבונים סביב המודל, והדרך שבה משתמשים בו בפועל.
למה המודל כבר לא מבדל
בשנים האחרונות נוצרו מודלי שפה גדולים רבים, מצד חברות שונות, וההפרשים ביניהם בביצועים הולכים ונעשים צרים יותר בחלק מהשימושים. בארגונים גדולים, ובמיוחד בגופים ציבוריים, השאלה כבר אינה איזה מודל הכי חזק, אלא איך מחברים אותו למידע הקיים, לתהליכי העבודה ולדרישות האבטחה.
דולב הדגיש כי המטרה היא להשתמש במודלים בצורה טובה ויעילה, כך שיניבו ערך עסקי ממשי. משמעות הדבר היא שהמאמץ העיקרי עובר מבחירת מודל לבניית מערכת שלמה, שכוללת שכבות של שליפת מידע, הרשאות, ניטור ותהליכי אישור. מי שמבין את השכבות האלה נהנה מיתרון, גם אם המודל שבו הוא משתמש אינו החדשני ביותר.
ההחלטה הראשונה: היכן נמצא ההקשר
ההחלטה הראשונה שדולב פירט נוגעת להקשר. לדבריו, מודלי שפה גדולים שאינם מקבלים הקשר מספקים תוצאות פחות טובות. כלומר, מודל שאינו יודע על הארגון, על המסמכים שלו ועל הנהלים שלו יתן תשובות כלליות, לעיתים שגויות. לכן נדרש לספק להם הקשר שיהיה נכון ומאובטח בו זמנית.
השאלה שמנהלי ה-IT נדרשים להכריע בה היא היכן יושב ההקשר, ואיך מספקים אותו למודל בכל פעם שהוא נדרש לענות. מדובר בבחירה שמשפיעה על איכות התשובות, על עלויות התפעול ועל מידת החשיפה של מידע רגיש. ארגון שמזין מודל במידע בלי בקרת הרשאות עלול לחשוף נתונים למי שאינו אמור לראות אותם.
ההחלטה השנייה: סוכנים אוטונומיים ואכיפה
ההחלטה השנייה נוגעת למעבר לעולם האוטונומי, שבו סוכנים תוכנתיים מבצעים פעולות בעצמם ולא רק עונים על שאלות. דולב אמר כי יש להבין כיצד בונים מערכות עצמאיות באופן מאובטח, וכי אין מדובר בשאלה טכנית קטנה. ככל שסוכן מקבל יותר סמכויות, כך גדלה החשיבות של המנגנונים שמגבילים אותו.
הנקודה החשובה ביותר שהעלה הייתה שהאכיפה צריכה לפעול לפני שהסוכן מתחיל לעבוד. לדבריו, האכיפה אינה תלויה בכך שהסוכן יבין מה אסור לו לעשות. זו הבחנה חשובה, משום שמודל שפה עלול לטעות או להתעלם מהנחיה. לכן יש לקבוע מראש מה מותר ומה אסור, ולא להסתמך על שיקול הדעת של המערכת. בהקשר של גופים ציבוריים, מדובר בשאלה רגישה במיוחד, משום שהחלטות של סוכנים עלולות לפגוע באזרחים. הוויכוח על מעקות הבטיחות במודלים כבר הגיע גם לבתי המשפט, כפי שמראה התביעה שהגישה קליפורניה נגד חברת OpenAI בנושא מעקות הבטיחות במודלי ה-AI.
ההחלטה השלישית: מי שולט בנתונים
ההחלטה השלישית עוסקת בשליטה על סביבות ה-AI. דולב שאל מי הריבון, ומהי מידת הריבונות שהארגון רוצה לשמור לעצמו. לדבריו, אין ארגון שרוצה לקום בבוקר ולגלות שאין לו גישה למידע שלו. השאלה אינה תיאורטית: היא נוגעת לאופן שבו מאוחסנים הנתונים, לאיזו מדינה הם כפופים, ומי יכול לשנות את ההתנהגות של המערכת.
בהמשך הציג דולב את המושג LQM, שאותו תיאר כרשת היברידית לנתונים כמותיים, ואמר כי הארגונים נכנסים לעולם חדש של חיזוי בעזרתה. לפי מחקרים שהזכיר, 75% מהארגונים מחוץ לארצות הברית ולסין יאמצו עד 2030 תפיסת ריבונות. הנתון מלמד שהשאלה מי מחזיק בנתונים תהפוך לסוגיה ניהולית מרכזית. בישראל, שוק הנתונים כבר מתחיל לזוז, ולדוגמה MongoDB רוכשת את הסטארטאפ הישראלי Firebolt, מהלך שמעיד על הביקוש לתשתיות נתונים.
מה הלאה
לסיכום דבריו, חזר דולב על הרעיון המרכזי של ההרצאה. בעולם התוכן החדש של הבינה המלאכותית, העטיפה והארכיטקטורה הם שמניבים את הערך, ולא המודל לבדו. לכן הוא המליץ לקבוע קודם כול ״אצל מי המפתח״, כלומר מי שולט בגישה, בנתונים ובכללים, לפני שמחליטים על המודל.
עבור הגופים הציבוריים בישראל, המסר מחייב תכנון ארוך טווח. ההחלטות שמתקבלות היום על ההקשר, על האוטונומיה ועל הריבונות ישפיעו על השירות לאזרחים בשנים הקרובות. המפגש הציג גישה שמעבירה את הדיון מההייפ סביב מודלים חדשים לשאלות של ניהול, אבטחה ושליטה.
שורה תחתונה
המודל כבר אינו הנכס המבדל העיקרי. מנהלי IT צריכים להכריע היכן נמצא ההקשר, כמה סמכות להעניק לסוכנים ומי מחזיק בשליטה על הנתונים.
מקורות: pc.co.il


