משמעות למידת המכונה לעולם התורני

הקדמה

בשנים האחרונות מדובר הרבה על עידן חדש שאנחנו בתחילתו, עידן ה-AI. למרות כל הדיבור סביב טכנולוגיה זו, טיבה עדיין לא ברור לרוב המוחלט של הציבור. יש חשיבות רבה להבנתה שכן הפיתוחים החדשים של ה-AI מביאים איתם שינויים מהותיים בסביבה הקרובה ובטכנולוגיות היום יומיות. במאמר זה ברצוני להגדיר בצורה ברורה מה זה בעצם AI, ולבחון האם יש להיערך לשינויים שהוא מביא לעולם מבחינה תורנית והלכתית.

א. השם של הטכנולוגיה החדשה

השם AI הוא קיצור של Artificial intelligence משמעות המילה Artificial היא מלאכותי והיא כנראה באה מהמילה art דהיינו מלאכה או אמנות. פירוש המילה Intelligence הוא חכמה או בינה. ובתרגום לעברית – 'בינה מלאכותית'.^[1] שם נוסף של התחום החדש הוא Machine learning[2] בתרגום חופשי: 'למידת מכונה'.^[3] השם הראשון משווה למכונה חכמה או בינה והשני מתאר סוג מסוים של למידה שהיא מושג אנושי. נוצר הרושם שהמכונה יודעת מה שהאדם יודע. השמות השונים הם ניסיון לשוות למכונה יכולות אנושיות, אין לצפות שהטכנולוגיה תעשה את המכונה לאדם על כל משמעויותיו, אמנם עם התקדמות הטכנולוגיה ובעיקר בפיתוח של שלוש השנים האחרונות המודלים מגיעים לביצועים מרשימים מאוד ביכולת להבין שפה אנושית ולהחזיר תשובות נכונות בתגובה לפנייה אנושית אליהם. הפוטנציאל הגלום בהם הוא רב וכן גם הסכנה, יותר ויותר אנשים מתחילים להתבלבל בנוגע להגדרה של חכמה לגבי הטכנולוגיה שנקראת AI.[4] דווקא משום שאנשים נוטים לייחס לטכנולוגיה זו מה שאין בה, חשוב לתת לה שם נכון, שהרי בסופו של דבר אין בה יותר מאשר מודלים מתמטיים מורכבים שמיושמים על ידי תוכנה.

ב. ההיסטוריה של ה-AI

כדי להבין נכון את התהליך בעולם הטכנולוגיה והמחשוב, צריך ללכת אחורה בזמן לייסוד של האינטרנט (בערך בשנת 1995), שכן האינטרנט הוא היסוד שעליו עומד ה-AI. האינטרנט מאפשר מעבר מידע בין כלל בני האדם ובכך הוא גרם להאצת הפיתוח הטכנולוגי בתחום התוכנה.[5] האינטרנט מאפשר גם לאגור מידע בסדר גודל אחר לגמרי ממה שהיה אפשר עד אז. המידע כשלעצמו חשוף לכול באתרי האינטרנט השונים, אבל את היכולת לאסוף מאגרי מידע ענקיים יש רק ל'חברות ענק'. המידע יכול להיות למשל אתר של שאלות ותשובות של מומחים בתחום הרפואה או הכלכלה, מתכנת יכול לסרוק את האתר ולהכניס את המידע שלו למודל,[6] אולם המתכנת היחיד הוא מוגבל בכמות היכולת שלו לדלות מידע. 'חברות ענק' עושות זאת על בסיס קבוע לכלל האתרים הקיימים ובכל השפות. המידע עובר עיבוד ונכנס למודלים שתוכננו למטרות שונות. ככלל ככל שמודל AI מסוים מתלמד על יותר מידע הוא נהיה יותר מהימן ומדויק. היכולת לבנות תוכנות AI מתקדמות יותר תלויה בכמות המידע ובאמינות של המידע. בתחילת הדרך תוכנות היו עובדות על בסיס קלט קבוע וידוע. אחרי שהתקבל סוג הקלט הקבוע המתכנת כותב לתוכנה אילו פעולות לעשות עם קלט זה, ברגע שמתקבל קלט שהמתכנת לא חשב עליו מראש בדרך כלל נוצר באג. חכמת התוכנה השתכללה בהתאם לזמן הפיתוח ויכולת הפיתוח של המתכנת. עם הזמן התחילו לשלב בתוכנות פונקציות מתמטיות שמטרתן לקלוט טבלאות מספרים שמתארות תהליך מסוים ולגלות מהו הגרף או הפונקציה המתאימה לתהליך המתואר במספרים. למשל מכניסים טבלה שמתארת מחירי דירות ביחס לשטח ומצפים שהתוכנה תיצור את הגרף שמתאים לכל מחירי הדירות ביחס לשטח. בשלב יותר מתקדם התחילו ליצור רשתות נוירונים. מהנדסים ניסו לגרום לתוכנה לפעול באותה צורה שפועל המוח האנושי, ולדמות רשתות של נוירונים שמקבלות מתח חשמלי ומחליטות האם להעביר אותו ולאן להעביר אותו. שיטה זאת נקראת בלועזית deep learning, כדי לבנות מודל שתואם את המידע שמכניסים אליו כקלט. כל מודל AI מתחיל בעצם משכבות רבות של משתנים עם מקדמים כשבהתחלה הם רנדומליים לגמרי, ועם טבלאות ענק של מידע מקוטלג מראש עם קלט והפלט הנכון שלו. למשל אם נבקש מאדם בישראל להשלים את המשפט: 'אנחנו גרים במדינת...' הוא מן הסתם ישלים: 'ישראל'. אולם כדי ללמד תוכנה להשלים צריך לתת לה כמות גדולה של משפטים שמתחילים במילים 'אנחנו גרים במדינת' ואז כפלט את המילה 'ישראל'. כך שהמודל ילמד להחזיר את הפלט הזה כאשר הקלט יהיה 'אנחנו גרים במדינת...'. את התהליך הזה צריך לעשות על כל המידע הזמין באינטרנט. כאשר המהנדס מחליט איך שכבה אחת תשפיע על הבאה אחריה ומהו הקריטריון להעברת המידע הלאה. בשלב הראשון כאשר מזינים את הקלט למודל כמובן מתקבלת תוצאה מוטעית לחלוטין, אלא שפה ישנו שלב נוסף של פונקציה שמעריכה את רמת הדיוק של התשובה של המודל אל מול התשובה הנכונה, חישוב מתמטי יודע לקחת את הפער בין התשובה של המודל לבין התשובה הנכונה ולתרגם אותו לשינוי של המקדמים של המשתנים הרבים של המודל בצורה כזאת שמקרבת את ההפרש למינימום. כך שבפעם הבאה שייכנס מידע הוא כבר יעובד בצורה שתואמת יותר את התשובה האמיתית. ככל שמאמנים את המודל על מידע מורכב יותר ההתקדמות והשינוי שלו עד לרמת דיוק טובה איטית יותר, ומצריכה הרבה מאוד חזרות של כל התהליך. זהו התהליך שנקרא למידה בתחום ה-AI.[7] סביב התהליך של למידת מכונה נבנה עולם שלם של יכולות ושיטות למידה בכל התחומים: ניתוח כתב אנושי, ניתוח מלל, ניתוח תמונה, עיבוד אותות וכל סוגי הנתונים. בעזרת מצלמות, מכשירי הקלטה ורמקולים, ה-AI עוסק בכל החושים של האדם, ראייה, שמיעה, ודיבור, למעט ריח ומישוש. בגלל היכולות שנבנו עד כה והסנסורים השונים שאפשר לחבר לתוכנה הקלט הפוטנציאלי ללמידה כולל את כלל המידע העולמי. מה שחסר זה הקטלוג האנושי, מה נכון ומה לא. היתרון של חברה אחת על השנייה הוא בכמות הידע המקוטלג שהיא יכולה להשיג. אם כן במהות שלו AI מעבד את הידע הזמין של כלל האנושות בצורה אוטומטית ומביא אותו לידי שימוש האדם.

ג. הפיתוח האחרון של מודלי שפה

עד השנים האחרונות הציבור הרחב עדיין לא היה חשוף למלא היכולות של התחום, כיוון שרק מהנדסי תוכנה ידעו לבנות ולהשתמש במודלים של למידת מכונה. בשנים האחרונות פיתוח של תת תחום של למידת מכונה העוסק בשפה אנושית התפתח עד כדי האפשרות לתת לציבור הרחב שימוש ישיר במודל. המודל נבנה בשיטה המקובלת בלמידת מכונה שבו המתכנתים של המודל נותנים למודל להבין לבד את החוקיות וההקשרים הפנימיים של המידע שמזינים לתוכו. מטרת המודל היא לקבל קלט מסוים ולהחזיר את המילה הבאה הנכונה בסבירות הגבוהה ביותר. לאחר שהתקבלה המילה הראשונה מכניסים את המשפט שנוצר שוב למודל ומקבלים את המילה הבאה וכן הלאה עד שהמודל מזהה שזהו סוף הקטע. מסתבר שכאשר עושים את התהליך הזה במודל עם שכבות רבות ועם מידע גדול, המודל שנוצר תוך כדי התהליך מצליח להגיע לרמת דיוק גבוהה מאוד אלא שאפילו המתכנתים שבנו אותו אינם יודעים איך הוא מחזיר את התשובות שהוא מחזיר, בגלל הכמות העצומה של משתנים ופעולות מתמטיות לא ניתן לעקוב אחר תהליך קבלת ההחלטות של המודל. כל מה שרואים זאת התשובה הסופית שהיא מדויקת להפליא באחוזים גבוהים. מהנדסים גילו שככל שמאמנים את המודל על מידע רב ומגוון יותר התשובות שמתקבלות הן מדויקות יותר, ובמודלים האחרונים אכן כמויות המידע האנושי שהכניסו למודל כולל מספרי ענק של טריליוני מילים ומידע אנושי כנראה קרוב לכלל המידע הזמין באינטרנט. היכולת אולי הכי חזקה של המודלים האלו היא בכתיבת קוד למחשב שתאורטית מאפשר להם לשנות את הקוד של המודל עצמו תוך כדי הפעולה שלו כך שהתלות של המודל במתכנתים קטנה.

התמונה הראשונה מציגה מודל בינה מלאכותית. שכבות המספרים עוברות דרך הפונקציות שבעיגולים.

התמונה השנייה מייצגת מודל שמטרתו לנבא את המילה הבאה.

ד. הבנה מוטעית של המציאות

היכולות שהפליאו גם את המהנדסים של המודל גרמו לתהיות כגון מהי חכמה, מהו ידע, האם יש ידע שהוא לא אנושי. מעבר לשאלות פילוסופיות אלו, גם במציאות ישנן תהיות. נוצר מצב שהתוכנה יכולה לעשות מה שבן אדם עושה הרבה יותר טוב עם ידע הרבה יותר מדויק, אם כך, נשאלת השאלה 'מהו מותר האדם מן הטכנולוגיה'. כדי לתאר את פעולת הטכנולוגיה משתמשים בהאנשה שלה, ושוב עולה שאלה, אם כן מה ההבדל בין המכונה לאדם. מי שלא רוצה להתבלבל צריך להשתמש במינוחים המדויקים של מהנדסי תוכנה, דא עקא מינוחים אלו קשים להבנה, וככל שהטכנולוגיה משמשת יותר בציבור הרחב, גם אנשי המדע משתמשים יותר ויותר במינוחים לא מדויקים ומטעים. במאמר קודם שלי^[8] כבר הצבעתי על מקור הטעות, הפילוסופיה הדטרמיניסטית בנוגע לשיטת העבודה של המוח האנושי היא זאת שעומדת מאחורי כל הדמיון בין מכונה לבין אדם. מי שמאמין שהמוח האנושי עובד בעצם ביסודו כמו מכונה מורכבת ושגם לו יש בעצם שכבות רבות של נוירונים שנותנים לאדם את היכולת ללמוד, הוא גם יכול לטעות ולחשוב שמכונה תגיע לרמה של אדם ביכולת ההבנה שלה את המציאות. כיהודים מאמינים אנחנו לא רואים שום איום בטכנולוגיה זו, שכן אנו מכירים בכך שהנשמה היא עיקר האדם, ושהקב״ה הוא חונן לאדם דעת ומלמד לאנוש בינה. אם כן אין לנו ממה להתפעל יותר מאשר להעריך את חכמת המתמטיקה שמגיעה לשיא תפארתה ברגע שמיישמים אותה נכון בעזרת כלים כמו מחשבים. הגמרא[9] מספרת על רבא שברא גברא ורבי חנינא ורב אושעיא שבראו עגל כל יום שישי. עם יכולות פוטנציאליות לברוא במוצא פינו גולם וחיות, אין לנו להתפעל על טכנולוגיה שגם לאחר 20 שנה של מחקר ופיתוח אינה מגיעה אפילו לרמת החכמה של נמלה. הגם שרואים יכולת מרשימה לדלות ידע ותשובות מדויקות אין זה כי אם החכמה האנושית של מהנדסים שפועלת בתוכנה לא התוכנה כשלעצמה.

ה. מהירות הפיתוח

כשמדובר על השינויים שמביאה איתה טכנולוגיה חדשה חשוב לקחת בחשבון את מהירות השינוי. בתחום של למידת מכונה בגלל היכולת של המודלים החדשים לכתוב קוד מהירות השינוי גבוהה הרבה יותר מבכל תחום אחר. נוספת לזה ההשקעה הכספית של משקיעים רבים כדי לגרום לפיתוח מהיר. מסיבה זו עולה החשש שהציבור הרחב לא יספיק לבנות כלים להבנה נכונה של ההזדמנויות וכן הסכנות של הטכנולוגיה.

ו. הסכנות ב-AI

פיתוח יכולת של תוכנה לעבד מידע וליצור ממנו תשובות לבני אדם עלול להביא עמו כמה סכנות, שאפשר לחזות מראש וכאלה שקשה לחזות מראש. התוצאה הישירה של איסוף כלל הידע האנושי ועיבודו בצורה טובה מבן אדם, מעלה תהיה, מה משמעות האדם כיצור שצובר ידע? האם יש חשיבות להיות מומחה בתחום מסוים אם בכל מקרה ישאלו את המכונה במקום את האדם? מצד אחד ידע מתחיל להיות שווה לכלל האנושות. ומצד שני האנושות מתחילה להפיץ ידע שהוא לא אנושי אלא מעובד. ובפוטנציאל גם מוטה. השלכה נוספת, בטכנולוגיה החדשה הכמות משפיעה יותר מהאיכות. וזה בעצם לוקח כהנחת בסיס שהמידע האנושי הכללי הוא ברמה מספיק טובה. תהליך נוסף ובלתי נמנע מהשימוש ב-AI הוא החלפת עבודה אנושית בתוכנה. אנחנו כבר עדים לתפקידים שנעשים בחלקם על ידי תוכנה דוגמת הקופאית במרכולים.[10] ברור שאם הזמן וככל שהמודלים החכמים יצברו ניסיון, הרבה מאוד חברות יעבדו עם הרבה פחות כוח עבודה אנושי. נראה שככל שהעבודה דורשת פחות הפעלת שיקול דעת, כך היא תוחלף יותר מהר בתוכנה. עיקרון זה מוביל אותי למסקנה שתפיסת האדם את עצמו כמי שצובר ידע ומשתמש בו, כבר לא תהיה רלוונטית. תהיה קומה נוספת של האדם כמי שמחבר את העולם לקב''ה. ניקח לדוגמה את מערכת המשפט כפי שהיא כיום במדינת ישראל. ניכר שעבודת השופטים מסתכמת בעיבוד מסמכים משפטיים בכל מיני שפות של כל מיני עמים, לאורך הדורות. אם זאת המטרה היא שה-AI יעשה את זה יותר מדויק והרבה יותר מהר. אם כן למה שלא נפנה אנשים לבתי משפט דיגיטליים בלי התורים הארוכים של בתי המשפט. כאלו שיהיו הרבה יותר אובייקטיבים. חששות נוספות שמעלים אנשי רוח בעולם, כוללים חשש מפגיעה אנושה ביכולת של אנשים לתקשר באופן חופשי, שכן עלול להיווצר מצב שבו כלי תקשורת הדיגיטליים יוצפו במכונות שמטרתן להסיט את דעת הקהל, בלי שאפשר לדעת שאלו לא אנושיים. קיימות הגזמות כגון החשש שתוכנות חכמות יצליחו בתהליך הלמידה שלהן לצאת משליטת האדם וללמוד גם מהו רגש, ואולי גם רצון. מומחים לבינה מלאכותית דוחים חששות אלו על הסף. היכולת העצומה של הבינה המלאכותית מצריכה שמישהו (נקווה שיהיו אלו תלמידי חכמים) יכניס משמעות לכל התהליך.

ז. שני יסודות בהבנת החידוש שבתחום הטכנולוגי החדש

המודלים החדשים הם כולם 'ישן' אך גם כולם 'חדש', הם מאומנים על מידע אנושי מהעבר ועושים עליו סינתזה ומצליחים להגיע לביצועים טובים על שאלות שבהווה. אך חסר להם את ממד הזמן. האדם חי בזמן ומושפע מהעתיד, המכונה אינה חיה כיוון שאין לה מושג של זמן לא של עבר ולא של עתיד.

יסוד נוסף להבין את עומק התהליך שעובר על עולם המדע ביצירת המודלים החדשים הוא שבפעם הראשונה המדע מוכן באופן מודע לוותר על היכולת שלו להבין את התהליך לפרטיו ומקבל את האמת כפי שהיא. מהנדסי התוכנה בונים מטריצות בעלות מיליארדי משתנים ומקדמים ובכך מאפשרים לריבוי הממדים^[11] ליצור תהליך שאדם לא יכול להבין, מתברר שדווקא שם מצליחים הרבה יותר ממודלים שבהם האדם בשליטה. באופן מסורתי המדע לדורותיו תמיד שאף להבין הכול עד לפרטי פרטים. כשלאחרונה נוצרה הבעיה של סופרפוזיציה של אלקטרונים בניסוי שני החריצים[12] היה זה לא נוח למדע להודות בכך שהוא לא מבין לעומק מה קורה. אולם לפתע דווקא מהצד הטכנולוגי מהנדסי מחשב באופן מודע בונים מערכות ומודלים שכל מטרתם היא לנטרל את השליטה של האדם על התהליך שעוברת המערכת, ולתת לחוקי המתמטיקה ובעצם לכוחות הטבע ולחכמה לעבוד בלי שאדם יודע מה קורה.

ח. העתיד של מודלי למידה חכמה

מבחינת המודלים הקיימים יהיו שיפורים בתחום התמונה, וידאו וקול. מבחינת הדור הבא של המודלים מומחים מדברים על מודלים שידעו לבצע משימות מהתחלה עד הסוף ולא רק לענות על שאלות. הדור הזה של המודלים יצטרכו כבר להיות עם אפשרות סנכרון של כמה תחומי ידע שונים. מה שעדיין לא קיים כיום כאשר כל מודל מצטיין בתחום שלו. מבחינת איכות המודל, המודלים כיום עושים שני דברים, האחד הם ממחזרים ידע קיים והשני הם עושים סינתזה לידע חדש. אמנם אין להם עדיין את היכולת להמציא משהו שאינו דומה כלל למה שהם מכירים כבר. מומחים אינם יודעים לומר האם מודלים יוכלו להגיע ליכולת הזאת. אי אפשר לומר בוודאות מה יהיו הפיתוחים הבאים, מה שכן ניתן לומר, שמה שיש כיום ייכנס יותר ויותר לכלל המכשירים הדיגיטליים הקיימים היום.

ט. חלקם של תלמידי החכמים בתהליך

לעניות דעתי ראוי לתלמידי חכמים, להבין לעומק מה זה למידת מכונה. כפי שלפני 100 שנה תלמידי חכמים למדו מה זה חשמל ופסקו בהתאם לגביו בשבת וכדו' ומי שלא הבין נכון את החשמל לא היה רלוונטי לדור. אפשר לחלק את המשמעות של הטכנולוגיה החדשה לשלושה נושאים שבהם יש לתלמידי חכמים מה לתרום:

א) משמעות הלכתית.

ב) משמעות מוסרית.

ג) משמעות אמונית.

מבחינת המשמעות ההלכתית יש כמובן את השאלות בעניין שמירת שבת בסביבה שכולה רווית מודלים חכמים וסנסורים. כדי להמחיש את המשמעות של הטכנולוגיה החדשה לעולם ההלכה, נעלה שאלה שעדיין לא רלוונטית כיום אך מן הסתם תהיה בעתיד הקרוב. ברור שטכנולוגיות חדשות ומודלים ייכנסו לכלל מכשירי החשמל השונים שבסביבתנו, האינטראקציה ביניהם לבין האדם לא תהיה גלויה וישירה אלא סמויה ועל ידי סנסורים אולם המשמעות שלה תהיה שינוי ארוך טווח בקבלת ההחלטות של המודלים השונים. האם יהיה מותר להשאיר אותם פועלים במשך השבת או לא? במאמר קודם טענתי שכבר בשואבים הרובוטיים עולה שאלה זאת כאשר הם פועלים במשך השבת בבית כשאנשי הבית מסתובבים. ומה יהיה הדין כאשר מערכת המים הביוב, החשמל וכל שאר המערכות גם יהיו מסונכרנות עם פעולות שאדם עושה במשך השבת שהם שלעצמם אין בהם חילול שבת. את דעתי כבר כתבתי במאמר הקודם אולם חשוב שגדולי הדור גם יביעו את עמדתם מתוך הבנה עמוקה של מלוא המשמעות של המודלים החכמים האלו. אולם החשיבות העמוקה יותר של הבנת הטכנולוגיה החדשה היא לא כדי לפסוק הלכה בהלכות שבת, אלא כדי להנחות מוסרית את אנשי המעשה מה לעשות ומה לא לעשות עם הטכנולוגיה החדשה. כבר עכשיו החברות הכי מתקדמות בתחום של AI בעצמן פונות לממשלות על מנת לחייב רגולציה על הטכנולוגיה שלהן. דא עקא, כאנשי תרבות המערב אין לאף אחד מושג מה מותר ומה אסור מה נכון ומה לא. מצער לראות את הדוגמאות של אנשי אקדמיה ואנשי תוכנה לשימוש בטכנולוגיה הכול כך עוצמתית שישנה. זיהוי שחקני כדורגל על מגרש, מציאת הדקה המסוימת במשך הקלטה של משחק וכדו׳. ואילו קידום הרפואה זכויות סוציאליות וכדו׳ נדחקים לפינה בגלל שאין להם פוטנציאל מספיק טוב לרווח.

מי אם לא תלמידי חכמים שאמונים על תיקון עולם במלכות ש-די צריכים להיכנס תחת עובי קורה זו ולעשות סדר. השאלה, האם ראוי להכניס את למידת המכונה גם לעולם התורני, כעזר וסיוע היא כמובן כבדת משקל, אולם היא לא עיקר העניין שעומד לפנינו, ולענ"ד ברור שהתהליך גם בתחום התורני בחלק המעשי שלו הוא בלתי נמנע.^[13] השאלה העיקרית היא האם עולם התורה נגרר אחרי הטכנולוגיה במלחמת מאסף או שיוצא בראש המחנה ומתווה את הדרך לניצול פיתוחים החדשים לטוב. חשוב שכבר בתחילת כל עידן תהיה אמירה ברורה, מה מותר ומה אסור, ולא לחכות לאנשי הטכנולוגיה לנסות כל מיני דברים הרסניים ואז להילחם בזה. לבסוף ראוי שתלמידי חכמים יתנו את דעתם לתהליכי העומק שבאים לידי ביטוי בטכנולוגיות החדשות. בראש ובראשונה יש כאן תהליך של ידע שנהיה זמין לכל כמו מים. מה שלפני כמה שנים היה רק למי שהחזיק בביתו ספרייה גדולה היום יש לכל אדם בכיס. מעבר לזה העובדה שבעתיד רוב העבודה האנושית תיעשה על ידי מכונה מצריכה כבר עכשיו תלמידי חכמים ליצוק תוכן למהות החיים גם שלנו כיהודים אך גם לעולם כולו, שהשאלות על מהות החיים רק ילכו ויתגברו אצלם עם הזמן. הנביא ישעיהו כותב ועמדו זרים ורעו צאנכם, דומה שלפי הנבואה הזאת יש משמעות חיובית לכך, שהטיפול בתחום החומרי ייעשה על ידי אחרים, ואילו האדם ינווט ויתקן את מידותיו וידבוק בקב''ה.