העתיד של המוות

נופר לופו

המשכילים של התנ"ך

ד"ר יונת אשחר

ציור בכל צבעי הקשת

אורי טייכמן

האור בקצה המערה

ניצן המרמן

קול מהעבר: מי יבנה בית… מבוץ?

ד"ר יעל עבאדי-רייס

והרי הזוכים…

מערכת גחלילית

ידידים לעת מדע

חמוטל ילין

הלב השבור

אביבית דולב

קול מהעבר: לזכור ביחד

ד"ר יעל עבאדי-רייס

המגפות של הדמיון

רמי שלהבת

האגדה של טסלה

מיכאל גרוסברג

המגפה שלא הייתה

ד"ר קרן לנדסמן

חבל על הזמן

רמי שלהבת, דוד מדר

האמת שבזיוף

אהוד מימון

שיר היסודות

ד"ר אבי סאייג

האם הממותה נכחדה?

איתמר אבנרי

קול מהעבר: משחקי לוח עתיקים

ד"ר יעל עבאדי-רייס

למה לי פטנטים עכשיו?

ענת לונדון-דרורי

מדעי הסריגה למתקדמים

ד"ר נעמה חריט-יערי

מפרי ועד פיריט

שלומית עוזיאל

קול מהעבר: תיאוריית הסבתא

ד"ר יעל עבאדי-רייס

הרקע ל"משפט הקופים"

מאת: רמי שלהבת

גלי כבידה

מעיין בלוויס
מתוך תחרות S-Factor 2017

הזואולוג העברי הראשון

סיפרה: ורד שפירא
כתב: גרא קולטמן

קוואנטום פאנק

להקת קוואנטום פאנק
מתוך תחרות S-Factor 2017

ריקוד הגליקוליזה

צרי בריקנר
מתוך תחרות S-Factor 2019

חלקיקים אלמנטריים

סיפר: פרופ' חיים הררי
כתב: גרא קולטמן

להיות מחוסן, להיות ממוגן

שלישיית הטרובדורים: איילת דקל, נורית קרני וינאי גונצ'רובסקי
מתוך תחרות S-Factor 2019

מזמור למזקקה

פרופ' אהוד שפירא
מתוך תחרות S-Factor 2017

מצב הצבירה הרביעי: פיזיקת הפלזמה לילדי גן

סיפרו: יפה אליעזר ופרופ׳ שלום אליעזר | כתב: גרא קולטמן

טבלת החיים

גיא ויינגרטן
מתוך תחרות S-Factor 2019

שנסון לחלבון

דניאל זיידמן
מתוך תחרות S-Factor 2019

נתרן וכלור

רוני גלפנד ואדם רופאים
מתוך תחרות S-Factor 2019

המראה משקרת

רום יטיב, שקד לוטן, נמרוד שובל שרים, יותם אברמסון ורועי בנין
מתוך תחרות S-Factor 2019

התהוות הכל

רועי בנין, עמית אינזלברג, רום יטיב, שקד לוטן, נמרוד שובל
מתוך תחרות S-Factor 2019

אבק כוכבים

לירי דולנסקי
שיר מתוך תחרות S-Factor 2019

מימן

אריאל רודיק
על בסיס "ראפ למימן" מתוך תחרות הכשרונות המדעית S-Factor 2019

על סדר מתוך כאוס

פאנל: פרופ׳ דוד הראל ופרופ׳ תמר אל-אור

מחול מודרני

רקדנית: ענבר קרן

תרגילי החשבון של הדבורים

סינא כבהא, תוכנית אלפא

אקריות: הרבה מעבר לאלרגיה

עומר גיז, תכנית אלפא

מוסר של מכוניות

גל פרלמן

אצבע על כפתור נהג אוטומטי
צילום: אוליבייה דה מואל, שאטרסטוק

את מי להציל במקרה של תאונה – את הנהג או את הולכי הרגל? לפני שנוכל להתחיל לנסוע במכוניות ללא נהג, יהיה עלינו ללמד אותן להתמודד עם שאלות מוסריות

מוסר הוא הבחנה בין התנהגויות שנחשבות טובות לאלה שנחשבות רעות. אולם במקרים רבים המציאות מחייבת לשקול בין כמה ברירות טעונות מבחינה מוסרית, שכל אחת מהן תגרום נזק אחר. כולנו מקבלים החלטות רבות באופן יומיומי, למשל כשאנחנו נוהגים על הכביש, ולא פעם צריכים להתחשב גם בשיקולים מוסריים. אולם מה תעשה מכונית אוטונומית באותו מצב. מתכנני כלי הרכב ללא נהג אנושי שבהן ניסה בעתיד הלא רחוק נדרשים להטמיע בהם כללי התנהגות שידמו שיפוט מוסרי אנושי.

דוגמה לקושי בשיפוט מוסרי מציגה הדילמה המחשבתית של בעיית הקרונית. דמיינו לרגע קרונית רכבת נעה על מסילה שבהמשכה נמצאים חמישה אנשים שלא יכולים לברוח, כך שאם לא נעשה כלום הקרונית תדרוס אותם. בגרסה אחת של הבעיה באפשרותכם למשוך בידית שתסיט את הקרונית למסילה אחרת שעליה יש רק אדם אחד. האם תפנו את הקרונית כך שהיא תפגע באדם האחד, או שלא תתערבו וכך תביאו במחדל למותם של חמישה. רוב האנשים אומרים שימשכו במקרה כזה בידית. 

בעיית הקרון
בעיית הקרון. במי תבחרו? | איור: McGeddon, ויקיפדיה

בגרסה שנייה של הבעיה, הדרך היחידה להציל את החמישה היא לדחוף אדם מגשר כדי שיעצור את הקרונית בגופו. במקרה הזה, רוב האנשים עונים שלא ידחפו את האדם. עם זאת, מבחינה רציונלית אין הבדל בין הבעיות: אם לא תפעלו ימותו 5 אנשים, ואם תעשו פעולה ימות רק אדם אחד. אך כנראה דחיפת אדם מגשר היא מעשה הרבה יותר קשה עבורנו ממשיכה של ידית.

דילמות רובוטיות

מוסר הוא אם כן עניין מורכב עבורנו, בני האדם. אז מה קורה כשמעמידים דילמות מוסריות בפני מערכות בינה מלאכותית כמו זאת שיש לכלי רכב אוטונומיים?

מכוניות אוטונומיות הן כלי רכב שאמורים לנסוע ולנווט ללא התערבות אנושית פעילה. כדי להמחיש את מורכבות סוגיית המוסר של מכוניות אוטונומיות קחו לדוגמה את המצב הבא: אתם נוהגים במכונית ומוצאים את עצמכם מוקפים בכלי רכב אחרים. מימינכם נמצא רוכב אופנוע ללא קסדה, לפניכם משאית עמוסה בציוד כבד ומשמאלכם ג'יפ גדול.

לפתע פתאום נופל מהמשאית צינור כבד היישר לכיוונכם. יש לכם שלוש ברירות: לא לעשות כלום ולספוג את המהלומה, לשבור את ההגה שמאלה ולהתנגש בג'יפ, או לשבור ימינה ולפגוע באופנוע. האם תשימו בראש את ביטחונכם האישי ותתנגשו באופנוע? תעדיפו לא לגרום נזק לאחרים ותסכנו את חייכם בנסיעה ישר? או אולי תתנגשו בג'יפ ותסמכו על דירוג הבטיחות הגבוה שלו?

אם אדם ינהג במכונית במצב מורכב כזה, נבין פחות או יותר כל תגובה שיקבל, משום שנראה בה התנהגות אינסטינקטיבית בתנאי לחץ. אבל במכונית אוטונומית המצב שונה – התגובה שהיא תבחר היא זאת שבחרו עבורה מראש המתכנתים שלה.

את הניסוי המחשבתי הזה אפשר לקחת לעוד מקומות רבים. למשל אם מצד אחד שלכם נוסע רוכב אופנוע חבוש קסדה ובצד השני רוכב שראשו חשוף. האם מוטב שהמכונית תפגע ברוכב הממוגן, כי סיכוייו לשרוד טובים יותר, או ברוכב השני, כי הוא נהג באופן לא אחראי ולא הוגן להעניש את הרוכב הראשון על זהירותו?

מכונית מזהה את סביבתה
מכונית, הולך רגל ואופניים. מי יותר פגיע? | איור: posteriori, שאטרסטוק

ידע הוא כוח

אחת השאלות שמעסיקות חוקרים בתחום היא מהו המידע שמכוניות אוטונומיות אמורות לבסס עליו את החלטותיהן. ניסוי המכונה המוסרית, למשל, הציב שאלות שמבוססות על תכונות כמו גיל, משקל ותעסוקה. הנבדקים הועמדו בפני דילמות והיו צריכים לציין איזו החלטה צריכה לקבל המכונית האוטונומית. למשל האם עליה להעדיף להרוג גבר או אישה? אדם רזה או שמן?

ממצאי המחקר הראו כי אנשים חושבים שבמצבים מסוימים יש להעדיף את חייהם של אנשים בעלי תכונות מסוימות – למשל אנשים צעירים, רזים ועם עבודות נחשבות כמו מנכ"לים ורופאים), אולם המבקרים טוענים כי המחקר נבנה כך שהמשתתפים היו חייבים לבחור לפגוע במישהו מסוים, ולא ניתנה להם אפשרות לא לבחור, כלומר לאפשר פגיעה אקראית באחד מהאנשים.

מחקר אחר, שניסה לבדוק אם אנשים באמת מעדיפים שהמכוניות האוטונומיות יקבלו החלטות על בסיס תכונות, מצא שרובם מעדיפים שמכוניות אוטונומיות יתייחסו באופן שווה לכל האנשים המשתמשים בדרך. כלומר, אנחנו מעדיפים שהמכוניות לא יקחו בחשבון פרטים דמוגרפיים כמו גיל ותעסוקה כשהן מקבלות החלטות.

מכונית אוטונומית מבפנים
איזה נתונים צריך לאסוף? | מקור: mstamorworks, שאטרסטוק

רגולציה של מוסר

המחקרים האלה מראים את החשיבות של המחשבה והתכנון בפיתוח מכוניות אוטונומיות – לפי אילו כללי מוסר היצרנים אמורים לתכנת את המכוניות הללו? אולם מעבר לכך עלינו לשקול גם בידי מי עלינו להפקיד את הסמכות לקבוע את החוקים הללו? האם כללי האתיקה של הנהיגה האוטונומית צריכים להיות כלליים – כלומר להיקבע על ידי רשויות המדינה או אפילו אמנות בינלאומיות, או שמא אפשר להשאיר אותם לסמכותו  של כל יצרן ויצרן, כך שלכל כלי רכב תהיה מערכת כללים משלו והקונים יבחרו את כללי המוסרר שהם רוצים להתקין במכונית החדשה שלהם.

המדינה הראשונה שהתמודדה עם השאלות האלה היא גרמניה, שניסחה הנחיות לקבלת החלטות במכוניות אוטונומיות. על פי ההנחיות הללו, במקרה של תאונה בלתי נמנעת, על המערכת האוטונומית להפחית את מספר הנפגעים, אך אסור שהיא תקבל החלטה על פי מאפיינים אישיים כמו גיל, מין וכו'. סביר להניח שעם הזמן נראה יותר ויותר מדינות שמאמצות הנחיות דומות.

שאלה נוספת שעולה היא אם אנשים חושבים שרכב אוטונומי צריך לקבל החלטות תועלתניות, שמטרתן למזער את הנזק ככל שרק אפשר? ואם כן האם יסכימו לנסוע בכלי רכב שיתוכנת להקריב את חייהם במצב שבו עליו להעמיד את חייהם מול אלה של כמה  אנשים?

שד ומלאך מתחרים על נפשו של אדם
דילמה מוסרית. הבחירה קשה | איור: יורגן מקלמן, שאטרסטוק

כדי לבדוק את זה הציגו חוקרים לנבדקים דילמה בין מצב שבו מכונית תתנגש בקיר ותהרוג את הנהג או שתסטה מדרכה ותדרוס  קבוצת הולכי רגל. נמצא שאנשים מסכימים שכלי רכב אוטונומיים צריך לתכנת כך שהפגיעה בחיים אדם תהיה מזערית והם יעדיפו להקריב את חיי הנהג על פני פגיעה גדולה יותר בזרים. אולם כשנשאלו אם יסכימו לנהוג במכונית כזאת, אנשים העדיפו להשאיר את זה לאחרים. כלומר קיים פער בין הכללים שאנשים חושבים שהמכוניות הללו צריכות לציית להם, לבין האמון האישי שהם נותנים בכלי רכב שתוכנת כך.

על פי ההערכות, מכוניות אוטונומיות צפויות להפחית משמעותית את מספר ההרוגים בתאונות דרכים. אולם היות שהן אמורות להיות מתוכנתות מראש להתמודדות עם מצבים מורכבים, עלינו לשקול לעומק את השאלות המוסריות הקשורות בשימוש בהן. המוסר של מערכות אוטונומיות מעלה שאלות מורכבות איתן שצריכות להעסיק לא רק את היצרניות, אלא גם את רשויות המדינה ואפילו אותנו – הצרכנים.