להכניס את כולם ואת כולן לחדר

מה אם היינו מזמינים את האנשים שהכי זקוקים לטכנולוגיה — לעצב אותה יחד איתנו מההתחלה?

לא בתור "משתמשי קצה", לא כמי ש"נייעץ להם בדרך", אלא כשותפים אמיתיים.

זו שאלה שאני נושאת איתי כמעט בכל פרויקט טכנולוגי חדש שאני פוגשת. בשנים האחרונות. ככל שהבינה המלאכותית הופכת להיות חלק בלתי נפרד מכל תחום – מבריאות ועד חינוך – התחושה הזו רק מתחדדת: אם לא נבנה את המערכות האלו עם האנשים שאמורות לשרת, אנחנו פשוט נבנה אותן למרות או על חשבונם.

וזה נכון במיוחד כשמדובר באנשים עם מוגבלויות.

לאחרונה קראתי סקירה מחקרית מרתקת שפורסמה על ידי צוות מאוניברסיטת יורק. החוקרים ביקשו למפות את האופנים שבהם AI יכול לתמוך באנשים עם מוגבלויות — אבל גם את הסכנות, ההטיות והפערים שנוצרים כשהם לא באמת חלק מתהליך הפיתוח. הסקירה בחנה עשרות מחקרים וניסתה לזהות תבניות חוזרות, יישומים מבטיחים, וגם כשלים עמוקים שחוזרים על עצמם.

מה גילתה הסקירה?

הסקירה בוצעה כסקירת סקופינג שיטתית – שיטה שמטרתה למפות תחום ידע קיים ולאו דווקא למדוד אפקטיביות או לבחון השערות. החוקרים חיפשו מאמרים אקדמיים שהתפרסמו בחמש השנים האחרונות, בשמונה מאגרי מידע מובילים בתחומי הרפואה, הטכנולוגיה ומדעי החברה, כמו PubMed, IEEE Xplore ו-ACM Digital Library.

מתוך 354 מאמרים שאותרו, נבחרו 45 שהיו רלוונטיים והכילו תיאורים של יישומים מבוססי AI הנוגעים לאנשים עם מוגבלויות. החוקרים ניתחו את המאמרים בגישה תמטית (thematic analysis) – כלומר, זיהו דפוסים חוזרים, נושאים מרכזיים ופערים במחקר הקיים.

המטרה לא הייתה לבדוק אם פתרון מסוים עובד הכי טוב, אלא לזהות מגמות במחקר, כשלים ותובנות על הדרך שבה תחום הידע שעוסק בשימוש בשימוש ב AI עבור אנשים עם מוגבלות מתפתח – ולא פחות חשוב - מה לא קורה בו כרגע.

אז מה היה לנו שם?

ראשית, הסקירה הראתה שכל המחקרים מדגימים ש-AI אכן יכול להיות כלי משנה מציאות:

לשיפור תפקוד יומיומי (למשל, מערכות תקשורת תומכת-חלופית מבוססות AI).
לניהול בריאות ושיקום (כלים לאבחון מוקדם, חיזוי תסמינים או התאמה אישית של תכניות טיפול).
לסיוע בשילוב חברתי ותעסוקתי.

אבל לצד הפוטנציאל הזה, הסקירה חושפת בעיה עמוקה: מרבית המחקרים בתחום מתבססים על מודל רפואי צר של מוגבלות – כזה שרואה במוגבלות בעיה שיש לפתור, ולא חלק מזהות של אדם שחי בתוך סביבה שדורשת התאמה.

מה המשמעות של זה בפועל? פיתוחים רבים מונעים מתוך רצון "לתקן" את האדם, מבלי להבין את ההקשר החברתי שבו הוא פועל. ובמילים אחרות – מבלי לשאול אותו.

והטיות?

הן חלק בלתי נפרד מהתמונה.

רבים מהמודלים שנבדקו בסקירה לא עברו כלל בדיקת הטיה: לא נבדקה ההשפעה של מוגבלויות שונות על ביצועי האלגוריתם, לא בוצע ניתוח מגדרי או תרבותי, ולא נשאלה השאלה – האם המערכת פועלת בהוגנות כלפי כולם?

בנוסף, נמצא כי מאגרי הנתונים שעליהם מתאמנים המודלים כמעט תמיד לא כוללים מספיק ייצוג של אנשים עם מוגבלות, או כוללים אותם בתיאור שלילי או רפואי בלבד. אתם מבינים כבר לבד את התוצאה, נכון?

מודלים שלומדים את המציאות מתוך תיעוד חלקי, מוטה ולעיתים מפלה – משכפלים אותה הלאה.

והדבר הכי מטריד?

רוב המחקרים שנסקרו כלל לא כללו אנשים עם מוגבלות בתהליך הפיתוח. לא כי לא רצו בטובתם – אלא כי ראו בהם קהל יעד, לא שותפים.

הגענו לחלק המרכזי והחשוב, כי אנחנו פה כדי לתקן לא רק כדי להצביע על בעיות :)

אז מה אפשר לעשות אחרת?

הסקירה מציעה שורת המלצות שהרגישו לי כמעט כמו קריאה לפעולה לכל מי שנמצא בתחום.הנה כמה מהן:

לעבור ממודל רפואי למודל חברתי של מוגבלות – כזה שרואה את האדם בהקשר הסביבתי והחברתי שלו, ושם את החסמים במרחב ולא באדם עצמו.
לעצב מערכות AI בגישה מכלילה ומשתפת, בשיתוף אמיתי עם אנשים עם מוגבלויות – לא רק בבדיקות, אלא משלב החשיבה והעיצוב.
לבדוק כל מודל חדש להטיות והדרה, לא כהמלצה – אלא כתנאי אתי בסיסי.
לפתח מדיניות, רגולציה והכשרות שמקדמות את הערכים האלה, ולא משאירות אותם ברמת הבחירה האישית של כל מפתח.

ומה בוער אתם שואלים ושואלות, למה זה כל כך חשוב עכשיו?

כי אנחנו נמצאים בצומת. הטכנולוגיות שיפותחו היום – הן אלה שיכתיבו את הנגישות, ההכלה והשוויון של המחר ואם לא נכניס לתוך המערכות האלו קולות מגוונים, ייצוג רחב ורגישות עמוקה – הן פשוט לא ישרתו את כולם.

אם אנחנו רוצים שה-AI שנמצא כאן, כדי להישאר, יעבוד בשביל כולנו – הוא צריך ללמוד מכולנו. כולל הקולות שפחות נשמעים, החוויות שפחות מתועדות, והאנשים שפחות מיוצגים.

וזה מתחיל בהחלטה אמיצה של כל השחקנים: להכניס את כולם לחדר.