חזרה לרשימה
אילו יישומים עשויים להיות לבינה מלאכותית בחינוך ומה הם השיקולים האתיים והרגולטיביים שצריכים להילקח בחשבון בהטמעה שלה?
בינה מלאכותית (AI – Artificial Intelligence), אשר החלה להתפתח באמצע שנות ה-50 של המאה הקודמת, נוכחת בתחומים רבים של חיינו. בחודשים האחרונים, נכנסו לחיינו מגוון רחב של כלי בינה מלאכותית יוצרת (Generative), אשר עוררו שיח ועניין רב באופן השימוש והיישום של בינה מלאכותית בתחומים שונים. נשאלת השאלה, אילו יישומים עשויים להיות לבינה מלאכותית בחינוך ומה הם השיקולים שצריכים להילקח בחשבון בהטמעה שלה? הסקירה היומית של לשכת המדענית הראשית מציגה שני מחקרים העוסקים בשאלה זו. המאמר הראשון סוקר את ההיסטוריה של בינה מלאכותית בחינוך, ואת השחקנים השונים שעוסקים בתחום – החל במחקר חינוכי, דרך תעשיית ההייטק וכלה במִנהל החינוכי. המאמר השני בוחן את ההשפעה של בינה מלאכותית בחינוך על זכויות היסוד של המשתמשים בה, ובודק אם הרגולציה העדכנית של האיחוד האירופי (GDPR) מספקת הגנה מספקת על זכויות אלו.
קווים היסטוריים, חוליות חסרות וכיוונים עתידיים בבינה מלאכותית (AI) בחינוך
Historical threads, missing links, and future directions in AI in education
המחקר והפיתוח של בינה מלאכותית (AI – Artificial Intelligence) בעולם החלו כבר באמצע שנות ה-50 של המאה הקודמת. לצד המחקר אודות בינה מלאכותית בכלל, התפתח גם תחום המחקר הבוחן את שילובה של בינה מלאכותית בחינוך. כבר בשנות ה-70 פותחו מערכות מחשוב שמטרתן לסייע בתהליכי למידה. מקדמי הטכנולוגיה טענו שמערכות אלו ישנו מהיסוד את שדה החינוך ואת שיטות הלימוד, בין היתר על ידי מעבר מהוראה פרונטלית מסורתית להוראה ממוחשבת מותאמת אישית. בעשורים שעברו, על אף ההתפתחות של מערכות המסוגלות להתמודד עם נתוני עתק (Big Data), למידת מכונה (Machine Learning), ולמידה עמוקה (Deep Learning), רבים מאלו המקדמים בינה מלאכותית בחינוך עדיין מתמקדים בפיתוח מערכות למידה מותאמת אישית.
גורמים שונים העוסקים כיום בקידום בינה מלאכותית בחינוך, טוענים כי ביכולתה של הטכנולוגיה החדשה להביא לכדי הבנה חדשה של מושג הלמידה עצמו ולהרחבה של גבולות הלמידה האנושית. אולם מבקרי גישה זו מדגישים את הסכנות הקיימות באימוץ נלהב מדי של הטכנולוגיות החדשות. בין היתר נטען כי תהליכי למידה הינם תהליך מורכב הכולל מגוון היבטים, ושימוש בטכנולוגיות לקידום למידה מותאמת אישית עשוי לקדם היבטי למידה מצומצמים בלבד.
המאמר מתאר את מגוון השחקנים שעוסקים בבינה מלאכותית בחינוך, ואת העניין של חברות מסחריות ושל ארגונים שונים בפיתוח והטמעה של כלי בינה מלאכותית במערכות חינוך. חברות אלו מקדמות גישה אופטימית לגבי בינה מלאכותית בחינוך ולגבי למידה מותאמת אישית. למרות ההבטחה של בינה מלאכותית, החוקרים מעלים חשש כי הטיות גזעניות ומפלות (Bias) שנובעות מהנתונים עליהם מתבססים ומאופן בניית המערכת עשויות לשעתק אי-שוויון קיים, ואף להרחיב אותו. כמו כן, הם מדגישים את הסכנה שמציבה טכנולגיה חינוכית לפרטיות ולביטחון המידע האישי לאורך חייהם של תלמידים ואנשי חינוך.
הכותבים מדגישים כי כניסת בינה מלאכותית באמצעים שונים ובממשקים מגוונים לתוך שדה החינוך מתרחשת בהיקף רחב ובלתי־מוכר, בין היתר על ידי כמה מהתאגידים הגדולים בעולם. לדעת החוקרים נראה כי השדה החינוכי מקבל את הגישה השלטת בתעשייה כי בינה מלאכותית ושימוש בנתוני עתק עשויים להוות פתרון כמעט לכל בעיה. עם זאת, האופן שבו טכנולוגיות מפותחות ומוטמעות בחינוך לא תמיד נמצא בהלימה ומתייחס לסכנות שתוארו מעלה, ולעוד אתגרים ומורכבויות רבים שהמאמר מתאר. בנוסף, השימוש בנתונים, מדידה והערכה מיידית שמתאפשר על ידי מערכות אלו, עשוי להגביר תופעות שליליות של אחריותיות המתבטאות כבר היום. החוקרים ממליצים לקדם גישה של שותפות ושקיפות בפיתוח כלי בינה מלאכותית בחינוך, ולאפשר למגוון קבוצות חברתיות רלוונטיות לקחת חלק פעיל בשיח ובעיצוב המערכות. בנוסף, כאשר מטמיעים כלים וטכנולוגיות במערכות חינוך, קיימת חשיבות רבה לפיתוח והטמעה של טכנולוגיות המבוססות על תפיסות ופרקטיקות פדגוגיות, השומרות על הפרטיות, האוטונומיה והזכויות של הפרטים במערכת.
מקורות
illiamson, B., & Eynon, R. (2020). Historical threads, missing links, and future directions in AI in education. Learning, Media and Technology, 45, 3, 223-235.
בינה מלאכותית (AI) בחינוך: בחירת הלומד וזכויות יסוד
AI in education: learner choice and fundamental rights
השימוש במערכות בינה מלאכותית שפועלות על בסיס איסוף נתונים של תלמידים ותלמידות וניתוח שלהם עשוי לאפשר פיתוח ושיפור של תוכניות למידה מותאמות אישית בקנה מידה רחב. אולם, פיתוח של מערכות המתאימות את הלמידה באופן אישי תלוי בהיבט טכני קריטי שיש לקחת בחשבון: הוא דורש איסוף, ניתוח ושימוש בנתונים האישיים של התלמידים והתלמידות. ככלל, עיבוד הנתונים יהיה יעיל יותר ככל שמאגר הנתונים יהיה מקיף יותר – כל היסטוריית מופעי הלמידה וההישגים של כל התלמידות והתלמידים.
הכותבים בוחנים את ההתאמה של דרישה טכנית זו לרגולציה החדשה יחסית של האיחוד האירופי, שנכנסה לתוקף ב־2018. הרגולציה הקרויה GDPR[1] עוצבה כדי להגן על זכויות הפרט ולמנוע סחר ושימוש לא־הוגן במידע אישי. במאמר זה מבקשים החוקרים לבחון האם השימוש במידע אישי במערכת החינוך מצליח לעמוד בתקנות שנקבעו בחקיקה האירופית?
רגולציית ה־GDPR מחייבת וולונטריות של הפרט, כלומר הסכמה מדעת לכך שהמידע שלו ייאסף ויישמר. בנוסף, התקנות כוללות את "הזכות להישכח" (Right to be forgotten), כלומר, הזכות של הפרט לבקש שהמידע האישי שנאסף אודותיו יימחק. תקנות ה־GDPR מחייבות שקיפות באופן ניהול המידע, בין היתר כדי לאפשר ביקורת על העיבוד שהוא עובר, ולאפשר זיהוי וחשיפה של הטיות (Bias) המוטמעות במנגנון העיבוד – במכוון או שלא במכוון. חובה נוספת המוגדרת ברגולציה האירופית היא שהשימוש בנתונים ייעשה אך ורק לטובת המטרה הספציפית שלשמה נאספו.
לטענת הכותבים, הכללים שנקבעו על ידי האיחוד מבוססים על זיהוי נכון של האתגרים בשמירה על זכויות הפרט לנוכח מגמת נתוני העתק (Big data). העקרונות להגנה על פרטיות, שקיפות, הוגנות ועוד – הם נכונים, אך לטענתם, עדיין קיימות מגבלות משמעותיות ל-GDPR. ראשית, רגולציית ה-GDPR היא כללית וגנרית, ואינה מתייחסת להתאמות הכרחיות שיש לעשות ביישום שלה בתחומים שונים, כמו חינוך. בנוסף, החקיקה של רגולציית ה-GDPR אינה הגורם היחיד שמשפיע על פיתוח של טכנולוגיות דיגיטליות, וישנו קושי לשמור על אחידות בין כלל תקנות הרגולציה הקיימות. בנוסף, רגולצייה עשויה לייצר התנגשות עם אינטרסים של חברות פרטיות שמפתחות ומפעילות טכנולוגיה, ובכך נוצר פתח לחוסר עמידה בתנאי ה-GDPR ולבעיות בניצול המידע.
הכותבים מזהירים ממגמת איסוף הנתונים בחינוך והשימוש בהם. לצד ההזדמנויות והאפשרויות הגלומות בבינה מלאכותית, הם מזהירים מפני מעבר מהתבוננות על תלמידות, תלמידים וצוותי הוראה כפרטים אוטונומיים, להתייחסות אליהם כאובייקטים לאיסוף נתונים. בנוסף, הם מזהירים מפני שימוש במערכות למידה מותאמות אישיות אשר עשויות להרחיק מערכות חינוך ממטרות חינוכיות חברתיות ואזרחיות. לסיום, הם מצביעים על הבדלי רגולציה שעשויים להתגלות כאשר מדינות שונות יבססו עקרונות לשימוש בבינה מלאכותית על פי אידיאולוגיות ומטרות חינוכיות שונות.
כותבי המאמר קוראים ליצירה של עקרונות אתיים מנחים לשימוש בבינה מלאכותית בחינוך, המבוססים בראש ובראשונה על זכויות אדם. לטענתם, אנו בנקודה קריטית בה מחובתנו לייצר מצב שבו צוותי החינוך, התלמידות והתלמידים הם אלו המרוויחים מפיתוח ושימוש בכלי בינה מלאכותית בחינוך, ולא חברות פרטיות וארגונים.
[1] General Data Protection Regulation. יצוין כי "רגולציה" בהקשר זה משמעה חקיקה של הפרלמנט האירופי המחייבת את כל המדינות החברות באיחוד האירופי ואזרחיהן, בניגוד להחלטות אחרות של האיחוד האירופי כמו "דירקטיבה" שאינן מחייבות עד שהן מאומצות בחוק של המדינות החברות באיחוד.
מקורות
Berendt B., Littlejohn, A., & Blakemore, M. (2020). AI in education: learner choice and fundamental rights. Learning, Media and Technology, 45, 3, 312-324.