בפייסבוק מודים לראשונה: אנו משתמשים בבינה מלאכותית כדי לסנן תכנים "פוגעניים"

Calcalist, נמרוד צוק, 02.01.16

פייסבוק. ההצהרה יכולה להסביר הסרת פוסטים בעת האחרונה

פייסבוק. ההצהרה יכולה להסביר הסרת פוסטים בעת האחרונה.  צילום: גטי אימג'

מנהל מחקר הבינה המלאכותית ברשת החברתית הגדולה בעולם מודה לראשונה כי החברה פועלת על מנת לאתר באופן יזום תמונות וסרטונים המכילים עירום או אלימות, "או כל דבר אחר שעומד בניגוד למדיניות החברה"

עד כה טענה החברה כי מנגנון ניטור וסינון התכנים שלה מתבסס באופן בלעדי על דיווחי גולשים. השימוש הגובר באלגוריתם מבוסס AI (בינה מלאכותית) עשוי להסביר את מקרי מחיקות התכנים והחסימות הרבים בשבועות האחרונים בישראל, שבמהלכם נפגעו משתמשים רבים מהסרת תכנים וחסימת חשבונם לימים ושבועות בעקבות פוסטים שהכילו מלים כגון "כושי" או "קוקסינל", במקרים רבים גם כאשר אלו נכתבו בהקשר לא פוגעני או נכללו בסטטוסים מלפני מספר שנים. למרות שבחלק גדול ממקרים אלו ההסבר של דיווח על ידי משתמשים נראה בלתי סביר, החברה התעקשה לטעון כי היא אינה מפעילה כל מנגנון אוטומטי לניטור תכנים פוגעניים.

"האלגוריתם שלנו יכול לגלות עירום, אלימות או כל דבר אחר שעומד בניגוד למדיניות החברה", אמר קנדלה. השימוש בטכנולוגיה להפעלת צנזורה על שידורים חיים עדיין נמצאת בשלב מחקרי, הוא אמר. "כדי להגיע למצב שבו ניתן להשתמש בה בפועל, אלגוריתם זיהוי התמונה חייב להיות מהיר מאוד, ואני חושב שאנחנו יכולים להתקדם לשם.

הגברת השימשו בבינה מלאכותית לסינון תכנים עשוי להיות קשר גם לסוגיית החדשות המזויפות, שהפכו למגיפה ברשת החברתית בחודשים האחרונים והביאו לאחרונה לביקורת גוברת כלפיה ואף לטענות כי היתה לכך השפעה על תוצאות הבחירות בארה"ב. מארק צוקרברג אמר בנובמבר כי החברה תשקול שימוש במנגנונים אוטומטיים לאיתור חדשות מזויפות המופצות בפיד.

לכתבה

Advertisements
Post a comment or leave a trackback: Trackback URL.

כתיבת תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s

%d בלוגרים אהבו את זה: