الگوریتم‌های منبع باز فیسبوک برای یافتن تصاویر سوءاستفاده از کودکان و تروریسم

کمپانی فیسبوک امروز گفت دو الگوریتم را به صورت منبع باز در می‌آورد که برای شناسایی سوءاستفاده جنسی از کودکان، ترویج تروریسم و خشونت گرافیکی کاربرد خواهند داشت. فیسبوک در یک پست از وبلاگ خود گفت که PDQ و TMK+PDQF یک جفت تکنولوژی هستند که فایل‌ها را به عنوان ترکیب‌های دیجیتالی ذخیره نموده و آن‌ها را با نمونه‌هایی از محتواهای زیان‌بار و شناخته‌شده که در گیت‌هاب (Github) منتشر شده‌اند، ارزیابی و مقایسه می‌کنند.

فیسبوک گفت امیدوار است دیگر کمپانی‌ها، سازمان‌های مستقل و توسعه‌دهندگان شخصی این تکنولوژی را برای شناسایی محتوای زیان‌بار بکار گیرند و آن را به پایگاه‌های داده منتشر شده بیافزایند. این کار به پلتفرم‌ها یاری می‌دهد تا زمانی که کسی تلاش دارد محتوا را آپلود کند، با شتاب بیشتری آن را پاک کنند.

کمپانی در پست وبلاگ خود گفت: «این تکنولوژی‌ها یک لایه دفاعی دیگر  برای کسانی است که در حال حاضر تکنولوژی سازگاری خود یا دیگران را بکار می‌گیرند و برای سیستم‌های ترکیبی اشتراک محتوا امکان گفتگو با یکدیگر را فراهم می‌کند و آن‌ها را نیرومندتر می‌سازد».

امسال پلتفرم‌ها برای پاک کردن محتوای زیان‌بار زیر فشار بیش‌تری بودند. پس از تیراندازی کریستچرچ (Christchurch)، استرالیا تهدید کرد که اگر به سرعت ویدئوهای حمله را پاک نکنند، مدیران را با جریمه‌های سنگین و زندان مجازات خواهد نمود. فیسبوک در ماه می به دیگر پلتفرم‌های بزرگی که به فراخوان کریستچرچ پاسخ گفتند، پیوست و توافقی امضا کرد که در آن پیمان‌نامه متعهد می‌شود برای پاک کردن محتوای زیان‌بار منابع بیش‌تری اختصاص دهد و همیاری بهتری با دیگر کمپانی‌ها داشته باشد.

کمپانی در پست دیگری بیان کرد که این حرکت فیسبوک در زمانی انجام می‌شود که ویدئوهای بیشتری از سوء استفاده از کودکان به صورت آنلاین پست می‌شود.

جان کلارک، رئیس و مدیرعامل مرکز ملی کودکان گمشده و مورد بهره‌کشی قرار گرفته (NCMEC) بیان کرد: «تنها در زمان یک سال، در گزارش ویدئوهای سوء‌استفاده جنسی از کودکان که از صنعت تکنولوژی به سایبر تیپلاین (CyberTipline) فرستاده شدند، ۵۴۱ درصد افزایش دیده‌ایم. ما اطمینان داریم که همیاری سخاوتمندانه فیسبوک در این تکنولوژی منبع باز، در نهایت منجر به شناسایی و رهایی قربانیان سوء‌استفاده جنسی از کودکان خواهد شد».

فیسبوک عنوان کرد با این حرکت امروز آن‌ها، اولین بار است که شرکت از تکنولوژی سازگاری منبع باز عکس یا ویدئو  استفاده می‌کند. فیسبوک افزون بر حرکت منبع باز، با دانشگاه مریلند، دانشگاه کرنل، انجمن تکنولوژی ماساچوست و دانشگاه کالیفرنیا در برکلی شراکت دارد؛ که در این شراکت آن‌ها روش‌هایی را بررسی می‌کنند که مردم با بکارگیری آن روش‌ها، عکس و ویدئوها را به طور زیرکانه و ظریف به شکلی تغییر می‌دهند تا از به دام افتادن آن‌ محتواها توسط سیستم‌های امنیتی جلوگیری کنند.

فیسبوک امروز در چهارمین رویداد خود درباره امنیت کودکان در منلو پارک این اخبار را بیان کرد.