الگوریتمی برای تشخیص اخبار جعلی

یک سیستم هوش مصنوعی که می‌تواند تفاوت بین اخبار واقعی و جعلی را با میزان موفقیت بیشتری نسبت به همتای انسانی متوجه شود، توسط پژوهشگران دانشگاه میشیگان توسعه داده شده است. چنین سیستمی‌ ممکن است به پلتفرم‌های رسانه‌های اجتماعی، موتورهای جستجوگر و گردآورندگان اخبار برای فیلتر کردن مقالات دروغین کمک کند.

Rada Mihalcea، استاد علوم کامپیوتری دانشگاه میشیگان که این سیستم را توسعه داده است، به Digital Trend گفت:

مانند هر شخص دیگری ما درباره‌ی تاثیر منفی خبار جعلی در رویدادهای مهم سیاسی روز ناراحت هستیم. گروه من برای نزدیک به ده سال کار قابل توجهی در تشخیص فریب انجام داده است. ما فرصتی را برای رسیدگی به یک مشکل بزرگ اجتماعی از طریق تجربیاتی که طول این سال‌ها بدست آورده‌ایم، یافتیم.

Mihalcea و تیم او یک الگوریتم زبانی برای تجزیه و تحلیل سخنرانی‌ها به کمک نشانه‌هایی مانند ساختار دستوری، نشانه‌گذاری و پیچیدگی که ممکن است نشانه‌هایی از اخبار جعلی را ارائه دهد را ایجاد نموده‌اند. از آنجایی که بسیاری از گرداورنده‌های خبر و سایت‌های رسانه‌های اجتماعی به ویراستاران انسانی متکی هستند تا اطلاعات نامناسبی را بیابند، کمک از یک سیستم خودکار می‌تواند به ساده سازی روند کمک کند.

برای آموزش این سیستم ، محققان ویژگی‌های زبانشناختی مانند نشانه‌گذاری و انتخاب کلمه را به عنوان داده‌ها مد نظر قرار می‌دهند و سپس داده‌ها را به یک الگوریتم تزریق می‌کنند.

Mihalcea گفت:

جالب این که، چیزی که الگوریتم به دنبال آن است، همیشه برای افراد قابل شناسایی نیست. در این تحقیق و سایر تحقیقاتی که بر روی فریبکاری انجام داده‌ایم،  فهمیدیم که برای مثال استفاده از کلمه I با حقیقت مرتبط است. برای یک الگوریتم آسان است تعداد دفعاتی که “I” گفته شده را شمارش کرده و تفاوت را پیدا کنید. با این حال، افراد به طور طبیعی چنین محاسبه را انجام نمی‌دهند و در حالی که ممکن است انجام آن آسان هم باشد ولی آنها را از فهم واقعی متن منحرف می‌کند.

این سیستم ۷۶ درصد موفقیت در کشف مقالات خبری جعلی را ، در مقایسه با حدود ۷۰ درصد برای انسان، نشان می‌دهد. Mihalcea پیش‌بینی می‌کند که  چنین سیستمی‌ به گردآورندگان اخبار و کاربران برای تشخیص اخبار واقعی و داستان‌های دروغین کمک کند.

با این حال، سیستم نمی‌تواند به طور کامل جایگزین انسان شود. برای مثال، این سیستم حقیقت متن را بررسی نمی‌کند، بنابراین محتوای خوب (اما در نهایت نادرست) از فیلتر این الگوریتم عبور نخواهد کرد.

محققان مقاله‌ای درباره سیستم ارائه شده در کنفرانس بین‌المللی‌ زبان‌شناسی محاسباتی در سانتافه، نیومکزیکو را در ۲۴ آگوست ارائه خواهند نمود.