مایکروسافت رسماً ابزار بازبینی محتوای هوش مصنوعی AZURE را منتشر کرد

محمد صداقت
۲۸ مهر ۱۴۰۲ - 23:07
هوش مصنوعی Azure

مایکروسافت اخیراً ابزار بازبینی محتوای هوش مصنوعی Azure را منتشر کرده است. شرکت مدعی است که این ابزار می‌تواند یک محیط اجتماعی سالم و هماهنگ ایجاد کند. طبق گفته‌های شرکت، با استفاده از این ابزار می‌توان محتوای نامناسب مرتبط با نفرت، خشونت و تعصب موجود در متون و تصاویر را کاهش داد.

در واقع راه‌اندازی رسمی ابزار بررسی محتوای هوش مصنوعی با نام Azure در می امسال انجام شد. با این حال، این ابزار برای چندین ماه مورد آزمایش قرار گرفت. این شرکت پس از انجام آزمایش‌های دقیق، رسماً این ابزار را منتشر کرد. بدون توجه به آن‌که محتوای منفی در متن یا تصویر باشد، ابزار امنیت هوش مصنوعی Azure می‌تواند به کمک مجموعه‌ای از ابزارهای هوش مصنوعی آموزش‌دیده، آن‌ها را شناسایی کند.

این ابزار می‌تواند تصاویر یا متون را به هشت زبان درک کند. این ابزار به برخی از محتواهای نامناسب امتیاز می‌دهد و از این طریق به بازرس های انسانی هشدار می‌دهد که آن‌ها به بازبینی نیاز دارد. ابتدا ابزار بازبینی محتوا در Azure OpenAl قرار گرفت. به‌هرحال مایکروسافت توانست این ابزار را به عنوان یک سیستم مستقل راه‌اندازی کند. مایکروسافت در وبلاگ رسمی خود نوشت:

«این مساله بدان معناست که مشتریان می‌توانند از این ابزار برای محتوای تولیدشده توسط هوش مصنوعی منبع باز و سایر مدل‌های شرکت در کنار محتوای تولیدشده توسط کاربر، استفاده کنند.»

طبق بیانیه‌های مایکروسافت این محصول در مقایسه با محصولات مشابه به‌طور قابل‌توجهی بهبودیافته است. با این حال این محصول برای نشانه‌گذاری محتواهای نامناسب، به بازبینی انسان متکی است. این مساله به معنای آن است که در نهایت انسان ها می‌توانند تصمیم‌گیری نهایی را انجام دهند. انسان‌ها هنگام بازبینی ممکن است که متعصبانه تصمیم‌گیری کنند. این مساله نشان می‌دهد که انسان‌ها نمی‌توانند کاملاً بی‌طرف باشند. در این مقاله ویژگی‌های ابزار بازبینی محتوای هوش مصنوعی AZure و روش کمک آن به حفظ امنیت فضاهای آنلاین را بررسی می‌کنیم.

ابزار امنیت محتوای هوش مصنوعی Azure چیست؟

Azure یک پلت فرم تعدیل محتوا است که از هوش مصنوعی برای حفظ امنیت محتوای شما استفاده می‌کند. Azure پلت فرم تعدیل محتوا است که از مدل‌های زبان و دید پیشرفته برای نظارت بر محتوای متون و تصاویر برای استفاده می‌کند. این ابزار برای کمک به کسب‌وکارهای آنلاین طراحی شد تا بتواند تجربه‌ی بهتری را برای کسانی ایجاد کند که از هوش مصنوعی استفاده می‌کنند.

ویژگی‌های ابزار امنیت محتوای هوش مصنوعی

Azure ابزار قدرتمندی است که می‌تواند به حفظ امنیت کسب‌وکارها کمک کند. برخی از ویژگی‌های کلیدی ابزار Azure عبارتند از:

طبقه بندی محتوا: ابزار Azure محتوای نا مناسب را به ۴ دسته‌ی جنسی، خشونت، آسیب شخصی و نفرت دسته‌بندی می‌کند. این مساله سبب می‌شود که کسب‌وکارها بتوانند محتوای نیاز به بررسی توسط بازرسان، را اولویت‌بندی و محدود کنند.

امتیازدهی: ابزار Azure برای محتواهای نامناسب، امتیازهایی در مقیاس ۰، ۲، ۴ و ۶ تعیین می‌کند. این مساله سبب می‌شود که کسب‌وکارها بتوانند با اطمینان در مورد تعدیل محتوا تصمیم‌گیری کنند.

درک معنایی: ابزار Azure می‌تواند با استفاده از پردازش زبان طبیعی، معنا و محتوای یک متن را درک کند. این ابزار می‌تواند متن را به دو صورت کوتاه و بلند تحلیل کند.

مدل های چند زبانه: ابزار هوش مصنوعی Azure می‌تواند چندین زبان را درک کند. این ابزار از تعدیل محتوا به زبان‌های انگلیسی، آلمانی، اسپانیایی، فرانسوی، پرتغالی، ایتالیایی و چینی پشتیبانی می‌کند.

چشم انداز کامپیوتری: ابزار امنیت محتوای هوش مصنوعی Azure توسط مدل Florence Foundation شرکت مایکروسافت برای تشخیص پیشرفته‌ی تصاویر طراحی‌شده است. این فناوری با میلیاردها جفت متن و تصویر آموزش داده‌شده است.

تنظیمات قابل تغییر: ابزار امنیت محتوای هوش مصنوعی Azure دارای تنظیمات قابل تنظیم برای رسیدگی به قوانین و سیاست‌های تجاری خاص است.

زمان حقیقی: ابزار Azure محتوای نامناسب را در زمان واقعی شناسایی می‌کند. این مساله باعث می‌شود که کسب‌وکارها بتوانند برای حذف محتوای نامناسب، فوراً اقدام کنند.

هوش مصنوعی Azure
هوش مصنوعی Azure

ابزار Azure چگونه کار می‌کند؟

ابزار Azure از مدل‌های پیشرفته هوش مصنوعی برای نظارت بر محتوا و حفظ امنیت متون و تصاویر استفاده می‌کند. این ابزار از دسته‌بندی‌های هوش مصنوعی برای شناسایی محتوای جنسی، خشونت، نفرت، و خودآزاری با سطح بالایی از جزئیات استفاده می‌کند. علاوه بر آن از سیستم امتیازدهی تعدیل محتوا برای نشان دادن سطح ریسک محتوا در مقیاس کم تا زیاد استفاده می‌کند. Azure از مدل‌های زبانی و بینایی پیشرفته برای تشخیص دقیق محتوای ناایمن یا نامناسب استفاده می‌کند. این مساله سبب می‌شود که کسب‌وکارها بتوانند موارد نشانه‌گذاری شده را اولویت‌بندی و بررسی کنند و اقدامات مناسب را انجام دهند.

مزیت‌های ابزار امنیت محتوای هوش مصنوعی Azure

ابزار Azure برای کسب‌وکارهایی که محصولات با پلتفرم‌های اجتماعی دارند، ارزشمند هستند. علاوه بر آن صنعت بازی نیز می‌تواند با استفاده از این ابزار نظارت بر ویژگی‌های اجتماعی مانند پخش زنده و چت‌های چند نفره بازی را بهبود بخشد. این ابزار می‌تواند ریسک‌های موجود در محتوای تولیدشده توسط کاربرها را نیز شناسایی کند. این محتواها شامل آواتار، نام کاربری و تصاویر آپلود شده می‌باشد. همان‌طور که توسط سایر محصولات هوش مصنوعی مشخص است، مدل‌های Azure دارای قابلیت اطمینان و کارایی هستند.

نتیجه گیری

Azure ابزار قدرتمندی است که می‌تواند به حفظ امنیت کسب‌وکارها در فضای آنلاین کمک کند. این مساله سبب می‌شود که کسب‌وکارها در صورت مشاهده‌ی محتوای نامناسب، بتوانند به‌صورت اقدام کنند.

Azure ابزاری ارزشمند برای کسب‌وکارهایی است که به محصولات و پلتفرم‌های رسانه اجتماعی دسترسی دارند. این ابزار می‌تواند بر محتوای پست‌ها، موضوعات، چت‌ها و موارد دیگر نظارت کند. علاوه بر آن صنعت بازی نیز می‌تواند با استفاده از این ابزار نظارت بر ویژگی‌های اجتماعی مانند پخش زنده و چت‌های چند نفره بازی را بهبود بخشد.

نظر شما در مورد ابزار جدید بررسی محتوای هوش مصنوعی مایکروسافت یعنی Azure چیست؟ آیا فکر می‌کنید Azure ابزار مناسبی برای اینترنت است؟ نظرات خود را در بخش نظرات با ما در میان بگذارید.

منبع: Gizchina

مطالب مرتبط سایت

نظرات

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد.