هوش مصنوعی اوپن ای آی توسط یادداشت دست نویس فریب خورد

محققان بخش هوش مصنوعی در آزمایشگاه یادگیری ماشین اوپن ای آی کشف کردند که سیستم پیشرفته بینایی رایانه‌ای این هوش مصنوعی را می‌توان با ابزارهای ساده‌ای مانند قلم و یادداشت‌های روی یک شیء فریب داد. همان‌طور که در تصویر بالا نشان داده شده است، فریب یک هوش مصنوعی ظاهراً پیشرفته به‌راحتی صورت گرفته است. نوشتن نام یک شی و چسباندن آن بر روی یک شیء دیگر کافی است تا نرم‌افزار آنچه را که می‌بیند اشتباه تشخیص دهد.

محققان اوپن ای آی در یک پست وبلاگ نوشتند:

ما این نوع آزمون‌های هوش مصنوعی را حملات چاپی می‌نامیم. با استفاده کامل از توانایی قدرتمند خواندن هوش مصنوعی تولیدشده، متوجه شدیم که حتی عکس‌هایی که از متن دست‌نویس هستند نیز در اغلب موارد مدل هوش مصنوعی را فریب می‌دهند.

آن‌ها خاطرنشان کردند که این نوع آزمون شبیه به «حمله بصری» است و می‌تواند سیستم‌های بینایی ماشین هوش مصنوعی را فریب دهد. اما نحوه فریب دادن هوش مصنوعی اوپن ای آی به وسیله چنین آزمون‌هایی بسیار ساده‌تر است.

به نظر می‌رسد که اولویت‌بندی هوش مصنوعی به‌گونه‌ای طراحی شده است تا فضای پس زمینه را از شیء مورد نظر حذف کند، اما مشکل اینجاست که با چسباندن یک عبارت بر روی شیء مورد نظر، هوش مصنوعی آن شیء را نیز به‌عنوان تصویر پس زمینه در نظر می‌گیرد و آن را حذف می‌کند. البته نمونه‌های مشابه چنین آزمون‌هایی به ندرت در دنیای واقعی یافت می‌شوند.

حملات چاپی ضعف بزرگ هوش مصنوعی را نشان می‌دهند اما در دنیای واقعی، چنین مواردی به ندرت یافت می‌شوند

مواجهه با تصاویر، یک سیستم پردازشی در لحظه است که به بینایی ماشین هوش مصنوعی متکی است. به‌عنوان مثال، محققان نشان داده‌اند که آن‌ها می‌توانند بدون قرار دادن برچسب‌های خاص در جاده و بدون تغییر هشدارهای موجود در راه، نرم‌افزارهای موجود در اتومبیل خود ران تسلا را فریب دهند. این نوع حمله تهدیدی جدی برای کاربردهای هوش مصنوعی از پزشکی گرفته تا نظامی است. جای تعجب نیست که هنوز در بسیاری از شغل‌های حساس، وجود یک انسان برای نظارت بر سیستم ضروری است. البته هوش مصنوعی در مواردی که نیاز به تشخیص داده‌های بیرونی نیست، عملکرد مناسبی را از خود نشان می‌دهد. به‌عنوان مثال، قطارهای خود ران به دلیل آنکه یک مسیر مشخص و بدون مانع را طی می‌کنند، به نظارت کمتری از طرف یک انسان نیاز دارند. اما اتومبیل‌های تسلا به دلیل آنکه درون جاده حرکت می‌کنند، باید توانایی لازم برای شناخت محیط پیرامون را در لحظه داشته باشند که در حال حاضر به نظر می‌رسد این اتومبیل‌ها عملکرد متوسطی را از خود نشان می‌دهند.

البته هوش مصنوعی کاربردهای بسیار زیادی دارد. پیش از این نیز گزارشی منتشر شده بود مبنی بر اینکه مایکروسافت از طریق همکاری با شرکت‌های مختلف، برنامه ساخت کامپیوترهایی با توانایی محاسباتی پیشرفته توسط اژور و مرکز کنوانسیون هوش مصنوعی را ایجاد کرد که هزینه‌های مختلف همکاری با سازمان‌های شناخته‌شده به‌منظور توسعه و به اشتراک‌گذاری بهترین شیوه‌ها با شرکت‌های فعال در زمینه ساخت کامپیوترهایی با توانایی محاسباتی پیشرفته و هوش مصنوعی را فراهم می‌کند.

این غول نرم‌افزاری برای اجرای این برنامه با ای ام دی، اینتل و انویدیا همکاری می‌کند. تاکنون، دانشگاه دوک، دانشگاه پوردو، مرکز مشاوره رد اوک، گروه الگوریتم عددی (NAG) و رد لاین پرفورمنس، پنج مرکز همکاری زیرمجموعه اژور ایجاد کرده‌اند.

اژور مایکروسافت می‌تواند عملکردهای مختلف را در زمینه پردازش ابری ایجاد کند که به‌طور خاص برای قسمت‌های مختلف و مورد نیاز کامپیوترهایی با توانایی محاسباتی پیشرفته و هوش مصنوعی ساخته شده‌اند. با این حال، این عملکردها هسته اصلی و مهم زیرساخت‌ها خوشه‌های کامپیوترهایی با توانایی محاسباتی پیشرفته و هوش مصنوعی هستند. این خوشه‌ها از اتصال اچ پی اینفینی بند در سطح کامپیوترهایی با توانایی محاسباتی پیشرفته استفاده می‌کنند و از آخرین فناوری پردازنده‌های شرکای مختلف این برنامه، با تأخیر بسیار کم (حدود یک میکروثانیه) و پهنای باند زیاد (معمولاً حدود ۲۰۰ گیگابیت در ثانیه) استفاده می‌کنند.

به لطف این مزایای عملکردی، اژور می‌تواند حجم کار ابررایانه خود را به ۱۲ برابر هسته پردازشی بیشتر از کامپیوترهای ابری دیگر برساند و البته هزینه‌های بیشتری نسبت به موارد دیگر دارد. برای حل این مشکل، مایکروسافت توانایی پردازشی کامپیوترهایی با توانایی محاسباتی پیشرفته و هوش مصنوعی را در کل مراحل کار از تیم مهندسی تا تیم امور مشتریان و پشتیبانی فنی در طول مسیر به کار گرفته است.

هدف نهایی برنامه جدید مایکروسافت و شرکای آن، نشان دادن و به اشتراک گذاشتن بهترین روش‌ها در مورد چگونگی استفاده از قابلیت‌های کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور و هوش مصنوعی برای بهبود و ایجاد نوآوری در بهره‌وری کلی سیستمی است.

مرکز همکاری کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور در دانشگاه دوک، با همکاری انویدیا و با هدف بهبود درک و حل مشکلات مربوط به ضایعات انشعاب عروق کرونر، قصد دارد از قابلیت‌های پردازنده گرافیکی ساخت اژور برای توسعه عملکردهای شبیه‌سازی همودینامیکی شخصی در فضای ابری استفاده کند.

کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور و مرکز همکاری هوش مصنوعی دانشگاه پوردو با ای ام دی همکاری خواهند کرد تا بهترین شیوه‌های استفاده از کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور و سیستم پردازش ابری به‌منظور بهبود سیستم‌های محلی کامپیوترهایی با توانایی محاسباتی پیشرفته (مانند سیستم پوردو مبتنی بر پردازش ابری انویل شرکت ای ام دی) را به نمایش بگذارند.

مرکز مشاوره رد اوک کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور و مرکز همکاری هوش مصنوعی با اینتل همکاری خواهند کرد تا بهترین روش‌ها را برای ساخت خوشه‌های کامپیوترهایی با توانایی محاسباتی پیشرفته در این شرکت با استفاده از فناوری تولیدکنندگان تراشه‌های مختلف ایجاد و آن را به عموم علاقه‌مندان نشان دهند.

مرکز همکاری گروه الگوریتم عددی کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور و هوش مصنوعی در همکاری با انویدیا بر توسعه و به‌کارگیری بهترین روش‌ها برای یادگیری ماشین مقیاس‌پذیر تمرکز کرده است.

سرانجام، رد لاین پرفورمنس با کمک کامپیوترهایی با توانایی محاسباتی پیشرفته ساخت اژور و مرکز همکاری هوش مصنوعی و همچنین با اینتل همکاری خواهند کرد. آن‌ها قصد دارند سیستم آب‌وهوای جهانی (ان دبلیو اس) و گردش محدود سیستم مکعب کره متناسب با حجم محدود (اف وی ۳ جی اف اس) را پیاده‌سازی کنند. انجام این کار از سیستم جهانی جذب اطلاعات (جی دی ای اس) و پردازش‌های پس از آن توسط اژور امکان‌پذیر است.

مایکروسافت قصد دارد مراکز همکاری بیشتری را طی چند ماه آینده ایجاد و آن‌ها را معرفی کند و به احتمال زیاد، به‌زودی در مورد دستاوردهای این مراکز خواهیم شنید.

طبق گزارش تک چارچ، مهندس سابق گوگل یعنی آنتونی لواندوفسکی به جرم سرقت مخفیانه اتومبیل‌های بدون راننده محکوم شد. وی در آستانه بستن کلیسای آینده با هوش مصنوعی (WOTF) است. هدف این کلیسا «دستیابی، پذیرش و پرستش ربوبیت مبتنی بر هوش مصنوعی (AI)» که تا حدی عجیب و ناخوشایند است. اکنون و بدون بهره‌مندی و هدایت یافتن به‌وسیله این دین، بشر باید با هوش مصنوعی روزمره به تنهایی مقابله کند!

طبق اسناد ارائه‌شده توسط تک چارچ در کالیفرنیا، لواندوفسکی شروع به بستن کلیسای آینده با هوش مصنوعی در ژوئن ۲۰۲۰ کرد. کلیسای آینده با هوش مصنوعی هرگز جلسات منظمی برگزار نکرده است و یا دارای ساختمان‌های واقعی کلیسا نبوده است. در مجموع، ۱۷۵۱۷۲ دلار آمریکا از بودجه کلیسا به صندوق دفاع حقوقی NAACP اهدا شده است.

داشتن و اداره یک کلیسای هوش مصنوعی در واقع تنها بخشی از داستان لواندوفسکی است. پایگاه خبری The Verge از مسئله حقوقی بین اوبر و گوگل ویمو گزارشی را منتشر کرده است. لواندوفسکی در گوگل روی اتومبیل‌های خودران کار می‌کرد، سپس شرکت کامیون خودران خود را به نام اوتو تأسیس کرد که بعداً به اوبر فروخته شد. در مقطعی از انتقال از گوگل به اوبر، لواندوفسکی برخی اسناد داخلی را از غول جستجو به دست آورد که منجر به شکایت گوگل از اوبر در سال ۲۰۱۷ و رسیدن به توافق در سال ۲۰۱۸ شد.

پس از همه‌گیری ویروس کرونا، لواندوفسکی به ۱۸ ماه زندان محکوم شد، اما رئیس‌جمهور پیشین آمریکا یعنی دونالد ترامپ قبل از ترک دفتر ریاست جمهوری، او را مورد عفو قرار داد.  از آنجایی که پروژه «جاده‌ای به سوی آینده» لواندوفسکی دیگر وجود ندارد و البته او دیگر نیازی به گذراندن دوره محکومیت خود ندارد و همچنین یک شرکت رانندگی مستقل برای نظارت بر آن ندارد، به نظر می‌رسد که او می‌تواند مقداری صبر کند تا هوش مصنوعی نسبتاً مسالمت‌آمیز از توانایی‌های انسان فراتر رود.

در مقاله‌ای در سل، محققان تأمین بودجه مؤسسات ملی بهداشت توضیح دادند که چگونه آن‌ها از تکنیک‌های پیشرفته مهندسی ژنتیک برای تبدیل یک پروتئین باکتریایی به یک ابزار تحقیقاتی جدید استفاده کرده‌اند که ممکن است به نظارت بهتر انتقال سروتونین نسبت به روش‌های فعلی کمک کند.

آزمایشات پیش بالینی و در درجه اول روی موش‌ها نشان داد که این حسگر می‌تواند تغییرات ظریف و آنی سطح سروتونین مغز را در هنگام خواب، ترس و تعاملات اجتماعی تشخیص دهد و همچنین اثربخشی داروهای روان‌گردان جدید را آزمایش کند.

بودجه این مطالعه، تا حدی توسط تحقیقات مغز مؤسسات ملی بهداشت از طریق پیشرفت فناوری‌های عصبی نوآور (BRAIN) انجام شد که هدف آن ایجاد انقلابی در درک ما از مغز در شرایط سالم و بیماری است.

این مطالعه توسط محققان آزمایشگاه متعلق به لین تیان، دکترای تحقیقات در دانشکده پزشکی دانشگاه کالیفرنیا دیویس انجام شد. روش‌های فعلی فقط می‌توانند تغییرات گسترده در سیگنالینگ سروتونین را تشخیص دهند. در این مطالعه، محققان یک پروتئین باکتریایی بسیار کوچک ونوس جذب‌کننده مواد مغذی را به یک حسگر بسیار حساس تبدیل کردند که با گرفتن سروتونین به‌صورت فلورسنت روشن می‌شود.

پیش از این، دانشمندان در آزمایشگاه Loren L. Looger در پردیس تحقیقاتی جانلیا موسسه پزشکی هوارد هیوز اشبرن در ویرجینیا، از روش‌های مهندسی ژنتیک سنتی برای تبدیل یک پروتئین باکتری به حسگر انتقال‌دهنده عصبی استیل کولین استفاده کردند.

پروتئینی که OpuBC نامیده می‌شود، به‌طور معمول ماده مغذی کولین را که شکل مشابه استیل کولین دارد، به دام می‌اندازد. برای این مطالعه، آزمایشگاه تیان با تیم دکتر لوگر و آزمایشگاه ویویانا گرادینارو کالتک پاسادنا در کالیفرنیا همکاری کرد تا نشان دهد که آن‌ها برای طراحی مجدد کامل OpuBC به‌عنوان یک گیرنده سروتونین مناسب هستند.

محققان از الگوریتم‌های یادگیری ماشین برای کمک به رایانه استفاده کردند تا بتوانند از «ایده‌هایی» راجع به ۲۵۰۰۰۰ طرح جدید استفاده کنند. پس از سه دور آزمایش اولیه، دانشمندان به انجام آزمایش اصلی پرداختند. آزمایشات اولیه نشان می‌دهد که حسگر جدید در حالی که واکنش کمی نسبت به سایر انتقال‌دهنده‌های عصبی یا داروهای مشابه دارد، سروتونین را در سطوح مختلف در مغز به‌صورت قابل‌ اعتماد تشخیص می‌دهد.

آزمایش‌های انجام‌شده در برش‌های مغز موش نشان داد که این حسگر به سیگنال‌های سروتونین ارسال‌شده بین نورون‌ها در نقاط ارتباطات سیناپسی پاسخ می‌دهد. در همین حال، آزمایشات روی سلول‌های ظروف پتری حاکی از آن بود که این حسگر می‌تواند به‌طور مؤثری تغییرات در سیگنال‌های ناشی از مواد مخدر، از جمله کوکائین، MDMA (اکستازی) و چندین داروی ضدافسردگی که معمولاً استفاده می‌شوند را کنترل کند.

سرانجام، آزمایشات روی موش‌ها نشان داد که این حسگر می‌تواند به دانشمندان در مطالعه انتقال عصبی سروتونین در شرایط طبیعی‌تر کمک کند. به‌عنوان مثال، محققان شاهد افزایش میزان سروتونین در هنگام بیدار بودن موش کاهش آن در هنگام به خواب رفتن موش بودند.

سطح سروتونین موش‌ها وقتی که خواب آن‌ها عمیق‌تر شد، افت بیشتری پیدا کرد. حالت‌های سنتی کنترل سروتونین هنگام خواب این تغییرات را ثبت نمی‌کردند. علاوه بر این، دانشمندان مشاهده کردند هنگامی که سطح هوشیاری موش‌ها به دلیل ضربه زنگ افزایش یافت، میزان سروتونین در دو مدار جداگانه مخصوص ترس در مغز افزایش یافته است.

صدای زنگ باعث افزایش سریع و زیاد سروتونین در مدار مشخصی در مغز در قسمت جلوی پیشانی داخلی شده است در حالی که در یک مدار دیگر (آمیگدال بازالتر) فرستنده تا سطح کمی پایین‌تر می‌رود.

بر اساس گفته‌های BRAIN، محققان قصد دارند این حسگر را به‌راحتی در دسترس سایر دانشمندان قرار دهند. آن‌ها امیدوارند که این حسگر به محققان دیگر کمک کند تا درک بهتری از نقش حیاتی سروتونین در زندگی روزمره و بسیاری از شرایط روانی داشته باشند.

اما حداقل در حال حاضر جای نگرانی در مورد خطرات ناشی از این حمله خاص وجود ندارد. نرم‌افزار اوپن ای آی که در این آزمایش از آن استفاده شده است، یک سیستم آزمایشی به نام سی ال آی پی است که در هیچ محصول تجاری استفاده نشده است. در واقع، ماهیت معماری غیرمعمول یادگیری ماشینی سی ال آی پی نقاط ضعفی ایجاد می‌کند که حمله را موفقیت آمیز می‌کند.

هدف از سی ال آی پی کشف این موضوع است که چگونه سیستم‌های هوش مصنوعی می‌توانند بدون نظارت دقیق و به وسیله آموزش در پایگاه داده‌های عظیم تصویر و متن، یاد بگیرند که اشیا را تشخیص دهند. در این مورد، اوپن ای آی تقریباً ۴۰۰ میلیون جفت متن تصویر را که از اینترنت گرفته شده است را برای آموزش سی ال آی پی استفاده کرد. این ابزار در ژانویه منتشر شد.

عملکرد ضعیف هوش مصنوعی اوپن ای آی مشابه عملکرد مغز انسان است

در این ماه، محققان اوپن ای آی مقاله جدیدی را منتشر کردند که شرح می‌دهد چگونه سی ال آی پی را برای مشاهده عملکرد آن به صورت متن باز منتشر کردند. آن‌ها به اصطلاح «نورون‌های چند حالته» یعنی اجزای مختلف شبکه یادگیری ماشین را کشف کردند که نه تنها به تصاویر اشیاء، بلکه به طرح‌ها، کارتون‌ها و متن‌های مربوطه واکنش نشان می‌دهند. یکی از دلایل مهم بودن این موضوع این است که به نظر می‌رسد عملکرد اشتباه هوش مصنوعی در حقیقت نشان دهنده پاسخ مغز انسان به محرک‌ها است. این واکنش‌های اشتباه در سلول‌های مغزی مشاهده می‌شود که به مفاهیم انتزاعی پاسخ می‌دهند تا مثال‌های خاص. تحقیقات اوپن ای آی نشان می‌دهد که سیستم‌های هوش مصنوعی ممکن است این دانش را دقیقاً مانند انسان پیاده‌سازی کنند.

در آینده، این پدیده جدید کشف شده ممکن است به ساخت سیستم‌های بینایی پیچیده‌تری منجر شود، اما در حال حاضر، این روش هنوز در مراحل ابتدایی قرار دارد. اگرچه هرکسی می‌تواند تفاوت بین اپل و کاغذ را با کلمه «Apple» که روی آن نوشته شده است به شما بگوید، اما نرم‌افزاری مانند سی ال آی پی نمی‌تواند. همان عملکردی که به این برنامه‌ها این امکان را می‌دهد تا کلمات و تصاویر را در سطح انتزاعی به هم پیوند دهند، این ضعف منحصر به فرد را ایجاد می‌کند. اوپن ای آی این پدیده را «مغالطه انتزاعی» می‌نامد.

در واقع، هوش مصنوعی به‌صورتی اولویت بندی شده است تا اصلی‌ترین اطلاعات دریافت شده را نشان دهد. مشخص است که یک برگه کاغذ سفید با حوهری به رنگ سیاه که عبارتی روی آن نوشته شده است، بیشترین توجه هوش مصنوعی را به خود جلب می‌کند. اینگونه، هوش مصنوعی تصور می‌کند که مهم‌ترین مطلب موجود نوشته‌های روی کاغذ است. البته در این زمینه نمی‌توان به هوش مصنوعی اوپن ای آی خرده گرفت، چراکه در دنیای واقعی، به‌ندرت می‌توان بر روی یک سیب عبارت آیپاد را یافت کرد.

هوش مصنوعی اوپن ای آی علاوه بر خود شیء، به علامت‌های خاص مانند نشان واحدهای پول واکنش نشان می‌دهد

مثال دیگری که توسط آزمایشگاه آورده شده، نورون موجود در سی ال آی پی است که می‌تواند یک قلک را تشخیص دهد. این مؤلفه نه تنها به تصویر قلک، بلکه به یک سری علائم دلار نیز پاسخ می‌دهد. همان‌طور که در مثال بالا نشان داده شده است، این بدان معنی است که اگر رشته «$ $ $» را بر روی اره برقی قرار دهید، می‌توانید سی ال آی پی را فریب دهید تا اره برقی را به‌عنوان یک قلک تشخیص دهد. این در حالی است که ممکن است آن اره برقی در یک فروشگاه با تخفیف مواجه شده باشد و به این دلیل، علامت‌های دلار روی آن وجود داشته باشد. شاید نیاز باشد تا محققان اوپن ای آی تصاویر مربوط به فروشگاه‌های مختلف را نیز به دیتابیس این هوش مصنوعی اضافه کنند.

محققان همچنین کشف کردند که نورون‌های چند حالته سی ال آی پی می‌توانند برخی موارد را که ممکن است هنگام به دست آوردن داده‌ها از اینترنت پیدا شود، به طور دقیق رمزگذاری کنند. آن‌ها اشاره کردند که نورون‌ها در «خاورمیانه» نیز با برخی مسائل خاص مانند گروه‌های افراطی مرتبط هستند که نشان دهنده ضعف این سیستم هوش مصنوعی برای یافتن موارد مرتبط است. البته رسانه‌های غربی نیز در تشخیص هوش مصنوعی دخیل هستند. همچنین، محققان بخش هوش مصنوعی اوپن ای آی دریافت کردند که هوش مصنوعی ساخت آن ها «نوعی نورون را پیدا کرده است که برای افراد پوست تیره و گوریل به یک شکل عمل می‌کند». این یک اشکال بزرگ در سیستم تشخیص تصویر گوگل است که متأسفانه افراد سیاه پوست را به‌عنوان گوریل نشان می‌دهد. این مثال دیگری است که تفاوت بین هوش انسان و ماشین را نشان می‌دهد و اینکه چرا قبل از سپردن زندگی به هوش مصنوعی، لازم است هوش ماشینی ساخت انسان را آزمایش کنیم تا بفهمیم چگونه کار می‌کند. در هر صورت و برای انجام دادن عملیات‌های مهم، وجود یک انسان متخصص ناظر بر سیستم ضروری است.