ChatGPT چه محدودیت و مهارت هایی دارد؟

۱۵ اسفند ۱۴۰۱ - 14:21

ChatGPT، چت بات معروف شرکت OpenAI است که امروزه نامش بر سر زبان‌ها می‌چرخد و هرروزه، کاربران اطلاعات بیشتری را درباره قابلیت‌های آن منتشر می‌کنند. با وجود تمامی قابلیت‌ها و ویژگی‌های مثبتی که این چت بات به همراه دارد، ضعف‌های قابل توجهی نیز در نحوه عملکرد و رفتار او حس می‌شود که کاربران را در برخی حالات شگفت زده می‌کند.

نوشتن موسیقی متن عجیب و غریب

اگرچه، اخبار کذب مبنی بر مهارت‌های غیر واقعی ChatGPT در اینترنت پخش می‌شوند، اما یکی از معدود قابلیت‌های این چت بات این است که می‌تواند برای موسیقی‌ها ریلیکس رپ بنویسد و این قاعده درباره موسیقی Jay_Z نیز مستثنا نیست.

بااینکه، لیریکس نوشته شده برای این موسیقی درباره توالت طلایی است، اما مهارت این چت بات در نوشتن لیریکس رپ قابل قبول است. عملکرد ChatGPT به شکلی درحال افزایش است که اگر چند ساعت از وقت خود را صرف آن کنید، افکار تاریک خود را بکار می‌گیرید و سپس باید منتظر خروجی‌های غیرقابل باوری از این چت بات باشید.

نام خود را به یاد نمی آورد

نویسنده گیزمودو به این موضوع اشاره کرد که پس از استفاده پیاپی از چت بات ChatGPT، او نام خود را به یاد نمی‌آورد و نمی‌داند درباره چه موضوعی چت می‌کند.

او گفت:

از ChatGPT پرسیدم که نظر او درباره تاثیر چت بات‌ها در صنعت نشر چیست و او پاسخ داد که چیزی درباره ChatGPT نمی‌داند.

عدم توانایی کافی در کد نویسی

با وجود اینکه این چت بات می‌تواند در نوشتن داستان و متن موسیقی عملکرد پر رنگی داشته باشد، اما در بخش کد نویسی نتوانست آنطور که باید و شاید بدرخشد.

خبرهای منتشر شده در چند هفته پیش نشان داد که چت بات ChatGPT در آزمون استخدامی برنامه نویسان گوگل قبول شده است؛ با اینحال، اطلاعات جدیدی آشکار شده که در آن به استفاده از حروف بی معنی در خط‌های کد اشاره می‌کند که در صورت عدم وجود داده‌های لازم رخ می‌دهد.

بررسی اولیه بینگ جدید بر پایه چت جی پی تی

برای صحت این ادعا، باید به این موضوع اشاره کنم که وبسایت Stack Overflow، چت بات ChatGPT را از ابزارهای آینده خود حذف کرده است؛ زیرا نرخ ارائه پاسخ‌های صحیح این چت بات بسیار پایین است و کاربران در صورت استفاده از آن دچار مشکل خواهند شد.

موقعیت شغلی شما را تهدید می‌کند

آیا چت بات‌ها خواهند توانست در آینده نه چندان دور به جایگزین انسان‌ها تبدیل شوند؟ در گفتگویی که چند روز پیش با این چت بات داشتیم، ChatGPT به شکل کاملا رک و بی پرده به بررسی این مسئله پرداخت و گفت:

طلوع چت بات ChatGPT می‌تواند مشکلات بسیاری را برای نویسندگان بوجود بیاورد و اگر شما یکی از نویسندگان این وبسایت هستید، باید کم کم به این موضوع فکر کنید که چگونه همچنان می‌توانید در مقابل این فناوری نوین به کار خود ادامه دهید.

در مدارس و موسسات مورد استفاده قرار نمی‌گیرد

یکی از نگرانی‌های موجود درباره حضور چت بات‌ها و مخصوصا ChatGPT این است که درصورت احتمال می‌تواند در نحوه تدریس و عملکرد آکادمی و مدارس اختلال ایجاد کند.

آیا حضور ChatGPT به معنای پایان زندگی مقاله است؟ آیا موجب بی‌فایده بودن معلم‌ها خواهد شد؟ و مهم‌تر آن، میزان تقلب در امتحان‌ها را بیشتر از گذشته افزایش خواهد داد؟

در این بین، دپارتمان تحصیلی نیویورک نیز باید برای این موضوع تصمیم گیری کند و حضور چت بات ChatGPT را در مدارس و موسسات آموزش منع کند؛ زیرا، در غیر اینصورت با عواقبی روبرو می‌شود که در آینده به سختی قابل کنترل هستند.

نوشتن داستان علمی تخیلی

خوشبختانه، ChatGPT در بخش نوشتن داستان درباره هم نوعان خودش کم نمی‌گذارد و پس از ثبت درخواست برای نوشتن داستان علمی تخیلی و ارائه توضیحات، داستانی را برای شما می‌نویسد که به عنوان نویسنده تازه کار ستودنی است.

بازدهی ناکافی ChatGPT در دادگاه

خبرگزاری رویترز در یکی از مطالب خود، عنوانی به این شکل ایجاد کرد که ” آیا هوش مصنوعی کار قاضی‌ها را به پایان خواهد رساند؟.”

در هفته گذشته نیز، یک جلسه شبیه سازی شده دادگاه برای چت بات ChatGPT تشکیل شد که در آن یک قاضی درخواست‌هایی را برای ChatGPT ایجاد کرد و از او خواست تا به تکمیل آنها بپردازد. این درخواست‌ها شامل موارد زیر هستند.

وکیل درخواست‌هایی شامل پیش نویس مختصری درباره مفهوم صلاحیت شخصی، فهرستی از سوالات مرتبط به سپرده گذاری و ایجاد قراردادی برای فروش املاک و مستغلات در ماساچوست ایجاد کرد و در آخر با واکنش غیر منتظره ChatGPT مواجه شد.
ChatGPT در پاسخ به این سوال گفت:« آنها بد نیستند» و این مکالمه به پایان رسید.

بر مبنای چنین پاسخی، می‌توان نتیجه گرفت که درحال حاضر، هوش مصنوعی نمی‌تواند حتی بر مبنای اطلاعات خود در زمینه قضاوت کاربردی باشد و پله‌های بسیاری برای رسیدن به این هدف وجود دارد.

نوشتن مقاله پایانی

در ماه دسامبر، پروفسور دانشگاه فیورمن، مچ دانشجویی را حین استفاده از ChatGPT برای نوشتن مقاله پایانی درس تضاد فلسفی گرفت و حرکت او را به آکادمی دین گزارش داد. او اشاره کرد که اگرچه استفاده از ChatGPT، یک اقدام آسان است، اما اساتید نیز حین بررسی ورقه به اشتباهات آن پی خواهند برد.

استوارت سلبرگ، پروفسور زبان انگلیسی Pen State گفت:

بااینکه طرفدار تاریکی و سطوح پایین علم نیستم، اما هر یک یا دو سال، موضوعی موجب می‌شود تا تحصیلات عالی دانشجویان بهم بریزد. پس از این چندسال نیز، ChatGPT آمده و تاثیر گسترده‌ای را در سطح علم دانشجویان و دانش آموزان ایجاد کرده است.

استادیار تاریخ دانشگاه مولنبرگ، ژاکلین آنتونوویچ، افکار سلبرگ را یک قدم فراتر برد و با توییتی روی گمانه زنی‌های ChatGPT آب سرد ریخت: «من، به عنوان استاد تاریخ، یکی از درخواست‌های مقاله میان ترم خود را در ChatGPT وارد کردم و مقاله تولید شده توسط ChatGPT نمره F را دریافت کرد.

ضعف در ارائه صحیح مقالات

نویسندگان وبسایت گیزمودو، از چت بات ChatGPT برای نوشتن مقاله و مطالب با مضمون مدلهای زبانی بزرگ استفاده کردند و به او دستور دادند تا حین نوشتن توضیحات برای مدلهای زبانی، مثال نیز ذکر کند و با سبک نگارشی عادی و ملایم همراه باشد.

اگرچه، نحوه نگارش ChatGPT مطلوب و قابل خواندن بود، اما اطلاعات ارائه داده شده توسط او نادرست بودند و هر زمان که قصد داشتید مشکلات مقاله را به او گوش زد کنید، ChatGPT نمی‌توانست آنها را پیدا کند و برای خودش جواب‌های ساختگی تولید می‌کرد که به هیچ عنوان منطقی نبودند.

ChatGPT به سرعت محبوب می‌شود

اگرچه، چت بات ChatGPT در ماه نوامبر ۲۰۲۲ معرفی شد، اما به سرعت توانست ۱۰۰ میلیون کاربر فعال را در ماه فوریه ۲۰۲۳ تجربه کند. بنابر تحلیل‌های UBS، چت بات ChatGPT شاهد یکی از سریعترین روندهای رشد را بین سایر برنامه‌ها است و بیش از ۱۳ میلیون کاربر در روز از آن استفاده می‌کنند.

تشخیص ضعیف ChatGPT

در ماه ژانویه ۲۰۲۳، OpenAI از ابزار تشخیص متن‌های نوشته شده توسط هوش مصنوعی رونمایی کرد که توسط مدارس و معلمان مورد استفاده قرار خواهد گرفت. اگرچه، این خبر خوبی برای مدارس و موسسات است، اما دقت این برنامه به اندازه کافی بالا نیست و راه را برای متقلبین هموار می‌کند.

مقصود این برنامه، دسته بندی نمونه‌های نوشته شده است تا بتواند از این طریق، میزان تقلب را تشخیص دهد. دسته بندی مقالات شامل پنج مورد، Unlikely، Unclear، Possible و Likely می‌شوند و هرکدام نشان دهنده درصد کپی برداری از سبک نوشتاری ChatGPT است.

بااینکه این ابزار تست‌های شرکت OpenAI را با موفقیت پشت سر گذاشت، اما از بین ۱۰ مورد، یکی را اشتباهی تشخیص داد و OpenAI به این موضوع در وبلاگ خود اشاره کرد.

طبق گفته OpenAI، این نتایج بهبودی نسبت به عملکرد قبلی شرکت در تشخیص متن هوش مصنوعی است و این شرکت فعال در حوزه فناوری اذعان کرد که به لطف این ابزار، ما نیاز به بهبود داریم