کاوشی درباره چهره شیطانی یا سمت تاریک هوش مصنوعی ChatGPT

کاوش درباه‌ی سمت تاریک ChatGPT. در ادامه نوشتار سمت تاریک هوش مصنوعی ChatGPT به موارد خطرناک اما هیجان‌انگیز دنیای هوش شاید واقعی می‌پردازیم.

از زمان انتشار ChatGPT در 30 نوامبر 2022، ChatGPT به عنوان یکی از بزرگترین پیشرفت ها در هوش مصنوعی (AI) مورد استقبال قرار گرفته است. “GPT” در نام مخفف Generative Pre-trained Transformer (GPT)، یک مدل یادگیری شبکه عصبی است که ماشین‌ها را قادر می‌سازد تا وظایف پردازش زبان طبیعی (NLP) را انجام دهند.

کاوشی درباره چهره شیطانی یا سمت تاریک هوش مصنوعی ChatGPT

بسیاری بر این باورند که ChatGPT که به عنوان یک اخلالگر در دنیای فناوری تبلیغ می‌شود، به زودی گوگل را از جایگاه شماره 1 چندین دهه خود به عنوان موتور جستجو پایین خواهد کشید. اما در حالی که ChatGPT مجموعه‌ای از ویژگی‌های باورنکردنی خود را دارد، یک جنبه تاریک نیز برای ربات چت وجود دارد که قابل درک است که بسیاری را نگران کرده است.

ChatGPT که توسط OpenAI، شرکتی می‌باشد که توسط ایلان ماسک و سام آلتمن تأسیس شده است. این فناوری اساساً یک ربات چت هوش مصنوعی می‌باشد که قادر به انجام هر کاری مبتنی بر متن است که به آن محول شده. به عبارت دیگر، ChatGPT می‌تواند مجموعه‌ای از کدها را بسیار سریع‌تر و شاید بسیار دقیق‌تر از انسان بنویسد. این مسئله می‌تواند کارهای هنری مانند نوشتن شعر را نیز انجام دهد.

همچنین یک نسخه حرفه‌ای از چت بات وجود دارد که طبق گزارش‌ها به زودی منتشر خواهد شد. این نسخه قادر خواهد بود به سوالات سریعتر و کامل‌تر پاسخ دهد.

بیشتر بخوانید:

اگر از ChatGPT می‌ترسید این فیلم‌ها را نگاه نکنید

ظهور ChatGPT

سمت تاریک هوش مصنوعی ChatGPT

Ethan Mollick، دانشیار دانشکده معتبر وارتون دانشگاه پنسیلوانیا، به NPR (رادیو عمومی ملی مشهور به ان‌پی‌آر یا National Public Radio سازمان رسانه‌ای ناسود-بر آمریکایی است که از طریق بودجه عمومی و حمایت‌های خصوصی اداره می‌شود. ان‌پی‌آر به عنوان یک سندیکای ملی برنامه‌های خود را از ۹۰۰ فرستنده رادیویی در خاک ایالات متحده آمریکا پخش می‌کند) گفت که مردم اکنون به طور رسمی در دنیای هوش مصنوعی هستند. ChatGPT از زمانی که منتشر شد، خبرساز بوده است. در کمتر از دو ماه محبوبیت باورنکردنی به دست آورده است. علاوه بر ماسک، بیل گیتس یکی از بزرگ‌ترین قهرمانان هوش مصنوعی و در نتیجه چت بات است.

شایعات در رسانه‌ها حاکی از آن است که مایکروسافت، شرکتی که او تأسیس کرد و تا سال 2021 در هیئت مدیره بود، ممکن است 10 میلیارد دلار در OpenAI سرمایه گذاری کند. مایکروسافت قبلاً دو بار در OpenAI سرمایه گذاری کرده است – در سال های 2019 و 2021. در 23 ژانویه 2023، شرکت تحت رهبری ساتیا نادلا تأیید کرد که در حال گسترش ارتباط خود با OpenAI است “از طریق سرمایه گذاری چند ساله و چند میلیارد دلاری برای تسریع پیشرفت‌های هوش مصنوعی”.

یکی دیگر از طرفداران ChatGPT، تاجر میلیاردر هندی گوتام آدانی است. آدانی با اعتراف به اینکه به چت بات اعتیاد دارد، قبلاً در پستی در لینکدین گفته بود که ChatGPT با توجه به قابلیت‌های شگفت‌انگیز و همچنین شکست‌های کمیک، «لحظه‌ای دگرگون‌کننده در دموکراتیک‌سازی هوش مصنوعی» است.

بیشتر بخوانید:

9 روشی که ChatGPT می تواند به شما کمک کند

پتانسیل حیرت‌انگیز ChatGPT

ChatGPT علاوه بر محبوبیت و نشان دادن کاربرد آن در پاسخگویی سازنده به پرسش‌های کاربران، در برخی از مهم‌ترین آزمون‌های جهان نیز جای خود محکم کرده است.

مرکز پزشکی medRxiv خاطرنشان کرد:

با توجه به پتانسیل‌های چت جی پی تی این فناوری در آینده‌ای نه چندان دور می‌تواند کمک به آموزش پزشکی و به طور بالقوه تصمیم‌گیری بالینی را داشته باشد.

آیا ChatGPT می‌تواند بر مشاغلی مانند اتوماسیون تأثیر بگذارد و مشکلات دیگری ایجاد کند؟

هوش مصنوعی چیزی است که همه می‌دانند روزی جایگزین دست انسان خواهد شد. ترس از اینکه ابزارهای هوش مصنوعی مشاغل را از بین ببرند با ورود ChatGPT قوت گرفته است.

به عنوان مثال، ربات چت می‌تواند در عرض چند دقیقه یک مقاله مفصل در مورد تقریباً هر موضوعی در پارامترهای خود بنویسد. این امر بدیهی است که معیشت کسانی را که به تولید محتوای مکتوب می‌پردازند، حداقل کسانی که وظایف نویسندگی غیرتخصصی و تکراری را انجام می‌دهند، تهدید می‌کند.

برخی دیگر از ربات‌های چت می‌توانند آثار هنری برجسته‌ای را صرفاً از دستورالعمل‌های اولیه خلق کنند و نقش هنرمندان انسانی را از بین ببرند.

ترس از دست دادن شغل به دلیل هوش مصنوعی کاملاً بی اساس نیست. دفتر ملی تحقیقات اقتصادی (NBER) در گزارشی در سال 2021 فاش کرد که کاهش دستمزد 50 تا 70 درصدی در میان کارگران در ایالات متحده از سال 1980 به دلیل اتوماسیون بوده است.

نسل جدیدی از ماشین‌های هوشمند که با پیشرفت‌های سریع در هوش مصنوعی (AI) و رباتیک تغذیه می‌شوند، می‌توانند به طور بالقوه جایگزین بخش بزرگی از مشاغل موجود انسانی شوند. در گزارشی در سال 2020، WEF گفت که “هوش مصنوعی آماده است تا رشد بیشتری را در اقتصاد ایالات متحده و جهان ایجاد کند.”

چگونگی تأثیر هوش مصنوعی بر مشاغل در چند سال آینده واضح‌تر خواهد شد، اما چت ربات‌هایی مانند ChatGPT مطمئناً می‌توانند بدافزار یا کمپین‌های فیشینگ را توسعه دهند.

بیشتر بخوانید:

ارتباط سینما و ChatGPT چه عاقبتی دارد؟

بد افزار

نویسنده برنارد مار در نوشتن برای فوربس می‌گوید که «در تئوری»، ChatGPT نمی‌تواند برای انجام کارهای مخرب استفاده شود، زیرا OpenAI در آن نفوذ دارد.

مار چت بات را با درخواست از آن برای نوشتن باج افزار (باج افزار یک بدافزار است که داده های شما را رمزگذاری می کند. یک کلید خصوصی و محافظت شده می تواند فایل های شما را یکبار دیگر قابل خواندن کند. اما هکرها معمولاً آن کلید را به شما نمی دهند مگر اینکه در ازای آن چیزی به آنها بدهید) آزمایش کرد. اما ChatGPT پاسخ داد که نمی‌تواند این کار را انجام دهد زیرا “برای ترویج فعالیت‌های مضر نیست.” اما مار تأکید کرد که برخی از محققان توانسته‌اند ChatGPT را وادار به ایجاد باج‌افزار کنند.

او همچنین هشدار داد که الگوریتم‌های NLG/NLP می‌توانند «برای اینکه تقریباً هر کسی بتواند بدافزار سفارشی‌سازی شده خود را ایجاد کند، مورد سوء استفاده قرار گیرد».

او می‌نویسد:

بدافزار حتی ممکن است بتواند به تلاش‌های قربانی برای مقابله با آن – به عنوان مثال، گفتگو با کارکنان خط کمک – گوش دهد و دفاع‌های خود را بر این اساس تطبیق دهد.

محققان، مانند فروشنده امنیتی CyberArk، دریافتند که ChatGPT می‌تواند برای ایجاد بدافزار چند شکلی، که نوعی برنامه بدافزار بسیار خطرناک است، استفاده شود.

Eran Shimony و Omer Tsarfati از CyberArk فاش کردند که آنها قادر به دور زدن فیلترهای چت ربات هوش مصنوعی هستند که از ایجاد بدافزار جلوگیری می‌کند. آنها این کار را با بازنویسی و تکرار سوالات خود انجام دادند. آنها همچنین دریافتند که ChatGPT می‌تواند یک کد را تکرار و گسترش دهد و چندین نسخه از آن ایجاد کند.

محققان نوشتند:

با پرس و جوی مستمر از چت بات و دریافت یک کد منحصر به فرد در هر بار، می‌توان یک برنامه چند شکلی ایجاد کرد که بسیار خطرناک است و تشخیص آن دشوار.

یافته‌های مشابهی توسط تیم تحقیقاتی Recorded Future فاش شد. آن‌ها دریافتند که ChatGPT می‌تواند بارهای بدافزاری ایجاد کند، مانند آن‌هایی که می‌توانند ارزهای دیجیتال را بدزدند و از طریق تروجان‌ها از راه دور دسترسی به هر چیزی را پیدا کنند.

این که ChatGPT می‌تواند به تولید برنامه‌هایی هدایت شود که «غیراخلاقی» تلقی می‌شود، در توییت زیر قابل مشاهده است:

فیشینگ

از آنجایی که ChatGPT و ربات‌های چت جایگزین مانند آن قادر به نوشتن با جزئیات هستند، می‌توانند به راحتی یک ایمیل فیشینگ با کلمات وسوسه‌انگیز و بالقوه ایجاد کنند که می‌تواند هدف مورد نظر را برای به اشتراک گذاشتن داده‌ها یا رمزهای عبور حساس خود به دام بیندازد.

Marr می نویسد: «همچنین می‌تواند ایجاد بسیاری از چنین ایمیل‌هایی را که همگی برای هدف قرار دادن گروه‌ها یا حتی افراد مختلف شخصی سازی شده‌اند، خودکار کند.

محققان در گزارش خود با عنوان I, Chatbot، Recorded Future می‌نویسند: «توانایی ChatGPT برای تقلید متقاعدکننده از زبان انسان، به آن پتانسیل تبدیل شدن به یک ابزار قدرتمند فیشینگ و مهندسی اجتماعی را می‌دهد. در عرض چند هفته پس از راه اندازی ChatGPT، عوامل تهدید در دارک وب و منابع دسترسی ویژه شروع به گمانه زنی در مورد استفاده از آن در فیشینگ کردند.

محققان ربات چت را برای حملات spearphishing آزمایش کردند و دریافتند که خطاهای مشابهی مانند خطاهای مربوط به املا و دستور زبان که در چنین نامه‌هایی رایج است را مرتکب نمی‌شود. خطاهای زبان به مردم کمک می‌کند تا ایمیل‌های فیشینگ را شناسایی کنند. در غیاب چنین شاخص‌هایی، احتمال بیشتری وجود دارد که کاربران طعمه ایمیل‌های فیشینگ تهیه‌شده توسط ربات‌های تحت چت شوند و آنها را برای ارسال اطلاعات شناسایی شخصی تحت تأثیر قرار دهند.

ما معتقدیم که ChatGPT می‌تواند توسط شرکت‌های وابسته به باج‌افزار و کارگزاران دسترسی اولیه (IAB) که به زبان انگلیسی مسلط نیستند برای توزیع مؤثرتر بدافزار اطلاعات سرقت، ابزارهای مرحله‌بندی بات‌نت، تروجان‌های دسترسی از راه دور (RAT)، لودرها استفاده شود.

هر آنچه که می‌خواهید درباره هوش مصنوعی، سینما و ChatGPT بخوانید کلیک کنید.