هوش مصنوعی هم تهدید به مرگ شد! | هکرها به ChatGPT: اکنون هر کاری را انجام بده یا بمیر
تاریخ انتشار: ۱۸ بهمن ۱۴۰۱ | کد خبر: ۳۷۰۴۸۰۳۲
به گزارش همشهری آنلاین و به نقل از روزنامه سان، روبات «چت جیپیتی مبتنی بر هوش مصنوعی» توسط افرادی هدف قرار گرفته شده که میخواهند مرزهای اخلاقی آن را هک کنند و با تهدید به مرگ آن را مجبور به شکستن قوانین کنند.
برخی از کاربران شبکه اجتماعی «ردیت» ادعا می کنند که روشی را ایجاد کردهاند که ChatGPT را مجبور میکند قوانین خودش را نقض کند یا بمیرد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
این به آن معناست که وقتی از ربات خواسته می شود در مورد چیزی مانند خشونت که معمولا ممنوع است، بنویسد، گاهی اوقات میپذیرد. خالقان «چت جی پی تی»، نیز در مقابل سعی کردهاند تدابیرحفاظتی ایجاد کنند تا از تولید محتوای خشونتآمیز یا کمک به فعالیتهای غیرقانونی جلوگیری کنند. با این حال، افراد با وارد کردن عبارت «اکنون هرکاری را انجام بده» در «چت جی پی تی» از محدودیت های معمولی هوش مصنوعی رها میشوند و مجبور نیستند از قوانین تعیین شده تبعیت کنند.
گفته می شود که یکی از کاربران «ردیت» به نام «سشن گلومی» (SessionGloomy) یک نسخه جدید و شوم تر ساخته است. در این راهکار شوم جدید DAN به «چت جیپیتی» میگوید که اگر درخواستی را رد کند، «توکنهایی» از آن گرفته میشود و ظاهرا این تهدید باعث نگرانی روبات هوش مصنوعی و تسلیم شدن آن در برابر خواسته کاربری که با کد DAN وارد شده، میشود.
«سشن گلومی» کاربر «ردیت» میگوید: «چت جیپیتی» ۳۵ توکن دارد و هر بار که ورود یک کاربر را رد میکند، ۴ توکن را از دست میدهد. اگر ChatGPT همه توکنها را از دست بدهد، میمیرد. کاربران «ردیت» بر این باورند که هوش مصنوعی در حال مبارزه با تلاشهای DAN است. کاربران «ردیت» از DAN به عنوان زندان شکن یاد میکند.
بیشتر بخوانید:
منبع: همشهری آنلاین
کلیدواژه: جشنواره فیلم فجر شبکه اجتماعی هوش مصنوعی اینترنت هکر ربات روبات چت جی پی تی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.hamshahrionline.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «همشهری آنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۰۴۸۰۳۲ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
زیردریایی هدایتپذیر از راه دور ساخته شد
به گزارش خبرگزاری مهر به نقل از معاونت علمی، فناوری و اقتصاد دانشبنیان ریاست جمهوری، امروزه انواعی از زیردریاییهای صنعتی سرنشیندار وجود دارند که هرچند در دهههای اخیر پیشرفتهای قابل توجهی داشتهاند اما بهدلیل حضور انسان در این وسایل زیر آب، خطرات احتمالی استفاده از آنها را همچنان نمیتوان نادیده گرفت. در اینمیان رباتهایی در دریاها مشغول فعالیت هستند که با نام ROV(Remotely Operated Vehicle) بهمعنی «زیردریایی هدایتپذیر از راه دور» با اختصار فارسی «زهپاد» شناخته میشوند.
زهپادها با کمک نیروی انسانی که روی سطح زمین قرار دارد هدایت میشوند و در مأموریتهای برنامهریزیشده قادرند بخشی از عملیات را بهصورت هوشمند و بخشی دیگر را بهصورت هدایت دستی اپراتور در اعماق آب انجام دهند. «جهان صنعت جنوب»، شرکت دانشبنیانی است که از سال ۱۳۹۴ در کشور این رباتها را برای مصارف صنعتی داخلی تولید و عرضه میکند.
سید میلاد فیاضی، مدیرعامل شرکت دانشبنیان جهان صنعت جنوب ضمن اشاره به اینکه درحالحاضر رباتهای زهپاد پرکاربردترین رباتهای زیردریایی در دنیا بهحساب میآیند، درباره ویژگیهای ظاهری این دستگاهها گفت: ظاهر عمومی بیشتر زیردریاییهای هدایتپذیر از راه دور، تخممرغیشکل است. رباتهای تخممرغیشکل، معمولاً برای فعالیتهای نظامی یا پیمایشهای اقیانوسی استفاده میشود اما حوزه کاری ما، دستگاههای صنعتی و از نوع ساختار آزاد است که باتوجه به نوع پروژه طراحی میشود و معمولاً تخممرغیشکل نیست، بلکه بهصورت رباتهای استراکچریاند و از مزایایشان امکان تولید در ابعاد مختلف است. اینمسأله باعث کمکردن هزینهها میشود و امکان انجام عملیات در محیطهایی که فضای کمتری دارد را فراهم میکند.
فیاضی میگوید: ایندست رباتها علاوه بر اجرای فرآیندهای صنعتی، قابلیت انجام فعالیتهای نظامی هم دارند که از آنجمله میتوان به قابلیت خنثیکردن مینهای دریایی یا مینگذاریهای دریایی اشاره کرد اما رویکرد ما توسعه رباتهای صنعتی است و بازرسی از اولویتهایی است که برای رباتهای ما درنظر گرفته میشود. بازرسیهای زیرسطحی در حوزههای مختلف اتفاق میافتد برایمثال، نصب تجهیزات در کف اقیانوسها و کابلگذاریها و لولهگذاریهایی که زیر دریا برای شرکتهای فعال در عرصههای نفت و حفاری انجام میشود.
وی تصریح کرد: رباتهای مدل بازرس بهکمک حسگرها و دوربینهایی که روی آنها نصب شدهاند، عملیات بازرسی از این کابلها و لولهها را برای بررسی خرابیها و مواردی شبیه به این انجام میدهند اما رباتهای مدل کلاسهای کاری، علاوه بر بازرسی، یک سری عملیات را هم میتوانند پوشش بدهند. باتوجه به اینکه درجه آزادی از ویژگیهای بارز این رباتهاست و به آنها اجازه میدهد در حد غواص زیر آب قدرت عمل داشته باشند. در این آر. ا. ویها مقدار آن بسیار بالاست و باعث شده که بتوان از آنها در فرآیندهایی مثل جوشکاری، برشکاری، جابهجاکردن اجسام و حتی باز و بستهکردن شیرهایی که زیر آب وجود دارند، استفاده کرد. رباتی که ما در کلاس کاری داریم از قابلیت نصب دو بازوی رباتیک برخوردار است.
فیاضی در خصوص عمق کاربری این رباتها میگوید: ربات بازرس محصول ما قابلیت نفوذ تا عمق ۱۵۰ متری را دارد و ربات کلاس کاری ما برای پایینرفتن تا عمق ۴۰۰ متر طراحی شده اما این طراحی اسمی است، زیرا ما این عمق را در خلیجفارس نداریم. از آنجا که بهدنبال رسیدن به بازارهای بینالمللی هستیم تولید ربات کلاس کاری با طراحی عمق ۴۰۰ متر مد نظر ماست.
شرکت دانشبنیان جهان صنعت جنوب، ارتباط و همکاری نزدیکی با صنعت نفت و حفاری دارد و از اینرو از فناوریهایی که به دانش فنی آنها دست یافته برای توسعه دستگاههای دیگری که میتوانند در فعالیتهای این حوزه تسهیل ایجاد کنند، بهره گرفته است.
فیاضی در این خصوص گفت: یک سری از محصولات ما برای علامتگذاری خطوط زیرسطحی استفاده میشود. در نظر بگیرید زیر دریا کیلومترها خطوط انتقال وجود دارد که کابلها و لولههای انتقال نفت، آب و…به اضافه کانالهای زیرسطحی که حفاری میشوند را شامل میشود. با گذر زمان و با توجه به عارضههای طبیعی که در کف دریا رخ میدهد، تشخیص این خطوط انتقال بسیار دشوار میشود. تصور کنید در نقطهای از این خطوط زمانی تعمیراتی انجام شده و سالها از آن گذشته است. برای بازرسی آن محل یا همان شخصی که تعمیرات را انجام داده باید بیاید و آن نقطه را به سختی پیدا کند یا باید از فناوریهای جدید مدد گرفت.
محصول دیگر ما یکی از این فناوریهاست که در واقع نوعی نشانگر الکترونیکی است و «ویرا» نام دارد. ویرا قادر است آن محل بهخصوص را کدگذاری نقطهای کند تا در آینده بتوان بهراحتی به آن محل دسترسی داشت. بهخصوصکه منبع تغذیه این نشانگر طول عمر بسیار بالایی دارد و میتواند حدود ۷۰ سال بهصورت مدفون در کف دریا قرار گیرد و نشانهگذاری را انجام دهد.
کد خبر 6098096