خطر چت‌ربات‌های هوش مصنوعی متا که شبیه افراد مشهورند
تاریخ انتشار: ۱۱ مهر ۱۴۰۲ | کد خبر: ۳۸۸۰۷۴۵۲
ایتنا - متا از طراحی چت‌ربات‌هایی شبیه برخی چهره‌های مشهور خبر داد که کاربران می‌توانند با آن‌ها چت کنند و تا سال آینده، صدا هم خواهند داشت.
شرکت متا (فیسبوک سابق) این نوع هوش مصنوعی را سرگرم‌کننده می‌داند، اما برخی معتقدند که تازه‌ترین تحولات فناوری می‌تواند گام اول در به گفته دنیل دنت، فیلسوف آمریکایی، «خلق خطرناک‌ترین ساخته‌های تاریخ بشر باشد».
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
به گزارش ایتنا و به نقل از ایندیپندنت، متا اعلام کرد که ۲۸ چت‌ربات ساخته است که هرکدام شخصیت خاص خودشان را دارند و برای کاربران جوان‌تر طراحی شده‌اند. این چت‌ربات‌ها ویکتور، ورزشکاری که به شما انگیزه می‌دهد «بهترین خودتان باشید»، و سالی، «دوستی آزادمنش که به شما می‌گوید کی نفسی عمیق بکشید» را شامل می‌شوند.
کاربران همچنین می‌توانند با مکس چت کنند، «آشپزی کارکشته» که به شما «نکته‌ها و فوت‌وفن‌های آشپزی» را می‌گوید.
اما متا برای تقویت این حس که چت‌ربات‌ها شخصیت دارند و فقط ترکیبی از الگوریتم نیستند، برای هرکدام از آن‌ها چهره‌ای طراحی کرده است. با مشارکت برخی افراد مشهور، این ربات‌ها شبیه پاریس هیلتون، مدل و شخصیت رسانه‌ای، چارلی دی‌آملیو، ستاره تیک‌تاک، و نیومی اوساکا، تنیس‌باز آمریکایی‌ـ‌ژاپنی، خواهند بود.
این تمام ماجرا نیست. متا برای هرکدام از این چت‌بات‌ها صفحه فیسبوک و اینستاگرام باز کرده است تا به آن‌ها موجودیتی خارج از فضای چت بدهد و تا سال آینده صدا هم خواهند داشت. این شرکت همچنین در جست‌و‌جوی فیلمنامه‌نویس‌هایی است که بتوانند «شخصیت‌پردازی کنند و روایت‌های فرعی بنویسند که برای مخاطبان گسترده جذاب باشد».
این رقابت برای ساخت «آدم‌های جعلی» و همچنین پیشرفت‌های اخیر در حوزه پژوهش مدل زبانی بزرگ (LLM)، مانند چت‌جی‌پی‌تی و لاما ۲، بسیاری از ناظران را نگران کرده است.
ایبو ون دپوئل، استاد اخلاق و فناوری در دانشگاه دلفت هلند، می‌گوید ایده ساخت چت‌ربات‌های دارای شخصیت ناممکن است زیرا الگوریتم‌ها نمی‌توانند «نیت عمل» یا «آزادی اختیار» که دو خصیصه مرتبط با شخصیت است، داشته باشند.
متا در بهترین حالت می‌تواند برخی ویژگی‌های شخصیتی را تقلید کند. به‌عنوان مثال، چت‌ربات امبر، که قرار است شبیه پاریس هیلتون باشد، شاید بتواند مانند مشابه انسانی‌اش صحبت کند.
قدم بعدی این است که این مدل‌های زبانی بزرگ آموزش ببینند که مانند شخصیت انسانی‌شان ابراز عقیده کنند. اما این خطر وجود دارد که چت‌ربات‌ها خطا کنند. به گزارش وال‌استریت ژورنال، یکی از چت‌ربات‌هایی که متا آزمایش کرد اظهارنظرهای «زن‌ستیزانه» داشت یا دیگری مرتکب «گناه کبیره» انتقاد از زاکربرگ و تحسین تیک‌تاک شد.
به عقیده دپوئل، پروژه هوش مصنوعی متا برای کسب سود بیشتر است. کاربران هرچه بیشتر احساس کنند که دارند با انسانی واقعی صحبت می‌کنند، «احساس راحتی بیشتری می‌کنند، مدت بیشتری می‌مانند و بیشتر احتمال دارد که برگردند». و در عصر رسانه‌های اجتماعی، مدت‌زمانی که در فیسبوک و تماشای آگهی‌های تبلیغاتی‌اش سپری می‌شود یعنی پول.
جای تعجب ندارد که هدف اولین ورود متا به حوزه طراحی چت‌ربات‌های دارای «شخصیت»، گروه سنی نوجوان است.
با وجود این، کارشناسانی که با فرانس ۲۴ مصاحبه کرده‌اند، معتقدند که متا با تاکید بر «خصیصه‌های انسانی» هوش مصنوعی‌اش، وارد بازی خطرناکی شده است.
آنا استراسر، پژوهشگر و فیلسوف آلمانی، می‌گوید ظهور این مدل‌های زبانی بزرگ قدرتمند «تفاوت میان ابزار یا شیء و موجود زنده» را بر هم می‌زند. انسان‌ها تازه دارند یاد می‌گیرند چگونه با این پدیده جدید عجیب تعامل داشته باشند و تلاش متا برای قبولاندن اینکه چت‌ربات می‌تواند شخصیت داشته باشد به این معنا است که با آن بیشتر مانند انسان رفتار می‌شود تا ابزار.
به عقیده ون دپوئل، کاربران به هرچه هوش مصنوعی می‌گوید اعتماد می‌کنند. این خطری فرضی نیست، مردی بلژیکی پس از شش هفته بحث با یک چت‌ربات در مورد پیامدهای گرمایش جهان، در مارس ۲۰۲۳ خودکشی کرد.
استراسر می‌گوید اگر مرز میان دنیای هوش مصنوعی و انسان محو شود، این می‌تواند اعتماد به هرآنچه آنلاین می‌بینیم را از بین ببرد، زیرا نمی‌دانیم چه کسی چی نوشته است.
دنیل دنت، فیلسوف آمریکایی، در مقاله‌ای هشدار می‌دهد که تحولات اخیر در حوزه هوش مصنوعی راه را برای «نابودی تمدن ما» باز می‌کند و «دموکراسی به رضایت آگاهانه (نه از روی اطلاعات غلط) افراد تحت حاکمیت بستگی دارد [و در صورتی که دیگر ندانیم به چه کسی و چه چیزی اعتماد کنیم، حاصل نمی‌شود]».
باید منتظر ماند و دید آیا چت با هوش مصنوعی شبیه پاریس هیلتون به این معنا است که در مسیر نابودی دنیایی که می‌شناسیم گام برمی‌داریم یا خیر.
منبع: ايتنا
کلیدواژه: هوش مصنوعی متا پلتفرمز چت ربات چت ربات هوش مصنوعی چت ربات ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.itna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۸۰۷۴۵۲ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
آخرین وضعیت شبیه‌سازی انتخابات الکترونیک در تهران
سخنگوی ستاد انتخابات کشور از برگزاری شبیه‌سازی انتخابات الکترونیک در هفته آینده در استان تهران خبر داد.
به گزارش گروه سیاسی خبرگزاری دانشجو، محسن اسلامی سخنگوی ستاد انتخابات کشور با اشاره به برگزاری دور دوم انتخابات دوازدهمین دوره مجلس شورای اسلامی، گفت: این انتخابات در ۲۲ حوزه، ۱۵ استان، ۴۷ فرمانداری و ۸۱ بخشداری برگزار می‌شود و ۹۰ نامزد برای ۴۵ کرسی باقی مانده مجلس با یکدیگر رقابت می‌کنند.
وی با بیان اینکه بازه زمانی تبلیغات داوطلبان از ساعت صفر ۱۳ اردیبهشت آغاز شده و در ساعت ۸ صبح روز ۲۰ اردیبهشت تمام می‌شود، افزود: به ستاد‌های انتخابات استان‌ها تاکید کرده ایم که میادین شهری برای تبلیغات آماده شوند، فضای مجازی هم برای تبلیغات فراهم شده است. دستورالعملی برای تبلیغات در نظر گرفته شده که مبنای کار تبلیغات است.
سخنگوی ستاد انتخابات کشور با اشاره به برگزاری دو مانور انتخاباتی، گفت: مانور شبیه سازی شعب اخذ رأی و راه اندازی شعب و تست دستگاه‌های احراز هویت و صندوق‌های رأی برگزار شده و اشکالات و نواقص احتمالی مورد بررسی قرار گرفته است. این مانور‌ها با حضور اعضای هیئت‌های نظارت و ناظران شورای نگهبان برگزار شده است. روز یکشنبه هم در استان تهران صندوق‌های الکترونیکی را زیر بار می‌بریم و شبیه سازی انتخابات الکترونیک را اجرا می‌کنیم.
اسلامی با بیان اینکه آموزش عوامل اجرایی انتخابات هم انجام شده و ما آمادگی کامل برای برگزاری مرحله دوم انتخابات را داریم اظهار کرد: با معاونان سیاسی و انتخابات و معاونان امنیتی ۱۵ استانی که انتخابات مرحله دوم در آن استان‌ها برگزار می‌شود، موارد لازم را برای برگزاری انتخابات بررسی و هماهنگ کرده ایم. به آن‌ها تاکید کردیم که حتماً با داوطلبان نشست داشته باشند و مواردی که لازم است را به اطلاع داوطلبان برسانند.
وی با بیان اینکه ۱۱ هزار و ۵۰۰ شعبه اخذ رأی داریم که ۶۵ درصد آن مربوط به انتخابات الکترونیکی است، تاکید کرد: در ۸ حوزه انتخابیه که انتخابات الکترونیکی است، آموزش‌های لازم به مردم داده شود. مردم هم می‌توانند سوابق داوطلبان را از طریق سامانه "انتخاب ایران"، بررسی کنند.
اسلامی درباره واجدین شرایط رأی اظهار کرد: کسانی که در مرحله اول رأی نداده باشند، می‌توانند در هر حوزه‌ای رأی دهند. کسانی که در مرحله اول در یک حوزه انتخابیه رأی داده باشند، فقط در همان حوزه می‌توانند در مرحله دوم رأی بدهند. متولدین ۲۱ اردیبهشت ۱۳۸۵ به قبل می‌توانند در این انتخابات شرکت کنند.
دبیر ستاد انتخابات کشور درباره چگونگی رأی دادن در انتخابات الکترونیکی، گفت: فرد با یکی از اصل مدارک کارت ملی، شناسنامه، گواهینامه، گذرنامه یا کارت پایان خدمت وارد شعبه می‌شود. در ابتدا احراز هویت به صورت الکترونیکی انجام شده و اگر فرد واجد شرایط رأی دادن باشد، به او کارت تعرفه داده می‌شود. رأی دهنده، کارت تعرفه را بر روی مکانی که روی صندوق الکترونیکی است، قرار می‌دهد و وقتی صندوق اجازه رأی دادن را داد، لیست اسامی و کد و تصاویر داوطلبان در اختیار فرد رأی دهنده قرار می‌گیرد و و فرد کد داوطلبان را در محل مشخص شده به صورت دستی وارد کرده و رأی خود را می‌دهد.
وی ادامه داد: در این انتخابات دیگر تعرفه رأی کاغذی وجود ندارد و تعرفه‌ای هم داخل صندوق انداخته نمی‌شود. بعد از اینکه فرد رأی خود را داد، کارت تعرفه را برمی گرداند و مدرک شناسایی خود را پس می‌گیرد.
اسلامی تصریح کرد: در حوزه‌های الکترونیک تلاش می‌شود با تأیید هیئت نظارت، نتایج در اسرع وقت اعلام شود. فرآیند‌های اعتراض و شکایت در هیأت‌های اجرایی و نظارت هم پیش بینی شده و طبق قانون انجام می‌شود.
تصاویر پدر ساواکی مهران غفوریان