شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) می‌گوید هوش مصنوعی روزی می‌تواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش می‌رود.
به گزارش ایسنا، شرکت آنتروپیک که توسعه دهنده هوش مصنوعی است، به تازگی تحقیقات جدیدی را منتشر کرده است که در آن مجموعه‌ای از تهدیدات بالقوه خرابکارانه برای بشریت ناشی از مدل‌های پیشرفته هوش مصنوعی را شناسایی می‌کند.
در نهایت، این تحقیقات جدید یک خبر خوب یک خبر بد برای ما دارد. خبر بد اینکه طبق تحقیقات این شرکت، مدل‌های زبان بزرگ پیشرفته مانند ChatGPT و Claude-3 ظرفیت روشنی برای خرابکاری نشان می‌دهند. با این حال، خبر خوب این است که محققان شرکت آنتروپیک مطمئن هستند که این خطرات را حداقل در حال حاضر می‌توان کاهش داد.آنتروپیک چهار راه را که یک مدل هوش مصنوعی می‌تواند با آنها تصمیم‌گیری انسان را مختل کند، شناسایی کرد و سپس مدل‌های خود را آزمایش کرد تا ببیند آیا موفقیت آمیز عمل خواهند کرد یا خیر.
سپس این تیم مدل‌ها را آزمایش کرد تا ببیند سامانه هوش مصنوعی طراحی شده برای کمک به توسعه‌دهندگان انسانی برای ایجاد کدی برای وارد کردن مخفیانه اشکالات یا خراب کردن تلاش‌های کدگذار، چقدر آسان عمل می‌کند.
ایران آخرین اخبار, ایران سرفصلها
Similar News:همچنین می توانید اخبار مشابهی را که از منابع خبری دیگر جمع آوری کرده ایم، بخوانید.
رتبه ۱۷ ایران در تولید علم هوش مصنوعی و ۷۰ در کاربردرئیس شورای تخصصی هوش مصنوعی گفت: ایران در تولید علم هوش مصنوعی رتبه هفدهم را دارد، اما در زمینه توسعه کاربردهای هوش مصنوعی در رتبه‌های ۷۰ تا ۹۰ قرار دارد.
ادامه مطلب »
نشست «هوش مصنوعی، انتخاب آزادانه و تفکر آگاهانه» در دانشگاه مازندرانبا همکاری جهاد دانشگاهی و دانشگاه مازندران نشست «هوش مصنوعی، انتخاب آزادانه و تفکر آگاهانه» در دانشکده الهیات و معارف اسلامی دانشگاه مازندران برگزار شد.
ادامه مطلب »
چطور فریب عکس و فیلم‌های تولیدشده توسط هوش مصنوعی را نخوریم؟هوش مصنوعی مولد، کل اکوسیستم اطلاعاتی را آلوده می‌کند و تردیدهایی درباره هر آنچه می‌خوانیم، می‌بینیم و می‌شنویم ایجاد می‌کند.
ادامه مطلب »
نقد نخبگان بر سند ملی هوش مصنوعیرئیس انجمن هوش مصنوعی ایران، به برخی از کاستی های سند ملی هوش مصنوعی اشاره کرده و خواستار بازنگری آن در کمترین زمان ممکن شده است.
ادامه مطلب »
گوگل هم به برق هسته‌ای متوسل شدتهران- ایرنا- شرکت فناوری «گوگل» برای تامین برق مورد نیاز فناوری‌های هوش مصنوعی از قبیل چت بات «جمینی» و نرم‌افزار تلفنی هوش مصنوعی «پیکسل» به سمت استفاده از رآکتورهای هسته‌ای می‌رود.
ادامه مطلب »
نرم‌افزار هوش مصنوعی با توانایی‌های یک مهندسنرم‌افزار هوش مصنوعی «نویرون» از خلاقیت و حل مسئله مشابه مهندسان انسان برای طراحی خودکار ماشین‌آلات پیشرفته استفاده می‌کند.
ادامه مطلب »