Antropic, a leading AI research lab, is urging the AI community to pause development to address concerns about the rapid advancement of AI technology. The company warns that AI progress could outpace human ability to manage risks, leading to autonomous systems that could potentially harm society. Antropic calls for a coordinated effort among AI labs with significant resources to develop safety measures and establish guidelines for AI development. They also emphasize the need for legislation to regulate AI development and ensure safety.
شرکت انتروپیک از آزمایشگاههای بزرگ هوش مصنوعی میخواهد که یک وقفه هماهنگشده و قابل راستیآزمایی را در توسعه در نظر بگیرند. این شرکت هشدار داد که پیشرفتهای سریع در این فناوری بهزودی میتواند به سامانههای هوش مصنوعی اجازه دهد تا سریعتر از توانایی جامعه در مدیریت خطرات، خود را بهبود بخشند.
سازندهٔ کلود اعلام کرد که توانایی هوش مصنوعی برای انجام مستقل وظایف، تقریباً هر چهار ماه یکبار دو برابر شده است و به سمت «خودبهبودبخشی بازگشتی» پیش میرود؛ نقطهای که در آن، فناوری میتواند بدون دخالت انسان پیشرفت کند. این شرکت دانشبنیاد در یک پست وبلاگی طولانی در روز پنجشنبه نوشت: «اگر سامانهها قادر باشند جانشینان خود را بهطور کامل بسازند، روشهای ایمنسازی، نظارت و شکلدهی به رفتار آنها بسیار مهمتر میشود.
» این شرکت افزود که یک وقفه به جامعه اجازه میدهد تا «با پیامدهای عظیم آن مواجه شود. » جک کلارک، از بنیانگذاران انتروپیک، و مارینا فاوارو، مدیر مؤسسه انتروپیک، در این پست نوشتند: «ما هنوز به آنجا نرسیدهایم و خودبهبودبخشی بازگشتی اجتنابناپذیر نیست. اما این اتفاق میتواند زودتر از آنچه بیشتر نهادها برایش آماده شدهاند، رخ دهد.
» با افزایش روزافزون توانمندیهای این فناوری، ترس از اینکه سامانههای پیشرفتهٔ هوش مصنوعی از کنترل انسان خارج شوند و به جامعه آسیب برسانند، بالا گرفته است. مدل «میتوس» متعلق به خود انتروپیک، اوایل امسال با تواناییاش در یافتن نقاط ضعف در کدهای موجود، موجی از شوک را در صنایعی از جمله بانکداری و نرمافزار ایجاد کرد. اما قانونگذاری کند بوده است، بهویژه در ایالات متحده که بیشتر آزمایشگاههای پیشرو هوش مصنوعی در آنجا مستقر هستند.
فرمان اجرایی دولت ترامپ در اوایل این هفته، بار مسئولیت را بر عهدهٔ خود آزمایشگاهها گذاشت و از آنها خواست که داوطلبانه توانمندترین مدلهای خود را پیش از انتشار عمومی، برای آزمایش امنیت سایبری دولتی ارائه دهند. پژوهشگران هوش مصنوعی پیش از این نیز خواستار وقفه شده بودند اما موفقیت چندانی نداشتند.
ایلان ماسک، مالک آزمایشگاه هوش مصنوعی ایکسایآی، از جمله حامیان تلاش سال ۲۰۲۳ «مؤسسهٔ آیندهٔ زندگی» برای توقف ششماههٔ توسعهٔ هوش مصنوعی بود تا زمان کافی برای ایجاد چارچوبهای حفاظتی ایمن فراهم شود. انتروپیک مدتهاست که خود را به عنوان یک آزمایشگاه هوش مصنوعی با تمرکز بر ایمنی معرفی کرده است.
اوایل امسال، این شرکت از اجازه دادن به ارتش ایالات متحده برای استفاده از مدلهایش در نظارت داخلی و سلاحهای کاملاً خودمختار خودداری کرد؛ اقدامی که واکنش شدید دولت را به همراه داشت و باعث شد این شرکت در فهرست سیاه امنیت ملی قرار گیرد که قرار است در اواخر سال ۲۰۲۶ اجرایی شود. رویترز روز جمعه گزارش داد که نشانههایی از کاهش این تنش در بخشهایی از دولت ایالات متحده دیده میشود.
با این حال، انتروپیک به انتشار مدلهای قدرتمندتر ادامه داده است و در ماه فوریه از یک تعهد ایمنی کلیدی عقبنشینی کرد و گفت در صورتی که رقبا در آستانهٔ رسیدن به توانمندیهای این شرکت باشند، دیگر مانع عرضهٔ هوش مصنوعی بالقوه خطرناک نخواهد شد. ارزش این شرکت اخیراً در یک دور سرمایهگذاری کلان ۹۶۵ میلیارد دلار برآورد شد و روز دوشنبه بهطور محرمانه درخواست عرضه اولیه سهام خود را در ایالات متحده ثبت کرد که این امر آن را هم در ارزشگذاری و هم در مسابقهٔ تأمین سرمایهٔ حیاتی، جلوتر از رقیبش اوپنایآی قرار میدهد.
پست روز پنجشنبهٔ انتروپیک هشدار داد که کاهش سرعتِ یکجانبه یا ضعیف هماهنگشده میتواند نتیجهٔ معکوس داشته باشد، زیرا اگر بازیگرانِ با احتیاطِ کمتر به پیشرفت خود ادامه دهند، احتمالاً ایمنی کلی کاهش مییابد. این شرکت اعلام کرد که یک وقفهٔ معنادار نیازمند توافق میان «چندین آزمایشگاه با منابع مالی خوب» است که در مرزهای این فناوری فعالیت میکنند، و همچنین نیازمند قوانینی است دربارهٔ اینکه چه شرایطی باعث شروع یا لغو چنین وقفهای میشود و چه کسی بر آن نظارت خواهد کرد
Please follow us on Google to support us AI Antropic AI Development AI Safety AI Regulation AI Risks AI Autonomy AI Progress AI Development Pause
ایران آخرین اخبار, ایران سرفصلها
Similar News:همچنین می توانید اخبار مشابهی را که از منابع خبری دیگر جمع آوری کرده ایم، بخوانید.
معاون اول رئیسجمهور: مدیریت یکپارچه و کاهش بوروکراسی در گمرک ضروری استمحمدرضا عارف معاون اول رئیسجمهور در بازدید از گمرک جمهوری اسلامی ایران باSOCER деятеbud highlighted the importance of integrated management, reduction of bureaucracy, development of transit corridors, and the move towards a smart customs system. He emphasized that the country's officials have a unified strategy in negotiations, and the customs has played a key role throughout the imposed war, and there has never been a discussion of privatizing it. He noted that the government believes in integrated management and that multiple managements can neutralize the actions of various agencies. Experiences from the war era, including the reduction of some bureaucracies and the use of government authority, increased the speed of imports, unloading, and clearance. These experiences should form the basis for amending regulations, clarifying processes, and utilizing modern equipment. He also stressed the need to increase managers' authority and reduce bureaucratic obstacles, and to formulate a comprehensive law with the cooperation of the Islamic Consultative Assembly. He emphasized the need to develop the capacity of all customs and ports and to seriously pursue the completion of the North-South and East-West corridors, in cooperation with neighboring countries.
ادامه مطلب »
Milani Phillips Warns of a Repeat of the 2015 Iran DealMilani Phillips, a British analyst, warns that Donald Trump's insistence on reaching a deal with Iran could lead to a repeat of the 2015 Iran deal, potentially strengthening Iran's position in the region and weakening the US's global influence. Phillips also discusses the challenges of negotiating with Iran, the potential consequences of a war with Iran, and the likelihood of Iran's continued aggressive actions despite the supposed progress in negotiations.
ادامه مطلب »