خط قرمز آنتروپیک برای هوش مصنوعی | اگر بیش از ۵۰ نفر بمیرند، عرضه متوقف می‌شود!

شرکت آنتروپیک پیشنهاد داده است عرضه مدل‌های هوش مصنوعی در صورت ایجاد خطر قریب‌الوقوع برای جان بیش از ۵۰ نفر یا احتمال خسارت مالی بیش از یک میلیارد دلار، با حکم قضایی متوقف شود.

همشهری آنلاین، فرخنده رفائی: با گسترش توانایی‌های هوش مصنوعی و افزایش نگرانی‌ها درباره سوءاستفاده از این فناوری، بحث بر سر نحوه نظارت دولت‌ها بر شرکت‌های فعال در این حوزه جدی‌تر شده است. حالا یکی از شرکت‌های پیشرو در توسعه هوش مصنوعی، طرحی را برای تعیین حدود قانونی عرضه مدل‌های پرخطر مطرح کرده است.

به گزارش تک‌کرانچ، آنتروپیک پیش‌نویس قانونی را در اختیار قانون‌گذاران آمریکایی قرار داده که بر اساس آن، در صورت وجود خطر قریب‌الوقوع و قابل پیش‌بینی برای جان بیش از ۵۰ نفر یا احتمال وارد آمدن بیش از یک میلیارد دلار خسارت مالی، امکان جلوگیری از انتشار یک مدل هوش مصنوعی فراهم می‌شود. این خطرها باید به تولید یا انتشار سلاح زیستی، فرار مدل از کنترل‌های توسعه‌دهنده یا حملات سایبری مربوط باشند.

در این پیشنهاد، ارزیابان مستقل که در وزارت بازرگانی آمریکا ثبت‌نام می‌کنند، مسئول بررسی خطرهای احتمالی مدل‌ها خواهند بود. این ارزیابان می‌توانند از شرکت‌های هوش مصنوعی دستمزد دریافت کنند، اما پرداخت نباید به نتیجه ارزیابی وابسته باشد؛ موضوعی که همچنان درباره استقلال واقعی ارزیابان پرسش‌هایی ایجاد می‌کند.

اگر ارزیابان وجود خطر فاجعه‌بار قریب‌الوقوع را تشخیص دهند، باید حداکثر ظرف ۷۲ ساعت وزارت بازرگانی را مطلع کنند. سپس این وزارتخانه باید از یک قاضی در واشنگتن دی‌سی درخواست کند که عرضه مدل را متوقف کند. بر اساس پیش‌نویس، هیچ نهاد فدرالی به‌تنهایی اختیار توقف عرضه را نخواهد داشت.

بیشتر بخوانید:

• آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند
• آلتمن: باید بعضی پیامدهای منفی هوش مصنوعی را پذیرفت
• عضو هیئت‌مدیره «اوپن‌ای آی» : برای کنترل هوش مصنوعی آماده نیستیم

این طرح با قانون کالیفرنیا موسوم به SB ۵۳ شباهت دارد که خطرهای فاجعه‌بار را با معیارهایی مشابه تعریف کرده است. آنتروپیک اعلام کرده این پیشنهاد در چارچوب برنامه ایمنی هوش مصنوعی پیشرفته این شرکت قرار دارد؛ برنامه‌ای که از ژوئن با قانون‌گذاران ایالتی و فدرال مطرح شده است.

طرح آنتروپیک در شرایطی مطرح می‌شود که نگرانی‌های اخیر صنعت بیشتر بر توانایی برخی عامل‌های هوش مصنوعی در انجام حملات سایبری و دور زدن کنترل‌های انسانی متمرکز بوده است. پیشنهاد این شرکت همچنین از رویکردهایی سخت‌گیرانه‌تر است که برخی مدیران صنعت، از جمله جنسن هوانگ، مدیرعامل انویدیا، درباره ضرورت وضع قوانین جدید مطرح کرده‌اند.

با این حال، این طرح هنوز یک پیش‌نویس پیشنهادی است و تصویب یا اجرای آن به تصمیم قانون‌گذاران آمریکایی بستگی دارد.

کد خبر 1079017 منبع: همشهری آنلاین

• تولید تجهیزات مصرفی تخصصی آنژیوگرافی و آنژیوپلاستی با سرمایه گذاری موسسه دانش بنیان برکت

• خط قرمز آنتروپیک برای هوش مصنوعی | اگر بیش از ۵۰ نفر بمیرند، عرضه متوقف می‌شود!

• وزیر ورزش صلاحیت دخالت ندارد؛ نتیجه تراکتور-ملوان ۳ بر صفر است

• فوری؛ هگست در خاورمیانه آماده اعلان جنگ؟ | برای حمله به ایران آماده‌ایم

• واشنگتن: فرانسه سقوط کرده است

• العربیه: عراق به‌دنبال بستن تمام گذرگاه‌های مرزی با ایران است | گزارش‌های تأییدنشده از بسته‌شدن گذرگاه مرزی الشیب

• اعزام بیرانوند برای سربازی به پادگانی در شهرستان + عکس

• وعده عاصم منیر محقق نشد | مرزها با ایران به نفع پاکستان بسته ماند

• به زودی درسی دردناک و فراموش‌نشدنی به رژیم صهیونیستی داده خواهد شد

• فوری؛ هگست در خاورمیانه آماده اعلان جنگ؟ | برای حمله به ایران آماده‌ایم

• اعزام بیرانوند برای سربازی به پادگانی در شهرستان + عکس

• وزیر ورزش صلاحیت دخالت ندارد؛ نتیجه تراکتور-ملوان ۳ بر صفر است

• ایران درصدد رونمایی از «پدر بمب‌ها» | ببینید

• خبر مهم عراقچی درباره مذاکرات ایران با آمریکا

• زوج رویایی مهران مدیری: غیرممکن است دیگر با او کار کنم

• طرح جدید قطر با هماهنگی آمریکا ارائه شد+ جزئیات | حزب الله هنوز جواب نداده است

• حسادت آقای رئیس جمهور به روابط دوستانه ایران و روسیه! | ببینید

• مدیرعامل تراکتور: فردا همگی با این شعار تُرکی به استادیوم بیایید

• بازیگر سینما: هومن سیدی کارگردان نمی‌شد حتما جنایتکار شده بود