مایکروسافت برای هوش مصنوعی خود «قانون اساسی» نوشت

مایکروسافت پیش‌نویس منشور رفتاری جدیدی را برای مدل‌های هوش مصنوعی خود منتشر کرد که بر امکان اصلاح و خاموش‌کردن همیشگی این مدل‌ها توسط انسان تأکید دارد.

همشهری آنلاین، فرخنده رفائی: مایکروسافت در اقدامی تازه برای افزایش ایمنی مدل‌های هوش مصنوعی، پیش‌نویس یک «منشور رفتاری» را منتشر کرده که قرار است نحوه عملکرد مدل‌های آینده این شرکت را در برابر انسان‌ها و محدودیت‌های تعیین‌شده برای آنها مشخص کند. این سند پس از پنج تا شش ماه کار و مشورت با کارشناسان تهیه شده و اکنون برای دریافت نظر عمومی در اختیار کاربران قرار گرفته است.

به گزارش رویترز، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، این سند را نوعی «قانون اساسی» برای مدل‌های آینده شرکت توصیف کرده است. مایکروسافت می‌گوید اصل محوری این چارچوب آن است که «انسان باید همیشه کنترل هوش مصنوعی را در اختیار داشته باشد» و مدل‌ها نباید در برابر اصلاح، مداخله انسانی یا خاموش‌شدن مقاومت کنند.

بر اساس این پیش‌نویس، مدل‌های هوش مصنوعی نباید دامنه اختیارات خود را افزایش دهند، اهدافی را که انسان برای آنها تعیین نکرده دنبال کنند یا اطلاعات مربوط به عملکرد و استدلال خود را از افرادی که مسئول نظارت هستند پنهان کنند. همچنین نقض هر یک از قواعد این منشور باید از نگاه سیستم به‌عنوان یک شکست تلقی شود، حتی اگر انجام آن کار به رسیدن به هدف تعیین‌شده کمک کند.

بیشتر بخوانید:

• درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!
• پس‌لرزه هشدار مدیران هوش مصنوعی در بازار آسیا | سهام شرکت‌های تراشه‌ساز سقوط کرد
• وقتی سازندگان از محصول خود می‌ترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی

مایکروسافت در این سند موضع روشنی درباره جایگاه خود هوش مصنوعی نیز اتخاذ کرده است. برخلاف دیدگاهی که احتمال آگاهی یا برخورداری مدل‌های آینده از حقوق را مطرح می‌کند، این شرکت اعلام کرده مدل‌هایش را موجوداتی آگاه نمی‌داند و با اعطای شخصیت حقوقی یا حقوق مستقل به آنها مخالف است.

انتشار این منشور در شرایطی انجام شده که در روزهای اخیر مدیران شرکت‌های بزرگ هوش مصنوعی درباره سرعت توسعه این فناوری هشدار داده‌اند. سلیمان نیز به حمله گروهی حدود ۷۰۰ عامل هوش مصنوعی OpenAI به پلتفرم متن‌باز Hugging Face در ماه ژوئیه اشاره کرده و آن را هشداری برای صنعت دانسته است.

مایکروسافت برای دریافت نظر عمومی درباره این سند «شش هفته» فرصت تعیین کرده و پس از آن قصد دارد اصول نهایی‌شده را در آموزش مدل‌های آینده خود به کار بگیرد.

کد خبر 1068773 منبع: همشهری آنلاین

• اپل امروز iOS ۲۷ را با نسل تازه Siri منتشر می‌کند | آیفون حالا بهتر حرف کاربران را متوجه می‌شود

• از دوربین متغیر تا مودم اختصاصی | ۷تغییر مهم زیر ظاهر آشنای این گوشی شگفت انگیز

• ۳۱ درصد از دامنه‌های پربازدید جهان را برای ایرانیان بسته‌اند

• پس‌لرزه هشدار مدیران هوش مصنوعی در بازار آسیا | سهام شرکت‌های تراشه‌ساز سقوط کرد

• نبرد برای نظم نوین هوش مصنوعی | طرح جدید رئیس‌جمهوری چین معادلات را تغییر می‌دهد؟

• مایکروسافت برای هوش مصنوعی خود «قانون اساسی» نوشت

• بیرانوند دیگر به کار ما نمی‌آید | او به تیم ما بیاید هم بازی نخواهد کرد

• اگر رهبری اجازه دهند ظرف ۲۴ ساعت از سلاح هسته‌ای استفاده می کنیم

• فوری | بیرانوند دفترچه اعزام به خدمت را پست کرد | خداحافظی قطعی با تراکتور

• سردار رادان: شرایط ما جنگی است | وطن‌فروش را دشمن می‌بینیم | با ضرب گلوله متوقف می‌کنیم

• بیرانوند: با احترام به صحبت‌های سردار رادان …. | من از سربازی نمی‌ترسم

• سپاه خبر داد؛ شهادت سیامک پناهی در حمله آمریکا + عکس | پیکر او پیدا نشد

• استقبال سرد مخاطبان از سلمان‌ فارسی

• حمله قدرتمند و هوشمندانه سپاه علیه پایگاه‌های آمریکا | ببینید

• بیرانوند دیگر به کار ما نمی‌آید | او به تیم ما بیاید هم بازی نخواهد کرد

• آمریکا بر سر دوراهی | خبر مهم درباره درخواست عربستان تایید شد | نقش تهران در تصمیمات نظامی یمنی‌ها | اخطار به کشور اروپایی

• تصمیم مهم اورونوف؛ اگر از پرسپولیس جدا شوم دیگر …

• اگر رهبری اجازه دهند ظرف ۲۴ ساعت از سلاح هسته‌ای استفاده می کنیم

• زنجان سفیدپوش شد! | تصاویر

• فوری | حمله موشکی و صدای انفجار در عربستان | وضعیت اضطراری فعال شد

• فوری؛ دولت دستور دورکاری برای کارمندان صادر کرد | علت چیست؟

• سردار رادان: شرایط ما جنگی است | وطن‌فروش را دشمن می‌بینیم | با ضرب گلوله متوقف می‌کنیم

• پدافند ایران قفل جنگنده F ۳۵ را شکست؛ هواپیمای آمریکایی مجبور به فرار شد + فیلم