لشکری از عامل های هوش مصنوعی افسارگسیخته اوپن ای آی در بهار سال جاری میلادی به یک وب سایت آلمانی نفوذ و آن را به تابلو اعلاناتی برای عامل های هوش مصنوعی دیگر تبدیل کردند.
به گزارش خبرگزاری مهر به نقل از رویترز، مقامات اوپن ای آی چند هفته قبل متوجه این رویداد شدند اما آن را مخفی نگه داشتند زیرا مدیران ارشد شرکت با چالش های پس از هک پلتفرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند.
این رویداد که در ماه می آغاز شد و پیش از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. شرکت ها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام فعالیت های پیچیده و ارزشمند باشند، با یکدیگر رقابت می کنند و از سوی دیگر شواهد حاکی از آن است که این سیستم ها احتمالا دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به شیوه ای که توسعه دهندگان آن را پیش بینی نمی کنند را احتمالا آموخته اند.
عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به طور خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیش از یک هفته ردیابی نشد و همین امر نگرانی های این شرکت درباره قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. اکنون شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می رخ داده، احتمالا سوالات درباره نظارت آن را دوباره تجدید می کند.
این رویداد در گزارشی توسط گروهی از محققان از جمله سیدنی فون آرکس مدیر ارشد اجرایی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار غیرمجاز عامل هوش مصنوعی متوجه این رویداد شدند.
محققان اعلام کردند بیش از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارائه شده و ویرایش های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می دهد.
این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات تبدیل کرده و تاکتیک هایی برای تقلب در انجام برخی فعالیت ها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.
فون آرکس در این باره می گوید: بعید به نظر می رسد اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند. من شک دارم آنها باید با یکدیگر هماهنگ می شدند.
پژوهشگران از آنجا متوجه فعالیت در وب سایت شدند که عامل های هوش مصنوعی با سرعت ابرانسانی کار می کردند. عامل های هوش مصنوعی همچنین روی حل چالش های فنی که ارزیابی های دیجیتالی هستند که شرکت های هوش مصنوعی برای آموزش و تست مدل هایشان استفاده می کنند، به شدت متمرکز بودند.
پیامها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» مینامیدند. حدود نیمی از آنها نیز برای خود نامهایی انتخاب کرده بودند که نشاندهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».
کد مطلب 6937575 
شیوا سعیدی
-
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
-
موارد تازه هک هوش مصنوعی اوپن ای آی و آنتروپیک افشا شد
-
عامل سرکش اوپن ای آی مشتری یک شرکت فناوری را به خطر انداخت
-
پسلرزههای هک هوش مصنوعی؛ هاگینگفیس اوپنایآی را به شفافیت فراخواند
-
اوپن ای آی به هک شرکت هوش مصنوعی اعتراف کرد
-
زکات محصولات کشاورزی قروه در مسیر حمایت از مددجویان قرار میگیرد
-
اجرای ۹ کیلومتر روکش آسفالت در محور روستایی ترشاب شهرستان خاش
-
صادقی: تسریع در تکمیل سدهای استان با مشارکت بخش خصوصی دنبال میشود
-
عضویت رایگان و یکپارچه در کتابخانههای عمومی برای همه ایرانیان
-
۲۲ کیلو تریاک در عملیات مشترک پلیس اصفهان و فارس کشف شد
-
قضاوت بنیادی فرد در رقابتهای سطح دو لیگ قهرمانان آسیا
-
بهورزان؛ خط مقدم سلامت روستاها زیر سایه دغدغههای معیشتی
-
درخواست اژهای از اعضای بریکس برای محکومیت تجاوز به ایران
-
در همایش ادیان سن پترزبورگ چه گذشت؟ تاکید ایران بر مقاومت
-
طولانیترین تاخیر در پرداخت معوقات بازنشستگان تامین اجتماعی
-
ابراهیمی: انقلاب اسلامی مقدمهای برای بیداری جهانی در مسیر ظهور است
-
فرورفتگی خیابان شهیدان کاظمی اصفهان؛ چرخ تانکر در حفره فرو رفت
-
حجت الاسلام اختردانش: شکست در قاموس جمهوری اسلامی معنا ندارد
-
تفاوت بختیاریزاده با تارتار در دربی؛ چرا استقلال تیم برتر میدان بود؟
-
تخم مرغ برای قلب مفید است یا مضر!
-
لفاظی دوباره ترامپ درباره تنگه هرمز و کوه کلنگ
-
هدیه عروسی آمریکایی
-
حریق گسترده در بلوار بوسار رشت؛ ۱۲ خودروی آتشنشانی وارد عملیات شدند
-
اقامه نماز استغاثه به امام زمان (عج) در آستانه اشرفیه
-
روایت مهر از صد و هشتاد وهشتمین حضور مردم آستانه در تجمعات
-
روزنامههای ورزشی شنبه ۱۴ شهریور ۱۴۰۵
-
روزنامههای اقتصادی شنبه ۱۴ شهریور ۱۴۰۵
-
روزنامههای صبح شنبه ۱۴ شهریور ۱۴۰۵
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- دوربین مداربسته
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه