شرکت‌های پیشرو در زمینه هوش مصنوعی مستقر در امریکا، اوپن‌ای آی و انتروپیک، در حال آماده شدن برای یک حادثه بزرگ مرتبط با هوش مصنوعی هستند که می‌تواند افکار عمومی را علیه این تکنالوژی برانگیزد. این حادثه می‌تواند شامل یک حمله سایبری بزرگ باشد که خدمات اساسی مانند بانکداری، اینترنت یا تامین برق و آب را مختل کند.
بر اساس گزارشی از وبسایت اکسیوس، مدیران این شرکت‌های برجسته هوش مصنوعی در حال بحث در مورد بدترین سناریوهای ممکن و چگونگی واکنش دولت‌ها در صورتی که سیستم‌های هوش مصنوعی باعث آسیب جدی در دنیای واقعی شوند، هستند.
این آمادگی نشان‌دهنده نگرانی فزاینده در داخل صنعت تکنالوژی در مورد خطرات بالقوه هوش مصنوعی پیشرفته است. در حالی که این شرکت‌ها برای توسعه قابلیت‌های هوش مصنوعی رقابت می‌کنند، آنها همچنین به طور فزاینده‌ای به مسائل ایمنی و جلوگیری از سوءاستفاده از این تکنالوژی توجه دارند.
یکی از نگرانی‌های اصلی این است که یک رویداد فاجعه‌بار، چه عمدی و چه تصادفی، می‌تواند منجر به واکنش شدید عمومی و درخواست‌ها برای توقف یا محدودیت شدید توسعه هوش مصنوعی شود. این امر می‌تواند پیشرفت در زمینه‌های مفیدی مانند پزشکی و علوم را نیز متوقف کند.
بحث‌های داخلی در اوپن‌ای آی، سازنده چت جی پی‌تی، و انتروپیک، که توسط کارمندان سابق اوپن‌ای آی تاسیس شده، بر روی ایجاد پروتکل‌هایی برای شناسایی، مهار و پاسخ به چنین حوادثی متمرکز است. آنها همچنین در حال بررسی چگونگی همکاری با دولت‌ها برای مدیریت بحران هستند.
این اقدامات در حالی صورت می‌گیرد که بحث‌های جهانی در مورد نیاز به مقررات برای کنترل توسعه هوش مصنوعی در جریان است. این شرکت‌ها با برداشتن گام‌های پیشگیرانه، تلاش می‌کنند نشان دهند که خطرات را جدی می‌گیرند و به دنبال ایجاد تعادل بین نوآوری و ایمنی هستند.
منبع: Axios
🌐
