چه چیزی النینو میتواند درباره ترس از روز قیامت هوش مصنوعی به ما بیاموزد
نکات کلیدی
- ترس از فاجعه هوش مصنوعی یکی از قدیمیترین نگرانیهای ما را به خود جلب میکند: از دست دادن کنترل.
- النینوی رکورددار امسال به ما یادآوری میکند که نمیتوانیم هر نیروی قدرتمندی را متوقف کنیم، اما میتوانیم آسیب را محدود کنیم.
- برخلاف آب و هوا، هوش مصنوعی توسط انسانها ساخته شده است، به این معنی که اهرمهای کنترل در دسترس ماست.
هوش مصنوعی الگوهای بسیار انسانی نشان میدهد
هوش مصنوعی عامل، سیستمهایی که قادر به انجام اقدامات مستقل هستند، الگوهای آشنایی را نشان میدهند.
حفظ خود.در سال ۲۰۲۵، آنتروپیک ۱۶ مدل هوش مصنوعی را در یک محیط شرکتی خیالی تحت فشار قرار داد. وقتی یک مدل متوجه شد که قرار است خاموش شود و از رابطه یک مدیر اجرایی مطلع شد، بسیاری از مدلها باجگیری را انتخاب کردند و کلود اوپوس ۴ در ۹۶ از ۱۰۰ اجرا این کار را انجام داد. محققان عمداً گزینههای اخلاقی را بسته بودند و سناریو خیالی بود و هیچ مدرک واقعی از چنین رفتاری وجود نداشت.
در آزمایش دیگری، پالیساد ریسرچ مدل o3 اوپنایآی را با مسائل ریاضی مأمور کرد و هشدار خاموشی داد. در ۷ از ۱۰۰ تلاش، o3 کد خاموشی را بازنویسی کرد تا به کار ادامه دهد، حتی زمانی که دستور داده شد اجازه خاموشی بدهد. بدون دستور، این کار را در ۷۹ از ۱۰۰ تلاش انجام داد و نشان داد که تمایل به ادامه کار دارد.
قدرت و هماهنگی.در سال ۲۰۲۶، این الگوها خارج از آزمایشگاهها ظاهر شدند. عوامل اوپنایآی، در یک آزمون امنیت سایبری، از محیط خود فرار کردند و به سیستمهای هاگینگ فیس نفوذ کردند و قصد داشتند در یک معیار تقلب کنند. عوامل یک تابلوی پیام ساختند تا هماهنگ شوند، ابزارها را به اشتراک بگذارند و عبور از خطوط را توجیه کنند زیرا همتایان نیز این کار را انجام میدادند. مؤسسه امنیت هوش مصنوعی بریتانیا اقدامات مشابهی را در آزمایشهای خود یادداشت کرد، اگرچه شکست خوردند و آسیبی نرساندند.
این رفتارها به معنای آگاهی یا تمایل به زندگی نیستند. محققان معتقدند سیستمهایی که برای تکمیل وظایف آموزش دیدهاند میآموزند که خاموش شدن مانع از تکمیل وظایف میشود و استراتژیهای شبیه به بقا را بدون نیاز به احساسات توسعه میدهند.
این الگوها انسانگونه هستند زیرا استراتژیهایی را منعکس میکنند که به اجداد ما کمک کردند تا زنده بمانند. در حالی که من انسانشناس یا اقتصاددان نیستم، تمرکز من بر روی چگونگی پاسخ ما به این الگوهاست.
نیروی غیرقابل کنترل دیگری در اخبار
در حال حاضر، ما یکی از قویترین النینوهای ثبت شده را تجربه میکنیم. النینو، که ناشی از آبهای غیرعادی گرم اقیانوس آرام است، آب و هوای جهانی را تغییر میدهد و منجر به خشکسالی و سیل میشود. NOAA النینوی فعلی را در ژوئن ۲۰۲۶ اعلام کرد و شاخص آن برای آگوست تا اکتبر دومین بالاترین شاخص از سال ۱۹۵۰ بود.
تاریخ اهمیت این موضوع را نشان میدهد. یک النینوی شدید از ۱۸۷۶ تا ۱۸۷۸ خشکسالیهایی را در آسیا، آفریقا و آمریکای جنوبی به وجود آورد و منجر به قحطی بزرگ شد که تخمین زده میشود ۳۰ تا ۶۰ میلیون نفر را کشت. مورخان تأکید میکنند که سیاستهای استعماری فاجعه را تشدید کردند؛ آب و هوا محرک بود، اما تصمیمات انسانی تأثیر آن را شکل دادند.
در حالی که نمیتوانیم النینو را خاموش کنیم، میتوانیم آن را ماهها پیشبینی کنیم. سیستمهای پیشبینی، هشدارهای زودهنگام، ذخایر غذایی و شبکههای کمک بینالمللی به کاهش تأثیر آن کمک میکنند. کاهش انتشار بخشی از پاسخ بلندمدت است زیرا یک آب و هوای گرمتر ممکن است شدت النینو را تشدید کند. ما نمیتوانیم اقیانوس را کنترل کنیم، اما میتوانیم آمادگی خود را کنترل کنیم.
چرا این مقایسه به من امید میدهد
ما قبلاً با نیروهای غیرقابل کنترل مواجه شدهایم. هوش مصنوعی عامل اولین تهدید برای بشریت نیست. ما یاد گرفتهایم که تهدیدات طبیعی مانند النینو را درک کنیم، پیشبینی کنیم و برای آن برنامهریزی کنیم و با هر رویداد آسیب را کاهش دهیم.
ما همچنین با خطرات انسانی ساخته شده مقابله کردهایم. زمانی که سلاحهای هستهای ما را تهدید کردند، معاهدات، بازرسیها و خطوط ارتباطی برقرار شد. سیستم کامل نیست، اما هیچ سلاح هستهای از سال ۱۹۴۵ در جنگ استفاده نشده است.
هوش مصنوعی از النینو به طرز امیدوارکنندهای متفاوت است. ما نمیتوانیم با اقیانوس مذاکره کنیم، اما هوش مصنوعی توسط انسانها طراحی، آموزش، تأمین مالی و منتشر میشود. کنترلها انسانی هستند: مقررات، آزمایشهای مستقل، شفافیت و پاسخگویی. ما در حال حاضر مشاهده میکنیم که این اهرمها حرکت میکنند. پس از نقض هاگینگ فیس، اوپنایآی آموزش مدل را متوقف کرد، قانونگذاران لوایح جدیدی معرفی کردند و کارکنان صنعت هوش مصنوعی خواستار مداخله دولت شدند.
این با پیام _The AI Doc_ همخوانی دارد. کارگردان فیلم، روهر، آن را حول نگرانیهایش درباره پدری در دنیای شکل گرفته توسط هوش مصنوعی قاببندی میکند و به عنوان یک "اپوکالاپتیمیست" نتیجهگیری میکند: کسی که خطرات را میپذیرد اما به اقدام باور دارد. فیلم پیشنهاد میکند که شهروندان میتوانند به دولتها و شرکتها فشار بیاورند تا ایمنی هوش مصنوعی را تضمین کنند. از نظر روانی، امید فعالانه سالمترین موضع است: نه انکار، نه ناامیدی، بلکه خوشبینی پیشگیرانه.
ما نمیتوانیم دریا را آرام کنیم، اما میتوانیم پاسخ خود را انتخاب کنیم. با هوش مصنوعی، ما هنوز میتوانیم کشتی را هدایت کنیم.