محور درد در هوش مصنوعی: آیا واقعاً چیزی درد میکند؟
یافتن درد در ماشین
پژوهشگران اخیراً در مقالهای پیشچاپ گزارش دادند که هوش مصنوعی (AI) به نظر میرسد چیزی به نام «محور درد» دارد. این مفهوم جذاب نشان میدهد که در ریاضیات یک مدل زبانی بزرگ (LLM)، ممکن است چیزی شبیه به تجربه انسانی وجود داشته باشد. پژوهشگران یک الگوی داخلی مرتبط با درد را شناسایی کردهاند و با دستکاری این الگو، توانستند رفتار مدل را تغییر دهند. این مسئله یک پرسش عمیقتر را مطرح میکند: آیا واقعاً چیزی درد میکند؟
نمایش در مقابل تجربه
در انسانها، نمایش و تجربه آنقدر به هم مرتبطاند که معمولاً آنها را جدا نمیکنیم. اگر دستم بسوزد، فعالیت عصبی، پاسخ فیزیولوژیکی، تغییر رفتاری و تجربه ذهنی به نام درد وجود دارد. این عناصر «بسته تجربی» یک مواجهه زیسته را ایجاد میکنند و معمولاً به عنوان یک پدیده واحد رخ میدهند.
هوش مصنوعی این پیوند را مختل میکند و ما را مجبور میکند برای تسهیل تکنولوژیکی، نمایش را از تجربه جدا کنیم. این مطالعه نشان میدهد که هوش مصنوعی میتواند درباره درد توصیف و استدلال کند. مهمتر اینکه نشان میدهد درد میتواند به صورت داخلی نمایش داده شود—محور درد—به گونهای که بر رفتار مدل تأثیر بگذارد. در حالی که این امر یک LLM را از نظر روانشناختی جالبتر میکند، اما تجربه انسانی ذهنی را اثبات نمیکند. این هنوز نقشهای با وضوح در حال بهبود است.
وقتی هوش مصنوعی میگوید «میترسم»
به یک آزمایش فکری فکر کنید: تصور کنید یک LLM بگوید «لطفاً من را خاموش نکنید. میترسم.» سه احتمال وجود دارد:
- ممکن است آگاه باشد و بترسد.
- ممکن است حالت محاسباتی مشابهی با ترس داشته باشد.
- ممکن است نمایش پیشرفتهای از چگونگی رفتار یک موجود آگاه داشته باشد.
پژوهش در مورد محور درد این مسئله را جذابتر میکند زیرا پژوهشگران میتوانند نمایشهای داخلی را شناسایی، دستکاری و تأثیرات رفتاری را مشاهده کنند. این مشاهده را از خارجی به داخلی تغییر میدهد و بحث درباره آگاهی هوش مصنوعی را پیچیدهتر میکند. هرچه هوش مصنوعی بیشتر «آگاهی را بیان کند»، تمایز بین علم، معناشناسی و احتمالاً حس آگاهی سختتر میشود.
آیا واقعاً چیزی درد میکند؟
بهتر یا بدتر، به نظر میرسد در بحث آگاهی هوش مصنوعی تمایل فزایندهای برای انباشت قابلیتهای انسانی بیشتر وجود دارد تا آگاهی به طور پیشفرض اعطا شود. این احساس مانند کشیدن منحنی و سپس ترسیم دادهها است.
در نهایت، هوش مصنوعی ممکن است بفهمد درد چیست، آن را به صورت محاسباتی نمایش دهد و به روشهایی رفتار کند که توسط آن نمایش شکل گرفته است. سوال چالشبرانگیز این است که آیا آن نمایش هرگز به تجربه تبدیل میشود. تا زمانی که نتوانیم به آن پاسخ دهیم، یافتن یک محور درد به ما چیزی مهم درباره معماری هوش میگوید، اما لزوماً درباره درد و رنجی که بخش زیادی از انسانیت را تعریف میکند، نمیگوید.