آیا باید به الگوریتم اعتماد کنید یا به احساس درونی خود؟
زمان اعتماد به هوش مصنوعی در تصمیمگیری
تصور کنید شما از جمله ۵۵ درصد آمریکاییهایی هستید که از هوش مصنوعی (AI) برای مدیریت مالی، انتخاب سرمایهگذاری یا ایجاد برنامههای مالی استفاده میکنند (TD Bank، ۲۰۲۶). یا شاید شما یک مدیر منابع انسانی هستید که از AI برای رتبهبندی نامزدها استفاده میکنید. در حالی که این ابزارها زمان را صرفهجویی میکنند، این سوال را مطرح میکنند: آیا باید به برنامه ماشین اعتماد کنید یا به شهود خود؟
با گسترش هوش مصنوعی، درک نقش آن در تصمیمگیری حیاتی است. نظریه خودشناسی شناختی-تجربی سیمور اپستین (CEST) پیشنهاد میکند که تصمیمگیری شامل دو سیستم است: یکی عقلانی و صریح، و دیگری شهودی و تجربی. بین این دو، یک واسطه به ظاهر عینی قرار دارد که همیشه ممکن است درست نباشد.
حالتهای شکست تصمیمگیری AI
تصمیمگیری مرتبط با AI میتواند به چندین شکل شکست بخورد. یکی از آنها انزجار از الگوریتم است، جایی که مردم پس از یک خطا به AI بیاعتماد میشوند، حتی اگر الگوریتمها اغلب نتایج را دقیقتر از انسانها پیشبینی کنند (Dietvorst و همکاران، ۲۰۱۵). برعکس، سوگیری اتوماسیون زمانی رخ میدهد که مردم به AI بیش از حد اعتماد میکنند، با این فرض که به دلیل ماهیت دادهمحور خود دقیقتر است.
این حالتها نمایانگر یک طیف اعتماد هستند، اما بسیاری از مردم نمیتوانند اعتماد خود را بر اساس عملکرد AI تنظیم کنند.
شکاف اعتماد
با مشاوره انسانی، ما تخصص و قابلیت اطمینان منبع را ارزیابی میکنیم. با این حال، مشاوره الگوریتمی فاقد منبع قابل مشاهده است که منجر به وابستگی به اکتشافات میشود - اعتماد کامل یا رد کامل - بدون ارزیابی مناسب. این سوگیری میتواند پیامدهای قابل توجهی داشته باشد، به ویژه در حوزههای پرمخاطره مانند بهداشت، استخدام و مالی.
در بهداشت، بیماران اغلب مراقبت ارائهشده توسط AI را کمارزش میدانند، زیرا میترسند که نتواند تفاوتهای فردی را در نظر بگیرد (Longoni و همکاران، ۲۰۱۹). در استخدام، ابزارهای AI ممکن است بیش از حد مورد اعتماد قرار گیرند، علیرغم تعصبات احتمالی (Dastin، ۲۰۱۸). در امور مالی، مشتریان ممکن است به مشاوران روبوتیک بیاعتماد باشند، با وجود سابقه قوی آنها (Niszczota & Kaszás، ۲۰۲۰).
جنبه احساسی یک تصمیم - اینکه چقدر شخصی یا پرمخاطره احساس میشود - بر اینکه آیا مردم به AI بیش از حد اعتماد میکنند یا نه، تأثیر میگذارد، صرفنظر از دقت آن. بنابراین، کالیبراسیون، نه اعتماد یا شک عمومی، ضروری است.
تمرکز بر کالیبراسیون تصمیمگیری
ساختن اعتماد کالیبرهشده با AI شامل موارد زیر است:
- درک اهداف بهینهسازی ابزار. بدانید که آیا هدف آن به حداکثر رساندن تعامل یا نتایج است.
- پیگیری عملکرد آن برای نیازهای شما. زمانی که AI دقیق است یا نه، مانند ارزیابی یک مشاور جدید، آن را ثبت کنید.
- استفاده از اختلافات به عنوان محرک برای تأمل. اگر AI با شهود شما در تضاد است، بررسی کنید چرا احساس متفاوتی دارید.
- جدا کردن تصمیمگیری از تبعیت. ورودی AI باید اطلاعات دهد، نه اینکه تصمیمات شما را دیکته کند.
بازتعریف تصمیمگیری مبتنی بر AI
با ادغام بیشتر AI در تصمیمات روزانه، بر کالیبراسیون اعتماد با این ابزارها تمرکز کنید. فکر بیش از حد میتواند منجر به پشیمانی از تصمیمگیری شود، به ویژه زمانی که افراد احساس مالکیت بر انتخابهای کمکشده توسط AI نمیکنند.
خلاصه
مهارت اعتماد کالیبرهشده به اندازه خود ابزارها اهمیت خواهد یافت. به حالت پیشفرض شکست خود توجه کنید زمانی که یک الگوریتم توصیهای میکند و از این آگاهی برای تصمیمگیریهای بهتر کالیبرهشده استفاده کنید.