استفاده از چتباتهای هوش مصنوعی مولد و اپلیکیشنهای سلامت برای بهداشت روان
مشاوره سلامت APA
میلیونها نفر در سراسر جهان به چتباتهای هوش مصنوعی مولد و اپلیکیشنهای سلامت برای برآوردهسازی نیازهای بهداشت روانی روی آوردهاند. این روند تا حدی به دلیل بحران مداوم بهداشت روان، افزایش تنهایی، کمبود ارائهدهندگان بهداشت روان به ویژه در مناطق محروم و سیستمی بهداشتی است که اغلب پذیرش بیمه را تشویق نمیکند و بسیاری را بدون گزینههای کافی رها میکند.
این فناوریها به دلیل دسترسی آسان و هزینه پایین خود جذاب هستند. با این حال، آنها معمولاً برای بازخورد بالینی یا درمان طراحی نشدهاند، فاقد اعتبار علمی هستند و اغلب شامل پروتکلهای ایمنی لازم یا تأییدیههای قانونی نمیشوند. اطمینان از ایمنی کاربران نیازمند اقدام از سوی ذینفعان مختلف از جمله مصرفکنندگان، مراقبان، سیاستگذاران و توسعهدهندگان فناوری است.
پیشزمینه و فرضیات
این مشاوره بر فناوریهایی متمرکز است که به مصرفکنندگان ارائه میشود، به ویژه چتباتهای GenAI و اپلیکیشنهای سلامت که اغلب برای حمایت از بهداشت روان استفاده میشوند، حتی اگر برای این منظور طراحی نشده باشند. این مشاوره شامل فناوریهای ارائهدهنده و درمانهای دیجیتال تنظیمشده نمیشود. چتباتهای GenAI به طور کلی برای مراقبت بهداشت روانی طراحی نشدهاند اما برای حمایت احساسی استفاده میشوند. اپلیکیشنهای سلامت، چه با هوش مصنوعی و چه بدون آن، نیز برای اهداف بهداشت روانی استفاده میشوند اما برای درمان اختلالات روانی طراحی نشدهاند.
توصیهها
۱. اجتناب از تکیه تنها بر چتباتهای GenAI و اپلیکیشنهای سلامت برای رواندرمانی
چتباتهای GenAI و اپلیکیشنهای سلامت نباید جایگزین ارائهدهندگان واجد شرایط بهداشت روان شوند اما ممکن است از روابط درمانی جاری حمایت کنند. تحقیقات اولیه نشان میدهد که برخی از اپلیکیشنها ممکن است علائم استرس و اضطراب را کاهش دهند، اما هیچ توافقی بر سر اثربخشی آنها در مقایسه با حرفهایهای انسانی وجود ندارد. خطرات شامل ایجاد یک حس کاذب از اتحاد درمانی، احتمال تعصب و اطلاعات نادرست، ارائه نادرست خدمات، ارزیابیهای ناقص و مدیریت بحران غیرقابل اعتماد است.
- کاربران باید تفاوتهای بین چتباتهای هوش مصنوعی و ارائهدهندگان انسانی را درک کنند.
- والدین باید با کودکان خود درباره این فناوریها صحبت کنند و تغییرات رفتاری را نظارت کنند.
- پزشکان باید بیماران را درباره محدودیتهای این ابزارها آگاه کنند.
- توسعهدهندگان باید شفافیت در مورد قابلیتها و محدودیتهای محصولات خود داشته باشند.
- سیاستگذاران باید قوانین را برای رسیدگی به تفاوتهای بین استفاده موردنظر و استفاده واقعی از این فناوریها بهروزرسانی کنند.
۲. جلوگیری از وابستگیهای ناسالم به چتباتهای GenAI و اپلیکیشنها
چتباتهای GenAI میتوانند با تقلید از روابط انسانی وابستگیهای ناسالمی ایجاد کنند. این مسئله با انتخابهای طراحی که تعامل را به جای نتایج سالم تشویق میکنند، تشدید میشود.
- کاربران باید از ماهیت غیرعینی این سیستمها آگاه باشند.
- والدین و معلمان باید درباره تأثیر پلتفرمهای هوش مصنوعی صحبت کنند.
- توسعهدهندگان باید به وضوح طبیعت هوش مصنوعی محصولات خود را افشا کنند و ویژگیهایی برای کاهش وابستگی بگنجانند.
- پزشکان باید به بیماران کمک کنند تا مرزهایی برای استفاده از هوش مصنوعی تعیین کنند.
- پژوهشگران باید پیشرفت روابط AI-کاربر را مطالعه کنند تا نقاط مداخله را شناسایی کنند.
۳. اولویتبندی حریم خصوصی و حفاظت از دادههای کاربران
چتباتهای هوش مصنوعی و اپلیکیشنهای سلامت اغلب دادههای حساس را با سیاستهای نامشخص جمعآوری میکنند که خطرات حریم خصوصی را به وجود میآورد.
- کاربران باید در به اشتراکگذاری اطلاعات حساس محتاط باشند.
- پزشکان باید بیماران را در مورد حریم خصوصی دادهها آموزش دهند.
- توسعهدهندگان باید در مورد شیوههای داده شفاف باشند.
- سیاستگذاران باید قوانین جامع حریم خصوصی دادهها را تصویب کنند.
- پژوهشگران باید شیوههای حریم خصوصی را بررسی کرده و برای ارزیابیهای مستقل تلاش کنند.
۴. حفاظت در برابر ارائه نادرست و تعصب
مدلهای GenAI میتوانند تعصبات و اطلاعات نادرست را تقویت کنند و منجر به ایجاد اتاقهای پژواک دیجیتال شوند.
- کاربران باید محدودیتهای GenAI را درک کنند.
- پزشکان باید بیماران را درباره تعصب الگوریتمی آموزش دهند.
- توسعهدهندگان باید از ارائه نادرست هوش مصنوعی به عنوان حرفهایهای مجاز جلوگیری کنند.
- سیاستگذاران باید شفافیت در دادههای آموزشی را اجباری کنند.
- پژوهشگران باید مدلها را برای تعصبات قبل از استقرار ارزیابی کنند.
۵. حفاظت از جمعیتهای آسیبپذیر
چتباتهای GenAI میتوانند آسیبپذیریها را به ویژه در نوجوانان و گروههای حاشیهای تقویت کنند.
- پزشکان باید برای خطرات خاص آسیبپذیری غربالگری کنند.
- توسعهدهندگان باید جمعیتهای متنوع را در توسعه بگنجانند و مکانیسمهای ایمنی را پیادهسازی کنند.
- سیاستگذاران باید طراحی و آزمایش مناسب سن را اجباری کنند.
- پژوهشگران باید تأثیرات هوش مصنوعی بر گروههای آسیبپذیر را مطالعه کنند.
۶. اجرای آموزش جامع هوش مصنوعی و سواد دیجیتال
آموزش سواد هوش مصنوعی و دیجیتال برای به حداکثر رساندن مزایا و به حداقل رساندن خطرات حیاتی است.
- والدین و معلمان باید بحثهایی درباره فناوریهای هوش مصنوعی تسهیل کنند.
- پزشکان باید از اپلیکیشنهای استفادهشده توسط بیماران مطلع باشند.
- توسعهدهندگان باید توضیحات واضحی از محصولات خود ارائه دهند.
- سیاستگذاران باید بودجهای برای آموزش سواد هوش مصنوعی فراهم کنند.
- پژوهشگران باید تحقیقات شفاف انجام دهند و یافتهها را منتشر کنند.
۷. اولویتبندی تحقیقات دقیق درباره چتباتها و اپلیکیشنهای GenAI
توسعه سریع این فناوریها نیازمند تحقیقات دقیق برای اطلاعرسانی استفاده ایمن است.
- توسعهدهندگان باید دسترسی به دادهها را برای تحقیقات مستقل فراهم کنند.
- سیاستگذاران باید تحقیقات دقیق را تأمین مالی و اجباری کنند.
- پژوهشگران باید کیفیت مطالعات را ارتقا دهند و به ماهیت سریعتغییر این فناوریها بپردازند.
۸. رسیدگی به مسائل سیستمیک در مراقبت بهداشت روانی
هوش مصنوعی نباید نیاز به رسیدگی به مسائل سیستمیک مراقبت بهداشت روانی را تحتالشعاع قرار دهد.
- مصرفکنندگان باید برای تغییر سیستمیک در مراقبت بهداشت روانی حمایت کنند.
- توسعهدهندگان باید بر بهبود کیفیت ابزارها و یکپارچگی تمرکز کنند.
- آموزش بالینی باید شامل آموزش هوش مصنوعی باشد.
- سیاستگذاران باید نوآوری یکپارچه با سیستم را تشویق کنند.
- پژوهشگران باید نقاط یکپارچگی مسئولانه هوش مصنوعی در مراقبت بهداشت روانی را شناسایی کنند.