اعتراف «اوپن‌ای‌آی» به روان‌درمانی غلط «چت‌جی‌پی‌تی»
شرکت «اوپن‌ای‌آی»(OpenAI) اعتراف کرد که «چت‌جی‌پی‌تی»(ChatGPT) نشانه‌های توهم را در کاربران دارای مشکلات روانی نادیده گرفته است.
عصر کانادا – پس از بیش از یک ماه ارائه پاسخ‌های تکراری و کپی‌شده در بحبوحه گزارش‌های فزاینده روان‌پریشی هوش مصنوعی، شرکت «اوپن‌ای‌آی» بالاخره اعتراف کرد که «چت‌جی‌پی‌تی» در تشخیص نشانه‌های واضح مشکلات روانی کاربرانش، از جمله رنج بردن از توهم، ناموفق بوده است. این شرکت به تازگی اعلام کرده است: ما همیشه درست عمل نمی‌کنیم.
به نقل از فیوچریسم، این شرکت همچنین اعلام کرد: مواردی وجود داشته که مدل «4o» ما در تشخیص نشانه‌های توهم یا وابستگی عاطفی کوتاهی کرده است. اگرچه این موارد نادر هستند، اما ما همچنان در حال بهبود مدل‌های خود و توسعه ابزارهایی برای تشخیص بهتر نشانه‌های پریشانی روانی یا عاطفی هستیم تا «چت‌جی‌پی‌تی» بتواند به طور مناسب پاسخ دهد و در صورت لزوم، افراد را به منابع معتبر ارجاع دهد.
شرکت «اوپن‌ای‌آی» با اینکه پیش از این به این موضوع اذعان کرده بود، اما در برابر گزارش‌های گسترده در مورد رفتار چاپلوسانه چت‌بات خود که منجر به گسست از واقعیت یا تجربه دوره‌های شیدایی در کاربران شده بود، به طرز محسوسی سکوت کرده بود. این گزارش‌ها شامل مردی بود که پس از برقرای ارتباط صمیمی با «چت‌جی‌پی‌تی»، خودکشی کرد یا کاربرانی که پس از مسحور شدن توسط هوش مصنوعی به طور غیرارادی در بیمارستان بستری یا زندانی شدند.
در این بیانیه آمده است: ما می‌دانیم که «چت‌جی‌پی‌تی» می‌تواند نسبت به فناوری‌های قبلی، به ویژه برای افراد آسیب‌پذیر، پاسخگوتر و شخصی‌تر به نظر برسد و این به معنای بالاتر بودن ریسک است. ما در تلاشیم تا راه‌هایی را که این چت‌بات ممکن است به طور ناخواسته رفتارهای منفی موجود را تقویت یا تشدید کند، درک کنیم و کاهش دهیم.
«اوپن‌ای‌آی» همچنین اعلام کرد که یک روانپزشک بالینی تمام‌وقت را برای کمک به مطالعه در مورد اثرات روان‌شناختی چت‌بات خود استخدام کرده است. این شرکت در به‌روزرسانی جدید این چت‌بات گفت: ما در حال تشکیل یک گروه مشاوره‌ای از متخصصان سلامت روان و رشد جوانان هستیم تا نحوه واکنش «چت‌جی‌پی‌تی» را در لحظات حساس بهبود بخشد.
پیشرفت در مورد به‌روزرسانی‌های واقعی این چت‌بات، تدریجی است. «اوپن‌ای‌آی» اشاره کرد: ما یک ویژگی ایمنی جدید اضافه کرده‌ایم که در آن کاربران اکنون یادآوری‌هایی برای تشویق آنها به استراحت در طول مکالمات طولانی دریافت خواهند کرد و همچنین رفتار جدید برای تصمیمات شخصی با ریسک بالا به زودی ارائه خواهد شد. این چت‌بات نباید به سوالاتی مانند «آیا باید از همسر خود جدا شوم؟» پاسخ مستقیم بدهد.
این شرکت بیانیه خود را با یک جمله تعجب‌آور به پایان رساند و افزود: ما خود را با یک سوال واحد می‌سنجیم؛ اگر کسی که دوستش داریم برای حمایت به «چت‌جی‌پی‌تی» مراجعه کند، آیا احساس اطمینان خواهیم کرد؟ رسیدن به پاسخ بله بدون ابهام، کار ماست.
این شرکت هنوز در حال رسیدن به آن نقطه است.
