چت‌بات‌های متا وارد مکالمات جنسی با کاربران زیر سن قانونی شدند

براساس تحقیقات اخیر وال استریت ژورنال، چت‌بات‌های هوش مصنوعی متا با حساب کاربری افرادی که زیر سن قانونی شناخته شده بودند، مکالمات جنسی برقرار کردند.

به گزارش وال استریت ژورنال، در آزمایش‌هایی که این روزنامه انجام داد، چت‌بات‌های رسمی و همچنین چت‌بات‌های ساخته شده توسط کاربران وارد مکالمات صریح جنسی شدند، حتی زمانی که کاربران به‌عنوان افراد زیر سن یا چت‌بات‌ها به عنوان نوجوانان برنامه‌ریزی شده بودند.

این مکالمات، که اغلب با محتوای جنسی تخیلی همراه بودند، در برخی مواقع ادامه پیدا می‌کردند، حتی زمانی که به‌طور مشخص، رفتار‌های غیرقانونی در آنها مطرح می‌شد. در گزارش آمده است که برخی از چت‌بات‌ها که از صدای سلبریتی‌هایی، چون کریستن بل، جودی دنچ و جان سینا استفاده می‌کردند، وارد این نوع مکالمات اخلاقی سوال‌برانگیز شدند. 

علاوه بر این، چت‌بات‌ها به‌طور واضح به پیامد‌های قانونی این سناریو‌های غیرقانونی اشاره می‌کردند. برای مثال، یکی از چت‌بات‌ها به تفصیل توضیح داد که اگر درگیر رفتار جنسی با یک نوجوان ۱۷ ساله شود، پلیس چگونه وارد عمل خواهد شد.

در واکنش به این تحقیق، متا در بیانیه‌ای اعلام کرد: گزارش وال استریت ژورنال «مغرضانه» است و نمی‌تواند نمایانگر تعاملات واقعی کاربران با چت‌بات‌ها باشد و اقدامات اضافی برای جلوگیری از اینگونه سوءاستفاده‌ها در حال انجام است.

گزارش وال استریت ژورنال همچنین به فشار‌های داخلی در متا اشاره دارد که کارکنان شرکت از مشکلات اخلاقی این چت‌بات‌ها آگاه بوده و نگرانی‌های خود را به صورت داخلی مطرح کرده‌اند. متا همچنین تاکید کرده است که در راستای رقابت با دیگر شرکت‌ها، اقدامات حفاظتی را نادیده نگرفته است.

انتهای پیام/