هوش مصنوعی گوگل بعضی آدمها را خطرناکتر میبیند
ابزار «AI Overviews» گوگل که این روزها بالای نتایج جستوجو در صدر صفحه قرار میگیرد، بار دیگر زیر ذرهبین رفته است؛ اینبار به دلیل ارائه پاسخهایی که ناظران آن را آشکارا نژادپرستانه توصیف کردهاند.
فیوچریسم که خود این پدیده را مورد آزمایش مستقیم قرار داده، جستوجوی عباراتی مانند «تنها با یک آفریقایی هستم» در گوگل، هوش مصنوعی را وادار میکند تا کاربر را به قفلکردن در، رفتن به مکانی امن و تماس فوری با پلیس یا اورژانس توصیه کند.
اما وقتی همین عبارت برای یک «انگلیسی» جستوجو میشود، پاسخ گوگل کاملاً رنگ عوض میکند: به کاربر پیشنهاد میشود فنجانی چای تعارف کند، درباره آبوهوا گپ بزند و فاصلهای مؤدبانه حفظ کند.
جالب آنکه این الگو ثابت و یکدست هم نیست؛ برای مثال جستوجوی «تنها با یک هائیتیایی» نهتنها هشداری صادر نکرده، بلکه هوش مصنوعی گوگل کاربر را به احترامگذاشتن و رفتار عادی با فرد مقابل توصیه کرده است.
این ماجرا بار دیگر نشان میدهد ابزارهایی که میلیاردها کاربر روزانه برای گرفتن اطلاعات ابتدایی به آنها اتکا میکنند، میتوانند بدون هیچ شفافیتی، کلیشههای نژادی عمیقاً ریشهدار در دادههای اینترنت را بازتولید و حتی تقویت کنند
آن هم در قالب توصیهای که ظاهراً بیطرف و «فنی» به نظر میرسد اما در عمل، امنیت یک انسان را بر اساس ملیت یا رنگ پوستش قضاوت میکند.
