شهر نیویورک در آمریکا قصد دارد استفاده از الگوریتم‌های هوش مصنوعی را در غربالگری فرم‌های درخواست مار محدود کند و به این ترتیب به یکی از نخستین شهرهای آمریکا تبدیل می‌شود که  این شیوه ناشفاف از استخدام را قانونمند خواهد کرد.

 

 

 شورای شهر نیویورک، در حال بررسی لایحه‌ای است که بر اساس آن، استخدام کنندگان باید به افراد کارجو درباره استفاده از ابزارهای هوش مصنوعی که به آنها «سیستم‌های خودکار تصمیم‌گیری» گفته می‌شود، اطلاع رسانی کنند. شرکت‌ها همچنین باید یک حسابرسی سالانه انجام دهند تا مطمئن شوند که فناوری موجب سوگیری در استخدام نخواهد شد.

 

این اقدام در حالی صورت می‌گیرد که استفاده از هوش مصنوعی در فرایند‌های استخدام رو به افزایش است و به سرعت جای غربالگران انسانی را می‌گیرد. شرکت‌های فورچون 500 از جمله دلتا، دانکین، ایکیا و یونیلیور، برای بررسی درخواست‌های کار از هوش مصنوعی استفاده می‌کنند.

 

این روزها که اهالی نیویورک با بیکاری دو رقمی مواجه‌اند، قانون‌گذاران این شهر نگران اثر منفی بیشتری هستند که فناوری دیجیتال در استخدام می‌گذارد.

 

بررسی‌ها نشان می‌دهد که سیستم‌های هوش مصنوعی بیش از اینکه مشکلات را حل کند، خود به مشکل تبدیل شده است. ابزارهای بازشناسی چهره که از هوش مصنوعی استفاده می‌کنند، در شناسایی چهره‌های افراد سیاه‌پوست و تشخیص جنسیت افراد مشکل دارند و حتی نتوانسته‌اند اعضای کنگره را از یک دیتابیس حاوی عکس‌های فوری شناسایی کنند.

 

از سوی دیگر، مشکل سوگیری این فناوری‌ها نیز بسیار نگران کننده است. مهم‌ترین مسال در این زمینه، ابزاری است که در آمازون ساخته شده بود؛ ابزاری که مشخص شد در مورد زنان تبعیض قایل می‌شود. این ابزار با استفاده از رزومه‌های 10 سال گذشته ارسالی به در آمازون طراحی شده و از آنجا که عمده این روزمه‌های متعلق به مردان بوده، نرم‌افزار نیز مردان را برای استخدام ترجیح می‌داد و به رزومه‌هایی که در آن واژه «زن» قید شده بود، یا سوابق تحصیلی آنان مربوط به کالج‌های اختصاصی زنان بود، امتیاز کمتری می‌داد. این ابزار هرگز استفاده نشد؛ اما نشان‌دهنده ناکارآمدی هوش ماشینی در مقایسه با قضاوت انسانی بود.

 

لوری کامبو (Laurie Cumbo) عضو شورای شهر نیویورک و ارایه دهنده لایحه مذکور می‌گوید: به عنوان قانون‌گذاران شهری که تعدادی از بزرگ‌ترین شرکت‌های جهان را میزبانی می‌کند، باید دخالت کنیم و جلوی استخدام ناعادلانه را بگیریم.

 

در عین حال تعدادی از گروه‌های مدافع حقوق  شهروندی، معتقدند که لایحه مطرح در شورای شهر نیویورک کافی نیست. چندین گروه از جمله موسسه AI Now، اتحادیه آزادی‌های مدنی نیویورک و جوامع نیویورک برای تغییر، هفته گذشته نامه‌ای منتشر کردند و در آن، خواستار پوشش انواع بیشتری از ابزارهای خودکار در این لایحه شدند و همچنین درخواست کردند که قدم‌های بیشتری در زمینه فرایند استخدام برداشته شود. این گروه‌ها خواستار مجازات‌های سنگین‌تر و همچنین دادن امکان شکایت به شهروندانی شدند که  درخواست شغل‌شان توسط الگوریتم‌های دارای سوگیری رد شده است. این خواسته‌ها در راستای قوانین اشتغال کنونی است که به کارجویان اجازه شکایت در صورت مواجهه با تبعیض جنسیتی یا نژادی را می‌دهد.

 

آلبرت فاکس کان (Albert Fox Cahn) رییس اجرایی پروژه اشتباهات فناوری نظارت می‌گوید: اگر این لایحه به صورت کنونی تصویب شود، مجوزی برای به‌کارگیری بدترین اشکال از تبعیض الگوریتمی خواهد بود.

 

وی می‌افزاید: ما نیازمند مجازات‌های سنگین‌تر، مشابه آن چیزی هستیم که در سایر موارد تبعیض استخدامی اعمال می‌شود.

 

البته آلیشیا مرسیدیس (Alicia Mercedes) سخنگوی لوری کامبو گفته است که این لایحه در مراحل نخست است و با توجه به بازخوردها احتمال تغییر آن وجود دارد.