اگر زن و تیره پوست باشید، هوش مصنوعی تشخیص چهره آمازون، ممکن است هویت شما را اشتباه تشخیص بدهد- واکنش های به این مسئله - دَبی بلاگ

اما مدتی پیش یک پژوهشگر MIT به نام جوی بولاموینی، متوجه یک مشکل جدی در فناوری تشخیص چهره شد: این فناوری در تشخیص چهره زنان تیره پوست، مشکل جدی دارد!

به همین خاطر او نگران شد که این خطاها و اشتباهات بتواند تاثیر منفی بر زندگی زنانی، مثل خود او، داشته باشد و پروژه ای را برای اعلام یک هشدار همگانی برای اصلاح این مشکل آغاز کرد.

بولاموینی در آنالیز های خود متوجه شد که هوش مصنوعی تشخیص چهره آمازون، در این زمینه مسائل زیادی دارد. مایکروسافت و IBM هم تا حدی همین مشکل را داشتند.

آمازون در واکنش به این هشدار، ترجیح داد که از سیاست حمله و انکار استفاده کند و می گوید که اصلا روش و معیار آنالیز بولاموینی مشکل دارد و او تشخیص چهره را با تحلیل چهره اشتباه گرفته است. اما به دنبال این موضع گیری آمازون؛ گروهی از پژوهشگران حوزه هوض مصنوعی و همچنین سیاستمدارانی از کنگره و سنای آمریکا از خانم بولاموینی حمایت کردند.

مشکل اصلی این است که فناوری تشخیص چهره به سرعت توسط پلیس و نهادهای دواتی گرفته تا کارهای تجاری و حتی کنترل ورود افراد به آپارتمان ها، در حال استفاده روز افزون است.

اما علت این مشکل چیست؟

حدس اولیه این است که الگوریتم ها، در هنگام تکامل، اساسا بر اساس ساختارهای صورت مردان سفیدپوست، برنامه ریزی شده بودند.

بر اساس برآوردها، الگوریتم های تشخیص چهره از IBM گرفته تا مایکروسافت و آمازون و Face Plus Plus چینی، در خصوص زنان تیره پوست، ضریب اشتباه بسیار بالای 34.7 درصد دارند. در حالی که خطای آنها در خصوص مردان با پوست روشن، تنها یک درصد است.

منبع