В лондонском Королевском колледже специалисты выяснили, что беспилотные автомобили имеют ряд проблем с распознаванием пешеходов. В частности, автопилоты на 20 % эффективнее могут распознать взрослого, нежели ребенка. Помимо этого, на 7,5 % они лучше идентифицируют человека с белой кожей, чем темнокожего.

Основной причиной, по мнению экспертов, является несбалансированность базы данных, на основе которой обучается искусственный интеллект. Как правило, модель учится на серии фото, в которой преобладают зрелые люди с белым цветом кожи. Это приводит к систематическим искажениям и, как результат, к опасности на дорогах, в особенности при плохой видимости.

По словам соавтора исследований доктора Джи Чжана, если прежде из-за неравноправия люди лишались ряда возможностей в обществе, то теперь это может грозить им травмами и гибелью.