Судебная система США годами использовала программу-расиста
Программа Compas, применяемая в американской судебной системе для оценки рисков совершения преступлений, оказалась подвержена расизму. К такому выводу пришли ученые, изучившие механику работы продукта, сообщает Guardian.
Алгоритм в большинстве случаев стремился обвинить чернокожих подсудимых. Компания-разработчик от всех претензий открестилась, но, когда экспертная группа потребовала предоставить исходный код, ответила отказом.
Эксперты отметили, что искусственный интеллект оказался так же подвержен предрассудкам, как и представители человеческой расы.
Использование подобных программ приведет к арестам лиц определенной социальной и расовой прослойки. Единственное отличие будет состоять в том, что этот процесс поставят на поток.
Напомним, несмотря на борьбу с расизмом, США продолжают сотрясать скандалы на этой почве. Так, в 2016 году полицейские убили двоих темнокожих граждан, показавшихся им подозрительными. Случаи произошли в разных штатах, но в короткий период времени. После этого в стране начались многотысячные акции протеста под лозунгом «Black Lives Matter» («Жизнь черных имеет смысл»).
