Система распознавания лиц Amazon объявила преступниками 28 американских конгрессменов
При тестировании технология Rekognition «приписала» криминальное прошлое в основном чернокожим американским политикам. В компании Amazon объяснили это неправильными настройками нейросети.
Американский союз защиты гражданских свобод провел тестирование системы распознавания лиц Amazon Rekognition, которая, по заявлению разработчиков, помогает искать детей, отслеживать нарущения ПДД и даже вычислять преступников. Для исследования эксперты выкупили базу арестованных, в которую вошли более 20 тысяч преступников, и «перемешали» ее с фотографиями конгрессменов США. В результате система Rekognition объявила преступниками 28 американских политиков. Следует отметить, что криминальное прошлое нейросеть, в основном, «приписала» чернокожим конгрессменам. Специалисты сделали вывод, что технологию распознавания лиц Amazon нельзя внедрять в полицию, так как погрешность в 20 процентов в этом деле является слишком великой.
В Amazon уже отреагировали на тестирование системы. Они посчитали результаты некорректными из-за неправильных настроек нейросети.
