Гражданин Новой Зеландии Ричард Ли учится в Мельбурне (Австралия). Ли подавал документы на новый новозеландский паспорт через интернет. Но что-то пошло не так.
Автоматизированная система решила, что глаза Ли закрыты и поэтому фотография не отвечает требованиям.
Скриншот ответа системы опубликовал у себя в фейсбуке друг Ли, австралийский диджей Машд Н Катчер.
Сам Ли считает случившееся смешным, а не оскорбительным. Ему пришлось сделать еще несколько фотографий, чтобы заявление на новый паспорт приняли.
Ранее системы автоматического определения давали сбой в фотосервисах Google Photos и Flickr. Google Photos собрала в папку под названием «Гориллы» фотографии афроамериканца Джека Элсина и его подруги, а автоматическое тегирование Flickr помечало людей разных рас тегами «животные» и «обезьяны».
Также искусственный интеллект не смог стать справедливым судьей на конкурсе красоты. Из 44 победителей только несколько оказались азиатами, а один — чернокожим.
Чат-бот Microsoft по имени Тэй, который общался в твиттере с помощью «искусственного интеллекта», вовсе сошел с ума: сначала машина признавалась в любви Гитлеру, а потом возненавидела абсолютно всех. Аккаунт Тэй в твиттере закрыли.
Программное обеспечение, которое используется в судах некоторых штатов США для предсказания преступлений, тоже заподозрили в расизме: оно считало, что у чернокожих преступников выше шансы совершить повторное правонарушение.
