Как потерять доверие к ИИ, или как я хулиганил с Gradient Photo Editor

Статья скорее зарисовка и оставляет пространство для экспериментов.
Всем привет. На выходных на мои глаза попалось приложение Gradient Photo Editor, а именно функция, позволяющая оценить вашу ДНК с помощью новейших технологий ИИ по фотографии! Исключительно точный алгоритм проанализирует черты лица и определит этническое происхождение (описание взято с офсайта). Меня, МЛиста, не могло такое не заинтриговать и конечно же я скачал приложение и начал с ним баловаться. После того, как фотки себя любимого закончились в ход пошли шедевры мировой живописи. И тут меня поджидали сюрпризы 🙂
Кому интересно — добро пожаловать под кат

Идея с женскими портретами Пикассо провалилась сразу, так что я пошел по пути наименьшего сопротивления — взял Мону Лизу Леонардо да Винчи, Фриду Кало одноименной художницы и девушку с жемчужной серёжкой Яна Вермеера.

Для чистоты эксперимента я перед загрузкой фотографий в приложение я для себя сделал прогноз того, какие страны я ожидаю увидеть.
Предлагаю самим сперва сделать прогноз, а уж потом узнать результат.

Я был в восторге и озадачен одновременно. Ещё бы, в каждой из героинь нашлись не просто славянские корни, но, фактически, родные, белорусские! И это несмотря на то, что к моменту написания картин нам еще было далековато до самоопределения, как нации…
Со временем эйфория прошла, а чувство сомнения остались. Я, как и вы, отметил, что сетку на лице для девушки с ювелиркой аппа не нарисовала. Сложно сказать из-за чего, но! это оставляет пространство для разного рода шалостей: почему бы не прогнать эту картинку еще разок? Сделать скриншот и еще разок. И ещё… Как раз глянем на воспроизводимость результата 🙂

Вопрос воспроизводимости результатов дя меня лично, неоднозначен. Можно заметить, что от первого до девятого скрина меняется оттенок кожи — становится более темным. Я не уверен с чем это связано, наивно считая, что скриншот просто делает скриншот, сохраняя изображение в первозданном виде. Так или иначе, стоит отметить, что я начал чувствовать подвох — с усилением загара девушки всё больше проявляются скандинавские корни… А это идет в разрез с тем, как выглядят мои северные друзья. Ну и разнообразие стран, не может не настораживать.
Раз этот тест на воспроизводимость провалился, решил я попробовать иначе. В этот раз скачаем несколько разных автопортретов Фриды с терновым ожерельем и колибри и прогоним через алгоритм.

Моя наивная душа считала, что не может быть такой кардинальной разницы, однако она факт на лицо — она есть.
В дополнение я назагружал фотографии несильно раскрученных спортсменов, актеров, ученых и политиков с восторгом обнаруживая, какой талантливой нации мне посчастливилось родиться. Что удивляет, так это то, что мои друзья из России, Германии, Швеции, Китая и США видят иные результаты… Вероятно, всё это происки массонов.

Заключение
В заключении хотелось бы отметить, что исключительно точным, как заявляется на (описание взято с офсайте) алгоритм, ИМХО, не является и являться не может. Возможно малый датасет, возможно ограничение развития МЛа или еще какая причина не позволила решить эту задачу как задумывалось. Однако следует понимать, что далеко не все понимают что может МЛ, а чего нет. И если играть на фантазии людей о том, что ИИ уже достиг и может — то в конечном итоге они могут очень сильно разочароваться в его реальных возможностях. А потом приходит заказчик и просит реализовать совсем невообразимое, ведь по его мнению уже столько сделано в этой сфере.
Будьте осторожны и не подслащивайте пилюлю геостянутыми данными.