Энтузиаст нашёл код алгоритма Apple для распознавания насилия на фото: его можно обмануть

Некоторое время назад появилась информация о том, что компания Apple в операционной системе iOS 15 планирует внедрить алгоритм NeuralHash, который будет в автоматическом режиме изучать фотографии пользователя на предмет насилия над детьми. Впрочем, как оказалось, данный алгоритм уже внедрили на устройствах под управлением iOS 14.3 — энтузиаст под ником AsuharietYgvar не только смог «вытянуть» код алгоритма из данной операционной системы (запустить алгоритм можно даже на Linux), но и детально описал работу нового механизма на Reddit, а также выложил полученный код на GitHub, так что любой желающий может самостоятельно оценить его работу.

Пользователь отметил, что алгоритму не мешает сжатие изображений или изменение размера фотографии, но, с другой стороны, систему можно легко обмануть другими методами. Дело в том, что если изменить ориентацию изображения или банально обрезав её, то алгоритм NeuralHash уже не сможет выполнять свою функцию. Стоит отметить, что ранее представители Apple сообщили о том, что их разработка будет «срабатывать» только в том случае, если элементы на фотографиях будут полностью совпадать с базой данных, которая содержит жестокое обращение над детьми. Странно, что столь умный алгоритм можно обмануть банальной сменой ориентации изображения.

Более того, сама компания Apple не заявляла о том, что функция появится в операционной системе iOS 14.3. Энтузиасту пришлось потратить немало усилий для изучения скрытого API, и только после этого ему удалось получить код алгоритма, восстановив его на языке программирования Python. Кроме того, само существование алгоритма уже успели раскритиковать — многие пользователи посчитали, что проверка фотографий алгоритмом это прямое вмешательство в их личную жизнь, тогда как в Apple считают, что NeuralHash позволит защитить детей от насилия со стороны взрослых.