Apple планирует сканировать iPhone в США на предмет изображений жестокого обращения с детьми, вызывая одобрение у групп защиты детей, но вызывая обеспокоенность у некоторых исследователей безопасности, что система может быть использована правительствами, стремящимися следить за своими гражданами, не по назначению.
Apple заявила, что ее приложение для обмена сообщениями будет использовать машинное обучение на устройстве, чтобы предупреждать о конфиденциальном контенте, не делая частные сообщения доступными для чтения компанией. Инструмент, который Apple называет neuralMatch, обнаруживает известные изображения жестокого обращения с детьми, не расшифровывая сообщения людей. Если он найдет совпадение, изображение будет рассмотрено человеком, который при необходимости может уведомить правоохранительные органы.
Но исследователи говорят, что этот инструмент можно использовать для других целей, например, для государственного наблюдения за диссидентами или протестующими.
Мэтью Грин из Johns Hopkins, ведущий исследователь криптографии, был обеспокоен тем, что его можно использовать для фальсификации невинных людей, отправляя им безобидные, но вредоносные изображения, предназначенные для использования в качестве совпадений с жестоким обращением с детьми, обманывая алгоритм Apple и предупреждая правоохранительные органы — по сути, подставляя людей. .
«Это то, что вы можете сделать», — сказал Грин. «Исследователи смогли сделать это довольно легко».
Технологические компании, включая Microsoft, Google, Facebook и другие, в течение многих лет делились «хэш-списками» известных изображений жестокого обращения с детьми. Apple также сканирует пользовательские файлы, хранящиеся в ее службе iCloud, которая не так надежно зашифрована, как ее сообщения, на наличие таких изображений.
На компанию оказывали давление правительства и правоохранительные органы, чтобы разрешить наблюдение за зашифрованными данными. Принятие мер безопасности потребовало от Apple соблюдения тонкого баланса между пресечением эксплуатации детей и сохранением своего громкого обязательства по защите конфиденциальности своих пользователей.
Apple считает, что совершила этот подвиг с помощью технологии, которую она разработала в консультации с несколькими выдающимися криптографами, в том числе профессором Стэнфордского университета Дэном Боне, чья работа в этой области была отмечена премией Тьюринга, которую часто называют технологической версией Нобелевской премии.