به گزارش ایسنا، اپل اعلام کرد اگر معلوم شود تصاویر سوءاستفاده از کودکان بارگذاری می شود، این شرکت ابتدا به بازبینی انسانی اقدام می کند و سپس به مقامات اجرای قانون گزارش می کند. این سیستم برای کاهش موارد خطا در شناسایی به یک در یک تریلیون مورد طراحی شده است.
با این سیستم اپل از یک سو به درخواست مقامات اجرایی برای کمک به مقابله با سوءاستفاده از کودکان پاسخ می دهد و از سوی دیگر به الزام در زمینه حریم خصوصی و امنیت عمل می کند که آن را هسته اصلی برند خود قرار داده است. شرکتهای دیگر مانند فیس بوک هم از فناوری مشابه برای شناسایی و گزارش دهی موارد سوءاستفاده بهره می برند.
مقامات اجرایی پایگاه داده ای از تصاویر مجرمان سابقه دار دارند و این تصاویر به کدهای دیجیتالی تبدیل می شوند که تصاویر سوءاستفاده گر را شناسایی می کنند اما نمی توانند برای بازسازی آنها مورد استفاده قرار بگیرند.
اپل با استفاده از فناوری به نام NeuralHash پایگاه داده خود را پیاده سازی کرده که برای شناسایی تصاویر ویرایش شده اما مشابه تصاویر اصلی طراحی شده است. هنگامی که کاربری تصویری را به سرویس ذخیره سازی آی کلود اپل بارگذاری می کند، آیفون یک کد دیجیتالی تصویر را برای بارگذاری شدن ایجاد کرده و آن را با پایگاه داده مقایسه می کند. تصاویری که فقط در آیفون ذخیره شده اند، چک نمی شوند.
روزنامه فایننشیال تایمز نخستین منبعی بود که جنبه هایی از این برنامه را گزارش کرد. یکی از مهمترین ویژگیهای سیستم اپل این است که تصاویر ذخیره شده در آیفون را پیش از بارگذاری شدن و نه پس از بارگذاری شدن در سرورهای این شرکت چک می کند.
بر اساس گزارش رویترز، بعضی از کارشناسان حریم خصوصی و امنیتی در توییتر از این که این سیستم ممکن است توسعه پیدا کرده و به طور کلی محتوای ممنوعه یا سیاسی در گوشیها را اسکن کند، ابراز نگرانی کردند.