آریا جوان - دیجی رو / آنر اخیراً اعلام کرده است که قابلیت تشخیص دیپ‌فیک مبتنی بر هوش مصنوعی خود را از آوریل 2025 (فروردین 1404) در سراسر جهان در دسترس عموم قرار خواهد داد. این فناوری جدید با هدف کمک به کاربران در شناسایی بلادرنگ محتوای صوتی و تصویری دستکاری شده طراحی شده است. در دنیای امروز که اطلاعات به سرعت در حال گردش هستند، تشخیص صحت و اصالت محتوای دیجیتال از اهمیت بسیاری برخوردار است. این تکنولوژی می‌تواند به ویژه برای افرادی که درگیر رسانه‌های دیجیتال و اطلاعات آنلاین هستند، بسیار مفید باشد. با دیجی رو همراه باشید.
فناوری دیپ‌فیک (Deepfake) که از هوش مصنوعی برای تولید محتوای صوتی و تصویری بسیار واقعی اما جعلی استفاده می‌کند، به یک نگرانی بزرگ برای کسب‌وکارها و افراد تبدیل شده است. این نگرانی به حدی رسیده است که مؤسسه امنیت سایبری Entrust گزارش داده است که فقط در سال 2024، هر پنج دقیقه یک بار یک حمله مبتنی بر دیپ‌فیک رخ داده است! در همین حال، مطالعه‌ای که توسط Deloitte در زمینه کاربران اینترنت در سال 2024 انجام شد، نشان می‌دهد که 59 درصد از پاسخ‌دهندگان برای تشخیص تفاوت بین محتوای ایجاد شده توسط انسان و مطالب تولید شده توسط هوش مصنوعی با مشکل مواجه بوده‌اند.

این آمارها نشان می‌دهند که روز به روز با پیشرفت فناوری‌های هوش مصنوعی، توانایی تمایز میان محتوای واقعی و دستکاری شده به چالشی جدی تبدیل می‌شود. علاوه بر این، 84 درصد از افرادی که از هوش مصنوعی مولد استفاده می‌کنند، اعلام کرده‌اند که مایل هستند محتوای تولید شده توسط هوش مصنوعی به وضوح با برچسب‌گذاری مشخص شود تا هیچ گونه ابهامی برای مخاطبان باقی نماند.

آنر برای اولین بار فناوری تشخیص دیپ‌فیک مبتنی بر هوش مصنوعی خود را در نمایشگاه IFA 2024 معرفی کرد. این سیستم از الگوریتم‌های پیشرفته هوش مصنوعی بهره می‌برد که به طور ویژه قادر به شناسایی ناهماهنگی‌های بسیار جزئی هستند که ممکن است برای چشم انسان قابل تشخیص نباشند. این ناهماهنگی‌ها ممکن است شامل نقص‌های سطح پیکسل، مشکلات مربوط به ترکیب مرزها، بی‌نظمی‌ها بین فریم‌های ویدیویی و ویژگی‌های غیرمعمول صورت مانند نسبت غیرطبیعی صورت به گوش یا ناهنجاری‌های مدل مو باشد. این فناوری به گونه‌ای طراحی شده است که به محض شناسایی محتوای دستکاری شده، هشداری به کاربر ارسال می‌کند تا او بتواند از خطرات احتمالی اجتناب کرده و تصمیمات آگاهانه‌تری در مورد اطلاعاتی که دریافت می‌کند، بگیرد.
عرضه جهانی این فناوری در شرایطی صورت می‌گیرد که حملات دیپ‌فیک به طور فزاینده‌ای در حال افزایش هستند. طبق گزارش‌ها، بین سال‌های 2023 و 2024، جعل اسناد دیجیتال به میزان 244 درصد افزایش یافته است. برخی از بخش‌ها مانند iGaming، فین‌تک و کریپتو به شکلی ویژه‌تر آسیب‌پذیر بوده‌اند و میزان حملات دیپ‌فیک در این بخش‌ها به ترتیب رشدهای چشمگیر 1520 درصد، 533 درصد و 217 درصد را تجربه کرده است. این نشان دهنده سرعت فزاینده تهدیداتی است که دیپ‌فیک می‌تواند برای امنیت دیجیتال به همراه داشته باشد و ضرورت وجود راهکارهایی برای مقابله با آن را دوچندان می‌کند.

این ابتکار عمل آنر بخشی از تلاش گسترده‌تری است که در سطح صنعت فناوری ارتباطات برای مقابله با تهدیدات ناشی از دیپ‌فیک در حال انجام است. سازمان‌هایی مانند Content Provenance and Authenticity یا به اختصار C2PA، که با مشارکت شرکت‌هایی مانند ادوبی، ارم، اینتل، مایکروسافت و تروپیک تأسیس شده است، در حال توسعه استانداردهای فنی هستند که به تأیید اصالت محتوای دیجیتال کمک می‌کنند. همچنین، مایکروسافت ابزارهای هوش مصنوعی مختلفی را معرفی کرده است که به جلوگیری از سوءاستفاده‌های مربوط به دیپ‌فیک کمک می‌کنند. یکی از این ابزارها شامل ویژگی خودکار تار کردن صورت در تصاویری است که در کوپایلت (Copilot) آپلود می‌شوند. این قابلیت به نوعی از انتشار تصاویر تحریف شده و دستکاری شده جلوگیری می‌کند.
علاوه بر این، فناوری‌های نوآورانه دیگری نیز در حال تکامل هستند تا به کاربران در تشخیص و جلوگیری از مشکلات دیپ‌فیک کمک کنند. برای مثال، واحد پردازش عصبی (NPU) در پردازنده اسنپدراگون ایکس الیت کوالکام از تشخیص دیپ‌فیک به طور محلی با استفاده از مدل‌های هوش مصنوعی مک‌آفی (McAfee) پشتیبانی می‌کند و این کار را بدون به خطر انداختن حریم خصوصی کاربر انجام می‌دهد. این دستاوردها نشان دهنده تلاش‌های مستمر برای تأمین امنیت بیشتر اطلاعات دیجیتال و حفظ حریم خصوصی کاربران است.