دیپ‌فیک‌ها و شناسنامه‌های مصنوعی
هم‌اکنون یک مشکل هستند؛
فقط منتظر اقدام بعدی باشید
تقلب‌های دیپ‌فیک ثابت کرده‌اند که می‌توانند میلیون‌ها دلار به کسب‌وکارها خسارت وارد کنند. اما ترس از دیپ‌فیک که در میان دایره‌های فناوری طنین‌انداز شده، فراتر از مسائل مالی است. با توانایی آنها برای تصاحب هویت فردی بدون رضایت، فریب دادن و مختل کردن فرآیندهای اقتصادی و سیاسی، دیپ‌فیک‌ها از نظر وجودی نگران‌کننده هستند. به سادگی می‌توان گفت که آنها ترسناک هستند.
و طبق گفته رهبران امنیتی که در حال نظارت بر چشم‌انداز دیپ‌فیک هستند، روند آینده این دسته تکنولوژی فقط ترسناک‌تر خواهد شد. فناوری به طور نمایی در حال توسعه است و تاکتیک‌های جدید تقلب هویتی با سرعت در حال ظهور هستند. هوش مصنوعی تولیدی، که بسیاری از مدیران امیدوار بودند یک مد زودگذر باشد، به تهدیدی روزافزون تبدیل شده است. و در حالی که ابزارهای تشخیص دیپ‌فیک مبتنی بر هوش مصنوعی در دسترس هستند، هیچ تضمینی وجود ندارد که آنها تدابیر حاکمیتی مربوط به داده‌های مشتری را که با سیاست‌های شرکتی همسو باشد، پیاده‌سازی کرده باشند.
گزارش IDology نگرانی گسترده‌ای درباره هوش مصنوعی تولیدی نشان می‌دهد
داده‌های جدید از IDology نور را بر روی “مقیاس صنعتی” تقلب‌هایی که با استفاده از هویت‌های مصنوعی ایجاد شده با هوش مصنوعی تولیدی انجام می‌شود، می‌افکند. گزارشی که این تحقیق را تبلیغ می‌کند، می‌گوید 45 درصد از فین‌تک‌ها در 12 ماه گذشته افزایش تقلب هویتی مصنوعی را گزارش کرده‌اند و نیمی از آنها نگرانند که GenAI هویت‌های مصنوعی قانع‌کننده‌تر و دیپ‌فیک‌های بهتری ایجاد کند.
طبق این گزارش، “GenAI به مجرمان راهی داده است تا سریع‌تر کار کنند، حملات را گسترش دهند و تقلب‌های فیشینگ و هویت‌های مصنوعی قابل باورتر بسازند.” و این فقط آغاز کار است: کسب‌وکارها حملات مبتنی بر هوش مصنوعی تولیدی را به عنوان روند غالب تقلب در 3 تا 5 سال آینده می‌بینند.
پاسخ IDology یک شعار آشنا است: “استفاده از هوش مصنوعی برای مبارزه با هوش مصنوعی”.
جیمز برونی، مدیرعامل GBG IDology می‌گوید: “این اعداد نشان‌دهنده نیاز به اقدام هستند، در حالی که Gen AI برای تشدید تاکتیک‌های تقلب استفاده می‌شود، توانایی آن برای بررسی سریع حجم زیادی از داده‌ها نیز می‌تواند برای فین‌تک‌ها مفید باشد و به آنها اجازه دهد هویت‌های معتبر را سریع‌تر تأسیس کنند و آن‌هایی را که ریسک بالایی دارند، شناسایی کنند. ترکیب قدرتمند هوش مصنوعی، تخصص انسانی در تقلب و همکاری بین بخشی صنعت به فین‌تک‌ها کمک خواهد کرد تا مشتریان را در زمان حال ارزیابی نموده، هویت آنها را تأیید کرده و تراکنش‌ها را در سطح سازمان و فراتر از آن نظارت نمایند تا از انواع سخت تشخیص تقلب مانند تقلب هویتی مصنوعی محافظت کنند.”
FS-ISAC طبقه‌بندی تهدیدات دیپ‌فیک را پیشنهاد می‌کند
ضربان دیپ‌فیک همچنان ادامه دارد. با انتشار گزارشی جدید از مرکز اطلاعات و تحلیل اشتراک خدمات مالی (FS-ISAC)، یک کنسرسیوم صنعتی متعهد شده است ریسک سایبری در بخش مالی جهانی را کاهش دهد. این گزارش که توسط گروه کاری ریسک هوش مصنوعی FS-ISAC تهیه شده است، می نویسد: “دیپ‌فیک‌ها در بخش مالی؛ درک تهدیدات، مدیریت ریسک‌ها” دسته‌بندی‌های گسترده‌ای و “زبان مشترکی از تهدیدات دیپ‌فیک و کنترل‌هایی برای مقابله با آنها” را ارائه می‌دهد.
مانند هر صنعتی، خدمات مالی زمینه خاص خود را برای تقلب دیپ‌فیک دارد. یکی از جدیدترین تکنیک‌های ترسناک، تقلب ویدئویی دیپ‌فیک CEO یا به طور کلی “تقلید C-suite” است. بیومتریک مشتریان هدف قرار می‌گیرد و بانک‌ها خود معدن طلایی برای کلاهبرداران هستند که تقلب مصرف‌کننده را مرتکب می‌شوند، اغلب از طریق سیستم‌های احراز هویت صوتی انجام می‌شود. زیرساخت ممکن است مورد حمله قرار گیرد و مدل‌های تشخیص دیپ‌فیک خود نیز اغلب هدف قرار می‌گیرند.
خطرات متنوع هستند از جمله: بازارهای بی‌ثبات، نقض داده‌ای پرهزینه وتحقیر منجر به آسیب به شهرت افراد و سازمان ها.
محتوای اصلی مقاله IDology طبقه‌بندی تهدیدات دیپ‌فیک است که تهدیدات سازمان‌ها را بر اساس دسته‌بندی تقسیم‌بندی می‌کند.
“طبقه‌بندی تهدیدات دیپ‌فیک FS-ISAC دو موضوع را پوشش می‌دهد”،
مقاله می‌نویسد:”شش تهدیدی که شرکت‌های خدمات مالی با آن مواجه هستند” و “سه مسیر حمله اصلی هدفمند بر فناوری‌هایی که دیپ‌فیک‌ها را تشخیص داده و پیشگیری می‌کنند.” هر دسته تعریف‌شده دارای چند زیرمجموعه است که با هم نمای کلی از اکوسیستم تقلب دیپ‌فیک ارائه می‌دهند.
درک انواع مختلف تهدیداتی که توسط دیپ‌فیک‌ها مطرح می‌شود و نحوه طبقه‌بندی آنها نوع کنترل‌هایی را که برای دفاع مناسب‌ترین هستند روشن می‌کند”،
مقاله در ادامه می نویسد: “مؤسسات خدمات مالی باید مدل سازی کامل تهدید را برای هر یک از دسته‌بندی‌های تهدید انجام دهند.” جدول مربوطه‌ای از مکانیزم‌های کنترل تصویر کلی را کامل می‌کند.
FS-ISAC بیان می‌کند که مبارزه با دیپ‌فیک‌ها نیازمند همکاری، هوشیاری و چابکی خواهد بود. “در حالی که تهدید ناشی از دیپ‌فیک‌ها برای مؤسسات مالی قابل توجه و در حال تحول است، رویکرد پیشگیرانه چندوجهی به امنیت می‌تواند این خطرات را به طور قابل توجهی کاهش دهد. مسیر پیش رو در بهبود مستمر فناوری‌های تشخیص نهفته است، همراه با شیوه‌های امنیت قوی و برنامه‌های آگاهی جامع.”
تقلب پیشرفته دیپ‌فیک به زودی همه مادران را فریب خواهد داد
نظرات آمده در مقاله‌ای از Fortune.com درباره تهدید دیپ‌فیک از رؤسای سایبری SoftBank، Mastercard و Anthropic نشان می دهد اینان معتقدند تشخیص این وضعیت ناامیدکننده است و نشان‌دهنده ورود ما به یک “جنگ سرد هوش مصنوعی” است.
گری هایسلپ، مدیر امنیت شرکت سرمایه گذاری SoftBank می‌گوید: “مجرمان بسیار سریع حرکت می‌کنند و از هوش مصنوعی برای ایجاد انواع جدید تهدیدات و روش‌هایی برای کسب درآمد استفاده می‌کنند. این موضوع باعث ایجاد نقض‌ها و حوادث مختلف شده است که ما را مجبور به توسعه فناوری‌های جدید کرده است.”
هر چند او درباره سرعت ورود فناوری‌های جدید AI به بازار می گوید: “این نوع فناوری به نوعی مانند یک موج جزر و مد است.”
تشخیص تقلب نیز در حال بهبود است، اما شرکت‌ها نگرانی‌هایی درباره این که چه چیزی باید توسط فروشندگان AI به عنوان شخص ثالث انجام شود دارند.
هایسلپ ادامه می دهد: شما “باید کمی پارانویا داشته باشید” تا ارزیابی کنید کدام ابزارها و خدمات باید در اکوسیستم امنیت یک شرکت ادغام شوند. برخی محصولات خطر غیرقابل قبولی خواهند داشت، به ویژه در صنایع با مقررات سخت مانند مراقبت‌های بهداشتی.
در همین حال، الیسّا عبدالله، معاون CSO در Mastercard گفت تقلب‌های دیپ‌فیکی بهتر و متنوع‌تر شده‌اند. او یک تکنیک حمله نوظهور را توصیف کرد که در آن عمیق‌ترین صداها و تصاویر AI به عنوان غریبه‌هایی از یک برند مورد اعتماد مانند نماینده مرکز تماس معرفی می‌شوند.
عبدالله گفت: “آنها با شما تماس خواهند گرفت و خواهند گفت: “ما نیاز داریم شما را وارد سیستم خود کنیم” و درخواست 20 دلار خواهند کرد تا “هشدار تقلب” موجود در حساب من حذف شود.” او ادامه داد: “دیگر درخواست 20 میلیارد دلار بیت کوین نیست بلکه 20 دلار از 1000 نفر است – مبالغ کوچک که حتی افرادی مانند مادر من هم خوشحال خواهند شد بگویند “بگذارید فقط این مبلغ را بدهم.””