کارآگاهان دیپفیک
انواع دیپفیکها و نقاط ضعف رایج را بررسی میکنند
طبق گزارشی جدید از سرویس تحقیقات کنگره (CRS)، بازوی تحقیقی کنگره.۱۱۹ که به زودی تشکیل میشود، با تعدادی از مسائل مربوط به تنظیم و نظارت بر بیومتریکها مواجه خواهد شد که در نهایت باید به آنها رسیدگی کند،
به گفته CRS از جمله مسائلی که در کنگره جدید باید به آنها پرداخته شود، استفاده از شناسایی چهره توسط نیروهای انتظامی، جمعآوری بیومتریکها از مسافران ورودی و خارج شده از ایالات متحده، رسانههای اجتماعی و حریم خصوصی دادههای مصرفکننده است،.
به گفته گزارش CRS “در حال حاضر هیچ قانون فدرالی وجود ندارد که به طور خاص استفاده از فناوری شناسایی چهره (FRT) توسط نیروهای انتظامی را هماهنگ کند.” بنابراین، استفاده از شناسایی چهره توسط نیروهای انتظامی همچنان موضوع توجه مداوم کنگره است،.
CRS همچنین گفته است که “چندین نگرانی کلی مرتبط با هوش مصنوعی در برخی بخش ها وجود دارد” که “میتواند مورد توجه” جلسه جدید کنگره قرار گیرد. CRS خاطرنشان کرد که “هیچ چارچوب قانونی خاصی در سطح فدرال وجود ندارد که استفاده از رسانههای اجتماعی توسط نیروهای انتظامی را هماهنگ کند”، موضوعی که به طور فزایندهای نگرانکننده و مورد مناقشه است و قطعاً باید به آن پرداخته شود.
واقعاً. دهها لایحه در کنگره، معرفی شده که به مسئله حریم خصوصی و مسائل مرتبط با استفاده از بیومتریکها پرداخته است، اما به جایی نرسیده است، در هرحالی که لازم است به آنها رسیدگی شود.
اما با توجه به تغییرات و ائتلافهای سیاسی احتمالی که رخ خواهد داد و تا زمانی که کنگره جدید در ماه ژانویه سوگند یاد کند، مشخص نیست که این مسائل چگونه مورد بررسی قرار خواهند گرفت.
CRS گفت که “پیشرفتهای سریع در فناوریهای اطلاعاتی مسائل متعددی را برای سیاستگذاران کنگره ایجاد میکند، از جمله مسائل مرتبط با هوش مصنوعی، امنیت سایبری، فناوریهای بزرگ و پلتفرمهای آنلاین، رسانههای اجتماعی، حریم خصوصی دادههای مصرفکننده، کودکان در اینترنت، علم و فناوری اطلاعات کوانتومی، استفاده از فناوریهای اطلاعاتی و رسانههای اجتماعی توسط نیروهای انتظامی و فناوریهای بیومتریک.”
در خصوص شناسایی چهره، گزارش مسائل سیاستی CRS میگوید: “استفاده از FRT توسط نیروهای انتظامی موضوع توجه مداوم کنگره بوده است”، و اینکه “برخی از نگرانیهای مطرح شده حول دقت فناوری، از جمله تعصبات بالقوه نژادی، جنسیتی و سنی؛ فرآیند جمعآوری، نگهداری و تأمین امنیت تصاویر چهره؛ اطلاعرسانی عمومی در مورد استفاده از شناسایی چهره و سایر فناوریهای تصویربرداری؛ و سیاستها یا استانداردهایی که استفاده از این فناوری توسط آژانسهای انتظامی را تنظیم میکند، میچرخد.”
CRS گفت “برخی از این نگرانیها در اقداماتی مانند تلاشهای فدرال، ایالتی و شهری برای ممنوعیت یا محدود کردن استفاده از FRT توسط آژانسهای انتظامی متجلی شده است. علاوه بر این، برخی از شرکتهای تولیدکننده نرمافزار شناسایی چهره موانع جدیدی برای استفاده از فناوریهای خود توسط نیروهای انتظامی قرار دادهاند.”
در حالی که هیچ قانونی در سطح فدرال وجود ندارد که استفاده از FRT توسط نیروهای انتظامی را تنظیم کند، CRS گفت “راهنماها و توصیههایی در مورد استفاده از FRT توسط نیروهای انتظامی توسط گروه کاری علمی شناسایی چهره (FISWG) تولید شده است.”
FISWG یکی از گروههای کاری علمی مختلف است که از سازمان کمیتههای علمی در زمینه علوم جنایی تحت نظارت مؤسسه ملی استانداردها و فناوری حمایت میکند، که توسعه استانداردها را تسهیل میکند، از جمله برای FRT.
FISWG تعدادی از راهنماها و توصیههای مرتبط با FRT را برای متخصصان علوم جنایی منتشر کرده است. علاوه بر این، FBI یک راهنمای سیاست و اجرای استفاده از سیستم شناسایی نسل بعدی–سیستم عکس بین ایالتی (NGI-IPS) را حفظ میکند. کاربران مجاز NGI-IPS ملزم به پیروی از این سیاستها و همچنین برخی از استانداردهای FISWG هستند، به گفته CRS.
اداره فدرال تحقیقات (افبیآی) در سال ۲۰۰۹ گروه کاری FISWG را راهاندازی کرد. این گروه در ابتدا تحت نظارت افبیآی بود و مأموریت آن توسعه استانداردها، راهنماها و بهترین شیوهها برای مقایسههای مبتنی بر تصویر ویژگیهای صورت انسان است، پیشنهاداتی برای فعالیتهای توسعه تحقیقاتی ارائه میدهد و وضعیت علم را به شیوهای اخلاقی ارتقا میدهد.
علاوه بر سیستم NGI-IPS که عمدتاً از اجرای قانون در ایالتها به صورت محلی حمایت میکند، افبیآی همچنین واحد خدمات تحلیل، مقایسه و ارزیابی صورت (FACE) را مدیریت میکند که از تحقیقات افبیآی پشتیبانی میکند.
استفاده از بیومتریکها توسط CBP موضوع دیگری است که برای کنگره نگرانکننده است. CRS گفت: “مقامات اجرای مرزی از تکنولوژی شناسایی چهره (FRT) برای تأیید هویت استفاده میکنند، به عنوان مثال، استفاده CBP از FRT برای تأیید هویت مسافران به عنوان بخشی از سیستم کنترل ورود و خروج بیومتریک برای مسافران غیر شهروند به داخل و خارج از کشور.” بهره می برد.
CRS گفت در حالی که کنگره “مدتهاست که به تکمیل جزء خروجی” سیستم ورود و خروج بیومتریک وزارت امنیت میهن علاقهمند است … برخی سیاستگذاران نگرانیهایی را ابراز کردهاند” درباره چگونگی اطلاعرسانی به شهروندان آمریکایی در خصوص انصراف از جمعآوری دادههای بیومتریک در بنادر ورودی (POE).
CBP از تمام مسافران departing ایالات متحده تصاویری از صورت جمعآوری میکند که از آن برای تأیید هویت هر مسافر استفاده میکند. CBP مجاز است این اطلاعات را طبق قانون امنیت مرزی و اصلاحات ویزا در سال ۲۰۰۲ جمعآوری کند. با این حال، شهروندان آمریکایی که نمیخواهند در این جمعآوری بیومتریک شرکت کنند حق دارند از یک افسر CBP یا نماینده یک شرکت هواپیمایی یا فرودگاه درخواست کنند که به آنها یک روش جایگزین برای تأیید هویت و مدارکشان ارائه دهند. CBP تمام عکسهای شهروندان آمریکایی را پس از تأیید هویت آنها دور میریزد.
گزارش CRS اشاره کرد که “برخی سیاستگذاران نگران دقت FRT و امنیت دادههای بیومتریک، از جمله ذخیرهسازی دادهها و حسابرسی شرکای خصوصی و پیمانکارانی هستند که این دادهها را جمعآوری میکنند.”
در مورد هوش مصنوعی، در حالی که “پتانسیل مزایا و فرصتهایی را دارد، مانند بهبود تصمیمگیری انسانی و بهینهسازی عملکرد برای وظایف پیچیده”، CRS اشاره کرد که “همچنین چالشها و دامهایی را ارائه میدهد، مانند تداوم یا تشدید سوگیری و شکست به شیوههای غیرمنتظره.”
CRS گفت که “چندین نگرانی کلی [وجود دارد] که شامل سوالاتی در مورد … توسعه استانداردها و پروتکلهای آزمایش و قابلیتهای حسابرسی الگوریتمی برای سیستمهای هوش مصنوعی” و “گنجاندن ملاحظات اخلاقی، حریم خصوصی، امنیت، شفافیت و پاسخگویی در سیستمهای هوش مصنوعی، از جمله برنامههایی مانند تکنولوژیهای شناسایی صورت” است.
CRS گفت:”کنگره ممکن است نگرانیهای دیگری در مورد امنیت ملی درباره استفاده احتمالی از فناوریهای هوش مصنوعی، مانند پتانسیل fakeهای عمیق برای تأثیرگذاری بر انتخابات و کمرنگ کردن اعتماد عمومی، تعادل تصمیمگیری انسانی و خودکار در عملیات نظامی، و نگرانیها درباره انتشار نتایج تحقیقات هوش مصنوعی توسعهیافته در ایالات متحده و تحلیلهای تأمین مالی شده توسط دولت به رقبا یا دشمنان بالقوه را مطرح کند”.
استفاده از رسانههای اجتماعی توسط اجرای قانون و چگونگی برخورد شرکتهای رسانههای اجتماعی با حریم خصوصی و موضوعات مرتبط نیز در کنگره جدید مورد بررسی قرار خواهد گرفت.
CRS گفت:”هیچ قانونی در سطح فدرال وجود ندارد که بهطور خاص بر استفاده از اطلاعات بهدستآمده از سایتهای رسانههای اجتماعی توسط سازمانهای اجرای قانون حاکم باشد، اما توانایی آنها در کسب یا استفاده از اطلاعات خاص ممکن است تحت تأثیر سیاستهای شرکتهای رسانههای اجتماعی، سیاستهای رسانههای اجتماعی خود سازمانهای اجرای قانون، و قوانین آیین دادرسی کیفری قرار گیرد. اجرای قانون ممکن است از پلتفرمهای رسانههای اجتماعی بخواهد که دسترسی به برخی اطلاعات محدود را از طریق حکم، احضاریه یا دستور دادگاه فراهم کنند.”
یادداشت سیاسی CRS اشاره کرد “در حالی که برخی پیشنهاد کردهاند که رسانههای اجتماعی میتوانند مقدار زیادی اطلاعات برای تحلیلگران اجرای قانون و اطلاعاتی فراهم کنند، برخی ناظران اشاره کردهاند که ممکن است سازمانها تمایلی به تحلیل منظم پستهای عمومی رسانههای اجتماعی به دلایل مختلف نداشته باشند، از جمله اینکه ممکن است به عنوان تجسس بر مردم آمریکا در نظر گرفته شود و در نتیجه ممکن است آزادی بیان تحت حفاظت متمم اول را کاهش دهد”.
علاوه بر این، CRS گفت “برخی ناظران [همچنین] سوال کردهاند که آیا ماهیت رسانههای اجتماعی ممکن است آن را در یک دسته کیفی متفاوت از استفاده اجرای قانون از دیگر ابزارهای تحقیقاتی قرار دهد و پیشنهاد کردهاند که باید مرزهای بهبودی در مورد عملیات اجرای قانون که از رسانههای اجتماعی استفاده میکنند، وجود داشته باشد.”
به عنوان مثال، CRS گفت: “برخی پیشنهاد کردهاند که سازمانهای اجرای قانون باید سیاستهای مکتوب و در دسترس عموم در مورد استفاده از رسانههای اجتماعی داشته باشند؛ آنها باید قبل از استفاده از این فضاهای آنلاین تأیید محلی دولت را کسب کنند؛ آنها باید تأیید قضایی برای انجام عملیات مخفی با استفاده از رسانههای اجتماعی دریافت کنند؛ باید محدودیتهایی برای تماس اجرای قانون با افراد زیر سن قانونی از طریق رسانههای اجتماعی وجود داشته باشد؛ و استفاده از رسانههای اجتماعی توسط اجرای قانون باید مورد حسابرسی قرار گیرد.”
اینها همه “انواع پیشنهادات” هستند که “میتواند موضوع بحث” در کنگره باشد.
CRS گفت که چگونه شرکتهای بزرگ رسانههای اجتماعی مانند Alphabet، Amazon، Apple، Meta، “و در برخی مواقع Microsoft … دادههای مصرفکننده را جمعآوری و استفاده میکنند و اینکه آیا باید حفاظتهای اضافی برای محتوای دسترسی یافته توسط افراد زیر سن قانونی اجرا شود” همه مسائلی هستند که در مورد تنظیمات فدرال حل نشدهاند.
CRS گفت:”برخی از اعضای کنگره همچنین علاقهمندی خود را به جنبههای دیگر پلتفرمهای رسانههای اجتماعی ابراز کردهاند”و این “شامل استفاده از الگوریتمها برای تقویت یا حذف محتوا، و خطرات امنیت ملی، حریم خصوصی دادهها و تأثیرات خارجی ناشی از TikTok است.”
در نهایت، CRS گفت که حریم خصوصی دادههای مصرفکننده همچنان یک موضوع برای کنگره باقی مانده است.
“برخی از شرکتها مقادیر زیادی از دادههای مصرفکننده را جمعآوری، پردازش و تحلیل میکنند، مانند رفتار کاربران در پلتفرم و اطلاعات شناسایی شخصی، از طریق پلتفرمهای آنلاین. این دادهها میتوانند برای اهداف مختلفی استفاده شوند، از جمله ارائه خدمات به مشتریان و کسب درآمد از ارسال تبلیغات هدفمند به افراد خاص. جمعآوری دادههای مصرفکننده نگرانیهایی در مورد حریم خصوصی دادههای مصرفکننده ایجاد کرده است و اینکه آیا قوانین موجود حریم خصوصی دادهها کافی هستند یا خیر.”
CRS اشاره کرد که کنگره 118 قانونی را تصویب کرده است که فروش، صدور مجوز یا به هر نحوی در دسترس قرار دادن دادههای حساس شناسایی شخصی یک فرد مقیم ایالات متحده به یک دشمن خارجی یا نهادی که تحت کنترل یک دشمن خارجی است را ممنوع میکند و اینکه برخی از لایحهها معرفی شدهاند “که قانون حریم خصوصی دادههای جامع را ایجاد میکند” در حالی که “چندین ایالت … قوانین جامع حریم خصوصی دادهها را تصویب کردهاند. برخی از این لایحههای فدرال و قوانین ایالتی به مصرفکنندگان حقوق خاصی، مانند حق دسترسی و حذف دادههای خود، و ایجاد الزامات برای شرکتها، مانند ارائه اطلاعیه در مورد شیوههای جمعآوری دادههایشان، اعطا میکنند.”
اینها همه مسائلی هستند که کنگره جدید در چند ماه آینده با آنها مواجه خواهد شد. نحوه عمل کنگره جدید موضوع دیگری است.