اخلاق در deepfake

وقتی یه ویدیو از چهرهٔ یه سیاستمدار ایرانی می‌بینی که چیزی می‌گه که هرگز نگفته، یا یه عکس از یه همکلاسیت پخش می‌شه که اصلاً واقعی نیست — اون deepfake است. این فناوری دیگه مخصوص هالیوود نیست؛ روی گوشی هرکسی قابل اجراست. ولی «می‌شه» به این معنا نیست که «باید». این مقاله نه درباره فناوری، بلکه درباره خطوط قرمز اخلاقی deepfake نوشته شده.

deepfake چیست و چرا الان مهم شده؟

Deepfake به محتوای مصنوعی گفته می‌شه که توسط هوش مصنوعی ساخته شده و چهره، صدا، یا هر دو یه شخص واقعی رو تقلید می‌کنه. فناوری زیرینش در اصل generative adversarial network (GAN) بود؛ الان مدل‌های diffusion و lip-sync مثل Wav2Lip هم استفاده می‌شن.

چرا الان حساس‌تر از قبله؟ چون:

• کیفیت به حدی رسیده که گاهی نمی‌شه تشخیص داد
• هزینه به صفر رسیده — ابزارهای رایگان موجودن
• سرعت زیاد شده — در چند دقیقه یه ویدیو می‌شه ساخت
• توزیع آسان شده — واتساپ و تلگرام به‌عنوان amplifier عمل می‌کنن

کاربردهای مشروع

قبل از رفتن به مشکلات، صادقانه بگیم که deepfake کاربردهای کاملاً قانونی و مفید هم داره:

سینما و سرگرمی: بازسازی چهرهٔ بازیگران درگذشته در فیلم (با رضایت ورثه)، جوان‌سازی چهرهٔ بازیگران، جایگزین کردن stuntman در نماهای خطرناک.

آموزش: شبیه‌سازی مکالمه با شخصیت‌های تاریخی در بازی‌های آموزشی.

دسترس‌پذیری: ساخت محتوای چندزبانه با لب‌سینک — مثلاً یه سخنرانی که همزمان به فارسی لب‌سینک می‌شه.

بیان هنری: آثار هنری و پارودی که هدف انتقاد سازنده دارن و هویت‌شون مشخصه.

این‌ها مشکل ندارن. مشکل جایی شروع می‌شه که رضایت، حقیقت، یا هویت نقض می‌شن.

خطوط قرمز — کجا مشکل اخلاقی پیدا می‌شه؟

۱. محتوای جنسی بدون رضایت (NCII)

این جدی‌ترین و رایج‌ترین سوء استفاده است. قرار دادن چهرهٔ کسی روی محتوای جنسی بدون رضایتش، یه نوع آزار جنسی دیجیتال است. در بریتانیا این جرم کیفری است؛ در بسیاری از ایالت‌های آمریکا هم قانون دارد. در ایران قانون صریح خاصی وجود ندارد ولی تحت قوانین جرائم اینترنتی قابل پیگیری است.

آمار تأسف‌بار: مطالعه‌ای که Sensity AI انجام داده نشون می‌ده بیش از ۹۰٪ deepfake‌های اینترنتی در همین دسته‌ان. اکثر قربانیان زنان هستن.

۲. اطلاعات جعلی سیاسی

یه ویدیوی جعلی از یه مقام دولتی که می‌گه «مردم آرام باشید» یا «دشمن حمله کرده» می‌تونه بحران واقعی ایجاد کنه. این «information warfare» جدید است.

مثال واقعی: در جریان انتخابات‌های مختلف، deepfake‌هایی از نامزدها ساخته شد که گفته‌های جعلی رو به آن‌ها نسبت می‌داد. حتی اگه بعداً رد بشن، «اثر ماندگار» دارن — مغز انسان چیزی که دیده رو فراموش نمی‌کنه.

۳. کلاهبرداری مالی

Deepfake صوتی الان یکی از ابزارهای کلاهبرداری است. یه نمونه واقعی: یه مدیر مالی در هنگ‌کنگ سال ۲۰۲۴ فریب خورد و ۲۵ میلیون دلار منتقل کرد چون در یه ویدیو کال «مدیرعامل شرکت» دستور داد — که البته تماماً deepfake بود.

در ایران این نوع کلاهبرداری‌ها هم شروع شدن — ادعای ارتباط با «شخصیت سرشناس» یا «مقام‌نظامی» با صدا/تصویر جعلی.

۴. آسیب به چهرهٔ عمومی غیرسیاسی

ساختن deepfake از یه شخص عادی — یه معلم، یه پزشک، یه فعال مدنی — برای بی‌اعتبار کردنشون یا آزار و اذیت.

معادلهٔ رضایت + شفافیت

یه راه ساده برای فکر کردن به اخلاق deepfake:

رضایت: آیا شخصی که تصویرش استفاده می‌شه خبر داره و موافقه؟ شفافیت: آیا مخاطب می‌دونه این محتوا مصنوعیه؟

اگه هر دو «بله» باشه، احتمالاً مشکل اخلاقی نداریم. اگه یکی «نه» باشه، باید خیلی محتاط بود. اگه هر دو «نه» باشه، ما وارد قلمرو آسیب هستیم.

تشخیص deepfake — آیا ممکنه؟

برای یه کاربر عادی چند نشانه وجود داره:

• چشمک زدن غیرطبیعی — مدل‌های قدیمی‌تر این رو درست نمی‌کردن؛ جدیدتر‌ها بهترن
• لبه‌های صورت — مخصوصاً موها، گوش‌ها، و جایی که صورت به پس‌زمینه می‌رسه
• حرکت غیرطبیعی — گاهی گردن، دندان‌ها، یا دست‌ها عجیب به نظر می‌رسن
• صدا/تصویر ناهماهنگ — تأخیر بین حرکت لب و صدا

ابزارهایی مثل Microsoft Video Authenticator، Deepware Scanner، و Reality Defender برای تشخیص وجود دارن — ولی هیچ‌کدام ۱۰۰٪ دقیق نیستن.

قانون طلایی: اگه یه محتوا خیلی عجیب یا خیلی به‌موقع به نظر می‌رسه، قبل از share کردن تحقیق کن.

چه قوانینی وجود دارد؟

آمریکا: در ۲۰۲۴ قانون DEFIANCE Act امضا شد که deepfake جنسی رو جرم فدرال کرد. بسیاری از ایالت‌ها قوانین جداگانه دارن.

اتحادیهٔ اروپا: دستورالعمل AI Act (۲۰۲۴) الزام labeling برای محتوای AI-generated رو داره.

چین: از سال ۲۰۲۲ مقررات اجباری labeling deepfake دارن.

ایران: قانون صریح خاصی برای deepfake وجود نداره، ولی قوانین جرائم رایانه‌ای (مصوب ۱۳۸۸) و قانون حمایت از حریم خصوصی پوشش نسبی می‌دن.

مسئولیت پلتفرم‌ها

یوتیوب، متا، و تیک‌تاک الان سیاست‌های حذف deepfake دارن — ولی اجرا ناقصه. واتساپ و تلگرام به دلیل encryption محتوا، اصلاً این قابلیت رو ندارن.

مسئولیت اخلاقی از «پلتفرم باید حذف کنه» فراتر می‌ره. هرکسی که deepfake مضر رو share می‌کنه، حتی اگه خودش نساخته باشه، در زنجیرهٔ آسیب شریکه.

جمع‌بندی

فناوری deepfake بی‌طرف نیست — اثرش کاملاً به نیت استفاده‌کننده وابسته‌ست. ولی چون «قدرت» همیشه با «مسئولیت» نیست، قانون و هنجارهای اجتماعی باید خلأ رو پر کنن. در ایران که زیرساخت قانونی هنوز ضعیفه، آگاهی عمومی مهم‌تر از هرجای دیگه‌ایه.

همچنین بخوان

• تولید تصویر با هوش مصنوعی چیست؟
• اخلاق هوش مصنوعی — کجای این خط هستیم؟
• Lipsync و face swap — ابزارها و خطرات
• شناخت پیوسته در هوش مصنوعی