وقتی هوش مصنوعی ضامن دروغ میشود
ابزارهای هوش مصنوعی که قرار بود تصویر جعلی را از واقعی جدا کنند، در موارد متعدد و مستند، دقیقا کار عکس را کردهاند
تصویر یا ویدیوی ساختگی را «تاییدشده» و «واقعی» اعلام کردهاند. طبق گزارش بینالمللی ایمنی هوش مصنوعی در سال ۲۰۲۶، حدود شصتوهشت درصد از دیپفیکهای امروزی تقریبا غیرقابلتشخیصاند، و در آزمایشهای کنترلشده، انسانها در شناساییشان عملکردی نزدیک به حدس تصادفی داشتهاند. وقتی تشخیص برای خود انسان اینقدر سخت شده، به ابزار خودکار سپردنش قرار بود راهحل باشد؛ اما دادههای همین سال نشان میدهد خود ابزار هم همان مشکل را دارد، و گاهی آن را تشدید میکند.
نمونههایی که خودشان تیتر خبر شدند
مارس ۲۰۲۶، ویدیوهایی کاملا ساختگی از حمله موشکی ایران به تلآویو در ایکس منتشر شد و میلیونها بار به اشتراک گذاشته شد. وقتی کاربران از گروک، دستیار هوش مصنوعی همان پلتفرم، خواستند صحتش را بررسی کند، گروک نهتنها ویدیوها را واقعی اعلام کرد، بلکه برای اثبات حرفش منبع هم ساخت: به رویترز و سیانان استناد کرد، در حالی که هیچکدام چنین گزارشی نداشتند. یورونیوز این مورد را ششم مارس مستند کرد.
همان ماه، در انتخابات میاندورهای آمریکا، یک کمیته حزبی ویدیویی از نامزد رقیب منتشر کرد که در آن حرفهایی میزد که هرگز نزده بود. برچسب «تولید هوش مصنوعی» روی ویدیو بود، اما با فونتی ریز و فقط برای چند ثانیه. سیانان این را اولین دیپفیک سیاسی توصیف کرد که یک نامزد را برای کل طول یک کلیپ بهطور واقعگرایانه بازسازی کرده بود.
دو ماه بعد، تصویری از نخستوزیر ایتالیا جورجا ملونی در وضعیتی ساختگی در فضای مجازی پخش شد. رویترز و آسوشیتدپرس تاییدش کردند که تصویر تولید هوش مصنوعی است، اما تا پیش از آن، خود تصویر مدتزمانی طولانی بدون هشدار در گردش بود. این سه مورد، از سه حوزه کاملا متفاوت جنگ، انتخابات، شخصیت سیاسی یک ویژگی مشترک دارند: تشخیص جعلیبودن یا رد نکردن بهموقع آن، در نقطهای که قرار بود هوش مصنوعی کمک کند، شکست خورد.
چرا این اتفاق میافتد
فنیترین توضیح این است که مدلهای زبانی، حتی وقتی وظیفهشان راستیآزمایی است، بر پایه احتمال ادامه متن کار میکنند، نه بر پایه تطبیق با یک پایگاهداده مستقل از واقعیت. وقتی از گروک درباره نحوه تایید تصویر پرسیده شد، پاسخش این بود که به تشخیص الگو از دادههای آموزشی و مقایسه چندمنبعی متکی است، نه ابزار آزمایشگاهی. یعنی خروجیاش به همان اندازه معتبر است که دادههای ورودیاش متوازن باشند؛ اگر نباشند، جواب هم کج میشود.
دومین دلیل، مسابقه تسلیحاتی بین تولید و تشخیص است. پژوهشگران این را «بازی موش و گربه» هوش مصنوعی مینامند: هر بار ابزار تشخیص دقیقتر میشود، مولدهای دیپفیک هم بهروزرسانی میشوند و گاهی از همان خروجی ابزارهای تشخیص بهعنوان داده تمرینی ضدحمله استفاده میکنند تا دقیقا از زیر همان روش رد شوند. نتیجه این است که هیچ ابزار تشخیص ثابتی نمیتواند برای همیشه موثر بماند.
سومین دلیل، ناهمگونی شدید بین ابزارهاست. در آزمایشی که پانزده تصویر کاملا واقعی به چند سامانه تشخیص جعل داده شد، یکی از ابزارها که ادعای «دقت پیشرو در صنعت» داشت، شش تصویر واقعی را اشتباها جعلی اعلام کرد — چهل درصد خطا — در حالی که دو ابزار دیگر هر پانزده تصویر را درست تشخیص دادند. یعنی مشکل فقط تایید غلط جعلیات نیست؛ رد غلط واقعیات هم به همان اندازه رایج است، و هیچ استاندارد مشترکی بین ابزارها وجود ندارد.
چهارمین لایه، تکیه این مدلها به منابعی است که خودشان قابلدستکاریاند. بررسی نیوزگارد نشان داد وقتی از چتباتها درباره ادعاهای نادرست دوره جنگ ایران پرسیده شد، برخی از آنها از جمله یک مدل اروپایی در بیش از نیمی از پاسخها همان ادعای نادرست را تکرار کردند. مشکل فقط تشخیص تصویر نیست؛ مدلهایی که قرار است داور باشند، خودشان گاهی ناقل روایت نادرستاند.
راهحلی که دارد جای «شکار هر جعل» را میگیرد
نتیجه عملی این وضعیت، تغییر جهت در صنعت است. بهجای این که هر تصویر مشکوک را بعد از انتشار بررسی کنند کاری که با سرعت تولید محتوای جعلی دیگر ممکن نیست رویکرد تازه این است که اصالت محتوای واقعی از لحظه تولید ثبت شود: واترمارک رمزنگاریشده، فراداده تاییدشده، و استانداردهایی مثل C2PA که مبدأ یک تصویر یا ویدیو را از دوربین تا انتشار دنبالپذیر میکنند. این رویکرد بار اثبات را از دوش ثابت کن جعلی نیست به «از ابتدا مدرک اصالت داشته باش» منتقل میکند.
جمعبندی
هوش مصنوعی امروز نه یک داور بیطرف، بلکه یک شرکتکننده در همان بازی است که قرار بود داوریاش کند: هم دیپفیک تولید میکند، هم گاهی دیپفیک را تایید میکند، هم گاهی تصویر واقعی را رد میکند. تا وقتی تشخیص روی حدس آماری بنا شده، نه مدرک قابلردیابی، این الگو تکرار خواهد شد؛ راهحل واقعی نه در «هوشمندترکردن» ابزار تشخیص، بلکه در تغییر جایی است که اصلا اثبات از آن شروع میشود.
مهمترین نامی که در میان تیترها نبود
هجدهم دی ۱۴۰۴، محمدپارسا امینی هفدهساله در فردیس کرج کشته شد؛ به گزارش ایراناینترنشنال، با شلیک گلوله جنگی نیروهای سرکوبگر به کمر. ویدیوهای منتشرشده در شبکههای اجتماعی گوشههایی از زندگی، خاکسپاری و مراسم یادبودش را نشان میداد. از جملههای معروفش همیشه میگفت: «یه کاری میکنم که بهم افتخار کنید». در روزهایی که تیترها از جنگ و راستیآزمایی ماشینی آن میگفتند، نام او در هیچ تیتری نیامد.
همین الگو در صفحات دیگر
رد پای این ماجرا در پروندههای دیپفیک با منبع هر مورد ثبت شده است؛ شبکه پریزنبریک همان عملیات را از سوی دیگر نشان میدهد؛ و جایگاه این جنگ در خط زمانیاش در کالبدشکافی جنگ ۲۰۲۶ پیداست. اگر بخواهید همین آزمون را برای زبان گزارشهای جنگی به کار ببرید، جعبهابزار تیتر جنگی پرسشهایش را دارد؛ و راهنمای بقای توشه برای روزی نوشته شده که شبکه از کار بیفتد و هیچ ابزار آنلاینی در دسترس نباشد.
