جوان آنلاین: علیرضا سلیمانی نژاد فعال رسانه در تلگرام نوشت:
تصور کنید ویدیویی ببینید که رئیس‌جمهوری در آن می‌گوید آغازگر یک جنگ بوده، در حالی که چنین جنگی هرگز اتفاق نیفتاده است. چهره، صدا، لحن و نور همه‌چیز طبیعی به نظر می‌رسد. بیننده نمی‌تواند با اطمینان بگوید این تصویر واقعی است یا ساختگی. چنین محتوایی به‌وسیله هوش مصنوعی تولید شده است، نه با دوربین و بازیگر.
در واقع فناوری‌های هوش مصنوعی توانسته‌اند به توانایی‌هایی دست پیدا کنند که تا چند سال پیش غیرقابل‌تصور بود. مدل‌هایی مانند «GPT» می‌توانند متنی بنویسند که بسیار شبیه به نوشته‌های انسانی باشد. این مدل‌ها توان ساختن چهره‌هایی را دارند که هیچ‌گاه وجود خارجی نداشته‌اند. آنها می‌توانند صدا تولید کنند، ویدیو بسازند و حتی سناریو‌های پیچیده طراحی کنند. همه‌چیز طوری ساخته می‌شود که گویی واقعی است، اما حقیقتی در آن وجود ندارد.
در دنیای امروز نمونه‌های این پدیده به‌سرعت در حال افزایش است. اخیرا ویدیویی از رئیس‌جمهور روسیه منتشر شد که در آن سخنانی توهین‌آمیز می‌گفت. بررسی‌ها نشان داد این ویدیو ساختگی و با استفاده از فناوری دیپ‌فیک تولید شده است. در اتفاقی دیگر، هنگام سیل اخیر در پاکستان، فیلمی پخش شد که ربات‌هایی را در حال نجات کودکان از زیر آوار نشان می‌داد. بعد‌ها مشخص شد که این صحنه‌ها نیز محصول نرم‌افزار‌های هوش مصنوعی بوده‌اند.
حال با گسترش این فناوری‌ها، شرکت‌های سازنده به دنبال راه‌هایی هستند تا بتوان محتوای جعلی را از واقعی تشخیص داد. برخی از این راهکار‌ها شامل نشانه‌های نامرئی در تصاویر، کد‌های دیجیتال در لایه‌های گرافیکی و تحلیل داده‌های خام فایل‌ها است. البته این روش‌ها می‌توانند به کارشناسان کمک کنند، اما کافی نیستند. در واقع جامعه نیز باید آماده شود و توانایی بررسی محتوای دریافتی را در خود تقویت کند. آموزش رسانه‌ای و استفاده از منابع معتبر از جمله نیاز‌های ضروری عصر دیجیتال است.
ما باید بپذیریم که هوش مصنوعی وارد زندگی روزمره شده و جایگاه خود را در رسانه‌ها، تصمیم‌گیری‌ها و تعاملات اجتماعی پیدا کرده است. در این بین اگر جامعه نتواند تفاوت میان واقعیت و جعل را تشخیص دهد، حتی گزارش‌های رسمی، سخنان تحلیل‌گران و اخبار معتبر نیز زیر سؤال می‌رود. اطمینان عمومی نسبت به حقیقت دچار تزلزل می‌شود و مرجعیت رسانه‌ای آسیب می‌بیند.
در اینجا مسئله اصلی این است که آیا می‌توان به آنچه در فضای دیجیتال می‌بینیم اعتماد کرد یا نه؟ شباهت زیاد میان تولیدات انسانی و ماشینی باعث شده روش‌های فنی به‌تنهایی کارآمد نباشند. در این شرایط، نیاز به بازسازی اعتماد عمومی احساس می‌شود؛ هم در رسانه‌ها، هم در نهاد‌های رسمی، و هم در ذهن مردم.
واقعیت آن است که هوش مصنوعی زمین بازی را تغییر داده است. اما نوشتن قواعد این بازی به عهده انسان باقی مانده. اگر انسان این وظیفه را جدی نگیرد، علاوه بر اینکه تولیدات جعلی افزایش می‌یابد، حتی شیوه تشخیص حقیقت هم دچار فروپاشی می‌شود. راه نجات در تکیه بر تحلیل، دقت و آگاهی است؛ نه در پذیرش ساده‌دلانه هر آنچه دیده یا شنیده می‌شود.
