پامپ اند دامپ (Pump and Dump) یعنی چی و کلاه‌بردارها چطور فریب‌مون میدن؟ #رمزارز

چطور عکس‌های ساخته شده با هوش مصنوعی را تشخیص دهیم؟ (۱۱ نشانه و ابزار کاربردی) این روزها عکس‌های ساخته شده با هوش مصنوعی تقریبا همه‌جا را پر کرده‌اند، از اینستاگرام گرفته تا بیلبوردهای تبلیغاتی. ولی این «شاگرد نقاش تازه‌کار و پرادعا» هنوز تکلیفش با خودش معلوم نیست. یک روز خروجی‌ای می‌دهد که انگار داوینچی پشت سیستم نشسته، روز دیگر تصویری می‌سازد که شبیه کابوس‌های عصر جمعه است! در چنین فضایی اگر بلد نباشیم عکس واقعی را از تصویر ساخته‌شده با هوش مصنوعی تشخیص دهیم، خیلی راحت فریب می‌خوریم. در ادامه ۷ نشانه مهم و چند ابزار ساده را معرفی می‌کنیم که دست هوش مصنوعی را ظرف چند ثانیه رو می‌کنند. ‍۱. متن‌های به هم ریخته و نامفهوم اولین و ساده‌ترین جایی که هوش مصنوعی هنوز در آن لنگ می‌زند، «سواد خواندن و نوشتن» است. مدل‌های تصویری را می‌توانید شبیه دانش‌آموز تنبلی تصور کنید که از روی دست بغل‌دستی‌اش مشق می‌نویسد؛ اما چون معنی کلمات را نمی‌فهمد، فقط شکل حروف را نقاشی می‌کند و نه خودشان را. نتیجه چه می‌شود؟ حروف درهم‌وبرهم، کلمات بی‌معنی یا نوشته‌هایی که شبیه خط ناخوانای نسخه‌ی دکترهاست! این مشکل در عکس‌هایی که متن فارسی دارند بیشتر به چشم می‌آید؛ مثلا ChatGPT در این عکس نوشدارو را اشتباه نوشته است. مدل‌های جدیدتر مثل «جمنای» (Gemini) گوگل یا نسخه‌های آخر «میدجرنی» (Midjourney) کم‌کم دارند نوشتن را یاد می‌گیرند، اما هنوز هم سوتی می‌دهند. ۲. آناتومی و جزییات بدن یکی از بزرگ‌ترین چالش‌های این مدل‌ها، ترسیم درست دست‌ها و پاهاست. شاید در نگاه اول همه‌چیز عادی باشد، اما با کمی دقت می‌بینید سوژه بیچاره انگار از وسط یک آزمایش رادیواکتیو بیرون آمده: • انگشت‌هایی که از آرنج بیرون زده‌اند • مفصل‌هایی که در دنیای واقعی وجود ندارند • پاهایی که به شکل عجیبی در هم گره خورده‌اند یا زاویه‌های غیرممکن دارند به شکلِ قرار گرفتن اشیا در دست هم دقت کنید: موبایل، لیوان، دوربین و… در بسیاری از تصاویر ساخته‌شده با هوش مصنوعی، جسم انگار از لای انگشت‌ها عبور کرده یا دست با زاویه‌ای غیرطبیعی آن را گرفته. گاهی هم طول بازوها، انگشت‌ها یا پاها آن‌قدر بلند یا کوتاه است که با آناتومی واقعی بدن انسان جور درنمی‌آید. ۳. منطق تصویر قبل از اینکه یک تصویر را لایک کنیم یا با دیگران به‌اشتراک بگذاریم، چند ثانیه به آن خیره شویم و چند سوال ساده از خودمان بپرسیم: این صحنه چقدر محتمل است؟ آیا ترکیب زمان، مکان و سوژه‌ها طبیعی به نظر می‌رسد؟ مثلاً چقدر امکان دارد ده‌ها پرنده در یک فرم منظم هندسی از کنار برج میلاد رد شوند و همان لحظه کسی از آن‌ها عکس گرفته باشد؟ همه چیز بیش از حد کامل نیست؟ عکس‌های دنیای واقعی معمولاً جای خط و خش، شلوغی، کمی بی‌نظمی و نقص دارند. وقتی همه چیز مثل ویترین یک بوتیک لاکچری، منظم و مرتب و بی‌نقص است، باید کمی محتاط‌تر شویم. چشم‌تان کجا گیر می‌کند؟ مغز ما در پیدا کردن چیزهای ناهماهنگ فوق‌العاده عمل می‌کند. اگر چند ثانیه بیشتر به تصویر فرصت بدهیم، نگاه‌مان ناخودآگاه روی بخش‌هایی مکث می‌کند که «یک‌جایشان می‌لنگد». ۴. چهره زیبا؛ نگاه بی‌روح در چهره‌هایی که با هوش مصنوعی ساخته می‌شوند، معمولا نوعی کمال و «زیبایی آزاردهنده» می‌بینیم. پوست صورت سوژه‌ها عملا هیچ بافتی ندارد؛ نه منفذ پوستی، نه چروک ریز، نه حتی یک خال کوچک. همه‌چیز صیقلی و براق و «فتوشاپ‌-گونه» است؛ شبیه عروسک‌های پشت ویترین. چشم‌ها هم معمولا شیشه‌ای و بی‌روح به نظر می‌رسند؛ انگار به یک نقطه نامعلوم در خلاء خیره شده‌اند. گاهی اندازه‌ی مردمک‌ها یکی نیست یا بازتاب نور در دو چشم با هم فرق دارد. موها هم حالتی «رویایی» و «شلاقی» دارند؛ انگار که سوژه همین الان از زیر سشوار آرایشگر بیرون آمده، حتی اگر سوژه وسط جنگل، کویر یا میدان جنگ ایستاده باشد! روان‌شناس‌ها به این وضعیت می‌گویند «دره‌ی وهمی» (Uncanny Valley): جایی که سوژه خیلی شبیه انسان است، اما آن‌قدرها هم «زنده» به نظر نمی‌رسد و همین باعث می‌شود حس ناخوشایندی تجربه کنیم. اگر احساس کردید سوژه‌ی عکس «بیش از حد» بی‌نقص است، احتمالاً کاسه‌ای زیر نیم‌کاسه باشد. ۵. نور، سایه و منطق فیزیکی دوربین در دنیای واقعی مجبور است به قوانین نور و فیزیک احترام بگذارد؛ اما مدل‌های هوش مصنوعی فقط دنبال «ظاهر قانع‌کننده» هستند، نه لزوماً چیزی که از نظر فیزیکی ممکن باشد. برای همین بررسی نور و سایه یکی از ابزارهای مهم شما برای کشف تصاویر ساختگی است. منبع نور کجاست؟ • اگر چهره از سمت راست روشن‌تر است، طبیعی است که سایر اجسام صحنه هم از همان سمت نور بگیرند. • اگر چند منبع نور وجود دارد (مثلا آفتاب، چراغ اتاق، نئون‌ها)، باز هم باید ترکیب‌شان قابل تصور و منطقی باشد. • در تصاویر ساختگی این قوانین به هم می‌ریزند؛ مثلا در آسمان غروب شده، اما سایه‌ها شبیه ظهر تابستان افتاده‌اند. سایه‌ها و بازتاب‌ها را چک کنید • آیا سایه بدن افراد روی زمین افتاده؟ اگر بله، زاویه و طول سایه با جهت نور همخوانی دارد؟ • سطوح براق مانند شیشه، آب، عینک یا صفحه موبایل باید بازتابی از محیط اطراف را نشان دهند؛ در تصاویر هوش مصنوعی، این بازتاب‌ها معمولا مبهم، نصفه‌نیمه یا کاملا غیرواقعی‌اند. • در عکس‌های شب، شدت نور تابلوها و چراغ‌ها را با روشنایی چهره‌ها مقایسه کنید؛ اگر تابلوها بسیار تند و غیرواقعی می‌درخشند اما پوست انسان‌ها مثل روز روشن افتاده، باید شک کنید. ۶. صحنه‌هایی بیش از حد نمایشی هوش مصنوعی عاشق صحنه‌های دراماتیک است: آسمانی با ابرهای فوق‌العاده، شفق قطبی، رد واضح کهکشان راه شیری، نورهای لنز فلر و در عین حال خیابان‌ها و ساختمان‌هایی بدون نویز و بسیار تمیز. قرار گرفتن چند پدیده نادر در یک قاب (مثلاً رعدوبرق، شفق قطبی، مه فشرده و آسمان پرستاره به صورت همزمان) به ندرت در واقعیت امکان‌پذیر است. اما هوش مصنوعی از این ترکیب‌های «خیالی اما تماشایی» بسیار خوشش می‌آید و پشت سر هم تولیدشان می‌کند. ۷. زیادی شلوغ؛ زیادی خالی هوش مصنوعی گاهی مثل طراح تازه‌کاری است که تصمیم گرفته تمام وسایل تزئینی را در یک اتاق کوچک جا بدهد! خروجی چنین ذهنیتی چه می‌شود؟ • بافت‌های تکراری • جزئیات بی‌معنی • الگوهای عجیب روی دیوارها و لباس‌ها • شلوغی گیج‌کننده‌ای که بیشتر شبیه رندر ناقص یک بازی ویدئویی سنگین است تا یک عکس واقعی! در مقابل، بعضی وقت‌ها دقیقاً برعکس عمل می‌کند. حتما این روزها دیده‌اید که بعضی صفحه‌ها در اینستاگرام یا فیسبوک، عکس‌های تاریخی ایران را با هوش مصنوعی «زنده» می‌کنند. نتیجه چه می‌شود؟ ساختمان‌هایی که بافت آجری‌شان از بین رفته و تبدیل به دیوارهای صاف و گچی شده‌اند؛ یعنی عملاً روح و تاریخِ عکس از آن گرفته شده. 🔸 ابزارهای تشخیص عکس مصنوعی تا اینجا بیشتر روی تیزبینی چشم و تجربه‌ی خودمان حساب کردیم، اما بد نیست از خود تکنولوژی هم کمک بگیریم. ۱. ابزار Google Lens و گزینه‌ی About This Image گوگل چند ابزار رایگان دارد که کار را ساده‌تر می‌کنند و دم‌دست‌ترین آن گوگل لنز است: • تصویر را در اپ Google Lens باز کنید. (این اپ به صورت‌ پیش‌فرض روی اکثر موبایل‌های اندرویدی نصب است). • روی گزینه «درباره این تصویر» (About this image) بزنید. • این قسمت به شما می‌گوید که منبع اصلی عکس کجاست و آیا با هوش مصنوعی ساخته شده یا نه. در مثال عکس ما، تشخیص گوگل لنز کاملا درست است و می‌گوید این تصویر با هوش مصنوعی ساخته شده. ۲. قابلیت Circle to Search در بعضی موبایل‌های اندرویدی ابزار بعدی، قابلیت Circle to Search در بعضی گوشی‌های اندروید است. کافی است روی عکس انگشت بگذارید، دور سوژه دایره بکشید و از گوگل بپرسید آیا این عکس با هوش مصنوعی ساخته شده یا خیر. ۳. هوش مصنوعی Google Gemini حتی خود جمنای گوگل هم می‌تواند عکس را آنالیز کند و بگوید که واترمارک مخصوص تصاویر هوش مصنوعی (مثل SynthID) در پیکسل‌های تصویر مخفی شده یا خیر. ۴. ابزارهای تخصصی‌تر سرویس‌های دیگری هم وجود دارند که برای تشخیص تصاویر هوش مصنوعی طراحی شده‌اند؛ مثلاً: • Hive Moderation • Illuminarty • AI or Not در این ابزارها تصویر مورد نظرتان را بارگذاری می‌کنید و یک برآورد احتمالی دریافت می‌کنید. البته هیچ‌کدام از این سرویس‌ها صددرصد دقیق نیستند؛ مثلا تصاویر پیچیده و باکیفیت ممکن است از دست‌شان در برود و گاهی هم عکس‌های واقعی را اشتباهی «مصنوعی» تشخیص می‌دهند. 🔸 با کمی تمرین، استاد می‌شوید همان‌طور که یک عکاس باتجربه با یک نگاه می‌فهمد عکسی خوب گرفته شده یا نه، شما هم می‌توانید تشخیص دادن عکس واقعی از عکس مصنوعی را یاد بگیرید. فقط نیاز به کمی تمرین و دقت و کنجکاوی دارید. چنین مهارتی این روزها بسیار ضروری است، چون عکس‌های ساختگی راه‌شان را به تقریبا هرجایی باز کرده‌اند! ✍️ یونس مرادی #سواد_دیجیتال