دنیای دیجیتال امروز با موجی از تصاویر ساختهشده توسط هوش مصنوعی روبهروست. در واقع، تشخیص واقعی بودن یک عکس از یک نقاشی دیجیتال یا تصویر دستکاریشده، هر روز دشوارتر میشود. گوگل در پاسخ به این چالش روزافزون، تصمیم گرفته ابزاری قدرتمند را مستقیماً در دستان کاربران عادی قرار دهد.
از امروز، کاربران میتوانند هر تصویری را به اپلیکیشن جمینای آپلود کرده و با پرسیدن سوالاتی مانند "آیا این با هوش مصنوعی گوگل ساخته شده؟" یا "آیا این تصویر توسط AI تولید شده؟"، صحت آن را بررسی کنند. جمینای با بررسی واترمارک SynthID و استفاده از استدلال خود، پاسخی شفاف درباره منشأ محتوا ارائه میدهد. به نظر میرسد این قابلیت میتواند نقطه عطفی در مبارزه با اطلاعات نادرست باشد.
مجله تخصصی هوش مصنوعی آرتین پیشتر درباره نقش فناوریهای تشخیص محتوای هوش مصنوعی گزارش داده بود. فناوری SynthID از سال 2023 معرفی شده و تاکنون بیش از 20 میلیارد محتوای تولیدشده با این واترمارک علامتگذاری شدهاند. این واترمارکها برای چشم انسان نامرئی هستند اما سیستمهای تشخیص گوگل میتوانند آنها را حتی پس از برش، تغییر اندازه یا فشردهسازی تصویر شناسایی کنند.
با این حال، این سیستم محدودیت مهمی دارد. از آنجا که این ویژگی از SynthID استفاده میکند، تنها میتواند تصاویری را تشخیص دهد که توسط جمینای ساخته شده و با واترمارکهای SynthID گوگل برچسبگذاری شدهاند. بنابراین تصاویر تولیدشده با ابزارهای دیگر مانند ChatGPT یا Midjourney قابل شناسایی نیستند. گوگل اعلام کرده که در آینده پشتیبانی از استاندارد C2PA را اضافه خواهد کرد تا کاربران بتوانند منشأ محتوای تولیدشده توسط مدلها و محصولاتی خارج از اکوسیستم گوگل را نیز بررسی کنند.
این اقدام گوگل در زمانی رخ میدهد که کلاهبرداریهای مرتبط با محتوای هوش مصنوعی بین سالهای 2023 تا 2024 با رشد 245 درصدی روبهرو شدهاند. تصاویر جعلی از رویدادهای مهم، سیاستمداران و شخصیتهای عمومی میتوانند تأثیرات واقعی بر بازارهای مالی و افکار عمومی داشته باشند. به همین دلیل است که ابزارهایی مانند SynthID Detector نه تنها یک نوآوری فناورانه، بلکه یک ضرورت اجتماعی محسوب میشوند.
جالب است بدانید که این قابلیت همزمان با عرضه مدل Nano Banana Pro معرفی شده است. Nano Banana Pro که نام رسمی آن Gemini 3 Pro Image است، مدلی پیشرفتهتر از نسخه قبلی بوده و میتواند تصاویری با کیفیت استودیویی، متنهای واضح و خوانا در چندین زبان و حتی اینفوگرافیکهای پیچیده تولید کند. این مدل اکنون در اپلیکیشن جمینای، Google Workspace، NotebookLM و سایر خدمات گوگل در دسترس است.
آیا این تکنولوژی نقصناپذیر است؟ خیر. محققان دانشگاه واترلو کانادا روشی به نام "UnMarker" توسعه دادهاند که میتواند واترمارکهای تصاویر هوش مصنوعی از جمله SynthID را در چند دقیقه حذف کند. این مسئله نشان میدهد که مبارزه با اطلاعات نادرست یک رقابت مداوم بین تولیدکنندگان فناوری و کسانی است که قصد سوءاستفاده از آن را دارند.
گوگل اعلام کرده است که به زودی پشتیبانی از تشخیص محتوای هوش مصنوعی را به فرمتهای دیگری مانند ویدیو و صوت گسترش داده و این قابلیتها را به سطوح بیشتری از جمله Google Search خواهد آورد. این یک گام مثبت در جهت شفافیت و اعتمادسازی در فضای دیجیتال است.
برای کاربران ایرانی و فارسیزبان که به دنبال آخرین پیشرفتهای دنیای هوش مصنوعی هستند، این قابلیت جدید جمینای میتواند ابزاری کاربردی برای تأیید صحت تصاویر در شبکههای اجتماعی، رسانهها و محتوای آموزشی باشد.
مجله تخصصی هوش مصنوعی آرتین
📌 اگر این مطلب برای شما مفید بود، آن را با دوستان خود به اشتراک بگذارید. نظرات و پیشنهادات خود را در بخش دیدگاهها با ما در میان بگذارید و با لایک کردن از ما حمایت کنید!
🔔 برای دریافت آخرین اخبار و مقالات تخصصی هوش مصنوعی، عضو کانال @ArtinMag مجله آرتین شوید.
