به نقل از دیجیتال مارکتینگ ایران، گوگل دسترسی عمومی به ابزار تشخیص واترمارک هوش مصنوعی خود با نام SynthID Detector را گسترش داده است؛ ابزاری که به کاربران اجازه میدهد فایل‌های تصویری، ویدئویی و صوتی را برای شناسایی نشانه‌های نامرئی مرتبط با برخی ابزارهای هوش مصنوعی بررسی کنند. این قابلیت می‌تواند برای تولیدکنندگان محتوا، خبرنگاران، مدیران شبکه‌های اجتماعی و تیم‌های بازاریابی اهمیت زیادی داشته باشد؛ اما یک نکته اساسی وجود دارد: SynthID یک سامانه تشخیص عمومی تمام محتوای تولیدشده با هوش مصنوعی نیست و نتیجه آن باید در کنار سایر شواهد بررسی شود.
ابزار SynthID Detector گوگل چیست؟
با افزایش استفاده از هوش مصنوعی مولد (Generative AI) برای ساخت عکس، ویدئو و صدا، تشخیص منشأ محتوای دیجیتال به یکی از دغدغه‌های مهم کاربران و کسب‌وکارها تبدیل شده است. یک تصویر ممکن است کاملاً با هوش مصنوعی ساخته شده باشد، یا عکسی واقعی باشد که با کمک ابزارهای هوشمند تغییر کرده است. در بسیاری از موارد، تشخیص این تفاوت صرفاً از روی ظاهر فایل آسان نیست.
گوگل برای پاسخ به بخشی از این نیاز، فناوری SynthID را توسعه داده است. این فناوری با افزودن واترمارک دیجیتال (Digital Watermark) به محتوای تولیدشده با ابزارهای پشتیبانی‌شده، امکان بررسی منشأ فایل را فراهم می‌کند. واترمارک یادشده به‌گونه‌ای طراحی شده است که مانند لوگو یا نوشته‌ای قابل مشاهده روی تصویر دیده نمی‌شود، بلکه به‌صورت نشانه‌ای دیجیتال در محتوای رسانه‌ای قرار می‌گیرد.
نسخه عمومی SynthID Detector به کاربران امکان میدهد فایل خود را بارگذاری کنند و بررسی کنند که آیا نشانه مربوط به SynthID در آن وجود دارد یا خیر. طبق اعلام گوگل، این ابزار در دسترس عمومی قرار گرفته و رابط آن در حال حاضر به زبان انگلیسی ارائه می‌شود.
چه کسانی می‌توانند از ابزار تشخیص SynthID استفاده کنند؟
گوگل پیش‌تر نسخه‌ای اولیه از این ابزار را معرفی کرده بود، اما دسترسی به آن محدود بود و خبرنگاران، فعالان رسانه‌ای و پژوهشگران برای استفاده از آن در فهرست انتظار قرار می‌گرفتند. با عمومی شدن ابزار، طیف گسترده‌تری از کاربران می‌توانند فایل‌های خود را بررسی کنند.
این تغییر برای افرادی مفید است که به‌صورت روزانه با حجم زیادی از محتوای دیجیتال سروکار دارند. برای مثال، مدیر شبکه‌های اجتماعی می‌تواند پیش از انتشار یک تصویر یا ویدئو، آن را از نظر وجود واترمارک SynthID بررسی کند. یک تیم بازاریابی نیز می‌تواند هنگام دریافت محتوای تولیدشده توسط پیمانکار یا همکاران خود، از این ابزار به‌عنوان یکی از مراحل کنترل کیفیت و بررسی منشأ فایل استفاده کند.
البته کاربرد این ابزار فقط به بازاریابی محدود نیست. روزنامه‌نگاران، پژوهشگران، ناشران آنلاین و تولیدکنندگان محتوای آموزشی نیز ممکن است برای ارزیابی اولیه فایل‌های تصویری، صوتی و ویدئویی از آن کمک بگیرند. بااین‌حال، نتیجه بررسی نباید به‌تنهایی مبنای قضاوت قطعی درباره اصالت یک محتوا یا نیت سازنده آن قرار گیرد.
ابزار SynthID چه فایل‌هایی را بررسی می‌کند؟
بر اساس اطلاعات منتشرشده، این ابزار برای بررسی سه گروه اصلی از محتوا طراحی شده است:
- تصاویر: بررسی عکس‌ها و تصاویر دیجیتالی برای یافتن نشانه‌های SynthID.
- ویدئوها: بررسی محتوای ویدئویی برای شناسایی واترمارک مرتبط با فناوری‌های پشتیبانی‌شده.
- فایل‌های صوتی: بررسی صداهایی که ممکن است از ابزارهای سازگار با این فناوری تولید یا ویرایش شده باشند.
گوگل اعلام کرده است که این سامانه می‌تواند محتوای مرتبط با ابزارهای هوش مصنوعی گوگل و برخی شرکای آن، از جمله OpenAI، NVIDIA و Kakao را بررسی کند؛ البته این موضوع به استفاده از فناوری و واترمارک سازگار با SynthID وابسته است. بنابراین، نباید تصور کرد که این ابزار همه محصولات هوش مصنوعی شرکت‌های نام‌برده یا تمام فایل‌های ساخته‌شده با آن‌ها را بدون استثنا شناسایی می‌کند.
چرا این ابزار یک تشخیص‌دهنده عمومی هوش مصنوعی نیست؟
تفاوت مهم SynthID Detector با یک سامانه عمومی تشخیص محتوای هوش مصنوعی در روش بررسی آن است. این ابزار به‌دنبال نشانه‌ای مشخص می‌گردد که از فناوری SynthID استفاده می‌کند؛ بنابراین، صرفاً بر اساس سبک تصویر، الگوی نوشتاری، کیفیت صدا یا ظاهر غیرعادی یک فایل درباره هوش مصنوعی بودن آن نتیجه‌گیری نمی‌کند.
اگر تصویری با ابزاری ساخته شده باشد که از SynthID پشتیبانی نمی‌کند، ممکن است این سامانه نتواند هیچ نشانه‌ای در آن پیدا کند. در نتیجه، نبود واترمارک به معنای واقعی بودن تصویر یا تولید نشدن آن با هوش مصنوعی نیست. این محدودیت برای استفاده حرفه‌ای از ابزار اهمیت ویژه‌ای دارد؛ زیرا نتیجه منفی نباید به‌عنوان گواه قطعی اصالت محتوا تفسیر شود.
چگونه با SynthID Detector یک فایل را بررسی کنیم؟
فرایند استفاده از ابزار ساده است و به دانش فنی تخصصی نیاز ندارد. کاربران می‌توانند از وب‌سایت رسمی SynthID.com وارد ابزار شوند و فایل موردنظر را برای بررسی بارگذاری کنند.
- فایل اصلی را انتخاب کنید: تصویر، ویدئو یا فایل صوتی موردنظر را آماده کنید.
- نسخه باکیفیت را بارگذاری کنید: گوگل توصیه می‌کند تا حد امکان از بهترین نسخه موجود فایل استفاده شود؛ زیرا کیفیت بهتر می‌تواند به دقیق‌تر بودن نتیجه کمک کند.
- نتیجه بررسی را بخوانید: ابزار مشخص می‌کند که آیا نشانه SynthID را شناسایی کرده است یا خیر.
- نتیجه را با شواهد دیگر مقایسه کنید: پیش از انتشار یا نتیجه‌گیری، منبع فایل، اطلاعات همراه آن و سایر شواهد قابل اعتماد را نیز بررسی کنید.
این مراحل می‌توانند یک بررسی اولیه و نسبتاً سریع ایجاد کنند، اما نباید جایگزین فرایند کامل راستی‌آزمایی شوند. به‌ویژه در موضوعات خبری، سیاسی، تجاری یا مواردی که اعتبار افراد و سازمان‌ها مطرح است، تکیه بر یک ابزار واحد می‌تواند باعث برداشت اشتباه شود.
پیام «ساخته یا ویرایش‌شده با هوش مصنوعی» چه معنایی دارد؟
یکی از نکات مهم در تفسیر خروجی SynthID Detector، تفاوت میان «ساخته‌شده» و «ویرایش‌شده» است. در نمونه‌ای که گوگل معرفی کرده، نتیجه شناسایی واترمارک اعلام می‌کند که SynthID تشخیص داده شده و رسانه با هوش مصنوعی گوگل ساخته یا ویرایش شده است. همچنین ممکن است اشاره شود که فایل پس از آن تغییرات دیگری را تجربه کرده است.
این پیام به‌تنهایی مشخص نمی‌کند که تمام محتوای فایل با هوش مصنوعی تولید شده است. برای مثال، ممکن است یک عکس واقعی ثبت‌شده با دوربین، بعداً با استفاده از ابزار هوش مصنوعی ویرایش شده باشد. در چنین شرایطی، شناسایی نشانه مربوط به هوش مصنوعی لزوماً به این معنا نیست که صحنه اصلی عکس ساختگی بوده است.
از سوی دیگر، یک تصویر ممکن است از ابتدا به‌طور کامل با هوش مصنوعی ساخته شده باشد. اگر ابزار نتیجه را در قالب «ساخته یا ویرایش‌شده» نمایش دهد، این عبارت به‌تنهایی مرز دقیق میان این دو حالت را روشن نمی‌کند. برای قضاوت دقیق‌تر، باید اطلاعات مربوط به فرایند تولید فایل و سایر شواهد نیز در دسترس باشد.
محدودیت‌های SynthID Detector که باید بدانید
۱. نبود واترمارک، اصالت محتوا را ثابت نمی‌کند
اگر ابزار هیچ نشانه‌ای از SynthID پیدا نکند، فقط می‌توان گفت که در بررسی انجام‌شده نشانه قابل شناسایی پیدا نشده است. این نتیجه اثبات نمی‌کند که فایل حتماً با دوربین واقعی ثبت شده یا هیچ‌گاه با هوش مصنوعی تولید و ویرایش نشده است. ابزارهای فاقد پشتیبانی از SynthID و روش‌های دیگر تولید محتوا ممکن است خارج از محدوده تشخیص این سامانه باشند.
۲. تشخیص واترمارک، تمام تاریخچه فایل را نشان نمی‌دهد
شناسایی واترمارک لزوماً اطلاعات کاملی درباره تمام تغییرات انجام‌شده روی فایل ارائه نمی‌کند. یک رسانه ممکن است پس از تولید یا ویرایش اولیه، دوباره ویرایش، برش یا تبدیل شده باشد. به همین دلیل، نتیجه ابزار را نباید معادل گزارش کامل تاریخچه فایل دانست.
۳. هیچ سیگنالی کاملاً مقاوم نیست
در توضیحات رسمی ابزار تأکید شده است که هیچ سیگنالی به‌طور کامل در برابر همه شرایط مقاوم نیست. این نکته نشان میدهد که نتیجه یک بررسی منفرد باید با احتیاط تفسیر شود. گوگل نیز توصیه می‌کند پیش از تصمیم‌گیری، چندین منبع اطلاعاتی و شواهد مختلف در کنار یکدیگر بررسی شوند.
۴. پشتیبانی از زبان‌ها و شرکای فناوری محدودیت دارد
اطلاعات معرفی ابزار به زبان انگلیسی ارائه شده و در اعلام اولیه، اشاره‌ای به پشتیبانی از زبان‌های دیگر نشده است. همچنین اپل به‌عنوان شریکی معرفی شده که پشتیبانی از آن قرار است در آینده اضافه شود، اما زمان مشخصی برای انتشار این قابلیت اعلام نشده است. بنابراین، درباره زمان عرضه یا دامنه دقیق پشتیبانی‌های آینده نمی‌توان نتیجه قطعی گرفت.
اهمیت SynthID برای بازاریابی دیجیتال و تولید محتوا
در بازاریابی دیجیتال، محتوای تصویری و ویدئویی نقش مهمی در معرفی محصولات، تبلیغات، ارتباط با مشتریان و شکل‌گیری اعتماد به برند دارد. استفاده از ابزارهای هوش مصنوعی نیز به کسب‌وکارها کمک می‌کند محتوای بیشتری تولید کنند و فرایندهای خلاقانه را سریع‌تر پیش ببرند. در مقابل، افزایش حجم محتوای تولیدشده با هوش مصنوعی، نیاز به شفافیت بیشتر درباره منشأ و نحوه ویرایش رسانه‌ها را نیز افزایش میدهد.
ابزارهایی مانند SynthID Detector می‌توانند بخشی از فرایند کنترل محتوای سازمانی باشند. برای نمونه، تیم بازاریابی می‌تواند هنگام دریافت فایل از یک تولیدکننده محتوا، وجود احتمالی واترمارک را بررسی کند. این بررسی در کنار قراردادهای تولید محتوا، اطلاعات پروژه و تأییدهای داخلی می‌تواند به مستندسازی بهتر فرایند تولید کمک کند.
بااین‌حال، برندها نباید از این ابزار برای صدور حکم قطعی درباره تخلف یک تولیدکننده محتوا استفاده کنند. وجود واترمارک ممکن است نشان‌دهنده استفاده از ابزار هوش مصنوعی در بخشی از فرایند باشد، نه لزوماً نقض سیاست‌های برند یا ساختگی بودن تمام رسانه. به همین ترتیب، نبود واترمارک هم نباید به‌عنوان تأیید کامل اصالت فایل در نظر گرفته شود.
چطور از نتایج تشخیص هوش مصنوعی درست استفاده کنیم؟
برای استفاده مسئولانه از SynthID Detector، بهتر است این ابزار به‌عنوان یکی از اجزای فرایند راستی‌آزمایی در نظر گرفته شود، نه تنها معیار تصمیم‌گیری. در ادامه، چند اقدام کاربردی برای تیم‌های محتوا و رسانه پیشنهاد می‌شود:
- منبع اولیه را ثبت کنید: مشخص کنید فایل از چه شخص، سازمان یا پلتفرمی دریافت شده است.
- نسخه اصلی را نگه دارید: در صورت امکان، فایل اولیه و اطلاعات همراه آن را بدون تغییر حفظ کنید.
- نتیجه ابزار را مستند کنید: تاریخ بررسی و نتیجه مشاهده‌شده را ثبت کنید تا در صورت نیاز امکان بازبینی وجود داشته باشد.
- از چند روش راستی‌آزمایی کمک بگیرید: بررسی منبع انتشار، جست‌وجوی نسخه‌های قدیمی‌تر، مقایسه با شواهد مستقل و دریافت توضیح از صاحب محتوا می‌تواند در کنار نتیجه ابزار مفید باشد.
- از ادعاهای قطعی خودداری کنید: تا زمانی که شواهد کافی وجود ندارد، از توصیف یک فایل به‌عنوان کاملاً واقعی یا کاملاً ساختگی پرهیز کنید.
- سیاست استفاده از هوش مصنوعی را شفاف کنید: سازمان‌ها می‌توانند مشخص کنند چه نوع استفاده‌ای از ابزارهای هوش مصنوعی در تولید محتوا مجاز است و چه اطلاعاتی باید درباره آن ثبت شود.
آینده تشخیص محتوای تولیدشده با هوش مصنوعی
گسترش عمومی SynthID Detector را می‌توان بخشی از تلاش گسترده‌تر صنعت فناوری برای افزایش شفافیت درباره محتوای تولیدشده یا ویرایش‌شده با هوش مصنوعی دانست. با افزایش توانایی مدل‌های مولد در ساخت رسانه‌های واقع‌گرایانه، کاربران به ابزارهایی نیاز دارند که بتوانند بخشی از اطلاعات مربوط به منشأ محتوا را آشکار کنند.
بااین‌حال، احتمالاً هیچ روش منفردی پاسخ‌گوی تمام نیازهای تشخیص نخواهد بود. واترمارک‌های دیجیتال، اطلاعات منشأ محتوا، سوابق تولید، فرایندهای تحریریه و بررسی مستقل می‌توانند نقش‌های مکمل داشته باشند. ارزش هر روش نیز به میزان پوشش فناوری، کیفیت شواهد و نحوه استفاده از نتیجه بستگی دارد.
برای کسب‌وکارها و ناشران، رویکرد منطقی این است که از ابزارهای موجود برای تقویت بررسی‌ها استفاده کنند، اما محدودیت‌های آن‌ها را نیز بشناسند. هدف نهایی نباید صرفاً شناسایی استفاده از هوش مصنوعی باشد؛ بلکه باید امکان ارزیابی دقیق‌تر محتوا، حفظ اعتماد مخاطبان و تصمیم‌گیری بر پایه شواهد فراهم شود.
جمع‌بندی
گوگل با عمومی کردن SynthID Detector، امکان بررسی تصاویر، ویدئوها و فایل‌های صوتی از نظر وجود واترمارک نامرئی SynthID را در اختیار کاربران بیشتری قرار داده است. این ابزار می‌تواند برای خبرنگاران، تولیدکنندگان محتوا و تیم‌های بازاریابی مفید باشد، اما تنها محتوای سازگار با فناوری مورد پشتیبانی خود را بررسی می‌کند. تشخیص واترمارک نیز لزوماً مشخص نمی‌کند که یک رسانه از ابتدا با هوش مصنوعی ساخته شده یا بعداً با آن ویرایش شده است.
بنابراین، نتیجه SynthID Detector باید به‌عنوان یک نشانه کمکی در کنار بررسی منبع، سوابق فایل و شواهد مستقل استفاده شود. نه شناسایی واترمارک به‌تنهایی تمام محتوای فایل را ساختگی می‌کند و نه نبود آن اصالت رسانه را تضمین می‌کند.
برای مطالعه جدیدترین اخبار و تحلیل‌های هوش مصنوعی، سئو و بازاریابی دیجیتال، به دیجیتال مارکتینگ ایران مراجعه کنید.
“`
