گوگل سیستم ضداسپم SAFE را مستقر کرد؛ شکار شبکه‌های اسپم ساخته‌شده با هوش مصنوعی

به نقل از دیجیتال مارکتینگ ایران، گوگل جزئیات سیستم جدیدی با نام SAFE را منتشر کرده است؛ سامانه‌ای که برای شناسایی سوءاستفاده‌های مصنوعی، محتوای تولیدشده با هوش مصنوعی و الگوهای رفتاری غیرانسانی طراحی شده است. نکته مهم این است که SAFE صرفاً یک ابزار تشخیص محتوای تولیدشده توسط AI نیست و با ترکیب چند عامل هوش مصنوعی، رفتار کاربران، ارتباط میان کانال‌ها، زیرساخت و خود محتوا را به‌صورت هم‌زمان بررسی می‌کند.

انتشار این جزئیات در شرایطی انجام شده که گوگل در سپتامبر ۲۰۲۶ یک آپدیت اسپم جدید را نیز آغاز کرده است. هنوز گوگل تأیید نکرده که SAFE بخشی از این آپدیت است، اما هم‌زمانی استقرار این سیستم با به‌روزرسانی جدید، توجه متخصصان سئو را به احتمال نقش آن در شناسایی شبکه‌های اسپم مصنوعی جلب کرده است.

SAFE چیست و چرا گوگل آن را ساخته است؟

نام SAFE مخفف Scaled Abuse Forensics Examiner است؛ سامانه‌ای که هدف آن خودکارسازی بخشی از فرایند بررسی‌های تخصصی برای کشف سوءاستفاده‌های مقیاس‌بالاست.

گوگل در مقاله پژوهشی خود توضیح می‌دهد که روش‌های سنتی بررسی اسپم تا حد زیادی به تشخیص الگو توسط انسان، تحلیل متادیتا و استفاده از طبقه‌بندی‌کننده‌های از پیش آموزش‌دیده وابسته هستند. مشکل اینجاست که تولیدکنندگان اسپم می‌توانند با کمک مدل‌های مولد، حجم بسیار زیادی محتوای مصنوعی تولید کنند و دائماً روش تولید آن را تغییر دهند.

در چنین شرایطی، فاصله زمانی میان ظهور یک روش جدید برای تولید سوءاستفاده و ایجاد یک راهکار مؤثر برای مقابله با آن به یک آسیب‌پذیری تبدیل می‌شود. SAFE برای کاهش همین فاصله طراحی شده است.

نکته مهم در مورد این سیستم آن است که گوگل آن را برای شناسایی صرفاً یک نشانه خاص، مانند «این متن توسط AI نوشته شده است»، معرفی نکرده است. SAFE تلاش می‌کند مجموعه‌ای از شواهد را کنار هم قرار دهد تا بتواند رفتار مصنوعی و شبکه‌های هماهنگ را شناسایی کند.

گوگل مقاله SAFE را بسیار محدود منتشر کرده است

مقاله پژوهشی مربوط به SAFE تنها سه صفحه دارد و برخلاف بسیاری از مقالات فنی، جزئیات قابل توجهی درباره معماری، داده‌های آموزشی و نتایج آزمایش‌ها ارائه نمی‌کند.

در این مقاله به استفاده از محتوای مصنوعی، ویدئو، تحلیل رفتار کانال‌ها و Multimodal Semantic Embeddings اشاره شده است. با این حال، گوگل SAFE را به‌عنوان یک سیستم صرفاً مخصوص تشخیص ویدئوی تولیدشده توسط هوش مصنوعی معرفی نمی‌کند.

این موضوع اهمیت دارد؛ زیرا اصطلاحاتی مانند Synthetic Media، Synthetic Content و Multimodal Signals در بخش‌های مختلف مقاله تکرار شده‌اند. در نتیجه، آنچه از متن پژوهش می‌توان برداشت کرد این است که SAFE برای تحلیل طیف گسترده‌تری از سیگنال‌های مرتبط با سوءاستفاده مصنوعی طراحی شده است.

در عین حال، جزئیات دقیق نحوه عملکرد سیستم همچنان مشخص نیست. بنابراین نمی‌توان بر اساس این مقاله نتیجه گرفت که SAFE از یک «آشکارساز عمومی محتوای AI» تشکیل شده که می‌تواند به‌تنهایی هر متن تولیدشده توسط ChatGPT یا سایر مدل‌ها را شناسایی کند.

SAFE فقط به تشخیص محتوای AI محدود نمی‌شود

یکی از مهم‌ترین نکات این سیستم، تفاوت میان AI Content Detection و AI Spam Network Detection است.

در روش اول، سیستم تلاش می‌کند مشخص کند آیا یک محتوای خاص توسط هوش مصنوعی تولید شده است یا خیر. اما در روش دوم، سؤال پیچیده‌تر می‌شود: آیا مجموعه‌ای از محتواها، حساب‌ها یا کانال‌ها توسط یک شبکه هماهنگ و مصنوعی برای تولید سوءاستفاده ایجاد شده‌اند؟

SAFE بیشتر به مدل دوم نزدیک است. این سیستم علاوه بر بررسی خود محتوا، رفتار انتشار، زمان‌بندی فعالیت، زیرساخت مشترک و ارتباط میان تولیدکنندگان محتوا را نیز بررسی می‌کند.

به همین دلیل ممکن است یک محتوای منفرد به‌تنهایی نشانه واضحی از اسپم نداشته باشد، اما زمانی که در کنار ده‌ها یا صدها حساب مرتبط بررسی شود، الگوی غیرطبیعی آن آشکار شود.

سه پایه اصلی سیستم SAFE

بر اساس مقاله منتشرشده توسط گوگل، SAFE بر سه حوزه اصلی برای بررسی سوءاستفاده‌های مصنوعی تکیه دارد.

۱. شناسایی رفتار غیرارگانیک

اولین بخش سیستم به دنبال رفتارهایی است که بیشتر به فعالیت هماهنگ‌شده شباهت دارند تا رفتار عادی کاربران انسانی.

این بخش می‌تواند الگوهایی مانند انتشار ناگهانی و گسترده محتوا، زمان‌بندی هماهنگ فعالیت‌ها، زیرساخت مشترک و نشانه‌های رفتاری حساب‌های جعلی را بررسی کند.

برای مثال، فرض کنید صدها کانال در فاصله زمانی بسیار کوتاهی محتوای مشابهی منتشر کنند و بخشی از زیرساخت یا الگوی فعالیت آن‌ها نیز مشترک باشد. بررسی هر کانال به‌صورت جداگانه ممکن است تصویر کاملی ارائه نکند، اما تحلیل جمعی می‌تواند وجود یک شبکه هماهنگ را آشکار کند.

۲. خودکارسازی فرایند بررسی با چند عامل هوش مصنوعی

SAFE از یک معماری Multi-Agent استفاده می‌کند. به‌جای اینکه یک مدل هوش مصنوعی همه مراحل بررسی را انجام دهد، چند عامل تخصصی وظایف متفاوتی را بر عهده می‌گیرند.

در رأس این ساختار، عاملی با نام Root Agent قرار دارد که نقش هماهنگ‌کننده را ایفا می‌کند. این عامل وظایف را میان سایر عامل‌ها تقسیم می‌کند، نتایج آن‌ها را دریافت و در نهایت شواهد مختلف را برای رسیدن به یک نتیجه ترکیب می‌کند.

این رویکرد شباهت بیشتری به یک تیم تحقیقاتی دارد تا یک فیلتر ساده ضداسپم؛ هر عامل بخشی از پرونده را بررسی می‌کند و عامل اصلی تلاش می‌کند تصویر کلی را از کنار هم گذاشتن یافته‌ها بسازد.

۳. درک محتوا و زمینه با مدل‌های Transformer

سومین بخش به درک محتوای منتشرشده مربوط است. SAFE از مدل‌های مبتنی بر Transformer برای بررسی معنا، زمینه و نشانه‌های محتوای مصنوعی استفاده می‌کند.

این بخش علاوه بر شناسایی تخلف‌های شناخته‌شده، می‌تواند به دنبال الگوهایی باشد که هنوز به‌طور دقیق در قوانین یا طبقه‌بندی‌کننده‌های موجود تعریف نشده‌اند؛ اما از نظر زمینه و هدف، با روح سیاست‌های پلتفرم مغایرت دارند.

SAFE چهار عامل هوش مصنوعی تخصصی دارد

مقاله گوگل چهار عامل اصلی را در معماری SAFE معرفی می‌کند که هرکدام وظیفه مشخصی دارند:

• Root Agent: هماهنگ‌کننده کل فرایند بررسی.
• Content Understanding Agent: بررسی محتوا و شناسایی نشانه‌های محتوای مصنوعی و تخلف.
• Behavior Understanding Agent: تحلیل رفتارهای غیرعادی و هماهنگ.
• Channel Cluster Understanding Agent: شناسایی ارتباط میان کانال‌ها و شبکه‌های تولیدکننده اسپم.

Root Agent؛ مدیر تحقیقات

Root Agent را می‌توان مدیر پرونده در نظر گرفت. این عامل تصمیم می‌گیرد هر بخش از بررسی به کدام عامل تخصصی سپرده شود و سپس نتایج را کنار یکدیگر قرار می‌دهد.

اهمیت این معماری در آن است که یک نشانه منفرد لزوماً برای تصمیم‌گیری کافی نیست. رفتار غیرطبیعی، محتوای مصنوعی و ارتباط زیرساختی زمانی ارزش بیشتری پیدا می‌کنند که در کنار یکدیگر بررسی شوند.

Content Understanding Agent؛ بررسی محتوای مصنوعی

این عامل روی خود محتوا تمرکز دارد و می‌تواند نشانه‌های محتوای تولیدشده برای سوءاستفاده، تخلف‌های شناخته‌شده و الگوهای جدید را بررسی کند.

نکته مهم این است که هدف آن الزاماً تشخیص نویسنده انسانی یا ماشینی هر متن نیست. طبق توضیحات مقاله، این عامل می‌تواند به دنبال محتوایی باشد که حتی اگر از فیلترهای موجود عبور کند، همچنان با روح سیاست‌های پلتفرم در تضاد باشد.

Behavior Understanding Agent؛ تحلیل رفتار شبکه

این عامل به جای تمرکز صرف بر محتوا، به رفتار نگاه می‌کند. انتشارهای هماهنگ، فعالیت‌های انفجاری، زمان‌بندی مشترک و الگوهای مرتبط با زیرساخت از جمله سیگنال‌هایی هستند که می‌توانند برای شناسایی فعالیت غیرانسانی استفاده شوند.

این بخش برای مقابله با شبکه‌های اسپم اهمیت زیادی دارد؛ زیرا تولیدکننده اسپم ممکن است متن و ظاهر محتوا را مرتب تغییر دهد، اما الگوی رفتاری شبکه همچنان قابل شناسایی باقی بماند.

Channel Cluster Understanding Agent؛ ترسیم شبکه اسپم

چهارمین عامل با استفاده از یک سیستم رابطه‌محور مبتنی بر گراف، ارتباط میان کانال‌ها و تولیدکنندگان محتوا را بررسی می‌کند.

به این ترتیب، SAFE به‌جای آنکه هر حساب یا کانال را یک موجودیت کاملاً مستقل در نظر بگیرد، می‌تواند ارتباط آن با سایر اعضای شبکه را نیز بررسی کند. اشتراک زیرساخت، الگوهای انتشار و سایر ارتباطات می‌توانند برای ترسیم یک خوشه بزرگ‌تر از فعالیت‌های هماهنگ مورد استفاده قرار گیرند.

SAFE چگونه با مفهوم «روح قوانین» برخورد می‌کند؟

یکی از مفاهیم جالب مطرح‌شده در مقاله گوگل، شناسایی تخلف‌هایی است که لزوماً در قالب یک قانون مشخص و از پیش تعریف‌شده قرار نمی‌گیرند.

در سیستم‌های سنتی، یک طبقه‌بندی‌کننده معمولاً برای شناسایی دسته مشخصی از تخلف‌ها آموزش داده می‌شود. اما تولیدکنندگان اسپم می‌توانند با تغییر جزئی در روش تولید، محتوایی بسازند که دقیقاً در هیچ‌یک از الگوهای شناخته‌شده قرار نگیرد.

SAFE تلاش می‌کند این مشکل را با استفاده از یک LLM آموزش‌دیده با روش Few-Shot Learning کاهش دهد. هدف، درک زمینه و تشخیص مواردی است که شاید با یک قانون مشخص منطبق نباشند، اما همچنان با هدف و روح سیاست‌های پلتفرم در تضاد هستند.

این رویکرد می‌تواند به گوگل اجازه دهد نسبت به روش‌های جدید سوءاستفاده سریع‌تر واکنش نشان دهد؛ البته جزئیات مربوط به دقت این روش، نرخ خطا و نحوه جلوگیری از شناسایی اشتباه در مقاله منتشر نشده است.

آیا SAFE بخشی از آپدیت اسپم سپتامبر گوگل است؟

در حال حاضر مدرک مستقیمی که SAFE را به آپدیت اسپم سپتامبر ۲۰۲۶ متصل کند، منتشر نشده است. با این حال، هم‌زمانی این دو اتفاق قابل توجه است.

گوگل در ۲۴ سپتامبر انتشار آپدیت اسپم جدید خود را آغاز کرد و تنها یک روز بعد، جزئیات پژوهشی مربوط به SAFE منتشر شد. از سوی دیگر، مقاله SAFE صراحتاً می‌گوید این سیستم در مراحل اولیه استقرار قرار گرفته و برای شناسایی تهدیدهای مصنوعی جدید به کار گرفته شده است.

بنابراین می‌توان گفت SAFE یک فناوری واقعی و مستقرشده در اکوسیستم مقابله با سوءاستفاده گوگل است، اما نمی‌توان بدون تأیید رسمی گوگل گفت که این سیستم مستقیماً در آپدیت سپتامبر نقش داشته است.

این تمایز برای متخصصان سئو مهم است؛ زیرا نسبت‌دادن هر افت رتبه در سپتامبر به SAFE می‌تواند به نتیجه‌گیری اشتباه منجر شود.

تفاوت SAFE با سیستم S-CTS گوگل چیست؟

SAFE نخستین تلاش گوگل در سال ۲۰۲۶ برای مقابله با سوءاستفاده‌های تولیدشده با AI نیست. پیش از آن، سیستم دیگری با نام Scalable Cluster Termination System یا S-CTS شناسایی شده بود.

S-CTS نیز به شناسایی و مقابله با شبکه‌های محتوای تولیدشده در مقیاس بزرگ مربوط می‌شود. اما SAFE رویکرد گسترده‌تری را توصیف می‌کند و به‌صورت هم‌زمان از تحلیل محتوا، رفتار و ارتباط میان کانال‌ها استفاده می‌کند.

وجود چند سیستم مختلف در این حوزه نشان می‌دهد چالش گوگل فقط تشخیص اینکه «یک متن با AI نوشته شده یا نه» نیست. مسئله اصلی‌تر، شناسایی استفاده سازمان‌یافته و مقیاس‌بالا از ابزارهای مولد برای ایجاد شبکه‌های اسپم و سوءاستفاده است.

این خبر برای متخصصان سئو چه معنایی دارد؟

مهم‌ترین پیام SAFE برای سئوکاران این است که تولید انبوه محتوای AI به‌تنهایی یک استراتژی پایدار برای جست‌وجو محسوب نمی‌شود. با توجه به معماری توضیح‌داده‌شده برای SAFE، ارزیابی ممکن است فراتر از متن هر صفحه انجام شود.

اگر تعداد زیادی سایت، صفحه یا کانال با الگوهای انتشار مشابه، زیرساخت‌های مشترک و رفتار هماهنگ فعالیت کنند، بررسی شبکه می‌تواند اطلاعات بیشتری از تحلیل یک صفحه منفرد در اختیار سیستم‌های ضداسپم قرار دهد.

در نتیجه، تمرکز سئو باید روی ارزش واقعی محتوا، اصالت اطلاعات، تجربه کاربر، کیفیت فنی سایت و رفتار طبیعی انتشار باشد؛ نه صرفاً تولید سریع تعداد زیادی مقاله با کمک مدل‌های زبانی.

AI بودن محتوا با اسپم بودن آن یکسان نیست

از اطلاعات منتشرشده درباره SAFE نباید نتیجه گرفت که گوگل هر محتوای تولیدشده با هوش مصنوعی را به‌عنوان اسپم شناسایی یا جریمه می‌کند. معماری توصیف‌شده در مقاله بسیار پیچیده‌تر از یک آشکارساز ساده AI است.

تمرکز SAFE بر «سوءاستفاده مصنوعی» و شناسایی رفتارها و شبکه‌های هماهنگ است. بنابراین استفاده از هوش مصنوعی به‌عنوان ابزار تولید یا کمک به تولید محتوا را نباید با تولید محتوای اسپم و شبکه‌های مصنوعی یکی دانست.

جمع‌بندی

گوگل با انتشار مقاله مربوط به Google SAFE تصویری تازه از مسیر مقابله با اسپم در عصر هوش مصنوعی ارائه کرده است. SAFE یک سیستم چندعاملی است که با ترکیب درک محتوا، تحلیل رفتار و بررسی روابط میان کانال‌ها تلاش می‌کند شبکه‌های تولیدکننده محتوای مصنوعی و سوءاستفاده‌های مقیاس‌بالا را شناسایی کند.

ویژگی مهم این سیستم آن است که صرفاً نمی‌پرسد «آیا این محتوا توسط هوش مصنوعی ساخته شده است؟» بلکه تلاش می‌کند مجموعه‌ای از شواهد را کنار هم قرار دهد تا مشخص کند آیا یک فعالیت یا شبکه، رفتاری هماهنگ و مغایر با سیاست‌های پلتفرم دارد یا خیر.

اگرچه ارتباط مستقیم SAFE با آپدیت اسپم سپتامبر ۲۰۲۶ هنوز از سوی گوگل تأیید نشده، استقرار این سیستم در کنار افزایش استفاده از AI برای تولید انبوه محتوا نشان می‌دهد مقابله با اسپم مصنوعی به یکی از حوزه‌های جدی توسعه سیستم‌های جست‌وجوی گوگل تبدیل شده است.

برای متخصصان سئو، پیام اصلی این تغییر روشن است: صرفاً عبور دادن محتوا از یک AI Detector یا تغییر ظاهری متن دیگر معیار مناسبی برای ارزیابی کیفیت استراتژی محتوا نیست. در محیطی که سیستم‌های ضداسپم می‌توانند محتوا، رفتار، زیرساخت و روابط شبکه‌ای را هم‌زمان بررسی کنند، ساختن محتوای مفید و ایجاد یک اکوسیستم طبیعی و قابل اعتماد اهمیت بیشتری پیدا می‌کند.

برای مطالعه جدیدترین اخبار و تحلیل‌های سئو، هوش مصنوعی و موتورهای جست‌وجو به دیجیتال مارکتینگ ایران مراجعه کنید.

“`