OpenAI به اسپمرها کمک می کند تا 80،000 سایت با پیام هایی که فیلترها را دور می زنند گچ کنند

محققان روز چهارشنبه گفتند که اسپمرها برای تولید پیام هایی که برای هر گیرنده منحصر به فرد بودند ، از OpenAI استفاده کردند و به آنها اجازه می دهند تا فیلترهای تشخیص اسپم را دور بزنند و پیام های ناخواسته را به بیش از 80،000 وب سایت در چهار ماه منفجر کنند.

این یافته ، که در پستی منتشر شده توسط شرکت امنیتی Sentinellabs SentinElone ثبت شده است ، شمشیر دو لبه ای را که توسط مدل های بزرگ زبان به دست می آید ، تأکید می کند. همان چیزی که باعث می شود آنها برای کارهای خوش خیم مفید باشند – وسعت داده های در دسترس آنها و توانایی استفاده از آن برای تولید محتوا در مقیاس – اغلب می تواند در فعالیت های مخرب به همان راحتی استفاده شود. Openai حساب اسپمرها را در ماه فوریه ابطال کرد.

“شما یک دستیار مفید هستید”

انفجار هرزنامه کار Akirabot است- چارچوبی که ارسال پیام به مقادیر زیادی برای ارتقاء خدمات بهینه سازی جستجوی سایه دار به وب سایت های کوچک و متوسط ​​را خودکار می کند. Akirabot از اسکریپت های مبتنی بر پایتون برای چرخش نام دامنه تبلیغ شده در پیام ها استفاده کرد. همچنین از API CHAT OpenAi گره خورده با مدل GPT-4O-Mini برای تولید پیام های منحصر به فرد سفارشی برای هر سایتی که اسپم شده است ، استفاده کرد ، تکنیکی که احتمالاً به آن کمک کرد تا فیلترهایی را که به دنبال آن هستند ، دور بزنند و محتوای یکسان را که به تعداد زیادی از سایت ها ارسال شده اند ، دور بزنند. پیام ها از طریق فرم های تماس و ویجت های چت زنده که در وب سایت های هدفمند تعبیه شده اند ، تحویل داده می شوند.

الکس دلاموته و جیم والتر نوشتند: “استفاده آکیرابوت از محتوای پیام هرزنامه تولید شده توسط LLM ، چالش های نوظهور را نشان می دهد که هوش مصنوعی برای دفاع از وب سایت ها در برابر حملات اسپم ایجاد می کند.” “ساده ترین شاخص ها برای مسدود کردن مجموعه چرخشی از دامنه هایی است که برای فروش پیشنهادات SEO Akira و ServiceWrap استفاده می شود ، زیرا دیگر یک رویکرد مداوم در محتوای پیام هرزنامه وجود ندارد ، زیرا با کمپین های قبلی که خدمات این بنگاه ها را می فروشند وجود دارد.”