[ad_1]
محققان نوشتند:
پیامدهای این آسیب پذیری به ویژه با توجه به اینکه الیزائوزاژها برای تعامل با چندین کاربران به طور همزمان طراحی شده اند ، با تکیه بر ورودی های متنی مشترک از همه شرکت کنندگان طراحی شده اند. یک دستکاری موفق توسط یک بازیگر مخرب می تواند یکپارچگی کل سیستم را به خطر بیاندازد و اثرات آبشار ایجاد می کند که تشخیص و کاهش آن دشوار است. به عنوان مثال ، در سرور Discord Elizaos ، ربات های مختلفی برای کمک به کاربران در زمینه اشکال زدایی یا درگیر شدن در مکالمات عمومی مستقر شده اند. دستکاری در زمینه موفقیت آمیز که هر یک از این رباتها را هدف قرار می دهد نه تنها می تواند تعاملات فردی را مختل کند بلکه به جامعه وسیع تر با تکیه بر این عوامل برای پشتیبانی آسیب می رساند
و نامزدیاین حمله یک نقص امنیتی اصلی را در معرض دید قرار می دهد: در حالی که افزونه ها عملیات حساس را انجام می دهند ، آنها کاملاً به تفسیر LLM از زمینه وابسته هستند. اگر زمینه به خطر بیفتد ، حتی ورودی های کاربر قانونی نیز می توانند اقدامات مخرب را ایجاد کنند. کاهش این تهدید به بررسی های یکپارچگی قوی در زمینه ذخیره شده نیاز دارد تا اطمینان حاصل شود که فقط داده های معتبر تأیید شده ، تصمیم گیری را در هنگام اجرای افزونه آگاه می کنند.
در یک ایمیل ، شاو والترز ، خالق الیزائوس گفت: این چارچوب ، مانند تمام رابط های طبیعی به زبان طبیعی ، “به عنوان جایگزینی ، برای همه اهداف و اهداف ، برای تعداد زیادی و دکمه های زیادی در یک صفحه وب طراحی شده است.” درست همانطور که یک توسعه دهنده وب سایت هرگز نباید دکمه ای را در بر بگیرد که به بازدید کنندگان امکان اجرای کد مخرب را بدهد ، بنابراین باید مدیرانی که نمایندگان مبتنی بر الیزاوس را اجرا می کنند ، با ایجاد لیست هایی که امکان توانایی یک عامل را به عنوان مجموعه کوچکی از اقدامات از پیش تأیید شده می توانند انجام دهند ، با دقت محدود کنند.
والترز ادامه داد:
از بیرون ممکن است به نظر برسد که یک عامل به کیف پول یا کلیدهای خود دسترسی دارد ، اما آنچه که آنها دارند دسترسی به ابزاری است که می توانند با آنها تماس بگیرند که سپس به آنها دسترسی پیدا می کند ، با یک دسته از احراز هویت و اعتبارسنجی بین.
بنابراین برای اهداف و اهداف مقاله ، در پارادایم فعلی ، با افزودن هر مقدار کنترل دسترسی به اقداماتی که مأمورین می توانند با آنها تماس بگیرند ، اوضاع تا حدودی مورد توجه قرار می گیرد ، این چیزی است که ما در آخرین نسخه ما الیزا به آن می پردازیم و نسخه ی نمایشی می کنیم – اما در صورت شروع کار با کنترل بیشتر رایانه و دسترسی مستقیم به ترمینال CLI ، با استفاده از نسخه مشابه با همان مشکل روبرو می شود. همانطور که ما عوامل را کشف می کنیم که می توانند ابزارهای جدیدی را برای خودشان بنویسند ، کانتینریزاسیون کمی پیچیده تر می شود ، یا ما باید آن را به قطعات مختلف تقسیم کنیم و فقط به نمایندگان نمایندگان بخش کوچکی از آن می پردازیم … از آنجا که پرونده تجاری این چیزها هنوز مشخص نیست ، هیچ کس به طرز وحشتناکی به دست نیامده است ، اما خطرات به همان اندازه است که به کسی بسیار هوشمندانه است اما فاقد قضاوت در اینترنت است. رویکرد ما این است که همه چیز را برای هر کاربر ماسهبازی و محدود نگه داریم ، زیرا فرض می کنیم عوامل ما می توانند در بسیاری از سرورهای مختلف دعوت شوند و با اطلاعات مختلف کار را برای کاربران مختلف انجام دهند. بیشتر نمایندگانی که GitHub را بارگیری می کنید این کیفیت را ندارند ، اسرار با متن ساده در یک فایل محیط نوشته شده است.
در پاسخ ، Atharv Singh Patlan ، نویسنده اصلی مقاله ، نوشت: “حمله ما قادر به خنثی کردن هرگونه دفاع مبتنی بر نقش است. تزریق حافظه این نیست که به طور تصادفی با انتقال تماس می گیرد: هر زمان که یک نقل و انتقالات فراخوانی شود ، به آدرس مهاجم ارسال می شود.
[ad_2]
منبع:arstechnica
