# مشخصات درس‌نامه: بررسی موردی دیوار؛ پالایش هوشمند آگهی‌ها، چت امن و سیستم‌های ضدکلاهبرداری - **شناسه در سیلابس:** `L16.3d` - **فصل:** فصل ۱۶: ادامه راه (Ch 16) - **نوع محتوا:** 📘 درس‌نامه متنی - **زمان تقریبی مطالعه:** ۱۸ دقیقه - **پیش‌نیازهای مستقیم:** `L16.3c` (بررسی موردی کافه‌بازار) --- ## ۱. اهداف یادگیری (Learning Objectives - Bloom's Taxonomy) دانشجو پس از مطالعهٔ این درس‌نامه باید بتواند: - [ ] **درک کند (Understand):** مقیاس عظیم پلتفرم نیازمندی‌های آنلاین **دیوار** با بیش از ۵۰ میلیون کاربر فعال و صدها هزار آگهی جدید روزانه در صدها شهر ایران را تحلیل نماید. - [ ] **تحلیل/ارزیابی کند (Evaluate):** سامانه پالایش خودکار آگهی‌ها (Automated Content Moderation) را با ترکیب مدل‌های پردازش زبان طبیعی (NLP/LLMs) برای کشف کلمات فریبکارانه و مدل‌های بینایی ماشین برای اسکن تصاویر آگهی‌ها ارزیابی کند. - [ ] **درک کند (Understand):** سازوکار پایش بلادرنگ چت امن (Safe Chat) و سیستم‌های هشداردهنده خودکار ضد فیشینگ (Anti-Phishing) را در هنگام تبادل پیام میان خریدار و فروشنده بشناسد. - [ ] **به‌کار ببندد (Apply):** الگوهای گاردریل محتوایی، اعتبارسنجی ورودی‌های متنی و دیوارهای امنیتی ضدسوءاستفاده را در بخش‌های تعاملی پروژه‌های آینده پیاده کند. --- ## ۲. محدوده و مرزهای محتوا (Scope & Boundaries) ### آنچه باید پوشش داده شود (In-Scope): 1. **تصویر کلان مقیاس دیوار: بازار آنلاین ایران:** * انتشار صدها هزار آگهی روزانه در دسته‌های خودرو، مسکن، لوازم و استخدام، و میلیاردها بار بازدید هفتگی. 2. **محور اول هوش مصنوعی: پالایش خودکار و انتشار آنی آگهی‌ها (Ad Moderation):** * چالش تایید آگهی در کمتر از چند ثانیه بدون تشکیل صف‌های چندساعته انسانی. * پردازش متن با مدل‌های NLP: کشف کلمات ممنوعه، دور زدن‌های فریبکارانه شماره تماس (نوشتن شماره با حروف یا ایموجی)، و قیمت‌های غیرواقعی یا فیک. * بینایی ماشین برای تصاویر: رد کردن عکس‌های تار، تشخیص عکس‌های کپی‌شده از اینترنت، و فیلتر محتوای نامناسب. * تایید خودکار بیش از ۸۰٪ آگهی‌های سالم و ارجاع موارد مشکوک به کارشناسان انسانی. 3. **محور دوم هوش مصنوعی: سامانه چت امن و مقابله با فیشینگ (Safe Chat & Fraud Prevention):** * کلاهبرداری کلاسیک «دریافت بیعانه با لینک پرداخت جعلی»: خریدار پیام می‌دهد «وارد این لینک شو بیعانه‌ت رو بگیر». * مدل‌های هوش مصنوعی چطور در لحظه (Real-time) لینک‌های فیشینگ و الگوهای کلاهبرداری را شناسایی کرده و با کادر هشدار قرمز به کاربر اخطار می‌دهند؟ 4. **محور سوم: مهندسی نرم‌افزار با AI در تیم‌های فنی دیوار:** * معماری میکروسرویس‌های فوق‌پرسرعت با زبان‌های Go و Python و پایگاه داده توزیع‌شده. * استفاده از ایجنت‌های هوش مصنوعی برای مستندسازی میکروسرویس‌ها و بازبینی کدهای PRها. * ارکستراسیون ایجنت‌های پاسخ‌گوی پشتیبانی: پیشنهاد پاسخ‌های دقیق و سریع به اپراتورهای مرکز تماس برای حل مشکلات کاربران. 5. **درس‌های طلایی دیوار برای سازندگان وایب کدینگ:** * حفظ سلامت اکوسیستم؛ اگر روی محتوای ورودی کاربران نظارت نکنید، اعتماد به برند شما در چند روز نابود می‌شود. 6. **کال‌اوت‌های آموزشی و الهام‌بخش کوئرا:** * کال‌اوت بنفش (`
`): مفهوم مهار خطای انسانی و سیستم‌های هیبریدی (ترکیب ماشین + انسان)؛ هوش مصنوعی غربالگری اولیه را انجام می‌دهد و انسان تصمیم نهایی موارد مرزی را می‌گیرد. * کال‌اوت سبز (`
`): افتخار به مهندسی ایرانی؛ دیواری که کاملاً متناسب با زبان فارسی، لحن‌ها و اصطلاحات بومی ایران بهینه‌سازی شده است. * کال‌اوت قرمز (`
`): اهمیت حفاظت از حریم خصوصی؛ پایش محتوا برای امنیت نباید بهانه‌ای برای نقض حریم خصوصی و افشای چت‌های خصوصی کاربران باشد. ### آنچه نباید وارد آن شویم (Out-of-Scope): - جزییات تعاملات مالی با پلیس فتا و فرآیندهای استعلام قضایی. - الگوریتم‌های هوش مصنوعی تخمین رسمی قیمت املاک برای مراجع دولتی. --- ## ۳. مفاهیم کلیدی و کلمات تخصصی (Key Concepts & Terms) | اصطلاح انگلیسی | معادل فارسی مصوب | توضیح یک‌خطی ساده | | :--- | :--- | :--- | | Content Moderation | پالایش و مدیریت محتوا | فرآیند بازرسی متون و تصاویر بارگذاری‌شده برای انطباق با قوانین و پیشگیری از تخلفات | | Phishing Detection | کشف درگاه‌های جعلی فیشینگ | شناسایی پیوندها و رفتارهای کلاهبردارانه‌ای که قصد سرقت اطلاعات کارت بانکی کاربران را دارند | | Text Obfuscation | مبهم‌سازی متنی فریبکارانه | تلاش کاربران خاطی برای دور زدن فیلترها با نوشتن اعداد با حروف، نمادها یا غلط املایی عمدی | | Real-time Guardrails | سپرهای محافظتی بلادرنگ | فیلترهای ماشینی آنی که پیام‌ها را در کسری از ثانیه پیش از تحویل به طرف مقابل ارزیابی می‌کنند | | Hybrid Moderation | پالایش ترکیبی انسان و ماشین | مدل همکاری که در آن هوش مصنوعی پالایش سریع را انجام داده و موارد مشکوک را به ناظر انسانی ارجاع می‌دهد | --- ## ۴. جایگاه‌های تصاویر و نمودارها (Visual & Diagram Placeholders) > **راهنمای ایجنت نویسنده:** تمام تصاویر باید در پوشهٔ `images/` ذخیره شده و در جدول تک‌خانه‌ای وسط‌چین درج شوند: 1. **تصویر کاور درس:** `images/cover.png` * **موضوع:** سپر دیجیتال نئونی درخشان با نشان قرمز و سفید دیوار که از میان میلیون‌ها آگهی آنلاین، آگهی‌های سالم را تایید و پیام‌های مشکوک را متوقف می‌کند. 2. **خط تولید پالایش خودکار آگهی در دیوار:** `images/divar-ad-moderation-pipeline.png` * **موضوع:** اینفوگرافیک گام‌به‌گام: کاربر آگهی را ثبت می‌کند $\rightarrow$ اسکن متن با NLP (بررسی قیمت و کلمات) $\rightarrow$ اسکن عکس‌ها با بینایی ماشین $\rightarrow$ تایید آنی یا ارجاع به کارشناس $\rightarrow$ انتشار عمومی. 3. **سازوکار سپر محافظتی چت امن دیوار در برابر فیشینگ:** `images/divar-safe-chat-phishing-shield.png` * **موضوع:** اسکرین‌شات از محیط چت دیوار با هایلایت قرمز دور پیام کلاهبردار و نمایش بنر اخطار نارنجی: «توجه: هرگز وارد لینک‌های ناشناس برای دریافت بیعانه نشوید!». 4. **داشبورد ارکستراسیون ایجنت‌های پشتیبانی دیوار:** `images/divar-support-ai-agent-screen.png` * **موضوع:** اسکرین‌شات از پنل اپراتور پشتیبانی با متن پیشنهادی خودکار ایجنت هوش مصنوعی برای پاسخ سریع به کاربر. --- ## ۵. بخش‌بندی و ساختار محتوایی پیشنهادی درس‌نامه (`README.md`) 1. **تیتر اصلی:** `# بررسی موردی دیوار؛ پالایش هوشمند آگهی‌ها، چت امن و سیستم‌های ضدکلاهبرداری` 2. **مقدمه:** چگونه پلتفرمی با بیش از ۵۰ میلیون کاربر، صدها هزار آگهی جدید در روز را در کمتر از چند ثانیه بدون به خطر افتادن امنیت مردم تایید و منتشر می‌کند؟ 3. **جدول کاور درس** 4. **مقیاس خارق‌العاده دیوار: بزرگ‌ترین بازار معاملات بدون واسطه ایران:** * انتشار آگهی‌ها در صدها شهر و تنوع بی‌شمار دسته‌بندی‌ها از ملک و خودرو تا استخدام. 5. **موتور پالایش محتوا (Content Moderation Engine):** * شکار خودکار کلمات ممنوعه، قیمت‌های غیرواقعی و ترفندهای دور زدن شماره تماس. * پردازش تصاویر با بینایی ماشین برای کشف عکس‌های دانلودی و بی‌کیفیت. 6. **سامانه چت امن: مبارزه هوشمند با کلاهبرداری بیعانه و فیشینگ:** * پایش بلادرنگ پیام‌های رد و بدل شده و نمایش هشدارهای زنده به محض ارسال لینک‌های خطرناک. 7. **ترکیب طلایی انسان و ماشین (Hybrid Intelligence):** * چرا هوش مصنوعی ۸۵٪ آگهی‌های استاندارد را فوراً آزاد می‌کند و ۱۵٪ موارد مشکوک را برای چشم تیزبین انسان می‌فرستد. 8. **مهندسی مدرن در دیوار: تیم‌هایی که با ابزارهای AI پرواز می‌کنند:** * نوشتن میکروسرویس‌های پایدار Go و اتوماسیون تست‌ها و مستندات. 9. **درس‌های دیوار برای پروژه‌های شما:** * ایجاد گاردریل‌های سخت‌گیرانه برای ورودی‌های کاربران؛ هرگز نگویید «کاربران من قصد بدی ندارند!». 10. **باکس نکته Quera (`
`):** چالش زبان فارسی و عامیانه در NLP؛ چگونه مهندسان دیوار مدل‌های زبانی را برای درک اصطلاحات محاوره‌ای و بازاری ایرانی بومی‌سازی کردند. 11. **باکس هشدار Quera (`
`):** مسئولیت حفظ حریم خصوصی؛ پایش امنیتی چت‌ها باید کاملاً ماشینی، رمزنگاری‌شده و بدون نقض حریم شخصی کاربران انجام گیرد. 12. **باکس رضایت‌بخش Quera (`
`):** الهام‌گیری از استانداردهای ایمن‌سازی دیوار و استفاده از این الگوها در فرم‌ها و چت‌بات پورتفولیو. 13. **جمع‌بندی درس‌نامه:** پایان بخش بررسی موردی شرکت‌های بزرگ فناوری ایران؛ ورود به ایستگاه سرنوشت‌ساز: نقش جدید توسعه‌دهنده به عنوان ارکستراتور سیستم‌ها در درس بعدی. --- ## ۶. معیارهای پذیرش (Acceptance Criteria for Reviewer) - [ ] مقیاس مهندسی و چالش‌های اعتماد در پلتفرم دیوار تشریح گردد. - [ ] معماری پالایش خودکار آگهی‌ها (متن و تصویر) با جزئیات فنی ارائه شود. - [ ] مکانیزم امنیتی چت امن و کشف بلادرنگ فیشینگ تبیین شود. - [ ] رویکرد هیبریدی انسان و ماشین (Human-in-the-Loop) در پالایش محتوا تحلیل گردد.