105 lines
13 KiB
Markdown
105 lines
13 KiB
Markdown
# مشخصات درس‌نامه: بررسی موردی دیوار؛ پالایش هوشمند آگهی‌ها، چت امن و سیستم‌های ضدکلاهبرداری
|
||
- **شناسه در سیلابس:** `L16.3d`
|
||
- **فصل:** فصل ۱۶: ادامه راه (Ch 16)
|
||
- **نوع محتوا:** 📘 درس‌نامه متنی
|
||
- **زمان تقریبی مطالعه:** ۱۸ دقیقه
|
||
- **پیش‌نیازهای مستقیم:** `L16.3c` (بررسی موردی کافه‌بازار)
|
||
|
||
---
|
||
|
||
## ۱. اهداف یادگیری (Learning Objectives - Bloom's Taxonomy)
|
||
دانشجو پس از مطالعهٔ این درس‌نامه باید بتواند:
|
||
- [ ] **درک کند (Understand):** مقیاس عظیم پلتفرم نیازمندی‌های آنلاین **دیوار** با بیش از ۵۰ میلیون کاربر فعال و صدها هزار آگهی جدید روزانه در صدها شهر ایران را تحلیل نماید.
|
||
- [ ] **تحلیل/ارزیابی کند (Evaluate):** سامانه پالایش خودکار آگهی‌ها (Automated Content Moderation) را با ترکیب مدل‌های پردازش زبان طبیعی (NLP/LLMs) برای کشف کلمات فریبکارانه و مدل‌های بینایی ماشین برای اسکن تصاویر آگهی‌ها ارزیابی کند.
|
||
- [ ] **درک کند (Understand):** سازوکار پایش بلادرنگ چت امن (Safe Chat) و سیستم‌های هشداردهنده خودکار ضد فیشینگ (Anti-Phishing) را در هنگام تبادل پیام میان خریدار و فروشنده بشناسد.
|
||
- [ ] **به‌کار ببندد (Apply):** الگوهای گاردریل محتوایی، اعتبارسنجی ورودی‌های متنی و دیوارهای امنیتی ضدسوءاستفاده را در بخش‌های تعاملی پروژه‌های آینده پیاده کند.
|
||
|
||
---
|
||
|
||
## ۲. محدوده و مرزهای محتوا (Scope & Boundaries)
|
||
|
||
### آنچه باید پوشش داده شود (In-Scope):
|
||
1. **تصویر کلان مقیاس دیوار: بازار آنلاین ایران:**
|
||
* انتشار صدها هزار آگهی روزانه در دسته‌های خودرو، مسکن، لوازم و استخدام، و میلیاردها بار بازدید هفتگی.
|
||
2. **محور اول هوش مصنوعی: پالایش خودکار و انتشار آنی آگهی‌ها (Ad Moderation):**
|
||
* چالش تایید آگهی در کمتر از چند ثانیه بدون تشکیل صف‌های چندساعته انسانی.
|
||
* پردازش متن با مدل‌های NLP: کشف کلمات ممنوعه، دور زدن‌های فریبکارانه شماره تماس (نوشتن شماره با حروف یا ایموجی)، و قیمت‌های غیرواقعی یا فیک.
|
||
* بینایی ماشین برای تصاویر: رد کردن عکس‌های تار، تشخیص عکس‌های کپی‌شده از اینترنت، و فیلتر محتوای نامناسب.
|
||
* تایید خودکار بیش از ۸۰٪ آگهی‌های سالم و ارجاع موارد مشکوک به کارشناسان انسانی.
|
||
3. **محور دوم هوش مصنوعی: سامانه چت امن و مقابله با فیشینگ (Safe Chat & Fraud Prevention):**
|
||
* کلاهبرداری کلاسیک «دریافت بیعانه با لینک پرداخت جعلی»: خریدار پیام می‌دهد «وارد این لینک شو بیعانه‌ت رو بگیر».
|
||
* مدل‌های هوش مصنوعی چطور در لحظه (Real-time) لینک‌های فیشینگ و الگوهای کلاهبرداری را شناسایی کرده و با کادر هشدار قرمز به کاربر اخطار می‌دهند؟
|
||
4. **محور سوم: مهندسی نرم‌افزار با AI در تیم‌های فنی دیوار:**
|
||
* معماری میکروسرویس‌های فوق‌پرسرعت با زبان‌های Go و Python و پایگاه داده توزیع‌شده.
|
||
* استفاده از ایجنت‌های هوش مصنوعی برای مستندسازی میکروسرویس‌ها و بازبینی کدهای PRها.
|
||
* ارکستراسیون ایجنت‌های پاسخ‌گوی پشتیبانی: پیشنهاد پاسخ‌های دقیق و سریع به اپراتورهای مرکز تماس برای حل مشکلات کاربران.
|
||
5. **درس‌های طلایی دیوار برای سازندگان وایب کدینگ:**
|
||
* حفظ سلامت اکوسیستم؛ اگر روی محتوای ورودی کاربران نظارت نکنید، اعتماد به برند شما در چند روز نابود می‌شود.
|
||
6. **کال‌اوت‌های آموزشی و الهام‌بخش کوئرا:**
|
||
* کال‌اوت بنفش (`<details class="violet">`): مفهوم مهار خطای انسانی و سیستم‌های هیبریدی (ترکیب ماشین + انسان)؛ هوش مصنوعی غربالگری اولیه را انجام می‌دهد و انسان تصمیم نهایی موارد مرزی را می‌گیرد.
|
||
* کال‌اوت سبز (`<details class="green">`): افتخار به مهندسی ایرانی؛ دیواری که کاملاً متناسب با زبان فارسی، لحن‌ها و اصطلاحات بومی ایران بهینه‌سازی شده است.
|
||
* کال‌اوت قرمز (`<details class="red">`): اهمیت حفاظت از حریم خصوصی؛ پایش محتوا برای امنیت نباید بهانه‌ای برای نقض حریم خصوصی و افشای چت‌های خصوصی کاربران باشد.
|
||
|
||
### آنچه نباید وارد آن شویم (Out-of-Scope):
|
||
- جزییات تعاملات مالی با پلیس فتا و فرآیندهای استعلام قضایی.
|
||
- الگوریتم‌های هوش مصنوعی تخمین رسمی قیمت املاک برای مراجع دولتی.
|
||
|
||
---
|
||
|
||
## ۳. مفاهیم کلیدی و کلمات تخصصی (Key Concepts & Terms)
|
||
|
||
| اصطلاح انگلیسی | معادل فارسی مصوب | توضیح یک‌خطی ساده |
|
||
| :--- | :--- | :--- |
|
||
| Content Moderation | پالایش و مدیریت محتوا | فرآیند بازرسی متون و تصاویر بارگذاری‌شده برای انطباق با قوانین و پیشگیری از تخلفات |
|
||
| Phishing Detection | کشف درگاه‌های جعلی فیشینگ | شناسایی پیوندها و رفتارهای کلاهبردارانه‌ای که قصد سرقت اطلاعات کارت بانکی کاربران را دارند |
|
||
| Text Obfuscation | مبهم‌سازی متنی فریبکارانه | تلاش کاربران خاطی برای دور زدن فیلترها با نوشتن اعداد با حروف، نمادها یا غلط املایی عمدی |
|
||
| Real-time Guardrails | سپرهای محافظتی بلادرنگ | فیلترهای ماشینی آنی که پیام‌ها را در کسری از ثانیه پیش از تحویل به طرف مقابل ارزیابی می‌کنند |
|
||
| Hybrid Moderation | پالایش ترکیبی انسان و ماشین | مدل همکاری که در آن هوش مصنوعی پالایش سریع را انجام داده و موارد مشکوک را به ناظر انسانی ارجاع می‌دهد |
|
||
|
||
---
|
||
|
||
## ۴. جایگاه‌های تصاویر و نمودارها (Visual & Diagram Placeholders)
|
||
> **راهنمای ایجنت نویسنده:** تمام تصاویر باید در پوشهٔ `images/` ذخیره شده و در جدول تک‌خانه‌ای وسط‌چین درج شوند:
|
||
|
||
1. **تصویر کاور درس:** `images/cover.png`
|
||
* **موضوع:** سپر دیجیتال نئونی درخشان با نشان قرمز و سفید دیوار که از میان میلیون‌ها آگهی آنلاین، آگهی‌های سالم را تایید و پیام‌های مشکوک را متوقف می‌کند.
|
||
2. **خط تولید پالایش خودکار آگهی در دیوار:** `images/divar-ad-moderation-pipeline.png`
|
||
* **موضوع:** اینفوگرافیک گام‌به‌گام: کاربر آگهی را ثبت می‌کند $\rightarrow$ اسکن متن با NLP (بررسی قیمت و کلمات) $\rightarrow$ اسکن عکس‌ها با بینایی ماشین $\rightarrow$ تایید آنی یا ارجاع به کارشناس $\rightarrow$ انتشار عمومی.
|
||
3. **سازوکار سپر محافظتی چت امن دیوار در برابر فیشینگ:** `images/divar-safe-chat-phishing-shield.png`
|
||
* **موضوع:** اسکرین‌شات از محیط چت دیوار با هایلایت قرمز دور پیام کلاهبردار و نمایش بنر اخطار نارنجی: «توجه: هرگز وارد لینک‌های ناشناس برای دریافت بیعانه نشوید!».
|
||
4. **داشبورد ارکستراسیون ایجنت‌های پشتیبانی دیوار:** `images/divar-support-ai-agent-screen.png`
|
||
* **موضوع:** اسکرین‌شات از پنل اپراتور پشتیبانی با متن پیشنهادی خودکار ایجنت هوش مصنوعی برای پاسخ سریع به کاربر.
|
||
|
||
---
|
||
|
||
## ۵. بخش‌بندی و ساختار محتوایی پیشنهادی درس‌نامه (`README.md`)
|
||
|
||
1. **تیتر اصلی:** `# بررسی موردی دیوار؛ پالایش هوشمند آگهی‌ها، چت امن و سیستم‌های ضدکلاهبرداری`
|
||
2. **مقدمه:** چگونه پلتفرمی با بیش از ۵۰ میلیون کاربر، صدها هزار آگهی جدید در روز را در کمتر از چند ثانیه بدون به خطر افتادن امنیت مردم تایید و منتشر می‌کند؟
|
||
3. **جدول کاور درس**
|
||
4. **مقیاس خارق‌العاده دیوار: بزرگ‌ترین بازار معاملات بدون واسطه ایران:**
|
||
* انتشار آگهی‌ها در صدها شهر و تنوع بی‌شمار دسته‌بندی‌ها از ملک و خودرو تا استخدام.
|
||
5. **موتور پالایش محتوا (Content Moderation Engine):**
|
||
* شکار خودکار کلمات ممنوعه، قیمت‌های غیرواقعی و ترفندهای دور زدن شماره تماس.
|
||
* پردازش تصاویر با بینایی ماشین برای کشف عکس‌های دانلودی و بی‌کیفیت.
|
||
6. **سامانه چت امن: مبارزه هوشمند با کلاهبرداری بیعانه و فیشینگ:**
|
||
* پایش بلادرنگ پیام‌های رد و بدل شده و نمایش هشدارهای زنده به محض ارسال لینک‌های خطرناک.
|
||
7. **ترکیب طلایی انسان و ماشین (Hybrid Intelligence):**
|
||
* چرا هوش مصنوعی ۸۵٪ آگهی‌های استاندارد را فوراً آزاد می‌کند و ۱۵٪ موارد مشکوک را برای چشم تیزبین انسان می‌فرستد.
|
||
8. **مهندسی مدرن در دیوار: تیم‌هایی که با ابزارهای AI پرواز می‌کنند:**
|
||
* نوشتن میکروسرویس‌های پایدار Go و اتوماسیون تست‌ها و مستندات.
|
||
9. **درس‌های دیوار برای پروژه‌های شما:**
|
||
* ایجاد گاردریل‌های سخت‌گیرانه برای ورودی‌های کاربران؛ هرگز نگویید «کاربران من قصد بدی ندارند!».
|
||
10. **باکس نکته Quera (`<details class="violet">`):** چالش زبان فارسی و عامیانه در NLP؛ چگونه مهندسان دیوار مدل‌های زبانی را برای درک اصطلاحات محاوره‌ای و بازاری ایرانی بومی‌سازی کردند.
|
||
11. **باکس هشدار Quera (`<details class="red">`):** مسئولیت حفظ حریم خصوصی؛ پایش امنیتی چت‌ها باید کاملاً ماشینی، رمزنگاری‌شده و بدون نقض حریم شخصی کاربران انجام گیرد.
|
||
12. **باکس رضایت‌بخش Quera (`<details class="green">`):** الهام‌گیری از استانداردهای ایمن‌سازی دیوار و استفاده از این الگوها در فرم‌ها و چت‌بات پورتفولیو.
|
||
13. **جمع‌بندی درس‌نامه:** پایان بخش بررسی موردی شرکت‌های بزرگ فناوری ایران؛ ورود به ایستگاه سرنوشت‌ساز: نقش جدید توسعه‌دهنده به عنوان ارکستراتور سیستم‌ها در درس بعدی.
|
||
|
||
---
|
||
|
||
## ۶. معیارهای پذیرش (Acceptance Criteria for Reviewer)
|
||
- [ ] مقیاس مهندسی و چالش‌های اعتماد در پلتفرم دیوار تشریح گردد.
|
||
- [ ] معماری پالایش خودکار آگهی‌ها (متن و تصویر) با جزئیات فنی ارائه شود.
|
||
- [ ] مکانیزم امنیتی چت امن و کشف بلادرنگ فیشینگ تبیین شود.
|
||
- [ ] رویکرد هیبریدی انسان و ماشین (Human-in-the-Loop) در پالایش محتوا تحلیل گردد.
|