فیلترینگ هوشمند

1

ف�ی�ل�ت�ر�ی�ن�گ� ه�و�ش�م�ن�دا�س�ت�ا�د�:� آ�ق�ا�ی� د�ک�ت�ر� ط�ا�ل�ب� پ�و�ر

ا�ر�ا�ئ�ه� ک�ن�ن�د�ه�:� ف�ر�ی�ب�ا� د�ه�ق�ا�ن1393/7 /20

2

مقدمه براي تمامي شرکت هاي فيلترين�گ يکپارچ�ه قانون جراي�م رايانه اي، ۲۱براس�اس ماده

براي دلخواه به ک�ه ندارن�د را اجازه اي�ن اينترنت�ي تعري�ف شده و شركت هاي اينترنت�ي سايتي محدوديت و يا عدم محدوديت اعمال کنند.

ب�ه ص�ورت جدیدی ظاهر و ب�ه گزارش ايس�نا از زمان�ي ك�ه ص�فحه فيلترين�گ در كشورتعيي�ن مص�اديق محتواي مجرمانه كارگروه اس�اس مص�وبه بر آ�ن از طرح

بحث�ي مبن�ي بر اجراي طرح فيلترينگ تغيي�ر كرد؛ س�وي شرك�ت ارتباطات زيرس�اخت، هوشمند در ايران مطرح شد.

زمان�ی ک�ه آقای روحان�ی ب�ه مقام ریاس�ت جمهوری منتخ�ب شدن�د، در نظ�ر داشتن�د ت�ا اینفیلترینگ ها کاسته شود.

محمود واعظ�ی، وزی�ر ارتباطات، اظهار کردن�د ک�ه م�ا ب�ا س�ه ت�ا دانشگاه و مؤسسه یتحقیقات�ی توافقنام�ه ای را برای توس�عه ی فیلترین�گ هوشمن�د امض�ا کردی�م ک�ه تنه�ا شبکه

های غیر اخالقی فیلتر شود و امکان استفاده از صفحات دیگر وجود داشته باشد. ای�ن پروژ�ه برای اهداف خاص�ی اس�تفاده م�ی شود و در حال حاض�ر ای�ن پروژه در حال

آزمایش است.

3

ارتباطات مسدود کارشناس�ان حوزه از بس�یاری ب�ه عقیده اگرچ�ه کردن ای�ن شبکه ه�ا عالوه برآ�ن ک�ه کار ص�حیحی نیس�ت و از سوی ب�ه افزای�ش استفاده از نهای�ت منج�ر دیگ�ر افزای�ش فیلترینگ ه�ا در فیلترشک�ن و دور زدن قانون از س�وی کاربران خواه�د ش�د، سیستم فیلترین�گ هوشمن�د ب�ا نظارت موضوع�ی و محتوای�ی بر ای�ن شبکه ها می توان راه مناس�ب تری برای جلوگیری از انتشار مطالب نامناسب

از طریق شبکه های پیام رسان باشد.

4

فیلترینگ هوشمندمطرح شدن فیلترینگ هوشمند از زمان فراگیر شدن شبکه های اجتماعی موبایلاحراز هویت: امکان تفکیک فیلترینگ برای گروه های مختلف مردم

یکی از برنامه های شورای فضای مجازی، بررسی پیشنهادی برای اعمال فیلترینگ برای گروه های مختل�ف مردم از لحاظ س�ن و شغ�ل اس�ت ک�ه در ای�ن راس�تا بای�د کاربر قب�ل از استفاده از

اینترنت، احراز هویت شود تا امکان تفکیک خدمات فیلترینگ برای کاربران وجود داشته باشد.

پاالیش و پای�ش نیازمن�د هوشمن�د، فیلترین�گ اجرای در ( ب�ه کشور هستیم و Gatewayمحتوا از دروازه ورودی )

بای�د اس�اس ای�ن )یعنی 1200بر بان�د پهنای گیگابای�ت گیگابای�ت س�ال گذشت�ه( را رصد 500افزای�ش پهنای بان�د

کنی�م ک�ه ای�ن ام�ر نیازمن�د س�ازوکارهای فن�ی بسیار قوی و پیچیده ای است.

5

هوشمند چیستنرم افزار فیلترینگ و چه قابلیت هایی دارد؟

6

. جلو�گیری از اعمال سلیقه های فردی1در حال حاض�ر در کشور م�ا انجام فیلترین�گ بر عهده ی�ک کارگروه اس�ت و با رای گیری •

ک�ه در میان اعضای ای�ن کارگروه انجام می شود، تص�میم گرفت�ه می شود ک�ه ی�ک سایت اعمال سلیقه فیلت�ر شود ی�ا نشود. بنابرای�ن در ای�ن س�یستم فیلترین�گ، ممک�ن اس�ت

از س�وی افراد وجود داشت�ه باشد. یک�ی از راه کار های�ی ک�ه در نهای�ت به حذف های�ی است. یعنی فیلترینگ هوشمند این اعمال س�لیقه ها می انجامد، استفاده از سیستم

با جایگزینی نرم افزار ها به جای افراد، این مسئله تا حد زیادی بر طرف خواهد� شد.

. وجود سایت هایی است که در آن ها مطالب خوب و بد در کنار هم 2قرار دارد.

به • را ی�ا بدی ی�ا شبک�ه اجتماع�ی ممک�ن اس�ت مطال�ب خوب و ه�ر موتور جس�ت وجو کاربران انتقال ده�د و نمی توان ب�ه ای�ن دلی�ل ک�ل آ�ن شبک�ه را مس�دود کرد. فیلترینگ کنون�ی ب�ه دلی�ل عدم امکانات کاف�ی، ت�مام�ی س�ایت را فیلت�ر کرده و در نتیج�ه، مطالبی نی�ز ک�ه ب�ا ارزش های کشور مغایرت ندارن�د�، مس�دود م�ی شوند�. از س�وی دیگ�ر ممکن اس�ت برخ�ی از مطال�ب در شبکه های اینترنت�ی حاوی مطال�ب تخص�صی باش�د که برای برای برخ�ی گروه های متخصص در عی�ن حال ام�ا زیان آور اجتماع�ی برخ�ی گروه های کشور مفی�د هس�تند. برای مثال م�ی توان ب�ه س�ایت های تخص�صی پزشکی اشاره کرد. در چنی�ن موار�دی نی�ز فیلترین�گ ن�بای�د� مان�ع دس�ترسی افراد متخص�ص ب�ه سایت های مورد

نیازشان بشود.

7

. در برخورد با یک صفحه، به جای فیلتر کردن تمام آدرس، 3بخشی از آن مسدود شود.

تنه�ا برخ�ی صفحات • نتیج�ه چنی�ن روندی، در ی�ک س�ایت ه�م چون فی�س بوک، در مسدود شده و دسترسی به سایر صفحات، آزاد خواهد بود.

. در فیلترینگ هوشمند قرار است میان دسترسی های افراد، 4تمایزاتی ایجاد شود.

افراد • تر، برای ی�ا دس�ترسی ک�م ت�ر بی�ش از دس�ترسی ترتی�ب، س�طحی ای�ن ب�ه متناس�ب ب�ا س�ن، شغ�ل و تخص�ص شان، در نظ�ر گرفت�ه شود. برای مثال سطح دس�ترسی ب�ه اینترن�ت برای ی�ک پژوهشگ�ر در مقایس�ه ب�ا ی�ک دانش آموز متفاوت خواه�د بود ک�ه البت�ه ب�ا توج�ه ب�ه اینک�ه اجرای ای�ن عملکرد، ب�ه تشخی�ص هویت افراد ملی فضای مرک�ز در چنان ه�م پیشنهاد، از بخ�ش ای�ن اجرای�ی ابعاد دارد، نیاز

مجازی در دست بررسی است.

8

. از دیگر الزامات فیلترینگ هوشمند، امکان درک و پردازش 5تصو�یر است.

در نتیج�ه آ�ن م�ی توان امیدوار بود ک�ه تنه�ا برخ�ی از تص�اویر مغای�ر ب�ا اخالق س�ایت ها •افزار نرم آ�ن س�ایت مسدود شود. آدرس تمام باش�د ک�ه قرار آ�ن ب�ی فیلت�ر شون�د، فیلترین�گ ه�م چنی�ن بای�د قادر باش�د ک�ه بر اس�اس محتوا مس�دود سازی را انجام دهد. خاص کلمات برخی از آ�ن در ک�ه پزشک�ی مطل�ب ی�ک میان بتوان�د بای�د مثال برای استفاده شده است و مطالب دیگری که از همان کلمات استفاده می کنند، تمایز قائل

شود.

راه اندازی شبکه های داخلی و حمایت از مراکز داده داخلی و . 6ارائه انواع خدمات بومی در فضای مجازی

ب�ه • اینترنت�ی های س�ایت فیلترین�گ فضای های هوشمندس�ازی اندازی شبکه راه باع�ث ایجاد و حمای�ت از مراک�ز داده داخل�ی و ارائه کم�ک م�ی کن�د و داخل�ی

ایمی�ل و جس�تجوگر م�ی شود. این انواع خدمات بوم�ی در فضای مجازی مانن�د خدمات ب�ه تدری�ج کاه�ش هزین�ه کاربران و افزای�ش کیفی�ت خدمات را ب�ه همراه خواهد داشت چرا که کاربران با تمایل خواستار استفاده از نرم افزارهای ایرانی خواهند بود.

9

فیلترینگ هوشمند در سایر کشورها

در حال حاضر فیلترینگ هوشمند در کشور های پیشرفته رایج بوده و به سه مختلف اعمال می شود.

قابلیت 1( ک�ه می دهن�د را امکان ای�ن خود کاربران ب�ه اینترنت�ی شرکت های دسترسی به برخی از سایت ها و شبکه ها برای آن ها محدود شود.

اعمال 2( کشور یک نهادهای و شرکت ه�ا س�وی از هوشمن�د: نیم�ه فیلترین�گ تناسب ب�ه و ای�ن شرکت ه�ا اس�اسنامه براس�اس فیلترین�گ نوع� می شود. ای�ن

وضعیت سیاسی و اجتماعی و فرهنگی یک کشور اجرا می شود. به 3( دس�ترسی می توانن�د آن ه�ا و دولت هاس�ت اختیار در هوشمن�د: فیلترین�گ

س�ایت ها و شبکه های�ی را ک�ه برای امنی�ت داخل�ی ی�ک کشور مشکل س�از است را محدود کنند.

10

فیلترینگ هوشمند در سایر کشورها

هم اکنون� کنترل های� معنایی در فیلترینگ های� هوشمند بسیاری� از کشور� ها انجام می شود.

ارسال از برای جلوگ�یری فیلترین�گ معنای�ی هوشمن�د از آمریک�ا، برای مثال� در اطالعات نظام�ی� اس�تفاده م�ی� شود و حت�ی قدرت ترجم�ه ب�ه زبان های دیگر نیز برای آن وجود دارد. یعنی� اگر شخصی� بخواهد اطالعات نظامی را به زبان های دیگ�ر ب�ه خارج از کش�ور ارس�ال� کن�د، ب�ا فیلترین�گ معنای�ی� هوشمن�د مواج�ه می شود. ب�ه ای�ن معن�ی� ک�ه اگ�ر شخص�ی بخواه�د اط�العات نظام�ی� را از ط�ری�ق� عک�س�، متن، ص�دا و فیل�م� ی�ا حت�ی ب�ه زبان های دیگ�ر ب�ه خارج کشور ارس�ال کن�د، فایل های ارسالی

از روش کنترل معنایی� بررسی می شوند.

11

فیلترینگ هوشمند در سایر کشورها

صفحه فیلترینگ در برخی كشورها به صورت هوشمند است.

اگ�ر كاربری ب�ه سایتی ای�ن نوع فیلترین�گ، بر اس�اس به صورت باش�د، ص�فحه فیلت�ر شده ك�ه كن�د مراجع�ه مورد موضوع و عبارت و كاربر نیاز هوشمند

جس�ت وجوی كاربر را تشخیص داده و لینك های مجاز مرتبط را در اختیارش قرار می دهد.

12

فیلترینگ هوشمند در سایر کشورها

عمده داليل فيلتر كردن اينترنت در كشورهاي مختلف مسائل سياسي، مسائل اجتماعي، مسائل امنيتي و مسائل اخالقي

آنچه باعث تفاوت مبنايي هر كشور براي فيلترينگ مي شود، ارزش هاي بنيادين مورد توجه در هر مقوله در آن كشورها است.

در مجموع مي توان گفت تع�داد كشورهايي كه در منطقه و جهان به نحوي با مساله فيلترينگ و سانسور در اينترنت مواجه هستند،

نسبتاً قابل توجه است. كشورهايي مانند سوئد، فرانسه وآلمان در قاره اروپا و كشورهايي مانند هند، عربستان، كره جنوبي، مالزي و

در مجموع� آسيا به عنوان بزرگترين قاره دنيا و نيز كانادا داراي گسترده ترين ميزان تنوع فیلترینگ هستند.

13

برداری از اولین نرم افزار بهرهفیلترینگ هوشمند از ادعا تا واقعیت!

بر اساس این گزارش، از مشخصه های این طرح:

تشخیص هوشمند محتوای درخواست شده توسط کاربر است افزایش سرعت و گستره صفحات پاالیش شدهکاهش نرخ خط�ا دسترسی سریعتر و دقیق تر کاربر به محتوای مفید مورد نیاز خود در ای�ن نرم افزار ب�ه دلی�ل امکان پاالی�ش جزئ�ی ص�فحات، پاالی�ش ص�رفاً بر ص�فحاتی اعمال

م�ی شود ک�ه ب�ه دلی�ل محتوای نامناس�ب نیاز ب�ه پاالی�ش دارن�د و نیازی ب�ه بس�تن ک�ل دامنه نیست.

از ویژگ�ی های دیگ�ر ای�ن طرح، توزی�ع شدگ�ی اس�ت ک�ه براس�اس آ�ن س�ازمان ه�ا، شرک�ت هاتوانند این نرم افزار را مستقالً به کار گیرند.و مؤسسات می

14

در ای�ن خ�بر تاکی�د شده ک�ه نرم افزار فیلترین�گ هوشمن�د کشور در حال حاضر مراح�ل آزمایش�ی نهائ�ی خود را ب�ه پایان رس�انده و در چندی�ن سازمان و نهاد راه

اس�ت. شده مشترک اندازی همکاری با طرح ای�ن اول، مرحل�ه در سازمان و بهشت��ی شهی��د دانشگاه مجازی فض�ای پژوهشکده

در چندی�ن مرک�ز داخل تبلیغات اس�المی )مؤس�سه اطالع رس�انی تبیان( کشور و همزمان ب�ه عنوان ی�ک طرح صادراتی در خارج از کشور راه اندازی

شده است و مراحل بعدی این طرح در آینده نزدیک اجرا خواهد شد.

برداری از اولین نرم افزار بهرهفیلترینگ هوشمند از ادعا تا واقعیت!

15

امکان فیلترینگ با نرم افزار هوشمند همه کاره، ادعایی گزاف است!

،در گزارشی ی کامپیوت�ر دانشگاه ص�نعتی امیرکبی�ر بس�یج دانشجوی�ی دانشکدهدر همی�ن حالی فیلترینگ ی فناوری ارتباطات کشور با اشاره به ساختار فعلی سامانهی مشکالت عرصهتحلیلی درباره

، از روبات های هوشمند نرم افزاری بهره می گیرد س�امانۀk فیلترین�گ فعل�یکشور، تاکی�د کرده بود: "ک�ه بر اس�اس منط�ق روشن�ی کار می کنند. ای�ن روبات ه�ا ک�ه ب�ه ص�ورت خودکار در ص�فحات اینترنت�ی به مرور و تحلی�ل محتویات آن ه�ا می پردازند. ب�ه لحاظ آماری بخ�ش اعظ�م س�ایت هایی ک�ه کلمات نامناسب بس�یاری در محتوا و آدرس ص�فحات خود دارن�د، س�ایت های مبتذل هس�تند و ای�ن س�ایت ها اگ�ر تازه یافت

شده باشند، به فهرست فیلترینگ اضافه می شوند"." :توس�ط انسان مورد س�ایت هایی ک�ه در ح�د مرزی قرار دارن�د  در ادام�ه ای�ن گزارش آمده بود

بررسی قرار می گیرند. عالوه بر این، از گزارشات مردمی و بررسی انسانی برای رفع خطاهای محتمل، فیلترین�گ اشتباه ی�ا یافت�ن برخ�ی س�ایت ها ک�ه از دی�د روبات مخف�ی می مانن�د کم�ک گرفت�ه می شود. بنابراین

با وجود تمامی اشکاالت، سامانه ای واقعی و عملیاتی است که البته باید در بهبود آن اهتمام ورزید".

برداری از اولین نرم افزار بهرهفیلترینگ هوشمند از ادعا تا واقعیت!

16

فیلترین�گ ب�ا نرم افزار هوشمند ی در بخش�ی دیگ�ر از ای�ن گزارش درباره، تاکید شده اس�ت: "اما این ادع�ا ک�ه بتوان از طریق یک نرم افزار یک همه کاره

داد، را تشخی�ص آ�ن ب�د و بررس�ی و خوب را ادعائ�ی بس ص�فحه مشخ�ص اس�ت و هوش مصنوعی گزاف رایان�ه عل�م از آ�ن کنندگان طرح قطع�اً ک�ه

برای درک انسان نکت�ۀ� واض�ح بی توجه ان�د حت�ی ای�ن ب�ه چیزی نمی دانن�د، چون متک�ی اس�ت و نمی تواند دان�ش پس زمینه ای خوب و بد محتوای یک ص�فحه به

بدون دان�ش الزم و کاف�ی ب�ه طور قطع�ی دربارۀ� ی�ک ص�فحه نظ�ر بده�د، ک�ه اگر روبات قضات، جای به قضائی�ه قوۀ� بود، ممک�ن خودکار قضاوت این گون�ه

استخدام می کرد!"

برداری از اولین نرم افزار بهرهفیلترینگ هوشمند از ادعا تا واقعیت!

17

) شهروند ) روزنامه طنزخ�ب ب�ه س�المتی و میمن�ت، گام دیگری در مس�یر عل�م و تکنولوژ�ی و پیشرف�ت کشور

. فیلترین�گ هوشمن�د! خ�ب، هم�ه چیزمان بای�د ب�ه هم�ه چیزمان بیای�د! عزیزمان برداشت�ه شدوقت��ی چهارراه های پ��ر از ترافیکمان ب��ه شک��ل هوشمن��د کنترل می شون��د، وقت��ی کارت سوختمان که بنزی�ن س�رطانزا به ما می دهد هوشمند است، وقتی که کالس های درسمان هوشمن�د شده و ب�ه شکل�ی هوشمن�د بچه ه�ا را بیس�واد بار می آورد، وقت�ی ک�ه حت�ی توزی�ع نهادهای کشاورزی مان هوشمن�د اس�ت، اص�ال نبای�د ب�ه مفهوم هوش ک�ه فق�ط و فق�ط نزد

ایرانیان است و بس شک کرد! ب�ه همی�ن منظور ب�ا یک�ی از مس�ئوالن س�ازمان قط�ع ارتباط کاربران ایران�ی ب�ا اینترن�ت ی�ا

همان پیوندها صحبت کردیم! ما: سالم آقای پیوندها! خب، بفرمایید که این قضیه فیلترینگ هوشمند چیه؟

پیوندها: یعنی هوشمنده، یعنی می فهمه که چیو فیلتر کنه، چیو نکنه. ما:  خب چطور می فهمه؟ یعنی چطور این نرم افزار می فهمه، ولی آدم ها نمی فهمند!؟

پیوندها: متوجه منظورتون نشدم! توهین که نکردی؟

18

ما: نه آقا چه توهینی؟ میگم یک انسان، می ف�همه فالن عکس زشته، عیبه! این از کجا می فهمه؟! پیونده�ا: آهان، خ�ب، ای�ن همون هوشمندیش�ه دیگ�ه، یاد می گیره، م�ا به�ش چهار ت�ا عک�س نشون

میدیم، اون هم یاد می گیره! ما: خب یعنی چی؟ یعنی می روید توی اینترنت عکس های خاک توسری سیرچ می کنید؟

پیونده�ا: دقیق�ا! حاال ن�ه ب�ا ای�ن تعبیری ک�ه شم�ا گفتی�د، ول�ی نمونه های�ی از ای�ن عک�س� هایی را ک�ه بای�د م! فیلتر شود نشان سیستم هوشمند می دهی

م�ا: خ�ب بع�د موضوع مهم�ی ک�ه هس�ت این�ه ک�ه خیلی ه�ا معترض هس�تند ب�ه بهان�ه فیلت�ر موارد غیراخالق�ی، موضوعات، عکس� ها و مقاالت پزشک�ی ه�م فیلت�ر می شون�د، ای�ن س�یستم چطور میتون�ه

موارد غیراخالقی رو از موارد پزشکی تشخیص بده؟ پیونده�ا: خیل�ی ببخشید ه�ا، اون س�یستمی ک�ه نتون�ه عک�س غیراخالق�ی خان�م ا.  ت.  رو از ی�ک بیمار

تشخیص بده دیگه هوشمند نیست، کودنه! دو ریال نمی ارزه!

) شهروند ) روزنامه طنز

19

ما:  بعد موارد غیرغیر اخالقی رو چطوری فیلتر میکنه؟

پیوندها:  یعنی چی غیر اخالقی؟ یعنی خیلی غیراخالقی؟!

ما: نخیر، موارد فیلتری که ربطی به اخالق عمومی نداره، مثال سیاسی!

پیونده�ا: اون ه�م باز س�یس�تمش همینطوری�ه! مثال عک�س ی�ک نف�ر ب�ا عبای شکالت�ی رو به�ش می دی�م، می گی�م ای�ن بده، دیگ�ه خودش می فهم�ه ک�ه موض�ع س�یاسیش بای�د چ�ی باش�ه! البت�ه از اونجای�ی ک�ه ای�ن س�یستم داخلی�ه و توس�ط بچه های توانمن�د خودمون س�اخته

شده، مواضعش در مسائل سیاسی با خودمون هماهنگه!

م�ا: ول�ی م�ا یکس�ری اخبار شنیدی�م ک�ه ی�ک شرک�ت داخل�ی ای�ن س�یستم رو از خارج خریده و داره به دولت می فروشه.

) شهروند ) روزنامه طنز

با سپاس از توجه شما