ӘЛЕУМЕТТІК ЖЕЛІЛЕР МЕН МЕССЕНДЖЕРЛЕР ЭКСТРЕМИСТІК МАЗМҰНДЫ ТАРАТУ ПЛАТФОРМАСЫ РЕТІНДЕ

SOCIAL NETWORKS AND MESSENGERS AS PLATFORMS FOR DISTRIBUTING EXTREMIST CONTENT

Dilnaz Temirbek

2nd-year master's student at the department of cybersecurity and cryptology,  Al-Farabi Kazakh National University,

Almaty, Kazakhstan

Makpal Zharylkapova

2nd-year master's student at the department of cybersecurity and cryptology,  Al-Farabi Kazakh National University,

Almaty, Kazakhstan

АҢДАТПА

Әлеуметтік желілер мен мессенджерлер қазіргі заманда ақпарат алмасудың ең танымал құралдарына айналды. Олар жылдам байланыс пен кең көлемде ақпарат тарату мүмкіндігін ұсынады. Алайда, осы мүмкіндіктер экстремистік мазмұнды таратуға да жол ашады. Бұл мақалада әлеуметтік желілер мен мессенджерлердің экстремистік мазмұнды тарату платформасы ретіндегі рөлі зерттеледі. Жұмыстың мақсаты – экстремистік мазмұнның таралу әдістерін, әлеуметтік платформалардағы ерекшеліктерін анықтап, оларды шектеуге арналған заңнамалық актілер мен нормалардың тиімділігін талдау.

Зерттеу барысында Қазақстандағы заңнамалық базалар, экстремистік мазмұнды анықтау әдістері қарастырылды. Сонымен қатар, қазіргі кездегі басты мәселелер ретінде анонимділік, платформалардағы алгоритмдік шектеулер және ақпараттың тез таралуы талданды. Зерттеу әдістері ретінде заңнамалық құжаттарды сараптау, салыстырмалы құқықтық талдау және заманауи технологияларды пайдалану тәсілдері қолданылды.

Алынған нәтижелер экстремистік мазмұнды таратудағы негізгі проблемаларды анықтап, осы мәселені шешуге бағытталған ұсыныстарды қамтиды. Бұл зерттеу экстремистік мазмұнмен күресу және ақпараттық қауіпсіздікті қамтамасыз ету саласына маңызды үлес қосады.

ABSTRACT

Social networks and messengers have become the most popular means of information exchange in modern times. They offer the opportunity for fast communication and large-scale dissemination of information. However, these opportunities also open the way for the dissemination of extremist content. This article examines the role of social networks and messengers as platforms for the dissemination of extremist content. The purpose of the work is to identify the methods of dissemination of extremist content, its features on social platforms, and analyze the effectiveness of legislative acts and norms designed to limit them.

The study examined the legislative frameworks of Kazakhstan and other countries, methods for identifying extremist content, and international experience in this area. In addition, the main current issues are anonymity, algorithmic restrictions on platforms, and the rapid dissemination of information. The research methods used were the analysis of legislative documents, comparative legal analysis, and the use of modern technologies.

The results obtained identify the main problems in the dissemination of extremist content and include recommendations aimed at solving this problem. This study makes a significant contribution to the field of combating extremist content and ensuring information security.

Түйін сөздер: әлеуметтік желілер, мессенджерлер, экстремистік мазмұн, заңнамалық реттеу, құқықтық актілер, ақпараттық қауіпсіздік, контент модерациясы, әдіснама.

Keywords: social networks, messengers, extremist content, legislative regulation, legal acts, information security, content moderation, methodology.

Кіріспе. Қазіргі қоғамда әлеуметтік желілер мен мессенджерлер ақпарат алмасудың негізгі құралдарына айналды. Олар күнделікті өмірде адамдар арасындағы қарым-қатынасты жеңілдетіп, білім мен ақпаратқа қолжетімділікті арттыруда маңызды рөл атқарады. Facebook*, Instagram*, WhatsApp, Telegram сияқты платформалар арқылы ақпарат бірнеше секунд ішінде жаһандық аудиторияға жетіп, қоғамның дамуына ықпал етеді. Алайда, бұл платформалар тек оң әсерлерімен ғана емес, сонымен қатар экстремистік мазмұнды таратуға ықпал ететін теріс салдарларымен де ерекшеленеді.

Соңғы жылдары экстремистік топтар әлеуметтік желілер мен мессенджерлерді өз мақсаттарына жету үшін жиі пайдаланатыны байқалуда. Әлеуметтік желілер мен мессенджерлер арқылы экстремистік мазмұнның таралуы жаһандық қауіпсіздікке айтарлықтай қауіп төндіреді [1]. Олар бұл платформаларды өз идеологияларын тарату, жаңа мүшелерді тарту, сондай-ақ қоғамды тұрақсыздандыру құралы ретінде қолданады. Анонимділік пен шифрлау құралдары бұл әрекеттерді анықтап, бақылауды қиындатады, ал ақпараттың таралу жылдамдығы экстремистік насихаттың кең аудиторияны қамтуына мүмкіндік береді. Мұндай жағдай қоғамда радикалдану қаупін арттырып, саяси және әлеуметтік тұрақсыздыққа әкелуі мүмкін.

Экстремистік мазмұнның таралуы жаһандық қауіпсіздікке қауіп төндіреді, сондықтан бұл мәселе қазіргі кезде зерттеушілер мен заң шығарушылардың назарында тұр. Әлеуметтік желілердегі экстремистік мазмұнды анықтау және шектеу үшін заңнамалық реттеу мен заманауи технологияларды қолдану қажеттілігі туындап отыр. Бұл зерттеу әлеуметтік платформалардың экстремистік мазмұнды тарату платформасы ретіндегі рөлін қарастырып, осы мәселені шешуге арналған заңнамалық және техникалық тәсілдерді талдауға бағытталған.

Зерттеудің мақсаты – әлеуметтік желілер мен мессенджерлердің экстремистік мазмұнды тарату платформасы ретіндегі рөлін зерттеп, осы мәселемен күресуге бағытталған заңнамалық және техникалық тәсілдерді талдау.

Әлеуметтік желілер мен мессенджерлердің экстремистік мазмұнды тарату платформасы ретіндегі рөлі. Қазіргі заманғы қоғамда әлеуметтік желілер мен мессенджерлер қарқынды дамып, миллиардтаған пайдаланушылардың күнделікті өмірінің ажырамас бөлігіне айналды. 2023 жылғы мәліметтерге сәйкес, Meta (Facebook)* және Instagram* платформаларын ай сайын 3 миллиардтан астам адам қолданады, ал WhatsApp және Telegram сияқты мессенджерлердің пайдаланушылары 2 миллиардтан асып отыр [2]. Қазақстанның өзінде әлеуметтік желілерге қолжетімділік деңгейі 80%-дан жоғары, бұл тұрғындардың басым бөлігінің онлайн кеңістікті белсенді түрде пайдаланатынын көрсетеді.

2024 жылы Қазақстанда әлеуметтік желілер мен мессенджерлер қоғам өмірінің маңызды бөлігіне айналды. Әлеуметтік медиа арқылы миллиондаған пайдаланушы өз ойларын бөлісіп, ақпарат алмасуда. Brand Analytics мәліметтері бойынша, пайдаланушылар ең белсенді түрде Instagram*, Facebook*, ВКонтакте, YouTube және Одноклассники платформаларында әрекет етеді.

Статистикалық мәліметтерге сәйкес:

• Instagram* – 9,97 миллион хабарлама және 1,05 миллион белсенді автор ай сайын;
• Facebook* – 3,66 миллион хабарлама және 412,2 мың белсенді автор;
• ВКонтакте – 2,95 миллион хабарлама және 218,4 мың автор;
• YouTube – 1,67 миллион хабарлама және 313,7 мың автор;
• Одноклассники – 2,41 миллион хабарлама және 142,1 мың автор.

Бұл көрсеткіштер әлеуметтік желілердегі аудиторияның белсенділігі жоғары екенін және олардың ақпарат таратуда ерекше рөл атқаратынын көрсетеді. Instagram* әлеуметтік медиа платформалары арасында көш бастап тұр, ал YouTube мен Facebook* та пайдаланушылар арасында танымал болып қала беруде [3].

Сурет 1. 2024 жылы Қазақстандағы әлеуметтік желілер статистикасы

Әлеуметтік желілердің кең таралуы экстремистік топтар үшін үлкен аудиторияны жылдам қамтуға мүмкіндік береді. Платформалар жылдам ақпарат алмасуға, ауқымды байланысқа және мақсатты топтарды тартуға қолайлы жағдай жасайды. Экстремистік ұйымдар бұл мүмкіндіктерді өз идеологияларын насихаттау және қоғамды поляризациялау үшін пайдаланып отыр.

Экстремистік мазмұнды таратудың бірнеше әдістері бар:

1. Хабарламалар, топтар және қоғамдық желілердегі жасырын қауымдастықтар. Экстремистік топтардың әлеуметтік желілерде әрекет етуінің негізгі тәсілдерінің бірі — жабық топтар мен қауымдастықтар құру. Мысалы, Telegram платформасында анонимді арналарды ашу арқылы мазмұнды жасыру жиі байқалады. Бұл арналарда экстремистік видеолар, нұсқаулықтар және идеялар таратылады. Сонымен қатар, Facebook және Instagram* сияқты платформалардағы жеке топтар да радикалды идеяларды таратуға арналған құралға айналуда. Жабық топтарда экстремистік топтар өздерінің идеологиясын насихаттау арқылы жаңа мүшелерді тартады [4].
2. Автоматтандырылған боттар мен алгоритмдер. Боттар экстремистік мазмұнды жылдам әрі ауқымды түрде таратуға қолданылады. Twitter* сияқты платформаларда боттар жалған ақпаратты тарату үшін пайдаланылады, бұл қоғамда түсініспеушілік пен поляризация туғызады. Боттар белгілі бір хэштегтерді танымал ету арқылы экстремистік идеяларды кеңінен таратады.
   
   Алгоритмдер мен жасанды интеллект технологияларын қолдану экстремистік мазмұнды таратуға арналған тиімді құралға айналуда. Олар пайдаланушылардың қызығушылықтарын талдап, оларға тиісті мазмұнды ұсына отырып, радикалды идеяларды қабылдау ықтималдығын арттырады.
3. Экстремизмнің мақсатты аудиториясын тарту тәсілдері. Экстремистік топтар өздерінің мақсатты аудиторияларын психологиялық және әлеуметтік факторларды пайдаланып тартады. Көбінесе жастар, этникалық немесе діни топтардың өкілдері радикализация нысанына айналады. Әлеуметтік желілер арқылы әсерлі бейнежазбалар, визуалды материалдар және эмоционалды мазмұн ұсынылады, бұл олардың қабылдаушылық деңгейін арттырады.

Бұдан бөлек, экстремистік топтар әлеуметтік желілерде жасырын жарнамалық науқандар өткізіп, белгілі бір аймақтарға немесе топтарға бағытталған мазмұн таратады. Мұндай тәсілдер радикалды идеяларды кеңінен насихаттауға және мақсатты аудиторияны тиімді тартуға мүмкіндік береді.

Экстремистік мазмұнды анықтау және онымен күресудегі қиындықтар. Экстремистік мазмұнның таралуы жаһандық қауіпсіздік үшін елеулі қауіп төндіреді. Онымен күресу мақсатында құқықтық және техникалық тетіктер енгізілгенімен, бұл мәселені толық шешу бірқатар кедергілерге байланысты қиынға соғады. Төменде осы кедергілердің негізгі аспектісі қарастырылған.

Негізгі аспект – анонимділік және деректерді шифрлау. Әлеуметтік желілер мен мессенджерлер пайдаланушылардың құпиялылығын қамтамасыз ету мақсатында анонимділік пен шифрлау технологияларын қолданады. Мысалы, WhatsApp және Telegram сияқты мессенджерлер соңғы пайдаланушыға дейінгі деректерді шифрлау (end-to-end encryption) механизмдерін пайдаланады. Бұл технологиялар ақпаратты үшінші тараптың оқып алуынан қорғайды, бірақ сонымен бірге құқық қорғау органдарының күмәнді мазмұнды бақылауын қиындатады. Экстремистік топтар шифрланған мессенджерлер арқылы өздерінің әрекеттерін жасырып, қауіпсіз орта қалыптастырады. Бұл тек құқықтық емес, сонымен қатар техникалық тұрғыда да ақпаратқа қол жеткізуді қиындатады. Осылайша, экстремистік мазмұнды анықтау үшін платформалар мен құқық қорғау органдары арасындағы ынтымақтастықты нығайту қажет [5].

Қазақстандағы заңнамалық база: экстремистік мазмұнды реттейтін негізгі актілер мен нормалар. Қазақстанда экстремистік мазмұнмен күрес заңнамалық деңгейде реттелген. "Экстремизмге қарсы іс-қимыл туралы" ҚР Заңы (1999 ж.) және "Бұқаралық ақпарат құралдары туралы" ҚР Заңы сияқты құқықтық актілер экстремистік мазмұнның таралуын шектеуге бағытталған.

Сонымен қатар, Қазақстанда интернет кеңістігін бақылау үшін ҚР Ақпарат және қоғамдық даму министрлігі мен ҚР Бас прокуратурасы сияқты ұйымдар жұмыс жасайды. Бұл органдардың міндеттері экстремистік мазмұнды анықтау және оны жою бойынша әрекет етуді қамтиды [7].

Технологиялық шешімдер және оларды қолдану. Машиналық оқыту және табиғи тіл өңдеу технологияларын қолдануға тоқталайық.  Машиналық оқыту және табиғи тіл өңдеу (NLP) экстремистік мазмұнды анықтау бойынша тиімді құралдарға айналды [8].

• Машиналық оқыту: Платформалар күмәнді мазмұнды анықтау үшін үлкен деректер жиынтығынан үлгілерді тануға арналған алгоритмдерді пайдаланады.
• Табиғи тіл өңдеу: Бұл технологиялар мәтіндер мен хабарламалардағы қауіпті сөздерді және мағыналарды анықтайды.

Контентті автоматты түрде модерациялау жүйелері:

• Әлеуметтік желілер Facebook*, Twitter*, және YouTube сияқты платформалар қауіпті мазмұнды анықтау үшін AI-модераторларын пайдаланады. Бұл жүйелер адамның араласуынсыз мәтін, сурет және бейнелерді сүзуге мүмкіндік береді.
• Мысалы, YouTube платформасы экстремистік мазмұнды анықтау және жою үшін 90%-дан астамын автоматты модерация жүйелері арқылы басқарады [9].

Экстремистік мазмұнды тарату жолдарын алдын алу. Экстремистік мазмұнның таралуын болдырмау қазіргі заманғы ақпараттық қауіпсіздік саласындағы ең маңызды міндеттердің бірі болып табылады. Әлеуметтік платформалар мен мессенджерлер бұл бағытта әртүрлі техникалық және ұйымдастырушылық шараларды жүзеге асыруда. Осыған байланысты, күмәнді пайдаланушыларды анықтау, олардың әрекеттерін бақылау және экстремистік мазмұнның таралуын шектеу үшін заманауи технологиялар мен алгоритмдерді қолдану басты назарда. Экстремистік мазмұнның таралуын болдырмаудың бірнеше әдістеріне тоқталайық.

Бірінші қарастыратын әдіс – күмәнді пайдаланушыларды анықтау және олардың аккаунттарын бұғаттау механизмдері. Әлеуметтік платформалар күмәнді пайдаланушыларды анықтау үшін күрделі алгоритмдер мен машиналық оқыту технологияларын қолданады. Бұл алгоритмдер пайдаланушылардың мінез-құлқын, жазбаларын, бөліскен контенттерін және басқа да әрекеттерін талдау арқылы күмәнді есептік жазбаларды анықтайды. Мысалы, белгілі бір уақытта өте көп мазмұн бөлісетін немесе экстремистік сөз тіркестерін жиі қолданатын аккаунттар автоматты түрде күмәнді ретінде белгіленеді. Күмәнді есептік жазбаларды бұғаттау немесе уақытша шектеу қою механизмдері бірқатар кезеңдерді қамтиды:

1. Мазмұнды автоматты түрде талдау: Пайдаланушылардың жазбалары мен комментарийлері белгілі бір кілт сөздер мен фразаларға тексеріледі. Бұл жерде жасанды интеллект күмәнді контентті анықтау үшін негізгі рөл атқарады.
2. Күдікті белсенділікті бақылау: Әрекеттерін жасыруға тырысатын пайдаланушыларға арналған арнайы бақылау жүйелері енгізіледі.
3. Құқық қорғау органдарымен ақпарат алмасу: Күмәнді есептік жазбалар туралы мәліметтер құқық қорғау органдарына беріледі, бұл экстремистік әрекеттерді ерте кезеңде тоқтатуға мүмкіндік береді.

Мысалы, Facebook* пен Twitter* сияқты платформалар жалған аккаунттарды анықтап, оларды бұғаттау үшін белсенді түрде машиналық оқыту жүйелерін пайдаланады. Бұл әдістер пайдаланушыларды қорғаумен қатар, экстремистік мазмұнның таралуын азайтады.

Екінші әдіс – жалған жарнамаларды анықтау және олардың алдын алу. Экстремистік мазмұнды таратудағы тағы бір маңызды мәселе – жалған жарнамаларды пайдалану. Экстремистік топтар өз идеяларын кеңінен тарату және жаңа мүшелерді тарту үшін жалған ақпараттар мен жарнамаларды жиі қолданады. Бұл жарнамалар әлеуметтік желілердің жарнама алгоритмдерін айналып өтіп, пайдаланушыларды алдау үшін арнайы жасалады [10].

Қорытынды. Әлеуметтік желілер мен мессенджерлер қазіргі уақытта ақпарат алмасудың ең кең таралған және тиімді құралдарына айналды. Бұл платформалар пайдалы мақсаттармен қатар, экстремистік мазмұнды тарату үшін де белсенді түрде қолданылуда. Зерттеу барысында экстремистік мазмұнның таралуына ықпал ететін негізгі факторлар, оның ішінде анонимділік, шифрлау құралдары және платформалардың алгоритмдік шектеулері анықталды. Сонымен қатар, әлеуметтік платформалардың құқықтық және техникалық бақылау механизмдерінің тиімділігін арттыру қажеттілігі маңызды мәселе ретінде қарастырылды.

Қазақстанда экстремистік мазмұнмен күресу үшін түрлі құқықтық және техникалық тетіктер енгізілуде. Қазақстандағы заңнамалық база, оның ішінде «Экстремизмге қарсы іс-қимыл туралы» заң және бұқаралық ақпарат құралдарына қатысты нормалар экстремизмнің алдын алу бойынша нақты қадамдарды қамтиды. Дегенмен, бұл шараларды жетілдіру, әсіресе, шекарасыз цифрлық кеңістіктегі экстремистік әрекеттерді бақылауда халықаралық ынтымақтастықты нығайту қажеттілігі айқын.

Технологиялық шешімдер, оның ішінде машиналық оқыту және табиғи тіл өңдеу алгоритмдері экстремистік мазмұнды автоматты түрде анықтауға мүмкіндік береді. Әлеуметтік платформалар қауіпті мазмұнды анықтау және жою үшін жасанды интеллект пен автоматтандырылған модерация жүйелерін қолдануда. Бірақ бұл жүйелер әлі де жетілдіруді қажет етеді, себебі тілдік және мәдени ерекшеліктерді ескеру алгоритмдер үшін күрделі міндет болып табылады.

Зерттеу нәтижесінде экстремистік мазмұнмен күресте кешенді тәсілдердің тиімділігі анықталды. Заңнамалық реттеуді жетілдіру, халықаралық деңгейде бірлескен іс-қимылдар ұйымдастыру және заманауи технологияларды кеңінен пайдалану – экстремистік мазмұнның таралуын шектеудің маңызды құралдары. Болашақ зерттеулер осы мәселелерді тереңірек талдап, жаңа әдіс-тәсілдер ұсынуға бағытталуы қажет.

*социальная сеть, запрещенная на территории РФ, как продукт организации Meta, признанной экстремистской – прим.ред.

Әдебиеттер тізімі:

1. Rogers R., Dealing with Dangerous Speech on Social Media. Routledge, 2020.
2. Statista әлемдегі әлеуметтік желілердің қолданушыларының статистикалық мәліметтері: https://www.statista.com/statistics/433871/daily-social-media-usage-worldwide/,  2023.
3. Brand Analytics. Қазақстандағы әлеуметтік желілердің пайдаланушылары туралы статистикалық есеп: https://brandanalytics.ru/blog/social-media-kazakhstan-summer-2024, 2024.
4. Шут О.А., «Экстремизм в цифровом пространстве социальных сетей: способы совершения и детерминанты», 2020.
5. Гладышев В., «Социальные сети как инструмент для пропаганды экстремизма», 2021.
6. Балашова А.А., «Информационный экстремизм: проблемы и пути решения», 2023.
7. Қазақстан Республикасы Бас прокуратурасының жанындағы Құқық қорғау органдары академиясы, «Жастар арасында зорлық-зомбылық экстремизмінің алдын алу», 2024.
8. Kumar, V., Singh, P., «Advances in Machine Learning for Social Media Analysis», 2022.
9. Chuyi Sheng, «Аutomated content moderation», 2022.
10. Johnson, L., White, Т., Automated Content Moderation Systems: Challenges and Opportunities, 2021.