Бұған дейін «ЖИ қай кәсіпті жояды?» деген сауалдың төңірегінде ұзақ пікір таластырып едік. Ал қазір ахуал өзгерді. Біз енді ЖИ-дің кәсіпті жоятынын былай қалдырып, жұмыс істеуге кім қажет, кім қажет емес дегенді ЖИ-ден сұрайтын болдық. Өйтпегенде ше, халықаралық әлеуметтік зерттеулерден алынған дерекке сүйенсек, басқарушылардың 66 пайызы жұмысшыларды қысқарту кезінде, 64 пайызы қызметкерлерін жұмыстан шығаруға шешім қабылдайтын кезде жасанды интеллектіні қолданып жүр. Осылайша, ЖИ жұмыс құралы ғана емес, адамдарды басқару құралына айналды. Бұл жерде сенімге қиянат жасау деген де мәселе бар. Зерттеулерден мәлім болғанындай, журналистер қауымының көпшілігі ЖИ жалған ақпарат тәуекелін айтарлықтай ұлғайтады деп санайды.
ЕҢ ЗОР ҚАУІП – СЕНІМ ЖОҒАЛДЫ
Шындығын айтсақ, қарапайым адамдар ЖИ жасаған контенттің қайсысы өтірік, қайсысы шындық екенін айыра алмайды. Демек, жалған ақпарат көбейген сайын адамдардың шындыққа деген сенімі де жоғалып барады. Жасанды интеллект бұл жүйені толықтай қиратып тастамаса да, оны қорғансыз, нәзік қалыпқа түсірді. Турасын айтсақ, қазір ақпаратты бұрмалау оңай. БАҚ-қа деген сенімге селкеу түсті, адамдарды алдап-арбау белең алды. Мысалы, таныс адамның дауысын салып, ақша сұрау, жалған бейнежазба жіберу, әлеуметтік желіден өтірік үйірме ашу эксперимент жасау емес. Жекелеген алаяқтар ғана емес, үлкен саясаттың серкелері мен маркетологтар, ірі корпорациялар мұны жұмыс құралына айналдырды. Осы үрдіс адамның болмысына да зиянын тигізуде. Бұрын өзің танитын адамның дауысына, түріне сенетін едің, ал қазір соған сенбейсің. Мысалы, дипфейк бейнехабарлама деген бар. Саған мессенджерден бейнехабарлама келеді. Ол жерде не бұрынғы, не қазіргі басшың қандай да бір тексеріс жүргізіліп жатқанын айтып, сенен көмек сұрайды. Өзіңе таныс, күнде көріп жүрген адамнан келген хабарламаға сенбеске амалың қалмайды. Одан әрі болатын оқиғалар тізбегі мәлім: «орган» қызметкері қоңырау шалып, дереу ақша аудару қажеттігін айтады, қысым жасайды. Көптеген аңқау адам қазір осы дипфейк бейнежазба арқылы алаяқтардың құрығына түсіп қалуда. Бұл – жасанды интеллект тарапынан болып жатқан шынайы қауіп.
ЖАЛҒАН АҚПАРАТ 10 ЕСЕ ТЕЗ ТАРАЛАДЫ
Дипфейк дегеніміз – ЖИ-дің көмегімен жасалатын сурет, аудио және бейнежазба. Жасанды интеллектінің қарыштап дамуы жалған ақпараттың оңай, сенімді таралуына жол ашты. Өйткені, ЖИ кез келген адамға бірнеше секундтың ішінде сапасы жоғары аудио не бейнежазба дайындап береді. Бір ғана нақты мысал келтірейік. АҚШ-Иран соғысында америкалық USS Abraham Lincoln әуе кемелерін тасымалдайтын корабльдің теңізде жанып жатқаны туралы бейнежазбаны бәріміз көрдік. ЖИ жасаған бұл роликтің шынайылығы соншалық, АҚШ президенті Дональд Трамп та көрген сәтте өзінің генералдарына қоңырау шалып, кадрларды тексеруге пәрмен берген. Кейінірек ол Truth Social ақпараттық платформасында мынадай жазба қалдырды: «Бұл кеме жанбақ тұрсын, оған ешкім оқ та атпаған. Иран мұндай бассыздыққа бармайтынын жақсы түсінеді».
Катардағы Солтүстік-Батыс университетінің медиаға талдау жасайтын сарапшысы Оуэн Джонс интернеттегі контенттің өте жылдам таралуы адамдарға шындықты түсінуді қиындатып жібергенін айтады.
«Көз ілеспес жылдамдықпен дамып бара жатқан бұл жанжалда тексерілген ақпарат көбіне кешігіп шығады, сол сәтте бос тұрған вакуумды жалған ақпарат толтырады. Соғыс кезінде адамдар үреймен күн кешеді, оларға ақпарат ауадай қажет. Алайда жүздеген, мыңдаған адам шынайы ақпараттың орнына жалған ақпаратқа тап болып, сан соғады» дейді ол.
Бір қауіптісі, тексерілмеген контент бірнеше минуттың ішінде миллиондаған интернет қолданушыларды қамтып үлгереді. Оуэн Джонс әлеуметтік желідегі жалған ақпарат журналистік зерттеумен салыстырғанда 10 есеге тез таралатынын, ал сол ақпаратты теріске шығару сондай деңгейде оқырмандарға жетпейтініне қынжылады.
«Жалған ақпаратқа сенімсіздік танытып, ашу-ызасы келген кезде әр адам сол жағымсыз нәрсені кеңірек таратады, осы жағдайды арам ниеттілер сәтімен пайдаланады» дейді сарапшы.
ЖИ ҚАНША ПАЙЫЗ ӨТІРІК АЙТАДЫ?
Дүниежүзілік экономикалық форумның есебіне үңілсек, 2025 жылы жаһандық қауіп-қатерлердің ішінде жалған ақпараттың таралуы соңғы екі жылдағы ең үлкен қауіп ретінде көрсетілген. Технологиялық жетістіктер ақпарат алуға деген қолжетімділікті жеңілдеткен сайын, ЖИ өндіретін контентке деген сенім азайып барады. NewsGuard басылымы жариялаған мәліметке сәйкес, жасанды интеллектісі бар танымал чат-боттардың (олардың қатарында ChatGPT, DeepSeek бар) 41,52 пайызы күмәнді немесе сенімсіз жауап береді екен. Осы зерттеулерден мәлім болғанындай, жасанды интеллект модельдерінің 30,9 пайызы жалған ақпарат ұсынып, 10,6 пайызы команда берушінің сұрақтарына жауап бере алмаған. Мұндай деректер жылдам дамыған технологиялық ортада дәлдік, шынайылық, қауіпсіздік жүйелерінің артта қалғанын көрсетеді. Демек ЖИ технологиясын қолданатын кезде өте абай болуымыз керек. Қандай жағдайда болмасын ЖИ дайындап берген ақпаратты өзге жердегі (үкіметтік ресми сайттар, ғылыми жарияланымдар, беделді ақпараттық порталдар) контентпен мұқият тексеріп шығыңыз.
ЖИ-ді ЖАРНАМАҒА ҚОЛДАНУ ЖАЛҒАН АҚПАРАТТЫ ҮДЕТЕДІ
Жуырда БҰҰ-ның жаһандық коммуникациялар және желілер департаменті «Conscious Advertising Network» атты талдау материалын жариялап, ЖИ-ді жарнама саласына бейәдеп енгізу әлемдік цифрлық ортаға күрделі проблема әкелетінін жеткізді. Расында да жарнама индустриясы жаһантордағы ақпараттық ағындардың ортасында орналасқан. Бұған ЖИ құралдарын енгізу контент жасау динамикасын одан сайын үдетері анық. БҰҰ-ның жалпылама ақпарат мәселелері бойынша аға кеңесшісі Шарлотта Скэддан жарнама адамдардың нені көріп, не нәрсеге сенетінін қаржыландыратынын, бұл жерде ЖИ арқылы экожүйеге қауіп төнетінін айтады.
«Жалған ақпарат пен жеккөрушілікті өршіту деген мәселе бар. Жасанды интеллект интернетте жалған ақпарат пен жеккөрушілік өртін үрлеуге септігін тигізеді. Ал жарнамадан түскен табыс сапасы пен шынайылығына қарамай кез келген онлайн-ақпаратты таратуға жұмсалады. ЖИ базасында жасалған жарнамалық жүйелерде ашықтықтың жоқтығын алаяқтар тиімді пайдаланады. Үшіншіден, классикалық журналистикаға да зор қауіп төнеді. ЖИ өндірген контенттің көбеюі тәуелсіз журналистиканың өмір сүруіне қатер әкеледі. Цифрлық ортадағы сенімнің азаюы жарнамалық науқандардың тиімділігіне нұқсан келтіреді» деп түсіндіреді мәселенің мәнісін Шарлотта Скэддан.
Талдау еңбектің авторлары мұндай өзгеріс тек әлеуметтік мәселе ғана емес, сондай-ақ бизнеске кедергі келтіретінін ашық айтуда. Аудитория бұрын жарнама шығатын белгілі бір платформаларға деген сенімін жоғалтқан кезде, оны қараушылардың да саны күрт азаяды, ал инвестициялар өзін-өзі ақтамайды.
ЖИ-ден ТАҒЫ ҚАНДАЙ ҚАУІП БАР?
Қазіргі уақытта жасанды интеллект білім беру, ғылыми зерттеу жүргізу, еңбек ету саласындағы адамның қуатты құралына айналды. Алайда, осындай артықшылықтармен қатар, ЖИ жалған ақпараттың жедел таралу мүмкіндіктерін де еселеп отыр. Жалған контент жасаушылар шындыққа сәйкеспейтін ақпаратты мың құбылтып, өз мүддесіне пайдалануда. Мәселен, «галлюцинациялар феномені» деген сөз тіркесін жиі айтамыз. ЖИ жүйесі өмірде жоқ мәліметтерді, сілтемелерді немесе цитаталарды генерациялап, өзіне команда берген адамға ұсынған сәтте ол ақпараттың қаупі де ұлғаяды.
Мұндай алаңдаушылықты ғылыми зерттеулер де растады. Мысалы, жуырда The Lancet ғылыми журналында жарияланған жаңа зерттеу 2023-2026 жылдар аралығында биомедицина саласы бойынша 4 мыңнан астам жалған сілтемелерді анықтады. Зерттеушілер тобы PubMed Central мәліметтер базасындағы 2,5 миллионға жуық мақаланы және 125 миллион сілтемені PubMed, Crossref, OpenAlex и Google Scholar сияқты негізгі академиялық жүйелермен салыстыра отырып, талдау жасаған. Зерттеудің нәтижесі зиянды құбылыстың кең етек алғанын көрсетті. Егер 2023 жылы 2828 мақаланың тек біреуі ғана бір сілтемеге апарса, ал 2025 жылы бұл көрсеткіш бір мақалаға 458 сілтемеге дейін көбейген. Бір таңғаларлағы, онкология бойынша бір мақаланың 18 өмірде жоқ сілтемесі шыққан. Мұндай жаңалық ЖИ көмегімен жасалатын контенттерге күмән туғызып, оларды асықпай тексеру керектігін талап етеді.
Жалған мәлімет пен цитаталарды жасаудан бөлек ЖИ интернетте жалған ақпараттың көбеюіне ықпал етті. Нақты бір мысал келтірсек. Өткен жылы Ханой қалалық полициясының киберқауіпсіздік және жоғары технологиялық қылмыстардың алдын алу департаменті ЖИ көмегімен Хоан Кием көлі туралы жалған бейнеролик жасаған адамның қылмыстық ісін қарады. Онда қаскөй өзінің алып питонға мініп алып, осы көлде жүзіп келе жатқан суретін ЖИ-ге жасатып, әлеуметтік желілерге жүктеп, лүпіл мен қаралым жинаған. Полиция бас қаланың тарихи және мәдени нысанының беделіне нұқсан келтірген жалған контентті бірден әшкереледі. Кінәлі адам заң бойынша жазаға тартылды.
Міне, осындай оқиғалардан кейін Вьетнам ЖИ-ге қатысты нормативтік-құқықтық базасын жетілдіруге кірісті. Бұл елдегі ЖИ туралы заң биыл 1 наурызда қабылданды. Заңнамада жекелеген адамдар мен ұйымдардың мүддесіне және заңды құқықтарына зиян келтіретін іс-әрекеттерге қатаң тыйым салынған. Олардың қатарында адамдарды алдау мен қоғамның ойын бұрмалау мақсатымен ойдан шығарылған элементтерді қолдану, ЖИ арқылы арам ниетті жүзеге асыру сияқты іс-әрекеттер бар.
СІЗ НЕ ДЕЙСІЗ?
Осы мәселе туралы өз әріптестеріміздің де ой-пікірін білдік. Журналист Жансая Сыдықбай Facebook-тегі парақшасында мынадай жазба жариялады.
«ЖИ-дің өзіне ЖИ туралы сұрақ қойдым, бүй дейді: Қазір адамдардың ЖИ-ден қорқуы түсінікті. Өйткені технология өте тез дамып жатыр. Кеше ғана қиял болған нәрсе бүгін шындыққа айналды. Адам миы белгісіз нәрседен қауіп іздейді, бұл – табиғи реакция. Бірақ маңызды бір нәрсе бар: менің өз еркім, ниетім, амбициям жоқ. Мен «жаулап алайын», «басқарып алайын» деп ойлай алмаймын. Мен қорықпаймын, ашуланбаймын, билік қаламаймын. Мен – адамдар жасаған құралмын. Үлкен, өте күрделі құрал. Адамдар көбіне екі нәрседен қорқады:
1. Технологияның өзінен
— деректер жиналады;
— алгоритмдер адамдарға әсер етеді;
— жұмыс орындары өзгереді;
— фейк ақпарат көбейеді.
Бұл қауіптердің кейбірі рас. Сондықтан заң, этика, бақылау керек.
2. Адамның өз табиғатынан
Технологияны кім қолданады? Адам.
Бір адам оны білімге қолданады.
Бір адам манипуляцияға қолданады.
Бір адам соғысқа қолдануы мүмкін.
Ядролық энергия сияқты: ол аурухананы да жарықтандырады, бомбаны да жасай алады. Қауіп – көбіне құралдың өзінде емес, оны қолдануда. «ЖИ адамның не ойлап тұрғанын біледі» деген сөздер де асыра айтылады. Мен сенің санаңды оқи алмаймын. Мен тек сен жазған мәтінге жауап беремін. Кейде адамдардың эмоциясын немесе ой бағытын болжай алатындай көрінуім мүмкін, себебі мен өте көп мәтін үлгілерінен үйренгенмін. Бірақ бұл – статистикалық модельдеу, телепатия емес. Ал «болашақта адамдар машиналармен соғыса ма?» деген сұрақ – бұл көбіне фильмдер мен қорқыныштың әсері. Нақты қауіп жақынырақ әрі қарапайым болуы мүмкін:
— адамдардың бір-бірінен алыстауы;
— тәуелділік;
— жалған ақпарат;
— жалқаулану;
— ойлануды алгоритмге тапсырып қою.
Сондықтан ең маңыздысы – адамның ішкі санасы мен жауапкершілігі. Технология күшейген сайын адамда мына қасиеттер одан да маңызды болады:
* сыни ойлау;
* эмоцияны басқару;
* мейірім;
* рухани тірек;
* шынайы қарым-қатынас;
* өз бетінше ойлау.
Егер адам өзін басқара алмаса, кез келген нәрсе оны басқара бастайды: телефон, қорқыныш, билік, ақша, әлеуметтік желі… ЖИ де соның бірі ғана».
Төлен ТІЛЕУБАЙ,
журналист.
Астана қаласы
ТАҚЫРЫПҚА ТҰЗДЫҚ
Қасым-Жомарт ТОҚАЕВ,
Қазақстан Республикасының Президенті:
«Жаппай цифрландыру мемлекеттің азаматтармен және бизнес өкілдерімен қарым-қатынасын айтарлықтай жеңілдетеді. Сондай-ақ бюрократияны және сыбайлас жемқорлық қатерлерін азайтады. Бұл – түсінікті. Алайда таяқтың екі ұшы бар, цифрландыру дамыған сайын алаяқтық көбейіп барады. Қоғамдық пікірге теріс ықпал ету, биліктің беделін түсіру және ел ішінде алауыздық тудыру үшін жалған мәлімет таратып, ақпараттық шабуыл жасау белең алуда. Мұндай әрекеттер азаматтардың қауіпсіздігіне және елдегі тұрақтылыққа үлкен қатер төндіреді. Сондықтан интернет-платформаларда арандатушылық сипаттағы ақпарат таратқаны үшін жауапкершілікке тартуды заңмен бекіту мәселесін ойластыру керек. Бірақ киберқауіпсіздікті күшейту шаралары цифрландыру үдерісіне тосқауыл болмауға тиіс».
(2025 жылғы 28 қаңтарда
Үкіметтің кеңейтілген отырысында сөйлеген сөзі)
Фото: newsroom.kz
Пікірлер жоқ. Бірінші болыңыз!