Мамандар ЖИ-ға жиі жүгінетін саланың ішінде білім саласы көш бастап тұрғандығын айтады. Бүгінде мектептен үйге берген тапсырманы мимен емес, ЖИ-мен оқитын балалар көбейді. Мұғалімдер де күнделікті сабақ барысында, қысқа мерзімді жоспар дайындау, әртүрлі әдістемелік тапсырмаларды орындау кезінде, көрнекі құралдарын жасауда жасанды интеллектінің көмегіне жиі жүгінетінін жоққа шығармайы. Жуырда «Әдебиет порталында» жазушы Жадыра Шамұратованың «Келешекте шығарманы ЖИ жаза ма, әлде ми жаза ма?» деген мақаласы жарияланды.
Аталмыш мақалада қазақ тілі мен әдебиеті пәнінің оқытушысы, жазушы Самал Зікірияқызы қазіргі білім беру жүйесінде кеңінен қолданылып жүрген ЖИ-дің пайдасы қандай, зияны неде екенін тәжірибеде кездесетін жағдаяттармен пайымдап, өз пікірін былай түйіндейді: «Біраз уақыт үй шаруасындағы әйелге айналып, мектепке осыдан алты жыл бұрын оралдым. Мен кеткенде өтетін сабағымыздың «дәстүрлі» деп аталатынын қайтып келгенде білдім. Өйткені жаңа келмей, ескі «дәстүрліге» айналмайды. Дәстүрі қарапайым, жүйелі сабақ арман болды сонда маған. «Жаңа бағдарлама» деген дардай аты бар методиканың тамыры жуандап, тереңдеп, шырмалып кетіпті. Сабақтар түрлі тәсілдермен өтеді. Ойындармен десе де болады. Замандастарым мұндай тәсілдерді ашық сабақтарда көрсететін. Ең алдымен парталарды сүйреп қосып, оқушыларды топқа бөледі. «Топтық тәсіл» – жаңа бағдарламаның – «көзірі» екен. Өтіп жатқан сабақтар шикілеу көрінетін. Шоуға ұқсай ма…
Жаңа бағдарламаның қателігі мен кем-кетігін айтсаң таусылмайды ғой, қайсыбірін санайсың. Сондай сабақ өткенді жаңа бағдарлама тілінде «креативті мұғалім» деп аспандатады. Негізгі ойға ауайын. Енді «сабақты ЖИ-мен өту керек!» деген тапсырма келді. «Келді» ғана емес, шұғыл кірісіп кетті білім ордалары. Мектеп бар ғой, өкіметтің эксперименттік аймағы секілді. Бірдеңені егжей-тегжейлі зерттеу, зерделеу деген жоқ, не қылтиса соны «заманауиға» бағып, алқынып шыға келеді.
Басқа басқа, болашақпен, біліммен ойнауға бола ма? ЖИ-дың бір аты – интеллект, бір аты – Жасанды емес пе?! Яғни, ЖИ – компьютерлер мен машиналарға адамның ойлау, үйрену, есте сақтау, тіл түсіну сияқты қабілеттерін (еліктетіп) үйрететін технология. Қазіргі заман онсыз да жасанды интеллектіден тұрады. Мұны бала бізден артық пайдаланбаса, кем пайдаланбайды. Оны сабаққа жамаудың қажеті қанша? ЖИ-дің пайдасы мен зиянына тоқталайын.
Пайдасы: уақыт үнемдеу;
деректерге тез қол жеткізу;
робототехниканың дамуы;
кез келген ғылыми тақырыптарды өз тіліңде тәржімалап алу т.б.
Оңай әрі тез орындалатын іс.
Зияны:
Ойлау қабілетінің тежелуі;
жалқаулыққа дағдылану;
ақпараттың рас, өтірік екенін екшей алмау;
түйсіктің мешелдікке ұрынуы, т.б.
Ең қорқыныштысы – ЖИ онсыз да адамды роботпен алмастыру заманына әкеле жатыр.
Онда жылдамдық болғанымен, түйсік жоқ. Яғни, пайым жоқ. Енді елу жылда роботтар адамнан ақылды болса, өзіміз құрбан болуымыз әбден мүмкін. Жұтылып кету қаупі басым. Сабақ – білімнің негізі. Ол ғана емес, ойландыру, көркем, мәдениетті, дұрыс сөйлеу дағдысын қалыптастырушы фактор. АҚШ ғалымдарының ЖИ-дің қауіптері жайлы дабыл қағып жатқанын әлем білмей ме? Не болса соны сабаққа қосамжарластыру қандай ойсыздық? Нейрондық желілер мен ойындар онсыз да иттің жүніндей қаулап, көбейіп келеді. Бұл – машина. Бұл – робот. Жаңа бағдарламада шығарма жойылып, орнын эссе басқан. Не деген ақымақтық? Шығарма – эссе емес. Ал шығарма жазбаған баланың ойлау, сөйлеу шеберлігі дамымайды. Ол қайтіп эссе жазады енді? Эссе баланы сыни пікірге тәрбиелейді-мыс.
Эссені, яки жаңа бағдарламаны қолдаушылардың, ақтаушылардың, қорғаушылардың уәжі осындай. Шығарма жазбаған баланың тілі шорқақ, ойы кедей болады. Шыдамадым. Ебін тауып, (ұрланып десем де болады) шығарма жаздыратынмын. ChatGPT шыққалы бұл амалымның да күлі көкке ұшты. Оқушы ЖИ жазған шығармаларды көшіріп келетін болды.
Былайынша тәп-тәуір-ақ дүние, бірақ, мұғалім ғана емес жазушымын ғой, шығарманың ішкі табиғатына зер салсаң, «жасанды шығарма» екені көрініп тұрады. Әр жерден жұлынған, ұрланған, құрастырылған мәтіннің идеялық, көркемдік, грамматикалық кемшілігі белгілі. Осылай, «шығарма жазуға тәрбиелеймін» деген арманымнан да айырылып қалдым. Қысқасы, ЖИ – құмартатын дүние емес.
Керісінше, сақтық керек! Адамы қайсы, роботы қайсы, айырғысыз заман онсыз да ентелеп келеді. Адам түйсігін иемденген машиналар қате бағдарлама, қате оқулықтардан білім алып жатқан бізді басып озып, өзімізге бой бермейтін «түмсікке» айналары анық. Адам роботтан ақылды болу үшін не істеу керекті ойланайық!». Жазушы қоғам өкілдерінің алдына осындай күрделі ой тастайды. Назар аударатын мәселе. ЖИ-дің білім беру ісіне де белсенді араласа бастағаны біраздан бері айтылып жүр. Пікір сан алуан. Сұрақ та көп, алаңдаушылық та басым. Сол сауалды мамандарға да қойып көрдік. Жуалылық информатика пәнінің мұғалімі де ЖИ-ді шамадан тыс пайдалану баланың жеке тұлға ретінде дамуына зиянын тигізетінін алға тартты.
– Жасанды интеллектіні шектен тыс қолдану немесе оны дұрыс бағытта пайдаланбау оқушының тұлғалық дамуына теріс әсер етуі мүмкін. Сол себепті ЖИ тек көмекші құрал ретінде қолданылуы тиіс. Мұғалім мен оқушы арасындағы қарым-қатынас, тәрбиелік ықпал және ұлттық құндылықтарды сіңіру – ешқашан жасанды интеллектінің міндетіне айналмайды. Бұл – тек адамға тән қасиет, – деді білікті мұғалім Шолпан Әжіқұлова.
Ал ChatGPT шыққалы үздік оқушы атанып келген тараздық оқушы Бейбарыс Тұрғын жуырда жекеменшік мектепке ауысып, мимен жұмыс істеудің қаншалықты қиын соғып жүргенін жасырмады.
– Биылғы жаңа оқу жылында ата-анам мені жаңадан ашылған жекеменшік мектепке ауыстырып жіберді. Мұнда тәртіп өте қатал. Күнде азанғы сабақта сынып жетекшіміз ұялы телефондарымызды жинап алады. Кешке сабақтан қайтатын кезде ғана қолымызға ұстатады. Үй тапсырмасын да осында орындайтын болғандықтан, барлық сабақты ойланып оқуға тура келіп жүр. Бұрынғы оқыған мектебімде ұстаздарға көрсетпей, күнде сабақта, әсіресе БЖБ,ТЖБ тапсырмаларын орындау кезінде, эссе, шығарма жазатын кездерде ChatGPT-мен барлығын жазып, жақсы баға алатынмын. Үй тапсырмасын да ЖИ-мен қанттай етіп орындайтынмын Қазір бұл алаңсыз күндерім көзден бұлбұлдай ұшты. ЖИ-ға үйреніп алғаным соншалық, алғашқы тоқсанда-ақ, қорытынды бағам нашарлап кетті. Енді соны дұрыстауға күш салуым керек, – деді 7-сынып оқушысы ағынан ақтарылып.
«Балалы үйде ұрлық жатпайды» деген. Оқушының айтқандары әр адамның ойына қозғау салатыны даусыз. ChatGPT демекші, жуырда әлеуметтік желіде «Аtameken business» арнасының «Түскі формат» бағдарламасында шымкенттік дәрігер Бақытжан Пазиловтың ChatGPT-ден ем сұраған 34 жастағы науқастың ЖИдің «емін» алам деп ауруын одан әрі асқындырып алғанын айтып, дабыл қаққаны жөнінде ақпарат тарады. Дәрігер ЖИ-дің ақпараты салдарынан қоғамда қаншама дипфейк тарайтынына да алаңдаушылық білдірді. Көкейдегі кез келген сұраққа ЖИ-дің жылдам жауап беретіні рас. Бірақ оның жауабының барлығы жүз пайыз дұрыс шығады дегенге де сену қиын. Бұған тараздық әріптесіміз, жазушы Ардақ Үсейінова ЖИ-мен екеуара диалогта көз жеткізгенін айтты.
– Қысылып өткен өмірден Көсіліп жатар көр артық, Демеуі кемшін туыстан Елеуі күшті ел артық, Пейілсіз берген қайырдан, Пейілмен айтқан сөз артық, Көкірегі соқырдан, Ағып та түскен көз артық, Ар-ождан қымбат адамға, Алмағайсың жоғалтып, Кердеңдеп баспа керіліп, Біреуден сенің нең артық, – өткенде осы өлеңнің авторын сұрап ЖИ-ға сұрақ қойдым. Өлеңнің авторын Бауыржан Момышұлы деді. Қой ей, бұл сөз Баукең өмір сүрген уақыттан бұрын бар болатын дедім. ЖИ кешірім сұраймын дегенімен, тағы да берідегі Жұбан Молдағалиевтың өлеңі деген нұсқа ұсынды. «Жұбан болуы мүмкін емес», деген дәлелімді алға тартқаныма қарамай, тағы бертіндегі бірнеше ақындардың есімін айтты. Мен де қайтпай, бұл бұрын қалған сөз екенін ескерттім. Шамалы кідіріп барып, «Ақтанберді жырау» деді, тағы біреулердің атын атап арыға салды. Менің де қайтар ойым жоқ, авторын анықтап бере алмайтынын білсем де, оның сөзіне келмейді дедім, қайтадан берідегілерге теліді. Олай емес дедім, ақыры миы ашып, дұрыс жауап бере алмады. ЖИ-ға сеніп жүргендер, ертең біреудің сөзін біреуге теліп, масқара боламыз-ау дедім сосын. Ақыры, сол өлеңнің кімдікі екені гуглда да жоқ болып шықты, авторы айтылмаған, жай сөзінің дәл айтылғанын әркім басына түскен жағдайға қарай сезініп оқып салып жүр екен. Біреуі авторын атамаған. Алдағы уақытта авторын кітапханаға барып тауып алу керек. ЖИ-ға түбегейлі сенсең, шатасып, тура жолдан адасып қалуың мүмкін, – дейді Ардақ Жаңбыршықызы.
Қарап тұрсақ, ЖИ адамды да «емдейді», әуен де шығарады, сурет те салады, эссе де жазады. «Болашақта әдебиет – адам мен машинаның біріккен шығармашылық кеңістігіне айналады» деген пікірлер айтыла бастады. Енді бірер жылдардан соң, мимен ойлануға мүлдем ерінетін ұрпақ өсіп жетіледі ме дейсің. Мұны әзірге болжау өте қиын. Бәлкім, біраз уақыттарда әр саланың өнімін ол әдебиет, ол білім саласы, яки мәдениет болсын «мынау ЖИ-дің өнімі», «мынау мидің өнімі» деп бөліп отыратын күйге жетуіміз де ғажап емес. Өйткені қазірдің өзінде кейбір сайттардан, бұқаралық ақпарат құралдарынан байқасаң, ЖИ-дің өнімі көзге бірден көрінеді. ЖИ-дің өнімінде өзінің аты айтып тұрғандай, бір жасандылық байқа лады. Жұмыс барысында ЖИ-дің де жиі қателесетін тұстары болатынын және оны пайдалануда ең алдымен ұлттық құндылықтар биік тұруы тиіс екеніне тоқталды «Jambyl» телеарнасының директоры Гүлбаршын Құланбаева.
– Мәтінді түзету, мазмұн ұсыну, дыбыстау сынды бағыттарда жасанды интеллект әлі де даму үстінде. Қазір оны мінсіз деу ертерек. Қазақ тілінің бай сөздік қоры мен көркемдік иірімдерін дәл жеткізуде жүйе жиі қателеседі. Кейде қарапайым сөйлемнің өзінде сөз мәнері мен ырғақ бұзылып кетеді. Ал телеарна саласында жасанды интеллект арқылы сюжет дайындау әлі қалыптасқан жоқ – мұны тек өңірлік емес, ірі арналардан да байқауға болады. Дегенмен уақыт өте келе бұл технология тележурналистердің ең сенімді көмекшісіне айналып, олардың жұмысын айтарлықтай жеңілдететініне сенемін. Бүгінгі таңда жасанды интеллект пен цифрландыру үдерісі еліміздің барлық саласында қарқын алып келетіні қуантады. Дегенмен кез келген жаңалықты жұртшылыққа ұсынбас бұрын оның қыр-сырын, пайдасы мен жауапкершілігін кеңінен түсіндіру қажет. Ақпарат тасқыны толассыз. Сол ағынның ішінде жасанды интеллектінің де әртүрлі бағдарламалары қаптап жүр. Бірақ өкінішке қарай, оның барлығы игі мақсатқа жұмсалып отырған жоқ. Бірі өнер мен білімнің өрісін кеңейтіп жатса, енді бірі технологияны ойыншыққа айналдырып, ар мен ұяттан аттап өтуде. Әсіресе ақ жаулықты апаларымыз бен ақ сақалды аталарымыздың бейнесін бұрмалап, бейәдеп сөздер айтқызатын видеолар – көрген жанның қабырғасын қайыстырады. Бұл – тек әдепсіздік емес, рухани құндылықтарға жасалған қиянат. Сондықтан жасанды интеллектіні реттеу, оны дұрыс бағытта пайдалану мәдениетін қалыптастыру – уақыт талабы. Себебі технологияның тізгінін ұстау – ұлттың тағдырына әсер ететін үлкен жауапкершілік. Жаңа дәуірге лайық қоғам боламыз десек, ақыл мен арды қатар ұстай білуіміз керек, – деді Гүлбаршын Қайратқызы.
Әр нәрсенің жаман және жақсы жағы қатар жүретіні бұлжымас заңдылық. Соған қарамастан қазіргі таңда цифрлық технологиялар жаһандық еңбек нарығын жылдам өзгертіп жатыр. Әлемде жасанды интеллектімен жұмыс істеудің қыр-сырын білетін мамандарға деген сұраныс та жыл өткен сайын артып келеді. Бұл бағытта біздің елімізде де жоспарлы жұмыстар жасалып, бүгінде қарқынды жүргізілуде. Қазақстан жасанды интеллект технологияларын дамытуға арналған ұлттық заңнамасын бейімдеу бойынша әлемнің үздік 15 мемлекетінің қатарына енді.
Бұл туралы Сенаттың кеңейтілген отырысында депутат Бибігүл Аққожина мәлімдеді. Оның айтуынша, еліміз цифрлық даму саласында тұрақты ілгерілеу көрсетіп келеді. «Стэнфорд университетінің AI Index Report есебіне сәйкес, Қазақстан жасанды интеллект саласына бейімделген заңнамасы бар әлемнің үздік 15 елі қатарына енді.
Қазіргі таңда бұл бағытта 11 өңірде 27 жоғары оқу орны мен 6 ғылыми институт белсенді жұмыс істеп жатыр. Зерттеу жұмыстарына 479 ғалым тартылған. Сала бойынша 62 жоба іске асырылуда. Олардың басым бөлігі Алматы мен Астанада шоғырланған. Әсіресе озық өндіріс, цифрлық технологиялар, ғарыш және медицина салаларына ерекше көңіл бөлінуде», – деді депутат жасанды интеллект туралы заңды талқылау кезінде.
Сонымен қатар ол бұл заңдардың цифрландыру үдерістерін реттеуге, жасанды интеллектіні қауіпсіз енгізуге және қолданыстағы заңнаманы жетілдіру үшін заманауи құқықтық база қалыптастыруға бағытталғанын атап өтті. Естеріңізге салсақ, Сенаттың кеңейтілген отырысында «Жасанды интеллект туралы» заң қаралған болатын. Сондай-ақ Сенат спикері Мәулен Әшімбаев Қазақстанда дипфейк жасайтындар қылмыстық жауапкершілікке тартылуы мүмкін екендігін айтты. Қазақстанда қазақ тілінде сөйлей алатын дыбыстық тілдік жасанды интеллект моделін әзірлеу жұмысы жүріп жатыр.
Бұл туралы Жасанды интеллект және цифрлық даму вице-министрі Дмитрий Мун мәлімдеген еді. Сондай-ақ ол «Самұрық-Қазына» ұлттық әл-ауқат қорының директорлар кеңесіне SKY атты ЖИ-ассистент енгізілуіне қатысты пікір білдірді. Оның айтуынша, қазақ тіліндегі сапалы дыбыстық ЖИ жүйесін жасау – техникалық тұрғыдан мүмкін. Бірақ көп еңбекті, уақытты және айтарлықтай көлемдегі дыбыстық деректерді қажет ететін күрделі процесс.
«Дұрыс сөйлейтін жүйе жасау – техникалық тұрғыдан мүмкін нәрсе. Ол үшін бізге уақыт пен әр аймақтың дыбыстық жазбалары қажет. Сонда ғана қазақ тіліндегі толыққанды дыбыстық тілдік модель жасай аламыз», – деді Дмитрий Мун.
Яғни, вице-министрдің мәлімдеуінше, қазақ тілінде сөйлей алатын жасанды интеллектіні дамыту – ЖИ технологияларын ұлттық тіл мен мәдени контекстке бейімдеудің маңызды қадамына айналады. Саналы ғұмырында ақпараттандыру саласының қыр-сырын зерттеп, еселі еңбек етіп келе жатқан белгілі ғалым Есен Бидайбеков ешбір жаңалық ғайыптан пайда болмайтынын, оған ғылым мен ізденіс әсер ететінін айтты.
– Жас анды интеллект дәуірі басталған екен, енді басқалармен бірге біз де соған бет бұруымыз қажет. Бұған бізде қазір мемлекеттік деңгейде мән беріліп жатқаны қуантады. Мемлекет басшысы Қасым-Жомарт Тоқаевтың соңғы Жолдауын «Жасанды интеллект дәуіріндегі Қазақстан: өзекті мәселелер және оны түбегейлі цифрлық өзгерістер арқылы шешу» деп тектен-тек атаған жоқ. Қазақстан Президенті әлемнің қайда бара жатқанын анық көріп-біліп, болашақты болжап отыр. Сондықтан Жолдауда еліміздің басшысы: «Жасанды интеллектінің қарқынды дамуы қазірдің өзінде халықтың, әсіресе, жастардың мінез-құлқы мен болмыс-бітіміне әсер етіп жатыр. Басқаша болуы мүмкін емес. Себебі бұл үрдіс бүкіл әлемде қалыптасқан тәртіпті және адамдардың өмір сүру салтын біржола өзгертуде. Біз бұған дайын болып, батыл әрекет етуіміз керек. Әйтпесе артта қалудың салдары өте ауыр болады. Сондықтан мен алдымызға өте маңызды стратегиялық мақсат қойдым. Қазақстан үш жыл ішінде міндетті түрде жаппай цифрлық ел болуы керек. Біз жаппай цифрландыру және жасанды интеллект технологиясын барынша енгізу арқылы экономиканы жаңғыртуымыз қажет» деп қадап айтты. Жай айтып қана қойған жоқ, ел Үкіметіне тез арада арнайы министрлік құруды тапсырды. Сөйтіп аз уақыттың ішінде Жасанды интеллект және цифрлық даму министрлігі құрылып, оның басшысы тағайындалды. Жасанды интеллектіні адам жасайды, оны оқытады, үйретеді. Демек, бәрібір адамның көмегінсіз ештеңе өнбейді. Жасанды интеллект адам жасаған білімді пайдаланады, сол арқылы қабілетті болады. Ендеше оны дайындайтын мамандарды оқыту қажеттілігі тумай ма? Сондықтан информатика пәні білім беру саласында ешқашан артық пән болмайды. Біз информатика пәнін оқыту арқылы халыққа дұрыс білім беріп, ақпараттық технологияға, жасанды интеллектіге бағдарлаймыз. Жасанды интеллект бізге бәрін жасап бермейді, оның қабілетін күшейтетін, өмірге пайдалы ететін өзіміз. Қай сала болса да оның тиімді не тиімсіздігін зерттеп анықтайтын ғылым, ал ғылымды назардан тыс қалдырсақ, кері кету басталады. Өйткені ғылым дамып, ілгерілеп отыруға қызмет етеді. ЖИ-дің сан түрлі технологиясының өзінің жетілуі – мидың ізденісінің жемісі. Сондықтан бүгінгі жұмыс үдерістерінің едәуір бөлігі цифрлық технологияларды енгізу арқылы автоматтандырылатыны анық. Сол себепті менің тапсырмаммен 100 мыңға жуық студентті технологиялық жобаларға тартуды көздейтін Al-Sana бағдарламасы жүзеге асырыла бастады. Алайда жасанды интеллектімен жұмыс істеу құзыретін қалыптастыру әлдеқайда ерте жастан, яғни мектеп қабырғасынан қолға алынуға тиіс. Осыған орай бірқатар бастаманы жүзеге асырған жөн. Ең алдымен, мектеп оқушыларына арналған жасанды интеллект негіздері туралы бағдарлама және оқу материалдарын әзірлеу қажет, – дейді ғалым.
ТІЛШІ ТҮЙІНІ: Бүгінде ЖИ біздің өмір салтымызға дендеп енгенімен, оның жасандылық екенін әсте естен шығармаған жөн. Әмәнде, адам баласын адам еткен – оның ақылы, ойлау қабілеті мен санасы. Керек десең, ЖИ-ді ми басқарып отыр. Осылай цифрлық дәуірде ми мен жи – адам өміріндегі ең маңызды ұғымдарға айналады. Олар бір-бірімен тығыз байланысты және адамды тек тіршілік ететін жан иесінен, саналы, ойлaна білетін тұлғаға айналдырады. Ми – білімнің қоймасы, ал ЖИ – сол қойманы дұрыс пайдаланып, мақсатқа жеткізетін кілт. «Ақыл – ойдың жемісі, жи – сол жемісті пайдаланатын күш» деп айтуға болады. Шынайы өмірде табысты адамдар миын үнемі дамытып, ізденуі керек. Мысалы, әлемге әйгілі ғалымдар мен жазушылар жаңа ақпаратты ұдайы үйреніп қана қоймай, оны ойластырып, дұрыс қолданады. Жи мен ми – адамның ақыл-ойының екі қанаты. Ми – ойдың, білімнің, сана-сезімнің орталығы болса, ЖИ – ойды белсенді ұстап, мақсатқа жетуге мүмкіндік беретін күш. Адам миын дамытып, жи-мен жүйелі жұмыс жасап, ойға жүйелі қараса, өмірде табысқа жетуі жеңіл болады. Сондықтан әр адам үнемі миын дамытуға, зейінін шоғырландыруға ұмтылуы керек. «Білімді болу жеткіліксіз, оны дұрыс пайдалану маңызды» дегендей, жи мен ми бірге болғанда ғана адам толық, ақылды, парасатты және табысты тұлға бола алады.Өйткені ЖИ жетпеген биікке МИ сөзсіз жете алады!
Фариза ӘБДІКЕРІМОВА
Ұқсас жаңалықтар
Ақпарат
Шаруалардың маңдай тері ақталатын күн жақын
- 25 қыркүйек, 2025
Әлемде транзит үшін бәсеке күшейіп бара жатыр – Тоқаев
- 8 қыркүйек, 2025
Цифрландыру пойыздың кешікпеуіне көмектесе ме?
- 21 тамыз, 2025
Газетке жазылу
«Aulieata-Media» серіктестігі газетке онлайн жазылу тетігін алғаш «Halyk bank» қосымшасына енгізді




