ИИ в повседневной жизни: опасения и перспективы

Карлыгаш БАЙШОЛАНОВА,

профессор кафедры «Информационные системы» факультета ІТ

Президент Касым-Жомарт Токаев в своем послание народу Казахстана призывал проявлять активность во внедрении механизмов цифровизации и искусственного интеллекта практически во всех сферах. Глава государства подчеркивает, что сегодня актуальными становятся проблемные вопросы цифровизации и искусственного интеллекта. Придавая огромное значение этим новейшим технологиям, Президент предлагает создать в стране специализированное Министерство искусственного интеллекта и цифрового развития. Карлыгаш Советовна Байшоланова, профессор кафедры «Информационные системы» факультета информационных технологий, координатор образовательной программы PhD по информационным системам и член Академического Совета данного факультета, предоставила информацию о вкладе преподавателей факультета информационных технологий КазНУ им. аль-Фараби в реализацию масштабных государственных проектов. 

– Карлыгаш Советовна, в своём обращении к народу Казахстана Касым-Жомарт Токаев выступил с инициа­ти­вой о создании Ми­нис­тер­ства искусственного ин­тел­лекта и цифрового раз­вития. Как эксперт в об­лас­ти ин­фор­мационных технологий, объясните, какую роль бу­дет играть Министерство в формировании стратегий по внедрению исскуственного интеллекта (ИИ) в различные сферы жизни?

– Трансформация цифрови­за­ции мирового уровня осу­щест­вляется во всех сферах социально-экономической жизни каждой страны. В про­цессе принятия решений по ци­фровизации в ИИ создается новое министерство, которое становится его неотъемлемой частью и теперь несет ответ­ственность за реализацию мер стратегического назначения, стоящих перед государством, и как организация, их осу­ществ­­ляющая. В этой связи перед новым министерством стоит задача реализации госу­дар­ственных стратегических приоритетов посредством уп­рав­ления процессом цифро­ви­зации и формирования соб­ственной организационной структуры для их осу­ществ­ления. Отвечая на ваш вопрос, хочу сказать, что сейчас перед создаваемым Министерством искусственного интеллекта и цифрового развития стоят гран­диозные и нестандартные задачи, которые полностью ох­ва­тят цифровую жизнь стра­ны, охватят взаимодействие го­су­дарства, бизнеса и населения в цифровой среде. Теперь, конечно, выполнение такой задачи станет страте­ги­ческой целью нового ми­нис­терства.

– Мировая цифровизация активно проникает во все аспекты социально-эконо­ми­ческой деятельности каж­­дой страны. Какие госу­дарства, по вашему мнению, уже добились значимых ус­пе­хов в этом направлении?

– В США, Китае, Канаде, Ве­ликобритании, Израиле на­­­ча­ли реализовываться на­цио­наль­ные стратегии в от­но­­ше­нии ИИ. Показательным при­мером может служить Объе­динённые Арабские Эми­­­раты, где в 2020 году было соз­дано министерство, ответ­ст­венное за развитие ис­кусст­венного интеллекта. В 2024 году оно инициировало при­ня­тие Хартии по созданию и при­менению ИИ, что способ­ст­во­вало укреплению позиций стра­ны в системе между­на­род­ного управления искусст­вен­ным интеллектом. Ана­ло­гич­ные устремления де­монс­трирует Тай­вань, стремящийся войти в число мировых лидеров в дан­ной сфере. Недавно он объя­вил о запуске «Десять крупных ИИ-проектов», которые в 2040 го­ду принесут в экономику стра­ны около 510 миллиардов долларов. В планах страны были представлены три прог­рам­мы по ключевым направ­ле­ниям: кремниевая фотоника, квантовая технология и ИИ-робототехника, цель которых-стать «островом умных тех­но­логий» в качестве крупного иг­ро­ка в области ИИ. Благо­да­ря этим мерам, на реализацию которых выделено около 3 млрд долларов, удалось дос­тичь значительных резуль­та­тов.

– Какие шаги нам пред­стоит предпринять для обес­­печения безопасности, ста­биль­ности и контроля над ис­кусственным интел­лек­том?

 Для достижения этой цели составить стратегический план и рассмотреть конкрет­ные меры по реализации ука­зан­ных в нем задач. Во-пер­вых, создание национального Центра обработки данных (ЦОД) и обеспечение энерго­источников, поддерживаемых его мощностью (АЭС), привле­че­ние инвестиционных фондов для развития направления ИИ и поддержки инноваций, не­об­ходимо планировать такие меры и задачи, как тесное увяз­ка ИИ с отраслями тор­говля, оборона, здра­во­охра­нение, об­разование, энер­ге­тика и др., создание оте­чест­венных стан­дартов ИИ, качественная под­го­товка конкурентоспособных специалистов по направлению ИИ, поддержка прикладных научных проектов, разработка системы мер кибербезопас­нос­ти и защиты данных, нор­мативно-правовых актов по ИИ. В этой связи, в документе «Digital Kazakhstan» Минис­тер­ством могут быть рассмотрены проекты и инициативы в об­ласти искусственного интел­лек­та, начиная с цифровизации экономики страны и закан­чи­вая переходом на GovTech, соз­данием благоприятной сре­­­ды для цифровой инфра­струк­туры, поддержкой ин­но­ва­цион­ной экосистемы и об­­ес­печением кибербез­опас­ности.

– Ваш факультет осу­щест­в­ляет подготовку спе­циа­листов в области ис­кус­ст­венного интеллекта?

– В настоящее время в республике функционирует 127 высших учебных заве­де­ний. В связи с внедрением изменений в государственные образова­тель­ные стандарты, предусма­три­вающих рас­ши­ре­ние охва­та дисциплин, свя­занных с искусственным ин­тел­лектом, около 75% вузов уже внедрили преподавание соответст­вую­щих курсов. Кро­ме того, 20 университетов реа­лизуют пол­ноценные обра­зо­ва­тель­ные прог­раммы по под­­готовке специалистов в об­ласти ИИ.

Что касается Казахского на­ционального университета имени аль-Фараби, то в те­кущем учебном году его фа­культет по подготовке IT-спе­циалистов был обновлён и пе­ре­именован в Факультет информационных технологий и искусственного интеллекта. Как следует из названия, дан­ный факультет, возглавляемый Иманкуловым Тимуром Са­кен­о­вичем, объединяет четыре ка­­­федры, осуществляющие под­готовку IT-специалистов на трёх уровнях образования – бакалавриате, магистратуре и докторантуре. Эти специалис­ты востребованы на современ­ном цифровом рынке труда Казахстана. Все выпускники образовательных программ ба­­калавриата факультета трудо­устроены лиьо продолжают обучение в магистратуре и док­­торантуре научно-пе­да­го­гического направления. В нас­тоящее время на факул­ь­тете ІТ реализуются 9 образо­ва­тель­ных программ уровня ба­калав­­риа­та, 12 магистерских прог­рамм и 11 программ док­­торантуры PhD. В напрв­лении ИИ на факультете действуют специализированные обра­зо­ва­тельные программы. На­при­мер, в бакалавриате реали­зуют­ся такие направления, как «Высоконагруженные инфор­мационные системы с искусст­вен­ным интеллектом», «Ис­кусст­венный интеллект» и «Ин­теллектуальная система управления». В магистратуре представлена программа «Ин­­теллектуальная система управ­ления», а в докторантуре – «ИИ в области медицины» и «Интеллектуальные системы управления».

– По информации Минис­терства цифрового раз­ви­тия, за пять лет планируется обучить один миллион че­ловек навыкам работы с ис­кусст­венным интеллектом. Вы тоже принимаете учас­тие в этой инициативе?

– Если считать главным показателем обучение навы­кам ИИ 1 млн человек, то ми­нис­терство намерено обучать в среднем 200 тыс. человек в год. По сути, это хорошее на­чало. Эту меру можно вы­пол­нить, увеличив количество кур­сов и микроквалификацион­ных программ для выпускников и других добровольных слу­ша­телей, получающих специаль­ное образование по ИИ в вузах страны. В реализации данного мероприятия может принять участие наше препо­да­ва­тель­ское сообщество. Это станет возможным при условии, что при университете, в структуре института повышения ква­ли­фикации и дополнительного образования, будут органи­зо­ваны соответствующие курсы для слушателей республи­кан­ского уровня – при наличии спроса со стороны местных испольнительных органов. Кроме того, преподаватели вузов в целом могут участ­во­вать на платформах массовых от­крытых онлайн-курсов (МООС), таких как Coursera, OpenU, Bilim Media Group, пу­тем предоставления видео­кур­сов и практических занятий по своим курсам или путем загрузки собственных онлайн-курсов на более сложных плат­формах Google Colab, Kaggle, JupyterHub. Мы также можем внести свой вклад, широко привлекая участников хака­то­нов и других проектов, про­ис­ходящих на факультете.

– Как вы оцениваете вк­лад международного центра искусственного интеллекта Alem.ai в развитие науки и технологий?

– Alem.ai – Международный центр развития ИИ в Казах­стане, в структуре которого формируются экосистемы, способствующие развитию ИИ. Основной целью центра яв­­ляется ускорение раз­ра­бот­ки и внедрения решений в сфе­ре ИИ, содействие ком­мер­­циализации научных раз­ра­боток и поддержка научных исследований в этой области. Среди приоритетных задач центра – формирование ин­фраструктурных проектов, раз­­витие технологических экосистем с международными организациями, а также прив­ле­чение для них инвестиций для их реализации. Наша страна стремится к лидерству в области технологий ИИ в Центральной Азии и ставит перед собой цель превратить Астану интеллектуальный цен­тр региона. По прогнозам цен­тра Alem.ai, к 2029 году объем экспорта отечественных ре­ше­ний в сфере ИИ может достичь 5 миллиардов долларов за счет реализации указанных стратегических направлений.

– Как вы видите будущее искусственного интеллекта с точки зрения его наивыс­ше­го уровня развития? Мо­жет ли чрезмерное увле­че­ние ИИ представлять угрозу для личной безопасности?

– По мере достижения ис­кусст­венным интелллектом нового технологического пика в обществе начинают активно появляться виртуальные лич­ности, функционирующие в науч­но-технической и социаль­но-экономической среде. Эти цифровые агенты способны работать значительно быстрее и эффективнее человека, не­за­висимо от сферы их при­ме­нения. Однако, несмотря на допустимость и пользу внед­ре­ния искусственного ин­тел­лекта в повседневную жизнь, есть аспекты, которые вызы­вают серьёзные опасения. По мере того как интеллек­туаль­ная активность человека всё больше адаптируется к техно­ло­гиям ИИ, возникает риск снижения уровня самостоя­тель­ного мышления, дег­ра­да­ции сознательной мыс­ли­тель­ной деятельности, а также ос­лабления межличностных связей и социальной изоляции. Кроме того, цифровая среда становится пространством для манипуляций: известны слу­чаи, когда зло­умыш­лен­ни­ки, используя доверие че­ло­ве­ка, применяют ИИ для соз­да­ния поддельного контента и «глубоких фейков», преследуя собственные цели. Всё это способствует возрастанию пси­хологического давления и тре­вожности у людей в пов­сед­невной жизни.

По мнению Джеффри Хин­тона, одного из ведущих ми­ровых экспертов в области искусственного интеллекта, лауреата Нобелевской премии, будущее ИИ остается неясным даже для самих ученых. Хинтон подчеркнул, что если ИИ про­дол­жит развиваться и самос­тоя­тельно изменять свою природу, существует риск его выхода из-под человеческого контроля. Дж. Хинтон убеждён, что, несмотря на очевидные преимущества искусственного интеллекта для человечества, сейчас есть шанс установить строгие правила и провести глубокие исследования. При­ме­нение оружия, созданного на основе ИИ, должно быть за­прещено на глобальном уро­в­не. В этот критический момент для всего человечества важно осознать свою ответст­вен­ность. Только так мы сможем гарантировать мирное, свет­лое и счастливое будущее. Ис­поль­зование ИИ и других науч­ных достижений должно быть направлено исключительно на благие цели.

– Спасибо вам за предос­тав­ленные сведения!

Беседовал

Каиржан ТУРЕЖАНОВ