Положение о применении технологий ИИ
1.1 Положение о применении технологий искусственного интеллекта в Казахском национальном университете имени аль-Фараби (далее – Положение) определяет основные понятия, порядок организации, соблюдение этических норм и принципов, условия реализации технологий искусственного интеллекта в образовательных программах на всех уровнях образования (высшее и послевузовское образование).
1.2 Настоящее положение разработано совместно Офисом академических и цифровых инноваций и Управлением подготовки и аттестации научных кадров.
1.3 Положение предназначено для обучающихся, профессорско-преподавательского состава, руководителей и сотрудников структурных подразделений НАО «Казахский национальный университет имени аль-Фараби» (далее – Университет), а также других заинтересованных лиц.
1.4 Положение разработано в соответствии с:
1.5 Положение может быть пересмотрено в случае изменения нормативных правовых актов, регулирующих образовательную деятельность в Республике Казахстан, изменений в Уставе и Программе развития Университета, а также на основании решения Ученого совета Университета.
2.1 Автоматическое распознавание речи (automatic speech recognition, ASR) – способность системы принимать входную информацию в виде человеческой речи.
2.2 Адаптивное обучение — разновидность обучения, при котором для обучающегося формируется индивидуальная траектория обучения, опирающаяся на непрерывный анализ его персональных академически значимых характеристик (уровень подготовки, индивидуальные особенности, особенности использования различных форматов учебно-методических материалов, уровень знаний и т.п.).
2.3 Генеративный искусственный интеллект (Gen AI) — это тип искусственного интеллекта, который способен создавать новые данные, схожие по структуре и характеристикам с уже имеющимися данными. Он использует различные алгоритмы машинного обучения и глубокого обучения для генерации текста, изображений, музыки и других видов контента.
2.4 ИИ-агент (AI agent) —автоматически действующий объект, который воспринимает своё окружение, реагирует на него, а также предпринимает действия для достижения своих целей.
2.5 Искусственный интеллект ИИ (artificial intelligence, AI) — набор программных алгоритмов, который позволяет имитировать ряд функциональных возможностей человеческого мозга в динамической вычислительной среде, в том числе создавать текстовые, графические, аудио, мультимедиа материалы и документы, идентичные или частично идентичные созданным преподавателями и обучающимися.
2.6 Машинное обучение, МО (machine learning, ML) — процесс оптимизации параметров модели с помощью вычислительных методов таким образом, чтобы поведение модели отражало данные и/или опыт.
2.7 Понимание естественного языка (natural language understanding, NLU, natural language comprehension) — извлечение функциональным компонентом информации из текста или речи, переданных ему на естественном языке, и создание описания как этого текста или речи, так и того, что они представляют.
2.8 Распознавание речи (speech recognition, speech-to-text, STT) —преобразование функциональным компонентом речевого сигнала в представление содержания речи.
2.9 Система искусственного интеллекта, ИИ-система (artificial intelligence system, AI system) — техническая система, которая порождает такие конечные результаты, как контент, прогнозы, рекомендации или решения для заданного набора определенных человеком целей.
2.10 Глубокое обучение (нейронной сети) (deep learning, deep neural network learning) — подход к созданию обширных иерархических представлений посредством обучения нейронных сетей с большим количеством скрытых слоев.
2.11 Нейронная сеть (neural network, NN) — сеть из двух или более слоёв, состоящих из нейронов, соединённых взвешенными связями с регулируемыми весовыми коэффициентами, при этом каждый нейрон получает входные данные и вырабатывает результат.
2.12 Машинный перевод (machine translation, MT) — задача автоматического перевода текста или речи с одного естественного языка на другой с помощью компьютерной системы.
2.13 Естественный язык (natural language) — язык, который активно используется или ранее активно использовался сообществом людей, правила которого обусловлены практикой его применения.
2.14 Обработка естественного языка (natural language processing, NLP) — обработка информации на основе понимания естественного языка и/или генерация естественного языка.
2.15 Цифровой след (в образовании) — данные об обучающемся и его активностях, включающие в том числе видео и аудиозаписи, данные о хронологии взаимодействия с различными средствами обучения и воспитания, о хронологии взаимодействия с другими участниками отношений в сфере образования и информацию о таком взаимодействии, в том числе о полученных квалификациях, о последующем трудоустройстве и профессиональной деятельности, рецензиях и оценках, а также о результатах обучения с использованием учебно-методических данных, представленные в электронном цифровом формате.
3.1 ИИ предоставляет возможности для быстрой и эффективной обработки больших объемов данных, что значительно ускоряет научные исследования и позволяет получать новые инсайты и открытия. Моделирование и прогнозирование с использованием ИИ создают условия для проведения передовых исследований в различных научных областях, что способствует получению инновационных результатов.
3.2 Введение технологий ИИ в образовательный и научный процесс Университета направлено на повышение качества образования и научных исследований, а также оптимизацию административных процессов. Использование ИИ-агентов значительно обогащает и улучшает образовательный процесс, предоставляя дополнительные ресурсы, индивидуализированную поддержку и дополнительные возможности для обучения, исследования и общения.
3.3 Образование, ориентированное на ИИ, способствует формированию у обучающихся навыков и компетенций, необходимых для успешной карьеры в условиях цифровой экономики. Внедрение ИИ стимулирует развитие предпринимательского мышления и инновационной деятельности среди обучающихся и преподавателей, поддерживая создание стартапов и инновационных проектов.
3.4 Принципы функционирования искусственного интеллекта включают:
3.1.1 Алгоритмическая обработка данных - ИИ использует различные алгоритмы для анализа и обработки данных, на основе которых принимает решения и (или) выполняет задачи.
3.1.2 Машинное обучение - ИИ системы обучаются на основе данных, улучшая свои способности путем анализа прошлых данных и опыта.
3.1.3 Нейронные сети – принцип моделирования и имитации работы человеческого мозга, что позволяет ИИ решать сложные задачи, такие как распознавание образов или обработка естественного языка
3.1.4 Автоматизация задач и Автономное принятие решений - ИИ способен выполнять задачи, с минимальным участием человека, а также самостоятельно принимать решения в рамках заданных параметров и целей
3.1.5 Адаптивность - ИИ системы могут адаптироваться и изменять свое поведение в зависимости от новых данных или изменений в окружении.
3.1.6 Обработка естественного языка: ИИ способен понимать и генерировать материалы в виде символических представлений человеческого мышления (текст, изображения, видео, музыка, программный код), что позволяет ему взаимодействовать с пользователями на более интуитивном уровне.
3.1.7 Большие данные - ИИ использует и анализирует большие объемы данных для выявления закономерностей и создания прогнозов.
3.1.8 Оптимизация и предсказание - ИИ применяется для оптимизации процессов и предсказания результатов на основе анализа данных.
4.1 Предметные области применения ИИ включают:
4.1.1 Информационные технологии и компьютерные науки
— машинное обучение и анализ данных: разработка и применение алгоритмов машинного обучения для анализа больших данных, предсказательной аналитики и разработки интеллектуальных систем;
— обработка естественного языка: использование ИИ для автоматического перевода текстов, анализа настроений, создания чат-ботов и голосовых ассистентов;
— компьютерное зрение: применение технологий ИИ для распознавания образов, обработки изображений и видео, в том числе в системах безопасности.
4.1.2 Естественные науки
— биология и медицина: использование ИИ для анализа геномных данных, разработки новых лекарственных препаратов, предсказания структуры белков и проведения медицинской диагностики;
— экология и климатология: применение ИИ для моделирования климатических изменений, анализа экологических данных и разработки стратегий устойчивого развития.
4.1.3 Гуманитарные науки
— лингвистика: использование ИИ для автоматического анализа текстов, создания лингвистических моделей и разработки инструментов для изучения языков;
— история и культурология: применение ИИ для анализа исторических данных, создания виртуальных реконструкций и исследования культурных феноменов.
4.1.4 Социальные науки
— социология и психология: использование ИИ для анализа социальных сетей, предсказания поведения людей, исследования общественного мнения и разработки психометрических тестов;
— экономика: применение ИИ для анализа экономических данных, прогнозирования рыночных тенденций и разработки экономических моделей.
4.1.5 Технические науки
— инженерия: использование ИИ для автоматизированного проектирования, оптимизации производственных процессов, разработки интеллектуальных систем управления и анализа инженерных данных;
— робототехника: применение ИИ для разработки автономных роботов, систем автоматического управления и решений для промышленной автоматизации.
4.2 Предметные области применения ИИ в Университете могут быть дополнены и расширены в зависимости от требований образовательного, организационных и административных процессов Университета.
4.3 К видам технологий ИИ, применяемых в Университете, относятся:
4.3.1 Машинное обучение:
— супервайзинг: применение для классификации данных, регрессионного анализа и предсказательной аналитики. Например, анализ успеваемости студентов и прогнозирование их результатов;
— ансупервайзинг: ипользование для кластеризации, уменьшения размерности данных и поиска аномалий. Например, анализ больших объемов научных данных.
4.3.2 Обработка естественного языка (NLP):
— чат-боты и виртуальные ассистенты: Автоматизация ответов на часто задаваемые вопросы студентов и сотрудников, предоставление консультаций и поддержки;
— анализ текстов: Извлечение информации из текстов, анализ настроений в социальных сетях и автоматическое создание резюме документов.
4.3.3 Компьютерное зрение:
— распознавание образов: использование для обеспечения безопасности кампуса, идентификации лиц и анализа видео с камер наблюдения;
— обработка медицинских изображений: автоматическая диагностика заболеваний на основе анализа рентгеновских снимков, МРТ и других медицинских изображений.
4.3.4 Генеративные модели:
— генеративно-состязательные сети (GANs): создание новых изображений, аудио и видео контента, генерация текстов и музыкальных композиций;
— автоэнкодеры: анализ и сжатие данных, восстановление изображений и улучшение качества сигналов.
4.3.5 Мультиагентные системы:
— автономные агенты: разработка систем, в которых автономные агенты могут взаимодействовать и координировать свои действия для достижения общих целей;
— распределенные вычисления: применение для оптимизации ресурсов, распределенного обучения моделей ИИ и управления распределенными системами.
4.4 Виды технологий и систем ИИ, применяемых в Университете, могут быть дополнены и расширены в зависимости от требований образовательного, организационных и административных процессов Университета.
5.1 Обучающиеся могут использовать ИИ для улучшения учебных результатов и эффективного управления своим временем, использовать ИИ-агентов для поиска и систематизации информации, автоматизированного создания заметок и резюме учебных материалов. ИИ также может помочь в подготовке к экзаменам, предлагая практические тесты и анализируя их результаты для выявления слабых мест. Генеративные ИИ помогают обучающимся быстро создавать цифровые материалы при подготовке ответов на задания преподавателей. Кроме того, виртуальные лаборатории и симуляторы на основе ИИ позволяют студентам проводить эксперименты и исследования в дистанционном и онлайн режимах.
5.2 Преподаватели могут использовать ИИ для повышения эффективности и качества преподавания. ИИ может автоматизировать процесс создания и обновления учебных материалов, генерируя актуальные контент и тестовые задания на основе последних научных данных. Преподаватели могут создавать интерактивные обучающие приложения и тренажёры на основе ИИ, создавать чат-ботов и/или цифровых двойников для ответов на вопросы обучающихся. Преподаватели могут использовать аналитические инструменты ИИ для мониторинга успеваемости студентов, идентификации трудностей и быстрого реагирования на них. Системы ИИ могут предоставлять преподавателям рекомендации по улучшению образовательного процесса на основе анализа обратной связи от студентов и результатов их успеваемости.
5.3 Административно-управленческий персонал (далее - АУП) может использовать ИИ для автоматизации и оптимизации административных процессов. Системы ИИ могут автоматизировать обработку заявок на поступление, регистрацию на курсы, управление расписанием и учет посещаемости. ИИ может анализировать большие объемы данных для прогнозирования тенденций в поступлениях и успеваемости студентов, что помогает в планировании ресурсов и принятии стратегических решений. Системы ИИ также могут улучшить взаимодействие с абитуриентами, студентами и выпускниками через интеллектуальные чат-боты и виртуальных помощников, обеспечивающих круглосуточную поддержку и консультации.
5.4 Организация образовательного процесса с применением ИИ осуществляется факультетами Университета.
5.5 При разработке и актуализации образовательных программ Университета необходимо включать модули по ИИ, охватывающие как базовые концепции, так и продвинутые темы, такие как машинное обучение, обработка больших данных, нейронные сети и другие связанные области.
5.6 При преподавании дисциплин с применением ИИ необходимо учитывать специфику предметной области и развития технологий.
5.7 При использовании систем ИИ преподавателями, обучающимся и сотрудниками Университета рекомендуется проходить регистрацию для доступа к системам ИИ по отдельной электронной почте, не содержащей информации личного характера.
5.8 В случае подготовки учебного, методического, вспомогательного или иного материала с помощью генеративного ИИ для его применения в учебном процессе, преподаватели факультетов должны явно информировать обучающихся об использованном Gen AI при подготовке материала. Для этого преподаватели указывают названия и ссылки на используемые Gen AI в списке использованной литературы при подготовке материалов. В случае отсутствия списка использованной литературы указание на использованные Gen AI приводятся в файлах – описаниях, которые должны загружаться на цифровые платформы вместе с подготовленными материалами.
5.9 В случае применения ИИ в образовательном процессе необходимо обеспечить равный доступ к его применению всеми участниками учебного процесса без необходимости обладать или приобретать дополнительные ресурсы для полного использования его функциональных возможностей.
5.10 При использовании ИИ необходимо учитывать технические ограничения систем ИИ (такие как количество пользователей, количество одновременных запросов, региональные ограничения, языковые и другие требования), чтобы избежать ситуаций, при которых кто-либо из обучающихся окажется лишен доступа к функционалу, используемому в образовательном процессе.
5.11 В случае подготовки ответов на задания преподавателей на текущем семестре с применением Gen AI (в текстовой, графической, мультимедийной и иных формах), обучающиеся должны явно информировать преподавателя о Gen AI использованном при подготовке материала. Для этого обучающиеся указывают названия и ссылки на используемые Gen AI в списке использованной литературы при подготовке материалов. В случае отсутствия списка использованной литературы указание на использованные Gen AI приводятся в файлах – описаниях, которые должны загружаться на цифровые платформы вместе с подготовленными материалами. Помимо атрибутивных сведений (названия и ссылки) также необходимо описать контекст использования, цели и задачи использования (в случае использования Gen AI) указывается текст запроса.
5.12 Применение систем искусственного интеллекта обучающимися в ходе итогового контроля регламентируется действующими Правилами проведения экзаменов, Правилами проведения экзаменационных сессий с ДОТ и Положением о проверке текстовых документов обучающихся на наличие заимствований.
5.13 В случаях, когда системы ИИ используются для оценки знаний и навыков обучающихся, преподаватель и выпускающая кафедра обязаны гарантировать справедливость и объективность этих оценок. При необходимости должна быть предусмотрена возможность пересмотра оценок преподавателем.
5.14 Ответственность за результаты использования искусственного интеллекта в учебном процессе возлагается на обучающихся и преподавателей. Они обязаны ознакомиться с техническими и технологическими ограничениями данной технологии перед её использованием, а также предпринимать все необходимые действия и следовать установленной последовательности шагов для обеспечения достоверности полученных результатов.
5.15 В случае, когда ИИ системы в обязательном порядке применяются в дисциплине, все контексты и условия использования технологий ИИ должны быть полностью и исчерпывающе описаны в силлабусе дисциплины.
6.1 В случае использования технологий генеративного ИИ при подготовке выпускных квалификационных работах и научных исследованиях, научные результаты, положения, рекомендации и выводы должны быть сформулированы автором самостоятельно.
6.2 Использование технологий генеративного ИИ без ссылки на них, указывающей наименование, производителя (правообладателя), версию и дату обращения и (или) использования нарушает принцип академической честности.
6.3 Не допускается применение технических средств и приемов, в том числе технологий генеративного ИИ, в целях уменьшения или исключения возможности обнаружения плагиата.
6.4 Автор выпускной квалификационной работы и (или) научного исследования/диссертации несет ответственность за достоверное, безопасное и этичное использование информации, полученной с помощью технологий генеративного искусственного интеллекта.
6.5 Автор выпускной квалификационной работы и (или) научного исследования/диссертации информирует об использовании технологии ИИ путем ссылки на нее, включая описание того, на каких этапах научного исследования и каким образом автор применил технологию генеративного искусственного интеллекта, а также описание способов и методов проверки достоверности полученных таким образом данных и (или) их обработки и интерпретации. Отсутствие сведений об этом свидетельствует о подтверждении автором отсутствия фактов использования технологий ИИ в работе.
6.6 Использования автором технологий генеративного искусственного интеллекта при подготовке работы допускается при наличии предварительного одобрения со стороны научных консультантов, и локальной этической комиссии.
7.1 Преподаватели обязаны обеспечивать прозрачность использования систем ИИ, информируя обучающихся о том, как и для чего используются ИИ технологии в учебном процессе, а также какие данные собираются и как они обрабатываются.
7.2 Преподаватели должны предоставлять обучающимся возможность ознакомиться с принципами работы и алгоритмами используемых ИИ-систем, способствуя развитию их критического мышления и понимания возможных предвзятостей или ограничений этих систем.
7.3 Применение ИИ в образовательном процессе должно соответствовать принципам конфиденциальности и защиты персональных данных. Преподаватели обязаны информировать обучающихся о том какие данные собираются системами ИИ и как формируется цифровой след обучающихся.
7.4 При применении ИИ в образовательном процессе преподаватели не имеют права требовать от обучающихся раскрытия персональных данных.
7.5 Преподаватели должны создавать условия для того, чтобы использование систем ИИ способствовало повышению качества образовательного процесса, а не заменяло непосредственное взаимодействие преподавателя и студента. ИИ должен быть инструментом поддержки и дополнения, а не замены традиционных методов обучения.
7.6 Выпускающая кафедра обязана регулярно оценивать и пересматривать применение систем ИИ, чтобы убедиться в их эффективности и этичности, учитывая отзывы студентов и преподавателей, а также новейшие исследования и разработки в области ИИ.
7.7 Преподаватели обязаны обеспечивать доступность и поддержку для всех обучающихся при использовании систем ИИ, включая предоставление инструкций, учебных материалов и консультаций для освоения и эффективного использования данных технологий.
7.8 Применение ИИ должно быть направлено на поддержку академической честности и предотвращение использования данных систем для мошенничества или других неэтичных практик.
7.9 Преподаватели должны стимулировать междисциплинарное сотрудничество и обмен знаниями в области ИИ, способствуя интеграции различных подходов и взглядов на этическое применение данных технологий в образовательном процессе.
7.10 При внедрении новых систем ИИ в образовательный процесс, преподаватели дисциплины и выпускающая кафедра должны проводить предварительную оценку их воздействия на обучающихся, учитывая возможные риски и преимущества, и обеспечивая информированное согласие всех участников образовательного процесса об использовании системы ИИ.
7.11 В случае возникновения конфликтных ситуаций, связанных с применением ИИ в образовательном процессе, выпускающая кафедра обязана предоставлять механизмы для их разрешения, включая возможность апелляции и пересмотра решений, принятых на основе систем ИИ.
7.12 При использовании систем ИИ необходимо проявлять уважение к различным мнениям и подходам преподавателей и обучающихся, обсуждая вопросы применения ИИ, и способствовать созданию инклюзивной учебной среды.
7.13 Обучающиеся обязаны информировать преподавателей о любых обнаруженных уязвимостях или недочетах в системах ИИ, чтобы предотвратить возможные злоупотребления или ошибки в образовательном процессе.
7.14 Обучающиеся обязаны использовать ИИ-системы в образовательном процессе только в соответствии с установленными правилами и рекомендациями преподавателей, избегая попыток использования ИИ для мошенничества или обмана.
7.15 При работе с ИИ-системами, обучающиеся должны уважать конфиденциальность и личные данные своих коллег, избегая действий, которые могут привести к нарушению приватности или несанкционированному доступу к информации.
7.16 При применении систем ИИ необходимо критически оценивать результаты, и не полагаться на них безусловно. Необходимо развивать навыки анализа и верификации данных, полученных с помощью ИИ.
7.17 При создании собственных проектов и исследований с использованием ИИ, необходимо соблюдать академическую честность, избегая плагиата и должным образом цитируя все использованные источники и алгоритмы.
7.18 При применении систем ИИ должны соблюдаться принципы справедливости и инклюзивности, ИИ-системы не должны применяться для создания или распространения предвзятых, или дискриминационных материалов.
7.19 При проведении исследований с использованием Gen AI необходимо гарантировать, что созданный Gen AI материал не нарушает права других людей и что все данные, использованные в исследовании, были получены и обработаны законным и этичным образом.
7.20 Использование ИИ в целях, которые могут нанести вред или быть неэтичными, категорически запрещается в соответствии с политикой Университета и международными нормами.
8.1 Сотрудники Университета, применяющие технологии искусственного интеллекта, должны обладать следующими компетенциями:
— технические навыки: понимание основных концепций и методов искусственного интеллекта;
— педагогическая компетентность: способность эффективно объяснять технические аспекты применения ИИ обучающимся с различным уровнем подготовки, обеспечивая их полное понимание;
— гибкость и адаптивность: готовность к непрерывному обучению и адаптации к быстро развивающейся области искусственного интеллекта, а также осведомленность о новейших разработках и технологиях.
— аналитические способности: умение анализировать конкретные ситуации и определять потенциальные области применения ИИ в различных сферах;
— междисциплинарный подход: способность интегрировать знания из различных областей, таких как информатика, математика, психология и другие;
— этическое сознание: осознание и понимание этических вопросов, связанных с применением искусственного интеллекта.
8.2 Обучающиеся, применяющие технологии ИИ, должны обладать следующими компетенциями:
— обладать базовыми знаниями в области искусственного интеллекта и смежных технологий;
— понимать и соблюдать этические принципы, включая уважение к правам человека, конфиденциальность данных и предотвращение дискриминации;
— знать правила академической политики, академической честности и авторского права. Применение ИИ должно быть согласовано с руководителями курсов и научными руководителями, особенно если оно затрагивает данные, принадлежащие третьим лицам, или требует дополнительных ресурсов;
— обучающиеся должны уметь собирать, очищать и анализировать данные для использования в системах ИИ, а также владеть методами защиты данных и обеспечивать их конфиденциальность и целостность.
8.3 В целях обеспечения сотрудников и обучающихся компетенциями, указанными в п. 8.1, 8.2 настоящего Положения, Университет организует обучение в области применения технологии ИИ, в том числе:
— проведение технических тренингов по обучению навыкам работы с системами ИИ, включая базовые знания в области машинного обучения, обработки естественного языка и других технологий ИИ;
— специализированные курсы повышения квалификации, летние школы и воркшопы посвященные применению ИИ в образовательных целях;
— проведения консультаций экспертам в области ИИ виде онлайн-ресурсов, лекций или личных консультаций;
— обучение этическим аспектам в использовании ИИ, включая обсуждение вопросов прозрачности, ответственности, конфиденциальности и предотвращения предвзятости;
— участие в проектах, связанных с ИИ в образовании, получение практического опыта.
8.4 Организация обучения сотрудников Университета по пункту 8.3 настоящего Положения проводится структурными подразделениями Департамента по академическим вопросам, Департамента обеспечения развития It - инфраструктуры, Департамента по науке и инновационной деятельности, а также выпускающими кафедрами факультетов.
8.5 Организация обучения по пункту 8.3 настоящего Положения для обучающихся проводится выпускающими кафедрами факультетов.
8.6 С целью развития навыков применения ИИ факультеты включают в образовательные программы дисциплину "Основы искусственного интеллекта". Дисциплина предназначена для ознакомления обучающихся с основными концепциями, методами и приложениями ИИ. Курс нацелен на предоставление обучающимся базовых знаний о возможностях и применениях искусственного интеллекта в современном мире, а также о его значении для различных областей деятельности. Структура и содержание дисциплины адаптируется факультетами под профиль подготовки кадров.