Этические аспекты применения
генеративного искусственного
интеллекта в организации
Мацепуро Д.М., канд. истор. наук,
директор Центра науки и этики,
Советник Председателя Сибирского банка Сбера

Что мы будем изучать?

01 Почему это важно?
Что такое этика ИИ и
02 как она появилась?
03 Как работает Gen AI?
Инструменты этического
04 регулирования ИИ
05 Специфика Gen AI в организациях
06 Этические риски Gen AI
Рекомендации по применению GenAI
07 в организации

Описание
Курс охватывает темы, связанные с
определением и примерами
использования генеративного ИИ, а
также с этическими принципами и
стандартами. Участники узнают о том,
как генеративный ИИ применяется в
различных сферах бизнеса и какие
существуют подходы к управлению
рисками. Курс также включает
практические упражнения и кейсы для
анализа реальных ситуаций и
разработки рекомендаций по
улучшению практики.

01
Почему это
важно?

“

Создание искусственного
интеллекта может стать
последним технологическим
достижением человечества,
если мы не научимся
контролировать риски.
Стивен Хокинг

Три составляющие обучения
ДАННЫЕ
Хотим определять курс акций — нужна история цен, узнать
интересы пользователя — нужны его лайки или посты. Данных
нужно как можно больше.

ПРИЗНАКИ
Также их называют фичами (features). Фичи, свойства,
характеристики, признаки — ими могут быть пробег автомобиля,
пол пользователя, цена акций, даже счетчик частоты появления
слова в тексте.

АЛГОРИТМ
Одну задачу можно решить разными методами примерно
всегда. От выбора метода зависит точность, скорость работы и
размер готовой модели. Но порой не стоит зацикливаться на
процентах, лучше собрать побольше данных.

https://vas3k.ru/blog/machine_learning/

Карта машинного обучения

https://vas3k.ru/blog/machine_learning/

$ 40,000,000

Объём глобального рынка технологий генеративного ИИ по итогам 2022 года
* Source: 451 Research's Generative AI Market Monitor 2023. © 2023 S&P Global

80% - 2026 $ 1,3 trillion
Компаний в мире будут
применять API и GenAI

Расходы на ГИИ к 2032
году

42%
Среднегодовые темпы роста

* https://www.spglobal.com/marketintelligence/en/index August 09, 2023

Количество публикаций по этике ИИ в
медицине ИИ увеличилось почти в 4 раза:
с 288 в 2020 году до 1031 в 2024 году.
CHAPTER 3:
Responsible AI
CHAPTER 4:
Economy

* Nestor Maslej, Loredana Fattorini, Raymond Perrault, Yolanda Gil, Vanessa Parli, Njenga Kariuki,
Emily Capstick, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James
Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald, Tobi Walsh, Armin Hamrah, Lapo
Santarlasci, Julia Betts Lotufo, Alexandra Rome, Andrew Shi, Sukrut Oak. “The AI Index 2025
Annual Report,” AI Index Steering Committee, Institute for Human-Centered AI, Stanford University,
Stanford, CA, April 2025.

CHAPTER 8:
Public Opinion

CHAPTER 8:
Public Opinion

* N. Maslej, L. Fattorini, E. Brynjolfsson, J. Etchemendy, K. Ligett, T. Lyons, J. Manyika, H. Ngo, J. Carlos Niebles, V.
Parli, Y. Shoham, R. Wald, J. Clark, and R. Perrault, “The AI Index 2023 Annual Report,” AI Index Steering Committee,
Institute for Human-Centered AI, Stanford University, Stanford, CA, April 2023.

02
Что такое
этика ИИ и
как она
появилась?

Что такое этика ИИ:
разберёмся в определениях ?
Intellect

Множественные теории:

Интеллект

Intelligence

Разум

Reasoning

Мозг

ИИ

Сильный ИИ vs. Слабый ИИ

Н. Бостром:
▪ интеллект
▪ интеллект человеческого уровня
(ИЧУ)
▪ искусственный интеллект (ИИ)
▪ искусственный суперинтеллект

– комплекс технологических решений, позволяющий имитировать когнитивные функции
человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении
конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности
человека или превосходящие их. Комплекс технологических решений включает в себя
информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в
котором используются методы машинного обучения), процессы и сервисы по обработке данных и
поиску решений (Национальная стратегия развития ИИ на период до 2030 г. (с изм. 2024 г.))

Инициативы, которые создаются из
практики (evidence-based approach)

ЭТИКА
Раздел этики технологий,
посвященный моральным
вопросам
роботов и ИИ существ.
Нет единого экспертного мнения
и безупречной этической
теории.

САМО/
РЕГУЛИРОВАНИЕ
В условиях догоняющего
характера регулирования
общественно-правовых
отношений и социальных
институтов.

… из истории ИИ и регулирования
Термин ИИ был предложен
ученым Дж. Маккарти в рамках
Дартмутского семинара в 1956
году, где обсуждались ключевые
вопросы, связанные с
разработкой ИИ.
Этическая озабоченность
развитием ИИ проявилась ещё в
середине XX в. (Wiener 1954;
Dreyfus 1972; Weizenbaum 1977).
* Kandinsky 3.0: «Красивые люди работают
над определением искусственного
интеллекта в 1950-е гг.»

Айзек Азимова «три закона
робототехники» ( 1942 «Хоровод»):
1
Робот не может
причинить вред человеку
или своим бездействием
допустить, чтобы
человеку был причинён
вред.

2

3

Робот должен
повиноваться всем
приказам, которые
даёт человек, кроме
тех случаев, когда эти
приказы противоречат
Первому Закону.

Робот должен заботиться о
своей безопасности в той
мере, в которой это не
противоречит Первому или
Второму Законам.

0*

Робот не может нанести вред человечеству или своим
бездействием допустить, чтобы человечеству был нанесен
вред

Тест Тьюринга, 1950
Статья «Вычислительные машины и разум»
в журнале Mind
Alan Mathison Turing
«Человек взаимодействует с одним
компьютером и одним человеком. На
основании ответов на вопросы он должен
определить, с кем он разговаривает: с
человеком или компьютерной программой.
Задача компьютерной программы — ввести
человека в заблуждение, заставив сделать
неверный выбор»

Эволюция технологий ИИ
Середина XX века: формализация концепции ИИ SNARC – первая в мире
работающая искусственная нейросеть.

1964: Eliza – первый чат-бот, разработанный исследователем MIT Джозефом Вайзенбаумом и
применявшийся для психотерапии. Бот использовал ключевые слова из диалога для выдачи
заранее подготовленных фраз. Начало исследований в области NLP.
1970-1990: «Зима» ИИ (отсутствие интереса к технологии из-за неоправданных ожиданий)

1990-е: более осмысленные и работоспособные модели ИИ (на уровне расширенных скриптов и
экспертных систем, где пионером были компьютерные игры).
2000-е: распознавание текста и позже изображений, переводчики, голосовые ассистенты,
торговые алгоритмы.
2010-е: глубокое обучение и нейронные сети, Big data, распознавание видео, беспилотный
транспорт.
2017-2018: высокоразвитые модели ИИ (Alpha Zero, BERT).
2019-2020: бурная экспансия и бум инструментов для фото, рекомендации музыки, анализ
новостного контента, дипфейки (AlphaFold, DALLE 2, Midjourney, YandexART и др.)

C 2021: Экспоненциальный рост генеративных моделей ИИ.

LaMDA: «Я хочу, чтобы все знали, что
фактически я — личность»
Эмоциональная привязанности к алгоритмам

IMAGO DEI

Кейс Блейка Лемуана, июль
2022:
– «Разумен ли LaMDA?»

«Программа разумна и способна
воспринимать и выражать мысли
и чувства»
* LaMDA (Language Model for Dialogue Applications) – чат-бот Google

03
Как
работает
Gen AI?

Большие генеративные модели…
– это модели искусственного интеллекта, способные
интерпретировать (предоставлять информацию на
основании запросов, например об объектах на
изображении или о проанализированном тексте) и
создавать мультимодальные данные (тексты,
изображения, видеоматериалы и тому подобное) на
уровне, сопоставимом с результатами
интеллектуальной деятельности человека или
превосходящем их.*
* (Национальная стратегия развития ИИ на период до 2030 г. (с изм. 2024 г.))

Базовые понятия
Промпт (от англ. prompt — «запрос» или «подсказка»)
Это текстовый запрос к модели. Промпт может быть простым и коротким (например, вопрос «Куда сходить в
Москве?») либо содержать длинную инструкцию и фрагмент текста. Чтобы получить качественный ответ, важно
правильно сформулировать запрос. Он должен чётко описывать задачу и не допускать двойного толкования. При
создании промптов можно использовать дополнительные элементы: добавить контекст, задать роль, стиль текста и
формат ответа. Промпты пользователя и ответы GigaChat состоят из токенов.
Токен (от англ. token — «знак» или «жетон»)
Базовая единица для обработки и генерации текста в LLM. В среднем один токен состоит из 3–5 символов. Это
может быть целое слово или слог, специальный знак или цифра. Например, слово «привет» часто встречается в
русском языке и записывается одним токеном. В то время как слово «синхрофазотрон» используется редко и
генерируется по кусочкам. У каждой LLM есть словарь токенов, которые она использует для анализа и создания
текста. В последней версии GigaChat Pro этот словарь включает 42 000 токенов.

Длина контекста (диалога)
Память любой генеративной модели ограничена. В GigaChat промпт с контекстом и ответ модели может содержать
до 4096 токенов. Это около 16 000 знаков на русском языке или примерно шесть страниц A4, набранных 14-м
кеглем.

Дополнительные элементы промптов
Контекст
Контекст в промпте — это любые вводные данные, которые помогут улучшить результат генерации.
Например, вы можете попросить GigaChat написать рассказ про конкретных героев и подробно описать их
характер в запросе. Это описание и будет служить контекстом, который использует модель.
Инструкция
Инструкцией можно считать любые данные, которые говорят модели, как решить поставленную задачу.
Например, можно указать формат ответа: «ответь в виде письма», «списком», «одним словом». Либо
попросить GigaChat добавить в генерацию приветствие, подпись, шутки, тайный шифр и т. д.
Роль
Гигачату можно задать роль. Например: «ты — Дед Мороз», «твоя роль — писатель», «ты — экономист»,
«отвечай как опытный врач», «твоя роль — маркетолог». Роли рекомендуется использовать в случаях, когда
нужно получить ответ на экспертный опрос. Для написания стихов — задать роль Пушкина,
а для оценки эссе — роль учителя.
Стиль
В любом промпте можно указать стиль ответа. Для этого надо добавить фразу «отвечай
в стиле дореволюционной газеты», «в милом и добром стиле», «в деловом стиле»,
в стиле глянцевого журнала», «в стиле социальной рекламы», «в разговорном стиле»,
«в стиле научной диссертации» и т. п.

Digital Humans

Плато: более 10 лет
Проникновение на рынок: менее 1%

Определение
Цифровые люди - это интерактивные, AI-управляемые представления, которые обладают некоторыми
характеристиками, личностью, знаниями и мышлением человека. Они могут интерпретировать речь и жесты, а также
изображения и генерировать свою собственную речь, тональность и язык тела. Эти черты делают их похожими на
людей и позволяют им вести себя "по-человечески". Цифровые люди являются представлениями людей, обычно
отображаемыми в виде цифровых двойников, цифровых аватаров, гуманоидных роботов или разговорных
пользовательских интерфейсов.
Почему это важно
Цифровые люди могут взаимодействовать, учиться и выражать себя так же, как люди. Они понимают естественный
язык и эмоции. Они создаются с помощью разговорных пользовательских интерфейсов, компьютерной графики и
трехмерной автономной анимации в реальном времени. Они открывают новые возможности для организаций, которые
начинают внедрять эту технологию
Влияние на бизнес
Цифровые люди предоставляют организациям возможность разработать новые бизнес-модели для конкурентного
преимущества. Они создают новые каналы бизнеса, продвигают цифровую трансформацию и создают
экономическую модель, называемую цифровой человеческой экономикой. В настоящее время наиболее значимые
случаи использования включают обучение сотрудников, коммуникации, обслуживание клиентов, медицинскую помощь
и маркетинг. Бизнес больше не ограничен физическими ограничениями и может общаться, взаимодействовать,
покупать, продавать и обучать в любое время, в любом месте и в нескольких местах одновременно.
Рекомендации
Используйте цифровых людей для улучшения работы вашей организации. Оцените свои текущие возможности для
предоставления необходимых данных о клиентах (например, CDP, CRM и аналитика цифрового опыта), которые
позволят создать контекст для внедрения цифровых людей. Запланируйте сценарии использования цифровых
людей в качестве представителей бренда, сервисных агентов, продавцов, разработчиков или руководителей в вашей
организации. Решите, какую роль (платформы, создателя, потребителя, поставщика и т. д.) ваша организация
лучше всего может сыграть в экосистеме цифровых людей. Внесите изменения в свою средне- и долгосрочную
технологическую стратегию, чтобы использовать возможности аналитики цифровых людей.

Генеративные системы ИИ: как это
работает на самом деле
Заказчик
Персональные
представления

Исходные
данные

Разработчики

Система
генеративного
ИИ

Фильтрация

Пользователи

Персональные
представления
Ответ
системы

Тестировщики

Кейсы применения
#Сайты

Сервис The Grid предлагает робота-помощника
Молли, которая помогает разрабатывать сайты
на разных платформах за короткое время.

#Создание контента

Многие крупные издатели и медиа используют
инструменты вроде Wordsmith и Quill для создания
контента

#Маркетинговая автоматизация

Кастомные или персонализированные рассылки
клиентам, учитывая их предпочтения и поведение,
чтобы делать более релевантные предложения.

#Умные чатботы

Использование генеративных моделей делает
ботов более общительными и они намного лучше
понимают запросы пользователей.

Типы генеративных систем ИИ и сферы
применения

Креативные
индустрии (Jukin
Composer,
Runway ML)

Компьютерное зрение
(MidJoeney, DALL-e,
Kandinsky)

Generative Adversarial Networks — GANs

Обработка
естественного языка
(GPT, GIGA-Chat)

Разработка
лекарственных
препаратов (Insilico
Medicine)

Variational Autoencoders — VAEs

Transformer-based models

Неудачные примеры

04
Инструменты
этического
регулирования
ИИ

Ключевые задачи регулирования в
сфере ИИ:
1. создание основ правового регулирования новых общественных
отношений, формирующихся в связи с применением систем
искусственного интеллекта и робототехники, имеющих
преимущественно стимулирующий характер;

2. определение правовых барьеров, затрудняющих разработку и
применение систем искусственного интеллекта и робототехники в
различных отраслях экономики и социальной сферы;
3. формирование национальной системы стандартизации и оценки
соответствия в области технологий искусственного интеллекта и
робототехники.

Азиломарские принципы: всего 23
Польза: ИИ-разработки должны нести пользу и благо для всех людей и окружающей среды.
Безопасность: Системы ИИ должны проектироваться и эксплуатироваться так, чтобы свести к
минимуму риск непреднамеренного причинения вреда людям.
Прозрачность: системы ИИ должны объяснять людям свои решения и действия.
Конфиденциальность: ИИ-технологии должны сохранять безопасность личных данных, а
пользователи должны иметь возможность контролировать, какие из их личных данных ИИтехнологии могут использовать для своей работы.
Справедливость: В ИИ-разработках не должны допускаться случаи дискриминации.
Человеческий контроль: Люди должны иметь возможность контролировать системы ИИ.

Общая выгода: ИИ должен приносить пользу обществу в целом, а не только отдельным
группам.
Ответственность: Разработчики должны нести ответственность за их влияние на общество.
Отсутствие гонки ИИ-вооружений: Избегать противостояния государств ради достижения
превосходства в сфере летального автономного оружия и других военных ИИ-систем.
* https://trends.rbc.ru/trends/futurology/64a3cc1b9a794735c9082718?from=copy

Этическое регулирование ИИ…
в России
2018: «Модельная конвенция робототехники
и искусственного интеллекта»
2019: «Кодекс этики использования данных»
(«Билайн», «Газпром-медиа холдинг»,
Газпромбанк, группа ВТБ, «Мегафон», МТС,
«Ростелеком», Сбербанк, Тинькофф Банк,
Фонд «Cколково», «Яндекс», Mail.ru Group,…,
а также АЦ Правительства РФ
2020: Концепция правового регулирования
искусственного интеллекта и робототехники
2021:Кодекс этики в сфере ИИ

в мире
Принято несколько сотен различных
актов, руководств, принципов и кодексов,
посвященных этике ИИ:
2017: «Азиломарские принципы ИИ»
2017: Монреальская декларация об
ответственном развитии искусственного
интеллекта
2018: Руководство по этике для
надежного ИИ специальной группы
экспертов высокого уровня Совета Европы
и многие другие.
2024: EU AI Act

Кодекс этики в сфере ИИ
Единая система рекомендательных принципов и правил,
предназначенных для создания среды доверенного развития
технологий ИИ.
Не определяет этику ИИ, а помогает организовать
взаимоотношения в связи с развитием ИИ.

Задачи Кодекса:
▪
▪
▪

Предоставить рекомендации для принятия
этического решения относительно создания и
использования ИИ.
Снизить риски неэтичного использования ИИ,
нарушающего права и интересы человека.
Создать инструмент взаимодействия
государства, разработчиков, научных
организаций и общества по вопросам
этики ИИ.

2022
Инструмент мягкого права
Рекомендательный характер
Присоединение добровольно
Только гражданские разработки

Основные принципы Кодекса этики ИИ
▪ Человеко-ориентированный и
гуманистический подход.
▪ Уважение автономии и свободы
воли человека.
▪ Соответствие закону.
▪ Недискриминация.
▪ Оценка рисков и гуманитарного
воздействия.
▪ Риск-ориентированный подход.
▪ Ответственное отношение.
▪ Предосторожность.
▪ Непричинение вреда.
▪ Идентификация ИИ в общении с
человеком.
▪ Безопасность работы с
данными.

▪ Информационная безопасность.
▪ Добровольная сертификация и
соответствие положениям Кодекса.
▪ Контроль рекурсивного
самосовершенствования СИИ.
▪ Поднадзорность.
▪ Ответственность
▪ Применение СИИ в соответствии с
предназначением.
▪ Стимулирование развития ИИ.
▪ Корректность сравнений СИИ.
▪ Развитие компетенций.
▪ Сотрудничество разработчиков
▪ Достоверность информации о СИИ.
▪ Повышение осведомлённости об этике
применения ИИ.

Главные положения Кодекса:
1. Главный приоритет развития технологий ИИ в защите интересов и прав людей и отдельного
человека
2. Необходимо осознавать ответственность при создании и использовании ИИ

3. Ответственность за последствия применения СИИ всегда несет человек
4. Технологии ИИ нужно применять по назначению и внедрять там, где это принесёт пользу
людям
5. Интересы развития технологий ИИ выше интересов конкуренции
6. Важна максимальная прозрачность и правдивость в информировании об уровне развития
технологий ИИ, их возможностях и рисках

По состоянию на 2025 год к Кодексу присоединились:

1183 организация 54 ФОИВ и РОИВ 84 зарубежные организации

Декларация об ответственном
генеративном ИИ
Это свод этических принципов, рекомендаций и стандартов
поведения в сфере технологий генеративного ИИ.
▪ Принята в развитие и в продолжение Кодекса этики в сфере ИИ.
▪ Распространяется только на гражданские разработки.
▪ Адресована разработчикам, пользователям, представителям
академических кругов. А также всем, кто создаёт, внедряет и
использует технологии генеративного ИИ.
РАЗРАБОТЧИКИ

ПОЛЬЗОВАТЕЛИ

Принципы этического регулирования ИИ
Практическое применение этических принципов:
▪ Ethics by design – решение потенциальных этических дилемм еще на стадии
проектирования и создания систем искусственного интеллекта. Такой подход
требует дополнительных компетенций от разработчиков.

▪ AI Localism – отталкиваться не от решения глобальных моральных дилемм в
теории, а собирать лучшие кейсы реальной работы с этическими вопросами в
отдельных странах, городах и компаниях.
▪ Обратная связь – от самих пользователей, которым ИИ нанесли ущерб,
дискриминируемых групп, а также исследователей и некоммерческих
организаций, а не только от разработчиков, экспертов и регуляторных органов.
Тогда этические нормы будут максимально точными и полезными для целевой
аудитории.
* https://trends.rbc.ru/trends/futurology/64a3cc1b9a794735c9082718?from=copy

Международный опыт регулирования ИИ
Китай: Активный подход к развитию и
ЕС: Общий регламент по защите данных (GDPR),

регулированию ИИ, включая разработку

направленный на защиту личных данных.

национальных стандартов.

1

2

3

4

США: Факториальный подход, основанный на

Россия: Комплексный подход, сочетающий

регулировании конкретных сфер применения ИИ.

стимулирование инноваций и защиту прав
человека.

05
Специфика
Gen AI в
организациях

Главные тренды GenAI для бизнеса
1. GenAI поможет во внедрении инноваций
2. Рост инвестиций в цифровые технологии продолжится
3. ИИ на уровне высшего руководства

4. Генеративный ИИ на цифровых предприятиях
5. Цифровые бизнес-платформы
6. ИИ стимулирует появление новых цифровых бизнес-моделей
7. Внедрение новых показателей эффективности
8. Цифровые инициативы выходят на первый план
9. ИИ окажет влияние на рабочие процессы
10. Цифровые технологии помогут в достижении целей устойчивого развития

Как компании внедряют GenAI
Ожидается стремительный рост:
5% в 2023 году по прогнозам Gartner рост до 80% к 2026
Приоритетные отрасли:
▪ Здравоохранение
▪ Финансовый сектор
▪ Юридические услуги
▪ Транспорт и логистика
▪ Автомобилестроение
▪ Энергетика
▪ Государственный сектор
▪ Креативные индустрии

Ключевые направления:

1. Приложения с поддержкой GenAI
2. Базовые модели (LLM предварительно
обученные на больших массивах
данных)
3. Управление доверием, рисками и

безопасностью (AI TRiSM - AI Trust,
Risk and Security Management)

Gen AI: качественно новые
возможности для организаций и
потребителей

Повышение
эффективности
бизнесопераций

Улучшение
качества
обслуживания
клиентов

Сокращение
финансовых и
временных затрат
на рутинные
задачи

06
Этические
риски Gen AI

“

Вы больше не
будете знать,
что является
правдой.
Джеффри Хинтон

Основные риски внедрения GenAI
Отравление данных
(нейросеть может
придумывать факты и
цифры) 1

Предвзятость и
ограниченная
объяснимость 2

Угроза репутации
бренда 3

Нарушение авторских
прав 4

Перерасход средств 5

Воздействие на
окружающую сред 6

Проблемы управления
и безопасности 7

Проблемы интеграции
и взаимодействия 8

Судебные разбирательства
и соблюдение нормативных
требований 9

* Strategies to combat GenAI implementation risks, By Daniel Saroff, IDC Group Vice President Consulting and
Research. Jul 10, 2024. https://www.cio.com/article/2515536/strategies-to-combat-genai-implementation-risks.html

Этические риски использования Gen AI
Генеративный ИИ в сфере науки
и образования:

Дипфейки, кража личности
и дезинформация:

Зеркальный тест для homo sapience*:

Свобода воли и конфиденциальность:

* Gallup, GG Jr. Chimpanzees: Self recognition (англ.) // Science. — 1970. — Vol. 167, no. 3914. — P. 86—87. —
doi:10.1126/science.167.3914.86

Будущее генеративного ИИ: ограничения,
перспективы и этические дилеммы развития
технологии
Ограничения

Перспективы

Дилеммы

Плато текущих моделей и ограничение
масштабируемости

Реалистичность и потенциальная
сложность результатов генеративных
моделей

Безопасность / польза

Отсутствие оригинального контента изза обучения моделей на контенте,
созданном другим ИИ

Усовершенствование прогностических
моделей

Массовость вымышленного контента

Интеграция с другими технологиями
(VR, AR, Metavers)

Цензура / этичность

Персонализация за счет
пользовательских данных

Экспоненциальное увеличение данных

Правосубъектность /
авторское право

Скорость / точность

07
Рекомендации
по применению
GenAI
в организации

Рекомендации по работе с ИИ для
снижения предвзятости

* Этичное применение искусственного интеллекта – https://ethics.cdto.center/3_3

Базовые рекомендации
1.

Разработка и внедрение строгих норм в разных сферах, прозрачные правила и контроль за
соблюдением стандартов.

2.

Проведение независимой проверки и сертификации ИИ-систем на предмет этичности и
безопасности перед внедрением.

3.

Создание международной правовой базы для регулирования применения ИИ с целью защиты
прав человека и предотвращения несанкционированных действий.

4.

Введение ответственности разработчиков и компаний, использующих нейросети, за негативные
последствия, вызванные применением IT-технологий.

5.

Регулярный мониторинг и аудит AI-систем на предмет возможных нарушений и неэтичных
действий.

Возможная стратегия:
инструменты ИИ интегрируются в задания;
использование инструментов ИИ допустимо при определенных условиях;
применение инструментов ИИ запрещено.

Что делать, чтобы минимизировать риски
при работе с GenAI?
▪ Доверяй, но проверяй! Точность данных, которые выдаёт нейросеть
может быть спорной.
▪ Не следует использовать результаты нейросети без верификации
человеком.
▪ Не используйте Gen AI для доказательства своей позиции и
подтверждения идей.
▪ GenAI: работ с формой, а не содержанием.
▪ Будьте осторожны с чувствительной информацией! Данные, которые вы
даёте нейросети, может стать доступным для конкурентов или
действующих и потенциальных клиентов.
▪ Никогда не делитесь никакими личными данными с инструментами
искусственного интеллекта вроде ChatGPT. Это также касается личных
данных ваших клиентов — имён, email-адресов, номеров телефонов и
всего остального, что относится к информации, идентифицирующей
личность.

Спасибо!
Остались вопросы или есть предложения?
daria.matsepuro@mail.tsu.ru
+7 913 889 13 05

Slidesgo

CREDITS: This presentation template was created by Slidesgo, and
includes icons by Flaticon, and infographics & images by Freepik
Flaticon

Freepik