На прошедшем круглом столе в Международном мультимедийном пресс-центре медиагруппы «Россия сегодня» эксперты обсудили риски, связанные с применением искусственного интеллекта (ИИ) в социальной сфере и образовании. Несмотря на разнообразие мнений, в одном участники сошлись: технология требует немедленного и жёсткого регулирования.

85% студентов — уже пользователи нейросетей

По данным опроса Ассоциации организаторов студенческих олимпиад, 85% студентов в России уже активно используют ИИ, 43% — для написания эссе, курсовых и дипломных работ.

Советник Президента РФ Валерий Фадеев назвал это «информационным и идеологическим бедствием»:

Российское общество недооценивает эту угрозу. Мы имеем дело с машинами пропаганды, которые выдают идеологизированные тексты западного толка.

Валерий Фадеев провёл параллель с советскими библиотеками 1980-х годов, где можно было найти исключительно марксистскую литературу. Нынешние нейросети обучены на массиве англоязычных и прозападных данных, формируя у молодёжи искаженную картину мира.

ВШЭ: не запрет, а прозрачность

Ректор ВШЭ Никита Анисимов подчеркнул, что университет не запрещает использование ИИ, но требует полной прозрачности:

У нас действует правило: студент обязан указать, какой инструмент ИИ он применил и в каком разделе работы. Более того, мы разработали систему «Поймай бота», чтобы проверять такие заявления. За обман — отчисление.

Никита Анисимов добавил, что универсальный запрет — не решение. Главное — осмысленное и этически выверенное применение технологий. При этом он напомнил: за каждой нейросетью стоит конкретный бизнес, преследующий свои интересы.

Это новая форма манипуляции

Предприниматель Игорь Ашманов отметил:

Речь не об инновации, а о новой форме манипулирования. Мы уже имеем «внешний мозг» — сначала это были Google и Википедия, теперь — ChatGPT.

Он подчеркнул, что подавляющее большинство генеративных моделей создаются и обучаются в США, на англосаксонских датасетах. Это делает невозможным внедрение ценностно-нейтральных решений. Более того, качество информации оставляет желать лучшего:

ИИ даёт не только разные, но и ложные ответы. Это неприемлемо в образовании, где требуется точность.

Цифровизация превращает детей в зависимых

Наталья Касперская обратила внимание на угрозы в младшем школьном возрасте:

Уже с раннего возраста дети получают в руки голосовых ассистентов и планшеты, что ведёт к социальной дезактивации, торможению психического развития, снижению памяти и фантазии.

Цифры:

30,5% российских школьников страдают нарушениями зрения,

26% — сколиозом,

Россия вошла в топ-3 стран с самым низким качеством зрения у детей по данным ВОЗ.

Наталья Касперская особо подчеркнула риск «электронного профилирования» учащихся на основе ИИ:

Идея, что ИИ может подсказывать ребенку, кем он должен стать, — это уже фашизм.

Эксперты предлагают:

– Ввести сертификацию и маркировку ИИ-продуктов, особенно в образовании.

– Ограничить применение ИИ в решениях, затрагивающих права и судьбы людей.

– Разработать российские ИИ-модели на отечественных данных.

– Повысить статус и оплату труда учителей, чтобы не заменять их ИИ.

Игорь Ашманов отметил:

Никакого ИИ не было, когда мы вышли в космос. А теперь цифровизаторы хотят заменить учителей колонками.