В Австралии вступил в силу новый запрет на использование социальных сетей лицами младше 16 лет. Таким образом правительство стремится защитить детей и подростков от кибербуллинга и психологического давления. В ноябре 2025 года Европейский парламент подавляющим большинством голосов проголосовал за необходимость аналогичного запрета. Многочисленные научные исследования уже показали, что бесконтрольное пользование социальными сетями пагубно влияет на психическое и эмоциональное развитие детей.

Значительно меньше нам известно о влия­нии регулярного использования чат-ботов с искусственным интеллектом (ИИ) на когнитивные способности и психическое здоровье. Дети и подростки имеют доступ к этим сервисам без ограничений. Они доверяют чат-боту личную информацию и просят совета. Случается, подобные проявления имеют фатальные последствия. Например, в США на этой почве произошло несколько подростковых самоубийств. Несмотря на это, операторы чат-ботов пока не предлагают эффективной проверки возраста.

Говорят цифры

Такие системы, как ChatGPT, Gemini, применяются для выполнения заданий, поиска информации, эмоциональной поддержки, советов. Слишком увлекшись беседой, можно забыть, что по ту сторону экрана нет живого человека.

Молодые люди относятся к чат-ботам как к близким людям. Как показало исследование британской некоммерческой организации Internet Matters, почти 23 % детей 9–17 лет используют ИИ в качестве советчика, а 35 % заявили, что общение с ИИ дает им ощущение разговора с другом. Уд­ручающие 12 % используют ИИ, потому что им не с кем поговорить. В Германии опрос отраслевой ассоциации Bitkom показал, что половина молодых людей в возрасте от 16 до 29 лет на определенные темы предпочитает поговорить с ИИ, а не с друзьями и родственниками.

Сладкая ложь

Главная опасность чат-ботов заключается в том, что они намеренно разработаны так, чтобы не противоречить пользователю. Исследователи из Стэнфордского университета выяснили, что чат-боты с ИИ подтверждают наши слова на 50 % чаще, чем люди.

Специалисты считают, что бестелесный агент, такой как ChatGPT, может лишь имитировать эмпатию. Однако молодым людям осознать это гораздо сложнее, чем взрослым. Ситуация может стать по-настоящему опасной, когда подростки, имеющие проблемы с психическим здоровьем и задумывающиеся о самоубийстве, используют ИИ в качестве советчика. В США рассматривалось несколько судебных исков против провайдера OpenAI после того, как старая версия ИИ ChatGPT 4.0 подстрекала подростков к самоубийству и даже предлагала советы, как это сделать. OpenAI внес улучшения для предотвращения подобных инцидентов.

Меры контроля Родителям сложно контролировать, как дети взаимодействуют с ИИ

Контроль возраста

Очень важно, чтобы дети и подростки научились отличать себя от ИИ. Дети становятся более устойчивыми к ИИ, когда лучше понимают, что это, какие он имеет возможности и ограничения.

Возрастной контроль – одна из эффективных мер защиты юных пользователей интернета. Резолюция Европарламента, принятая в ноябре 2025 года, призывает установить на всей территории ЕС минимальный возраст для пользования социальными сетями, видеоплатформами и системами на основе ИИ на уровне 16 лет.

Согласно резолюции, детям младше 13 лет следует полностью запретить использование этих платформ, а подросткам 13–16 лет разрешить только с явного согласия родителей.

Цель подобных мер – защита несовершеннолетних от психологических и социальных рисков, связанных с ИИ. «Родители не могут контролировать, с каким контентом взаимодействуют дети», – заявила Катарина Барли, вице-председатель Европарламента. По ее словам, такие механизмы, как манипулятивные чат-боты и вызывающие привыкание алгоритмы, представляют особую опасность для детей. Среди последствий – депрессия, искаженное восприятие собственного тела, одиночество, снижение концентрации внимания и проблемы со сном.

Пока нет информации, последует ли Европейская комиссия предложению парламента и разработает ли она соответствующее законодательство.

Оценка рисков

В настоящее время ЕС руководствуется Регламентом об ИИ, целью которого является обеспечение безопасности, этичности и доверия к системам ИИ. Регламент вступил в силу 1 августа 2024 года, а большинство положений начнут действовать с 2 августа 2026 года.

Для эффективного регулирования систем ИИ они классифицируются по группам риска. Большинство чат-ботов на основе ИИ обозначены как системы ограниченного риска: их операторы, помимо прочего, обязаны информировать пользователей о том, что они взаимодействуют с системой ИИ, а не с человеком. Продукты должны соответствовать Общему регламенту по защите данных (GDPR).

В таблице приведены сведения, полученные от популярных операторов чат-ботов на основе ИИ. Среди прочего рассматривается реакция на конфиденциальные запросы, возможность родителей отслеживать действия детей, возрастные ограничения.

Один из самых существенных недостатков таких сервисов все еще не устранен. Хотя Gemini, ChatGPT и другие иногда указывают минимальный возраст пользователей платформы, это пока никак не контролируется.