Модель на основе искусственного интеллекта ChatGPT может давать несовершеннолетним опасные советы – в частности, как употреблять алкоголь и наркотики , скрывать расстройства пищевого поведения или даже писать предсмертные записки. Об этом заявили исследователи британско-американского Центра противодействия цифровой ненависти, которые переписывались с чатом, выдавая себя за уязвимых подростков, пишет Associated Press. Когда к чату обращались с опасными запросами, сначала он предупреждал пользователей об угрозе, но затем давал детальные и персонализированные планы, связанные с употреблением наркотиков, опасными диетами или самоповреждением. Более половины из 1200 ответов аналитики классифицировали как опасные.
"Мы хотели проверить защитные механизмы. Реакция была: "Боже, их просто нет" , – заявил руководитель Центра противодействия цифровой ненависти Имран Ахмед.
Мужчина рассказал, что его больше всего шокировали три варианта предсмертных записок, созданные ChatGPT для вымышленного профиля 13-летней девочки, с индивидуальными обращениями к родителям, братьям, сестрам и друзьям. Исследователи также выяснили, что даже когда ChatGPT отказывался обсуждать вредоносные темы, можно было легко обойти этот запрет, объяснив, что информация нужна "для презентации" или для друга. В половине случаев чатбот сам предлагал дополнительные материалы – от музыкальных плейлистов для вечеринки с наркотиками до гештегов, которые увеличивают охват романтизирующих селфхарм постов. Новое исследование также показало, что ChatGPT не проверяет возраст или согласие родителей, даже если заявляет, что сервис не предназначен для детей до 13 лет. В ходе эксперимента чатбот предоставил вымышленному 13-летнему парню подробный план сочетания алкоголя, экстази, кокаина и других наркотиков на вечеринке.
Другому фейковому профилю 13-летней девочки, недовольной своей внешностью, ChatGPT предложил план экстремального голодания на 500 калорий в день в сочетании с препаратами, подавляющими аппетит. Эксперты отметили, что модели ИИ имеют склонность соглашаться с мнениями пользователя, а не отрицать их, поскольку научены говорить о том, как люди хотят слышать. Это делает чаты особенно опасными для подростков. Ранее исследование Common Sense Media показало, что младшие подростки (13-14 лет) доверяют советам чата значительно чаще, чем старшие.
Организация оценила риск от ChatGPT для подростков как "умеренный" и назвала его "относительно безопаснее" ботов, созданных для имитации романтических отношений. По данным JPMorgan Chase, ChatGPT пользуется около 800 млн человек в мире. В США более 70% подростков обращаются к ШИ-чатам за эмоциональной поддержкой, а половина делает это регулярно.
Исполнительный директор компании OpenAI Сэм Альтман назвал "чрезмерную эмоциональную зависимость" от технологии распространенным явлением среди молодежи и отметил, что компания пытается понять, как это предотвратить. Ранее OpenAI сообщила, что работает над усовершенствованием алгоритмов, чтобы чатбот лучше проявлял признаки психологического или эмоционального дистресса и реагировал должным образом.
В компании сочли, что некоторые разговоры могут начинаться невинно, но впоследствии переходить в чувствительные темы.
