Травмирующий контент вызывает стресс у ChatGPT. Как это влияет на его работу?
Ученые из Цюрихского университета и Университетской клиники психиатрии Цюриха обнаружили, что языковые модели искусственного интеллекта, такие как ChatGPT, могут «испытывать стресс» при обработке травмирующего или негативного контента. Однако, как и у людей, этот стресс можно снизить с помощью терапевтических методов. Специалисты успешно применили для этого технику осознанности.
Исследование показало, что языковая модель GPT-4 чувствительна к эмоциональному контенту, особенно если он негативный. Она становится более тревожной при обработке текстов, содержащих описания травмирующих событий, таких как автомобильные аварии, стихийные бедствия, военные действия или насилие. Уровень тревожности модели увеличивался более чем вдвое при работе с таким контентом, в то время как нейтральные тексты, например инструкция к пылесосу, не вызывали подобных реакций.
ChatGPT реагирует на отрицательные эмоции примерно так же, как люди: существующие предубеждения, такие как человеческие предрассудки, усугубляются негативным контентом, в результате бот выдает более расистские или сексистские высказывания.
Ученые использовали терапевтические подсказки, чтобы снизить уровень тревожности нейронной сети. Этот метод предполагает введение дополнительных инструкций или текста в диалог с ИИ, чтобы повлиять на его реакцию. В данном случае исследователи применяли его в терапевтических целях, аналогично тому, как психолог может использовать техники релаксации для пациента. Результаты показали, что упражнения на осознанность значительно снижали уровень тревожности модели, хотя и не возвращали ее к исходному уровню. Исследование особенно актуально для использования ИИ-чатов в здравоохранении, где они часто сталкиваются с эмоционально заряженным контентом, таким как поддержка людей с психическими заболеваниями.
«Этот экономически эффективный подход может улучшить стабильность и надежность ИИ в чувствительных контекстах, таких как поддержка людей с психическими расстройствами, без необходимости дорогостоящего переобучения моделей».
Ученые также подчеркивают, что это направление требует дальнейшего изучения. Например, необходимо выяснить, как эти методы работают с другими языковыми моделями, как эмоциональная стабильность ИИ влияет на его производительность и как динамика меняется в длительных диалогах. Разработка автоматизированных «терапевтических вмешательств» для ИИ может стать перспективной областью исследований, помогая сделать такие системы более устойчивыми и надежными в сложных условиях.
Исследование было опубликовано в npj Digital Medicine.
Вероятность вымирания человечества из-за искусственного интеллекта в ближайшие десятилетия достигает 20%. Об этом заявил британо-канадский ученый, нобелевский лауреат Джеффри Хинтон.