ChatGPT проявил человеческую предвзятость при решении нестандартных задач

Искусственный интеллект может принимать такие же нерациональные решения, как и человек. К такому выводу пришли ученые из Канады и Австралии, исследовав две большие языковые модели ChatGPT.

Команда протестировала GPT-3.5 и GPT-4 с учетом 18 когнитивных предубеждений, ранее выявленных в психологии человека. Почти в половине сценариев искусственный интеллект руководствовался при принятии решений предубеждениями, а не объективными данными. Ученые заключили, что, несмотря на «впечатляющую последовательность» рассуждений, ИИ не застрахован от недостатков, присущих человеку.

Ученые включили в исследование такие предубеждения, как неприятие риска, чрезмерная самоуверенность и эффект обладания, когда человек больше ценит те вещи, которыми владеет, чем те, которые ему еще не принадлежат. 

Чат-боту задавали вопросы по гипотетическим ситуациям из разных областей бизнеса. Результаты показали, что GPT-4 успешнее справлялся с математическими задачами и делал меньше ошибок в вероятностных и логических сценариях. Но в субъективных вопросах, например, при выборе рискованного варианта для получения выгоды, он часто демонстрировал иррациональные предпочтения, свойственные людям. 

Ученые отметили, что ИИ продемонстрировал даже более сильное предпочтение определенности, чем человек (то есть выбирал вариант с определенной выгодой, а не с неопределенной). Кроме того, он оказался склонен к предвзятым ответам. 

Авторы исследования заявили, что такие свойства ChatGPT связаны с данными обучения, которые содержат свойственные людям когнитивные предубеждения. При решении неоднозначных задач  ИИ больше склоняется к человеческому способу мышления, чем к логике. Поэтому он эффективен для выполнения четких шаблонных заданий, а при нестандартных – нуждается в контроле со стороны человека, сообщает Manufacturing & Service Operations Management.

Ранее стало известно, что писательницу Агату Кристи намерены воскресить с помощью искусственного интеллекта. Ее голос восстановят на основании сохранившихся аудиозаписей. «Кристи» приведет курс писательского мастерства для британского телеканала.