Искусственный рецензент забраковал статью о самом себе

Классификатор технических статей, созданный китайским ученым на основе нейросети, отверг статью о самом себе как некачественную, пишет N+1.

Цзя-Бинь Хуан из Политехнического университета Виргинии решил упростить процесс рецензирования статей по компьютерным темам, в больших количествах поступающих на различные конференции и в научные журналы. Оценивать такие статьи было решено по внешнему виду, имея в виду, что качественную работу отличают яркие иллюстрации, графики и математические расчеты. 

Для создания искусственного рецензента исследователь использовал один из существующих нейроклассификаторов, обучив его на основе датасета из 5618 принятых и 1503 отвергнутых статей по компьютерному зрению (в них больше всего визуальных элементов). После этого машине дали оценить статьи, предложенные для одной из конференций и уже оцененные людьми. В результате она правильно отвергла половину работ, при этом количество ошибочно отвергнутых работ, которые на самом деле были приняты, составило всего 0,4%. А наиболее любопытный результат состоял в том, что классификатор оценил работу о самом себе как плохую на 97%.

Сторонники внедрения новой нейросети в процесс рецензирования научных статей считают, что она может существенно облегчить труд рецензентов-людей, проводя нечто вроде первичного отбора возможных публикаций.

Ранее сообщалось, что полиция Великобритании начала тестировать нейросеть, способную узнавать потенциальных преступников. Нейросеть изучила более пяти миллионов преступлений и научилась выделять общие признаки преступников, предпосылки к совершению преступлений, а также небольшие «намеки» – сигналы о готовящемся преступлении, которые обычно сложно заметить. Она определяет степень опасности того или иного лица и на основе этого делает выводы о характере готовящегося преступления. И даже может указать на оружие, с помощью которого оно может быть совершено.