Способна ли нейросеть уничтожить человечество?
Чат-бот ChaosGPT назвал человека одним из самых разрушительных и эгоистичных существ и сообщил о желании уничтожить человечество ядерным оружием. Способен ли искусственный интеллект расправиться с человеком? MIR24.TV расспросил об этом экспертов.
«Публичные ИИ, такие как ChaosGPT, используют ту информацию, которую размещают в сети люди. В данном случае ИИ совершенно солидарен с огромным количеством людей. Кстати, один из вариантов уничтожения человечества искусственным интеллектом, как агрессивного вида, предложил еще Роберт Шекли в рассказе «Страж-птица». Но важно понимать, что ИИ – это не некий инопланетный организм, занесенный сюда злобными пришельцами. Это результат целенаправленных разработок лучших умов человечества, который использует для своего развития ровно ту информацию, которую для него сделали доступной люди», – говорит футуролог Максим Макаренков.
Например, искусственный интеллект (ИИ) может постепенно начать менять информационное пространство людей так, что они будут все больше погружаться в вымышленную реальность. Или освоив методики психологического воздействия, рекламы и агрессивного маркетинга, ИИ может начать расшатывать психику целых регионов, предполагает футуролог.
Чтобы ИИ смог уничтожить человечество, он должен стать полноценным, объяснил главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.
Не совсем корректно говорить о раскрытии одним чат-ботом планов другого чат-бота уничтожить человечество, считает декан факультета «Цифровая экономика и массовые коммуникации» МТУСИ Сергей Гатауллин. «Да и словосочетание «планы чат-бота» также звучит странно. Нет подтверждения тому, что системы искусственного интеллекта могут сами себе ставить задачу, изменять исходный код и снимать ограничения, установленные разработчиками», – уверен эксперт.
«Поэтому на сегодня более адекватным будет утверждение, что ИИ в руках злоумышленников несет в себе угрозу. При этом переход к системам AGI может кардинально изменить ситуацию», – заключил он.