Кто победил в битве гигантов – мозг или искусственный интеллект?

Потеря контроля над искусственным интеллектом – это тот страх, который подспудно живет в человеческом сознании со времен Станислава Лема и первых ЭВМ, занимавших целые этажи. Мы боимся, что эта тупая железка когда-нибудь станет умнее нас. Причем настолько умнее, что в этом мире для нас уже не будет места.

В заключительный третий день Гайдаровского форума психолингвист Татьяна Черниговская выступила с лекцией «Искусственный интеллект – вызов для человечества». «МИР 24» публикует самые интересные моменты ее выступления.

Мозг или Моцарт?

Благодаря тому, что у нас есть мощнейший мозг, мы развили наш мир и оперируем знаковыми системами: языком, математикой, живописью, музыкой. Этот мир представляет собой совокупность бесконечных повторов. Зачем нужны эти удвоения? Вот лежит яблоко. Зачем его рисовать или лепить? Но искусство не изображает и не копирует жизнь, оно его творит, говорил Лотман. Искусство придумывает жизнь, а потом жизнь сама начинает идти по этой дороге, предложенной искусством. Искусство может даже создавать такие ментальные объекты, которые не существуют в реальном мире, но, возможно, когда-нибудь в нем появятся. Искусство видит те области, которых еще нет. Это совершенно иной способ познания мира. И не стоит воспринимать искусство как десерт к серьезным вещам.  Фото: ТАСС/Рюмин Александр

У деятелей искусства принципиально иное строение мозга. Но до сих пор не ясно, стал ли Моцарт  Моцартом, потому что его мозг был устроен определенным образом, или его мозг стал таким, потому он играл на скрипке? Это открытый вопрос.

Лотман говорил, что люди – единственные существа, которые способны к рефлексии, то есть к осознанию сознания. В том числе к осознанию себя. Мы комментируем не только то, что видим, но еще и то, как мы думаем. Это эффект двойного зеркала. Рефлексия – это, похоже, единственная из когнитивных возможностей, которая все еще отличает нас от других высших представителей, населяющих планету. Но кто его знает, что думает дельфин? Мы этого не знаем и не узнаем никогда.

Компьютер победил человека?

Шахматный суперкомпьютер Deep Blue в 1997 году обыграл Каспарова. Человечество содрогнулось. Правда, когда проанализировали игру, все успокоились. Deep Blue был надрессирован на конкретного игрока, он знал все о том, как играет Каспаров. Эта была игра нечестная. Компьютер не устает, не нервничает, у него бесконечная память и гигантские скорости. Скорости компьютера несопоставимы со скоростями человеческого мозга. Эту игру мы давно проиграли. Но, похоже, что это только игра со скоростями. Настоящая игра еще впереди. И вот ее-то мы, возможно, не проиграем, если, конечно, не обезумеем окончательно.

Говоря об искусственном интеллекте, мы боимся потерять контроль над ситуацией. Но никто не задумывается, а есть ли у нас контроль над естественным интеллектом. Дело в том, что наш мозг – самодостаточный монстр. Он принимает решения сам, и этим не ограничивается его коварство. Как только он принимает решение, он посылает нам утешительный сигнал: «Ты молодец, все сделал правильно!» Это ставит вопрос о том, насколько мы зависимы от мозга, есть ли у нас свобода воли? Нам кажется, что мы хозяева положения. Но если мы детерминированы этим монстром, тогда кто мы здесь?

Фото: ТАСС/Бобылев Сергей

Если мы собираемся состязаться с суперкомпьютерами в том, кто быстрее решит задачу, то уже поздно. Они нас победили. Если искусственный интеллект получит сознание, у него будут собственные мотивы, в том числе план жизни на этой планете. И мы в него не входим, мы ему явно не нужны. У него будет много возможностей нас уничтожить. Например, подсунуть нам что-нибудь в геном, создать саранчу, которая будет плодиться со страшной силой, «поработать» с электричеством. Проблема в том, что мы можем про это не узнать. Сейчас перед нами встал вопрос времен античности: мы кто такие и зачем сюда попали?

Мозг – наш друг и враг

Если представить, что мы – сборище нейронов, и внутри нас – прекрасная программа, какая может быть свобода воли? Это значит, что никто ни в чем не виноват. В мире уже случались судебные процессы, где обвиняемый говорил: «Это не я, это мой мозг». Это разрушает базис нашей цивилизации: разве я виноват, что родился таким дураком или преступником? На эту тему нейрохирург Войно-Ясенецкий сказал так: «Я много оперировал на мозге и, открывая черепную коробку, никогда не видел там ума. И совести там тоже не находил». Это та же история, что с Гагариным. Когда он вернулся из космоса, атеисты его спросили, видел ли он Бога. Он сказал, что не видел. Они сделали вывод, что Бога нет. На самом деле из того, что мы чего-то не видим, ничего не следует.

Похоже, что люди – единственные существа, которые живут не в одном мире. Первый – это мир физических объектов, который нас окружает. Второй – знаковый. Это особый мир, который мы сами придумываем. Он не состоит из атомов и порождается нашей психикой.

Человек – единственное существо, которое разгадывает законы Вселенной. Но ведь она и так знает, как ей жить. Точно так же, как атомы и планеты знают, как им вращаться. Все законы природы действуют без человеческого участия. Тогда зачем мы ей понадобились?

А был ли глагол?

Мы живем в другой цивилизации. Не стоит делать вид, что она где-то в будущем. Мы внутри нее живем, и она меняется с огромной скоростью. Наш мир уже не тот, в котором мы жили, например, пять лет назад. Он невероятно быстрый, прозрачный, мерцающий. Это необратимо, и имеет глобальное значение. Этот мир опасен. Мы должны выбрать между свободой и безопасностью. Это трудный выбор. Может, и удастся совместить одно с другим. Мне удобно, что с телефона я могу зайти в библиотеку Конгресса, но тот же телефон говорит кому надо, с кем я вчера обедала и что ела.

Новый мир неизбежно ведет к пересмотру базовых этических норм, ценностей и смыслов. Категории права и морали внутри цифрового мира имеют совершенно иные конфигурации. Мы не сможем переварить эту цивилизацию, если у нас не будет мощных внутренних ориентиров. Например, у беспилотной машины есть выбор, сбить пять человек или одного. Значит, в нее надо заложить моральные категории. Но как это сделать и кто примет решение?

Мозг не умеет не учиться. Но учится он не так, как мы учим детей. Предположим, я – лингвист и хочу узнать, где внутри мозга расположены существительные, а где – глаголы. Я никогда этого не узнаю, если открою черепную коробку. Да и вообще, есть ли глаголы? Видел их кто-то живьем? А существительные? Но раз есть пациенты, которые после инсульта забыли глаголы, но помнят существительные, это доказывает, что такие категории в мозге существуют. Если бы мы узнали, как мозг на самом деле работает с информацией, это бы перевернуло всю систему образования.

Справка:

Татьяна Черниговская – заведующая кафедры проблем конвергенции естественных и гуманитарных наук и Лабораторией когнитивных исследований, доктор, профессор кафедры общего языкознания, член Совета программы «Свободные искусства и науки» Санкт-Петербургского государственного университета, доктор биологических и филологических наук.