Делать бога из машины… не очень хорошо для людей
«Искусственный интеллект уже здесь, — говорит Кристофер Кутарна, политолог Оксфордской школы Мартина при Оксфордском университете. — Но любопытный вопрос вот в чем: где мы на этом отрезке? Насколько талантливыми окажутся автономные мозги, созданные нами?». Эту речь держал Кутарна в прохладной палатке жарким летним днем, на поле в графстве Оксфордшир. На фестивале Wilderness, где все это происходило, политолог обсуждал ИИ с коллегами Робертом Смитом, Мэтью Тейлором и Джоном Ллойдом.
Прежде чем понять, чем могут стать или станут разумные компьютеры, нам нужно понять, что мы имеем в виду под интеллектом, разумом. Говоря об искусственном интеллекте, мы склонны поднимать планку, говорит Кутарна. Можно подумать, что для победы в шахматной игре нужен разум, но лучший гроссмейстер в мире был побит компьютером в 1997 году. А сегодня любой может загрузить на телефон игру, в которой он так же проиграет в шахматы.
Игра началась
Мы также видели, как ИИ обыгрывает людей в интеллектуальной игре (например, Jeopardy!), и точно так же, совсем недавно, обыграл человека в сложнейшей китайской партии в го.
Разве это означает, что у компьютеров есть интеллект? «Не верьте новостям, — говорит Смит. — Никаких прорывов в сфере ИИ не было». Скорость работы компьютеров растет и превосходит нашу собственную скорость мышления, но интеллект как был компьютерным, так и остался, говорит он.
Чтобы целиком понять интеллект, нам нужно понять, как работает мозг, а потом и человеческое сознание. И мы далеки от этого, говорит Ллойд. «Не покупайте книгу под названием «Как работает мозг», — говорил он восторженным слушателям, — потому что просто не знаем этого. Мы не знаем ничего о сознании».
Смит и вовсе не уверен, что сознание существует. «Возможно, это сочетание памяти и воображения, — говорит он. — Мне кажется, сознание это иллюзия — когда мы перестали верить в душу, сознание пришло ей на замену».
Разумные машины?
И даже если бы мы могли создать разумную машину, могли бы мы найти ей хорошее применение? Наши мозги способны на невероятные вещи, но именно из этих вещей складываются наши скучные жизни, считает Ллойд. «Чем сложнее устройство, тем более банальную информацию оно обрабатывает», говорит он. «У телефона сегодня больше вычислительной мощи, чем у человеческого ума, но мы используем его, чтобы делать селфи».
Более тревожной является идея того, что развивая ИИ, мы будем ждать от них решения всех проблем, как от божества. «Думаю, мы живем в мире, где технология стала религией, — говорит Тейлор. — Мы вернулись к средневековым понятиям о том, что Бог решает, каким должен быть этот мир, только сегодня Бог стал технологиями».
Отчасти это происходит из-за политики, которая движет технологиями, считает Тейлор. «Кремниевая долина имеет свой подход к проблемам, который называется solutionism [буквально: решениеориентированный], и в его основе лежит идея того, что все проблемы в мире можно решить с помощью технологий», говорит он.
Кутарна соглашается: «Мы ожидаем, что технологии будут решать проблемы все быстрее, пока наконец их не останется вовсе и мы заживем в техноутопии».
Технологии должны нам служить
Можно сколько угодно говорить о том, что технологии все видят и все знают, что через 30 лет все проблемы будут решены. Но это неправильный подход. При любой скорости развития технологий, мы не сможем обеспечить машины человеческим интеллектом, если на научимся прививать им искусственную эмпатию.
Эмпатия (сопереживание) и эмоции имеют особенно важное значение в работе нашего мозга, напоминает Тейлор. Мы начинаем формировать эмоциональные воспоминания задолго до того, как образуются воспоминания событий, и эти воспоминания формируют наше поведение и взаимодействие с людьми в течение всей оставшейся жизни. Ни один компьютер не может взаимодействовать с человеком так, чтобы это казалось совершенно естественным для всех нас.
Возможно, это делает нас особенными, говорит Тейлор. «Нам необходимо коренным образом подключиться к нашему гуманизму и полюбить самих себя. Нам нужно вернуться к восхищению тем, насколько удивительным видом мы являемся».