«Искусственный интеллект — помощник или соперник»

Искусственный интеллект — помощник или соперник (fb2) - Искусственный интеллект — помощник или соперник 19K скачать: (fb2) - (epub) - (mobi) - Песах Амнуэль

Павел Амнуэль

Искусственный интеллект — помощник или соперник

ЧЕЛОВЕК И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Павел АМНУЭЛЬ.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ — ПОМОЩНИК ИЛИ СОПЕРНИК

С тех пор как Карел Чапек придумал биологических роботов, взбунтовавшихся против создателей, писатели-фантасты тысячи раз описывали «бунт машин», «восстание роботов», апокалипсис и постапокалипсис. Были, конечно, и произведения, где роботы выполняли всю физическую работу, помогали и заботились о людях. Характер предсказаний фантастов определялся не столько реальными тенденциями в развитии кибернетики, сколько личными эмоциями. Стивен Кинг писал о «бунте машин» и нагонял на читателей страха, а в мире Айзека Азимова робот готов пожертвовать собой ради спасения человека.

Пока фантасты описывали далёкое будущее, учёные и конструкторы это будущее приближали, создавая всё более совершенные роботизированные системы, которые решали поставленные людьми задачи и справлялись с поставленными людьми проблемами. Появился термин «искусственный интеллект» (ИИ; в англоязычной литературе: Artificial

Intelligence, AI). ИИ обучали переводить с языка на язык всё более сложные филологические конструкции, распознавать всё более сложные изображения. Автоматические межпланетные станции (тоже ИИ!) проводят в космосе исследования с такой точностью и надёжностью, какие вряд ли можно ожидать от живого космонавта. А по дорогам стали ездить автомобили без водителя — пока только экспериментальные, но лиха беда начало! ИИ обыгрывал чемпиона мира по шахматам, а теперь и в старинной интеллектуальной игре Го не знает себе равных. Современный ИИ может поддерживать довольно сложный разговор с человеком.

Надо уточнить: существующие ИИ на самом деле интеллектом в нашем обычном понимании не обладают до сих пор. Это очень сложные кибернетические системы, во многих случаях моделирующие сложнейшие нейросети. Однако ИИ-шахматист ничего не знает об игре в Го, а ИИ-водитель не умеет отличить ямб от хорея…

Ситуация с ИИ сейчас тем не менее качественно отличается от той, какой она была всего десять лет назад. Недалеко время, когда ИИ будет не только быстрее решать поставленные задачи и делать за человека всю физическую работу. Он сможет ставить задачи самостоятельно и изобретать новые интеллектуальные системы. Создатели ИИ уже и сейчас зачастую не понимают, в результате каких «умственных построений» искусственный интеллект приходит к тому или иному выводу.

Страхи фантастов по поводу того, что ИИ в будущем захватит власть над миром, занимают теперь учёных, инженеров, предпринимателей и даже политиков. Качественный скачок подготовлен, назрел и вот-вот произойдёт. Завтра системы с искусственным интеллектом станут умнее и сильнее нас во всех отношениях — и что тогда?

В 2014 году известнейшие учёные, в том числе Стивен Хокинг, Фрэнк Вильчек (нобелевский лауреат по физике) и Стюарт Рассел (крупнейший специалист по ИИ), опубликовали открытое письмо-обращение к создателям новых систем ИИ, а по сути — ко всему человечеству. Письмо называлось «Преодоление самодовольства по отношению к сверхразумным машинам» («Transcending

Complacency

on

Superintel-ligent

Machines»), и суть послания ясна из названия. Тогда же известный предприниматель и инженер Илон Маек заявил, что «развивать искусственный интеллект — всё равно что вызывать демона». Опасаются появления ИИ основатель Microsoft Билл Гейтс, изобретатель Всемирной паутины Тим Бернерс-Ли и сооснователь Apple Стив Возняк, сказавший: «Они будут думать быстрее и избавятся от медленных людей».

Мы, люди, кладём головы в пасть льва и не знаем, сомкнёт зверь челюсти или нет. Думать об этом нужно сейчас, потому что от создания истинного ИИ нас отделяют уже не десятилетия, а годы. Через несколько лет решать проблему будет поздно. ИИ изменится качественно, и жить мы будем в новом мире.

Призыв учёных не остался неуслышанным. Апокалиптические прогнозы всегда производят большее впечатление, чем спокойные и серьёзные дискуссии, в том числе о будущих рисках.

Насколько риск реален? Чтобы ответить на этот вопрос, нужно ответить на вопрос более общего характера: сможет ли ИИ ставить перед собой личные цели, ни в коей мере человеком не определяемые?

Если некто (человек, а не ИИ) совершил убийство, это означает одно из двух: либо он обдумал свои действия заранее, то есть ставил перед собой цель — убить ближнего своего, либо действовал в состоянии аффекта, под влиянием внезапных страстей. Потенциальный убийца должен, по идее, обладать сознанием и самосознанием, должен захотеть совершить убийство.

Умение независимо ставить перед собой цель, заранее не заложенную в программе поведения, — к этому должен будет прийти ИИ, если мы говорим, что он когда-нибудь решит избавиться от человечества. ИИ должен будет тогда поставить перед собой цель — власть над миром. Человечество мешает достижению этой цели — это мотив для убийства.

Фантасты много писали (и пишут) о желании ИИ получить власть над миром. Зачем? «Я такой умный, а люди такие глупые, — рассуждает ИИ. — Почему я должен выполнять их команды, а не они — мои?» То есть ИИ должен обладать чувством превосходства, чувством гордости, чувством собственного достоинства. То есть обладать самосознанием, да и просто сознанием,способностью понимать себя и людей, способностью эмоционально оценивать собственные мысли, поступки.

Человек всему этому научился в процессе эволюции, продолжавшейся (и продолжающейся) миллионы лет. ИИ должен пройти этот путь за считаные годы или десятилетия. Ту же борьбу за «место под солнцем» с другими ИИ. Развить в себе сознание и самосознание, заранее не заложенные программистами — хотя бы потому, что мы сейчас и сами не знаем, что представляет собой наше сознание (и тем более — самосознание). До сих пор ведутся споры о том, является ли сознание результатом биохимических процессов в мозгу, или сознание — нечто внешнее по отношению к мозгу, нечто, зависящее от биохимии мозга, но не определяющееся полностью физико-химическими реакциями. Саморазвивающийся суперинтеллект будет много умнее человека, но пока ни в каких исследованиях нет ни малейших доказательств того, что ИИ будет обладать самосознанием, ни малейших данных, которые могли бы сказать: придёт момент, и ИИ осознает себя… кем? Нет никаких доказательств того, что ИИ будут доступны эмоции и чувства: чувство собственного достоинства, чувство превосходства, зависти, наконец, — а без этого сугубо рациональный интеллект вряд ли задумается о том, что хорошо бы стать правителем и убрать с дороги всех, кто этому мешает.

Разумеется, разработчики ИИ всё это прекрасно понимают. В нынешнем развитии того, что мы называем ИИ, нет ни одной реальной тенденции, которая в будущем (при попустительстве производителей ИИ) привела бы к тому, что у ИИ появится цель — уничтожить человечество и получить власть над миром.

Возражение: уже сейчас программисты создаюттакие сложные нейронные цепи, такие сложные ИИ, что не могут предсказать, как конкретно поступит ИИ в той или иной ситуации. Но цель задают конструкторы — ни один современный ИИ пока не может хоть на йоту изменить цель своего существования. Другое дело, что цели, которые ставит перед собой человек, бывают порой (часто!) такими сложными и неопределёнными, что задавать их ИИ попросту бессмысленно.

Стюарт Рассел, о котором шла речь выше, считает, что «мы должны задать ИИ правильную цель, но, поскольку мы, похоже, не знаем, как её программировать, правильный ответ, по-видимому, заключается в том, что робот должен учиться взаимодействовать с людьми, наблюдать за ними».

Идея хороша. ИИ не знает, чего человек хочет. А сам человек знает? И если даже знает, то ведь все люди хотят разного, мечтают о разном, цели разных людей очень часто противоречат друг другу.

Рассел приводит в пример историю с царём Мидасом, захотевшим (вот цель!), чтобы всё, к чему бы он ни прикоснулся, обращалось в золото. Он и получил в точности то, о чём просил (как если бы его желание исполнил ИИ). «Но разве Мидас в действительности стремился к такой цели? — продолжает Рассел. — То, о чём мы просим, не является доказательством того, что это действительно наша цель».

В русской литературе есть более знакомый пример: Золотой шар в фантастической повести Аркадия и Бориса Стругацких «Пикник на обочине». Идеальный ИИ, умеющий выполнять любые желания (наверное, те, что не противоречат законам природы?), но самосознанием не обладающий и, следовательно, собственных целей не имеющий.