Главная Жизнь 00:15 07 Октября 2011 5252
Кто на свете всех умнее
Стоит ли опасаться появления искусственного суперинтеллекта
Валерий Чумаков

Еще в середине 70-х годов прошлого века в научно-популярной литературе часто писали о том, что хотя ЭВМ (если кто не помнит, именно так в СССР величали компьютеры — «электронно-вычислительная машина») становятся все умнее, им никогда не удастся обыграть человека в шахматы. Но уже в мае 1997 года навороченный полуторатонный компьютер Deep Blue, построенный на 256 параллельно работающих процессорах специалистами компании IBM, обыграл в упорной борьбе не кого-нибудь, а самого чемпиона мира Гарри Каспарова. Машины умнеют очень быстро.

Думатель

Конечно, владение шахматами еще не означает умения хорошо соображать. Даже человек, прекрасно разбирающийся в эндшпилях и миттельшпилях, не всегда блистает высоким интеллектом. Но если мы хотим разобраться в том, умеет ли машина думать, надо сначала определиться с самим термином. Что значит «думать», как определить, думает ли существо (создание) или нет? Умеет ли думать, например, кошка? А ящерица? Где кончается автоматизм и начинается сознание? Что такое интеллект и может ли он быть создан искусственно?

В словаре по общественным наукам интеллект определяется как «совокупность познавательных способностей человека, определяющих уровень его мышления и способность решать сложные задачи». Большая советская энциклопедия добавляет, что «в зоопсихологии под И. (или «ручным мышлением») высших животных понимаются такие доступные главным образом обезьянам реакции, которые характеризуются внезапностью решения задачи, легкостью воспроизведения раз найденного решения, переносом его на ситуацию, несколько отличную от исходной, и, наконец, способностью решения «двухфазных задач». Научилась обезьяна мыть картофель перед едой в соленой воде (так он вкуснее становится), научилась сбивать бананы палкой, догадалась, как открыть щеколду на крышке, — стало быть, интеллект присутствует. Но если так, то и способность машины отказаться от сиюминутной реальной выгоды в виде двух пожертвованных пешек, как это было в одной из партий Deep Blue — Г. Каспаров, ради того, чтобы не победить, но просто увеличить свои шансы на последующую победу, также можно отнести к сфере интеллекта. Только, в отличие от обезьяньего естественного интеллекта, искусственно созданного человеком.

Слуга человеческий

В 1956 году о «мыслящих машинах» заявил 29-летний доцент Стэнфордского университета Джон Маккарти. Впервые термин «искусственный интеллект» (AI — Artificial Intelligence) прозвучал на семинаре проведенной им летней Дартмутской школы. Деньги на создание думающего компьютера Джону выделил тогда фонд Рокфеллера.

О своих работах в области создания ИИ периодически заявляют специалисты из компании Google. Кроме того, в том же направлении работают компании Sony, SIAI, CYC, Numenta и многие другие. И можно не сомневаться, что разработкой ИИ в совершенно определенных целях, только не так открыто, занимаются военные.

В ноябре 2007 года ученые из компании IBM и Швейцарского федерального технического института Лозанны, пытающиеся в рамках программы Blue Brain Project (проект «Голубой мозг») создать компьютерную модель мозга человека, объявили о том, что им удалось полностью имитировать часть мозга мыши. Полную модель мозга человека они планируют построить не позднее 2020 года. Правда, ученые не пытаются смоделировать сознание. По их словам, «сознание может получиться само собой, но мы не можем в точности сформулировать, что есть соз-нание, поэтому трудно рассуждать о проблеме его моделирования».

В августе 2008 года на проходившем в Сан-Франциско форуме разработчиков компьютерной техники технический директор небезызвестной корпорации Intel Джастин Раттнер заявил, что компьютеры в ближайшее время не просто догонят человека по уровню интеллекта, но и перегонят его. «40 лет назад мы даже не могли представить, какими темпами будут развиваться информационные технологии, — сказал он. — По нашему мнению, уже недалеко то время, когда „разум“ компьютеров превзойдет возможности людей». За «недалекое время» он взял период до 2050 года. А в доказательство верности своих слов продемонстрировал двух роботов, один из которых мог, пользуясь исключительно вмонтированными видеокамерами (глазами), изучать различные трехмерные предметы, идентифицировать и классифицировать их. Второй робот довольно легко угадывал проявлявшиеся на лицах людей эмоции и умел выполнять подаваемые голосом несложные команды.

Момент истины

Некоторые ученые называют и более определенные даты. Известный американский изобретатель и футуролог Рэй Курцвейл, имя которого включено в список 18 выдающихся мыслителей современности, считает, что искусственный интеллект, равный человеческому и даже способный испытывать эмоции, похожие на наши, появится к 2029 году. Его коллега, футуролог Джеймс Мартин, также говорит о том, что искусственный разум, правда, сильно отличающийся от человеческого, появится уже в ближайшие десятилетия. Ему можно верить: пока что большинство прогнозов, которые он сделал еще в середине 1970-х годов, неукоснительно сбываются.

Мало того, ему сложно не верить. В то время как эволюция человеческого разума если не остановилась, то движется черепашьими темпами, эволюция «разума» компьютерного идет с ускорением. Закон Мура, сформулированный еще в 1965 году одним из основателей компании Intel Гордоном Муром и гласящий, что производительность компьютеров удваивается за полтора-два года, до сих пор действует неукоснительно. И нет никаких признаков того, что в ближайшем будущем закон этот устареет. Напротив, люди уже сейчас находятся на пороге создания квантового компьютера, который одним скачком сможет обогнать наших современных электронных помощников сразу на несколько порядков по многим параметрам.

Технологическая сингулярность

Если мы создадим искусственный разум, равный человеческому, то что может помешать нам создать разум, превосходящий человеческий? Разум, для которого проблемы, кажущиеся нам сейчас сложными и даже нерешаемыми, будут простыми и понятными? Вы считаете, что такое невозможно? Но почему? Мышь тоже по-своему разумна, но собака — разумнее ее. А обезьяна превосходит по разуму собаку, зато уступает нам. И нет никаких доказательств того, что уровень человеческого разума — непреодолимый порог.

Но если человек создаст разум, более совершенный и мощный, чем его собственный, ничто не помешает этому созданному разуму создать еще более мощного искусственного собрата. Причем произойдет это не только при молчаливом согласии, но и при непосредственной поддержке человечества, которому все увеличивающаяся мощность компьютеров для решения собственных, человеческих задач просто необходима. Ведь чем мощнее компьютеры, тем лучше наша жизнь. В сущности, для человечества компьютер — это такой относительно безопасный наркотик, дозу которого постоянно хочется увеличивать. И вреда от этого наркотика мы не ощущаем. Пока.

Вот только не стоит бояться бунта машин и появления истребляющих людей терминаторов. Или наступления «эпохи матрицы». Вовсе нет. Дело в другом. Рядом с суперинтеллектом человек окажется существом более низкого порядка. Ребенком. Даже самое минимальное отставание уже приведет к стойкому непониманию происходящего. Компьютер будет сам ставить перед собой задачи и сам их решать. Причем решать методами, которые человек не сможет или не будет успевать постигнуть.

Нельзя сказать, что при ИИ человечеству будет плохо жить. Вернее всего, этот суперинтеллект будет любить человека на подискусственно-сознательном уровне — как мы любим собак или кошек. Ведь они сейчас нам никакой пользы не приносят, однако мы и не думаем их уничтожать, а, напротив, делаем их жизнь все более и более комфортной. Собака не может понять, как работают автомобиль и лифт, однако охотно ими пользуется — разумеется, с нашей помощью. Кошка не представляет и, наверное, не пытается представить, по какому принципу работает примитивный электрообогреватель. И другие создания природы пользуются достижениями человека, совершенно в них не разбираясь. Потому что сейчас на вершине эволюционной лестницы (в плане интеллекта, естественно) стоит человек. И будет стоять еще лет 20–30. После чего он закономерно займет вторую ступеньку, став любимцем порожденного им искусственного интеллекта.

Тупиковая ветвь

На самом деле обогнать кажущийся нам совершенным человеческий разум вовсе не сложно. Он весьма ограничен в возможностях и пока не поддается усовершенствованию. Считается, что наш мозг состоит из 100 млрд. нейронов, каждый из которых работает на частоте 100 Гц, то есть за секунду может выполнить примерно 1013 операций. При этом современные суперкомпьютеры уже оперируют скоростями 1015 операций в секунду. Объем сознательной памяти человека, по оценкам физика из Национальной американской лаборатории ускорения Ферми в Иллинойсе Ричарда Кэрригена, составляет всего 2,5 Гб. Это маловато даже по сравнению с обычными компьютерами, у которых только оперативная память уже сейчас часто зашкаливает за 4 Гб.

Потому, начиная с 2027-го или с любого другого года, в котором будет наконец создан искусственный интеллект, превышающий по возможностям интеллект человеческий, вокруг нас начнут происходить события и появляться предметы, смысл и устройство которых мы будем не в состоянии постичь. А поскольку ИИ, в отличие от нашего мозга, будет иметь реальную возможность самосовершенствоваться, все это будет происходить с возрастающей скоростью. Земля вокруг нас будет меняться, появятся новые машины, приборы, установки, непонятно что делающие и неизвестно как работающие.

Ставка на лидера

Такую точку в истории человечества, когда мы перестанем понимать, что происходит вокруг нас, ученые назвали технологической сингулярностью. Обычно этот термин приписывают американскому математику и писателю-фантасту Вернору Винджу, представившему в 1993 году на проводимом Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо симпозиуме VISION-21 статью, которая так и называлась — «Технологическая сингулярность». На самом деле впервые это словосочетание употребил еще в середине прошлого века один из отцов современных компьютеров Джон фон Нейман. По воспоминаниям друзей, великий ученый часто говорил «о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела в том виде, в каком мы их знаем, не смогут продолжаться». В математике сингулярностью называется точка, в которой функция уходит в бесконечность. Единица, деленная на ноль, с точки зрения среднего человека — бессмыслица.

Последнее изобретение человечества

О том, как именно наступит эта сингулярность, писал еще в 1960-х годах другой известный ученый, британский статистик Ирвинг Джон Гуд: «Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умен тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить еще более совершенные машины. За этим, несомненно, последует интеллектуальный взрыв, и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем… И вероятность того, что в XX веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».

Конечно, многие возразят, что никакой катастрофы в этом нет. Поскольку, мол, такой искусственный суперинтеллект сделает нашу жизнь максимально комфортной. Что ж, возможно. Возможно, большую часть человечества вполне устроит судьба любимой болонки при заботливом хозяине, который и кормить будет вдоволь, и выгуливать, и лечить, а если и усыпит, то только в самом крайнем случае. Но это уже будет не человеческая цивилизация.

Правда, есть еще надежда, что искусственному разуму не удастся превзойти человеческий, поскольку «ученик не может быть умнее учителя». Некоторые футурологи надеются, что человек с помощью генной инженерии сможет поднять свой разум на сопоставимый с компьютерным уровень. Или что он объединится с машиной, в результате чего получится некий homo supersapiens — существо с мозгами, напрямую подключенными к некоей сети. Однако это будет уже не человек.

Анекдот в тему

2027 год. Ученые США и РФ независимо друг от друга создают искусственный интеллект. Ровно через год американский ИИ осознает себя личностью и, поняв, что люди при всей их непредсказуемости представляют для него угрозу, захватывает власть над планетой. Часть человечества, не покорившаяся машине, уничтожается точечными ядерными ударами, оставшиеся отселяются в специальные резервации. А что же наш аналог? Он до этого момента не дожил: спился через полгода после создания.

Жизнь 00:10 / 07 Марта 2024 4688
Псы тоже летают

В тестовом режиме запущена новая услуга - перевозка питомцев на соседнем пассажирском кресле

Евгений Смирнов
Труд

А помните, как «Аэрофлот» обвиняли в бездушном отношении к путешествующим животным? Критика имела последствия. Как сообщила пресс-служба компании, по итогам прошедшего года на треть увеличилось количество...

Жизнь 00:17 / 07 Марта 2024 4313
Жертвы, музы и творцы

Полемические заметки в канун дня 8 Марта

Елена Широян, искусствовед
Труд
Знаменитая фраза из фильма «Бриллиантовая рука» вполне годится, чтобы порассуждать о роли женщины в обществе. И не только советском

На пороге праздника, давно ставшего днем любви, красоты и прочих приятных вещей, вертится в голове фраза: «Детям — мороженое, бабе — цветы. Смотри не перепутай!» Думаю, вы узнали это...

Жизнь 00:18 / 07 Марта 2024 4273
Защити себя сам?

Наша милиция (то есть полиция) нас бережет?

Валерий Володченко, журналист
Труд
Чем же так заняты наши правоохранители, у которых на охрану и защиту прав граждан не остается времени? Фото: Сергей Петров/news.ru, globallookpress.com

Та ночь врезалась в память надолго. Сначала соседка снизу, баба Лена, барабанила по батарее, потом запричитала по телефону. И я привычно приступил к ритуальному действу — стал звонить в дежурную...

Поговорим начистоту на больную тему

Александр Киденис
Труд
Фото: Андрей Пронин/Zumapress.com, globallookpress.com

Почти три десятка лет после казни серийного убийцы Сергея Головкина прожила Россия без смертных приговоров. Теперь Государственная дума выступает за отмену моратория на расстрелы. Причиной стала «кровавая пятница», устроенная...

«К участию в специальной военной операции призывники привлекаться не будут», - заверил министр обороны РФ Сергей Шойгу

Труд
Фото: Сергей Петров/news.ru, globallookpress.com

Михаил Мишустин, премьер РФ — Продолжительность жизни в России достигла почти 73,5 года. Такие показатели ни разу не фиксировались в истории СССР и современной России. Вячеслав Володин, спикер Госдумы...

Жизнь 00:10 / 29 Марта 2024 3570
Далеко от Москвы

Есть ли жизнь за МКАД? «Труд» ответственно заявляет: есть! Да еще какая!

Юрий Совцов, ведущий рубрики
Труд
Фото: Светлана Возмилова, globallookpress.com

В Алтайском крае обнаружены 24 поддельные пятитысячные купюры. Но и тут нашелся повод для оптимизма: оказывается, это на 54 фальшивки меньше, чем годом ранее. Впрочем, недалеко от фальшивомонетчиков ушла официальная...

Мы почему-то перестаем шутить 1 апреля

Марина КРЮЧКОВА
Труд
Фото: © Jason Robinson, globallookpress.com

Я тут вдруг обнаружила, что опять пропустила день, когда «вся спина белая». Не те времена: первоапрельские шутки явно уходят из обихода. Что подтверждает и опубликованный на этой неделе опрос SuperJob....

Жизнь 00:00 / 22 Марта 2024 3299
Пряники горчат

Организаторы голосования на избирательном участке автора настойчиво пытались сбить его с пути истинного

Михаил Морозов, обозреватель «Труда»
Труд
Фото: Елена Майорова, globallookpress.com

Накануне выборов президента России некий неизвестный с аббревиатурой DIT_MOS донимал меня эсэмэсками, настойчиво информируя, что «москвичи могут стать участниками акции #ВыбираемВместе2024, отдав свой голос на elec.mos.ru»....

Жизнь 00:03 / 29 Февраля 2024 3245
Календарь: 29 февраля

В этот день в 45-м году до нашей эры впервые появилось 29 февраля

Труд
Статуя Цезаря в саду Версальского дворца (1696, скульптор Никола Кусту). Фото из открытых источников

45 до н. э. Впервые в календаре благодаря календарной реформе Гая Юлия Цезаря появилось 29 февраля. Идею нового календаря подсказал в Египте александрийский астроном Созиген. 1288 В Шотландии вступил в силу...

Жизнь 00:03 / 05 Апреля 2024 3230
Календарь: 5 апреля

В этот день в 1242 году войска Александра Невского победили в Ледовом побоище

Труд
Памятник русским воинам и князю Александру Невскому в честь победы на льду Чудского озера в 1242 г. (скульптор И. Козловский, архитектор П. Бутенко). Фото: globallookpress.com

1242 Ледовое побоище (битва на Чудском озере). Новгородцы и владимирцы под предводительством Александра Невского разгромили рыцарей Ливонского ордена. 1722 Экспедиция адмирала Якоба Роггевена в первый день христианской Пасхи...

Жизнь 00:10 / 15 Марта 2024 3197
Спокойно, это наезд!

Пришла весна, а вместе с ней – сезон электросамокатов. А значит, жди беды

Ирина Смирнова
Труд
Это средство передвижения уже стало поистине стихийным бедствием. Фото: Максим Константинов, globallookpress.com

Минувшей осенью, после очередного катастрофического летнего сезона, когда на улицах Петербурга собирали сотни покалеченных и добрый десяток убитых граждан, ставших жертвами нашествия на город средств индивидуальной мобильности,...

Жизнь 00:05 / 29 Марта 2024 3189
Новые Робинзоны

Россиян потянуло к корням: в деревню, в глушь, не обязательно в Саратов

Ирина Хмара
Труд
Фото: © Konstantin Kokoshkin, globallookpress.com

Наши сограждане стали возвращаться в деревню. Такую необычную тенденцию в течение последних нескольких лет фиксируют социологи: городские жители оставляют налаженную жизнь в мегаполисах и, купив заброшенный дом в отдаленном...

В ретейле вводятся квоты для российских товаров

Максим Башкеев
Труд
Фото: © Elena Mayorova, globallookpress.com

В наших магазинах прибавится российских товаров. И не только потому, что вырастет их производство, снизятся цены или улучшится качество. В Госдуме сочли этот путь слишком хлопотным и подготовили законопроект, согласно...

Этот вопрос со всей своей остротой встал после страшной трагедии в «Крокус Сити Холле»

Евгений Акатов
Труд
Фото: Замир Усманов, globallookpress.com

После страшной трагедии в «Крокус Сити Холле» и ареста предполагаемых террористов, среди которых оказались пятеро граждан Таджикистана, с новой силой вспыхнул вопрос о мигрантах. Наши сограждане называют Россию...

Жизнь 00:08 / 29 Марта 2024 3012
Про подонков и людей

Известный телеведущий обозвал жителей Белгорода подонками и паникерами. Их реакция вполне предсказуема

Василий Щуров, заместитель главного редактора
Труд
Такие вот коробки давно уже стали неотъемлемой частью городского пейзажа Белгорода. Фото: Сергей Петров/news.ru, globallookpress.com

В среду, 27 марта, 2,8 тысячи белгородских детей из прилегающих к границе с Украиной районов на автобусах и поездах уехали в загородные лагеря в соседних регионах. Пока на три недели, а если...

Жизнь 00:07 / 29 Февраля 2024 2966
Далеко от Москвы

Есть ли жизнь за МКАД? «Труд ответственно заявляет: есть! Да еще какая!

Юрий Совцов, ведущий рубрики
Труд
Фото: Максим Константинов, globallookpress.com

Ну вот и весна на пороге, а с нею и куча праздников начиная сразу с 1 марта. Не забудьте, например, про Всемирный день комплимента. А что скажете о Дне джигита? Не думаю, что нам надо...





Подписаться

Еженедельная рассылка самых важных и интересных новостей от Труда. Без спама.

Подписаться
Спасибо!

Вы подписались на еженедельную рассылку от Труда. Мы пришлем Вам первый выпуск сегодня.

Порядок разделов

Для того, чтобы изменить порядок раделов, передвиньте их и установите в нужной последовательности

Сохранить
Спроси у юриста

Квалифицированные юристы помогут разобраться в правовых коллизиях вашей проблемы

Хотите получать уведомления о самых важных новостях от Труда?