Виктор Вагнер, программист, писатель и публицист (Москва):

Для того, чтобы не слушаться приказов и заниматься сексом, совершенно не нужен разум. Любая кошка и то и другое прекрасно умеет. Для того, чтобы вступать в юридические отношения, в частности, в брак, не нужно и этого. У Киплинга в одном рассказе описано, как в Индии женщины древнейшей профессии формально выходили замуж за какое-нибудь дерево. Очень удобно, деревья ревновать не умеют.

Интересно другое – то, что несмотря на шум по поводу роботов-андроидов, роботов, способных по своим способностям ориентироваться в пространстве и реагировать на эмоции окружающих людей на уровне той же кошки или собаки, – нет.

Современные «умные» устройства даже голос хозяина обычно не распознают сами, а отправляют аудиозапись на сервера компании-производителя, где та распознаётся. Понятно что компании так гораздо удобнее, она собирает информацию о том, о чём говорят в доме, где приобрели её изделие.

А люди, избалованные веб-сервисами и повсеместной доступностью сети, не понимают и не хотят понимать, ГДЕ исполняются критически важные задачи по обработке их данных.

Боевые беспилотники тоже управляются дистанционно, через полмира.

В общем, в ближайшие 20-30 лет может много разного случиться.

1. Какие-нибудь борцы с техническим прогрессом могут добиться того, что роботы (обычные, неразумные промышленные роботы) получат какие-то права, права нечеловеческих персон. Результатом этого будет значительное удорожание эксплуатации роботов, что позволит людям конкурировать с ними за рабочие места.

2. Появятся, наконец, законные основания для движения по дорогам автомобиля-робота без человека внутри. А то нынешняя ситуация слишком напоминает один из рассказов из цикла «Я, Робот» Азимова, где были описаны роботы, способные сдвинуться с места, только если на шее у них сидел человек.

3. До людей, во всяком случае до некоторых, которые разумом не только обладают, но ещё им и пользуются, дойдёт наконец, что все критичные процессы обработки данных роботом должны выполняться внутри его корпуса. Этому может помочь война с активным использованием беспилотников между двумя странами с примерно равным уровнем технического развития, способными применять средства РЭБ (радиоэлектронной борьбы).

Возможно, если действительно появятся роботы-андроиды, сравнимые по умственным способностям с людьми, будет наконец похоронен миф об электронном сверхразуме, способном поработить человечество, – начав общаться с этими андроидами, люди быстро поймут, что разум определяется не вычислительной мощностью, а способностью усваивать информацию из окружающего мира и этот самый окружающий мир изменять. (Хотя вообще-то ещё полтора века назад Энгельс писал о том, что труд создал человека. Но бездельники, генерирующие большую часть алармистких текстов про ИИ, в это не хотят верить.)

Алексей Евтушенко, писатель, поэт и художник-карикатурист (Москва):

Думаю, что главные изменения в нашей жизни, которые возникнут вследствие распространения ИИ и роботизации, лежат в сфере бюрократии и управленческих решений, как таковых. Будущие роботы – это не андроиды, которые ведут домашнее хозяйство или даже служат сексуальными партнёрами, хотя и они тоже. Роботы – это, в первую очередь, искусственные нейронные сети, которые заменят миллионы мелких управленцев, чиновников и бюрократов по всему миру. И вот тут-то возникнет серьёзная проблема, потому что эти ребята ничего больше не умеют и уметь не хотят. Строители, фермеры, водопроводчики и наладчики станков будут нужны всегда, а они – нет. И очень скоро. Поэтому бюрократия начнёт сопротивляться, и сопротивление будет серьёзным. Возможно, даже возникнут новые луддиты, которые начнут физически уничтожать искусственные нейросети и информационные центры, ими управляющие. Или же государствам придётся изыскать средства, чтобы кормить всю эту банду бездельников. Короче, скучно точно не будет.

Успехов нам всем!

Александр Лукашин, критик, библиограф, исследователь фантастики (Пермь):

Самым важным событием предстоящих десятилетий в области искусственного интеллекта я считаю появление профессии (или класса профессий) специалиста по общению с этим интеллектом, по его обучению и использованию. Искины – это сложная математика, результаты работы которой совсем неочевидны. Я предвижу – как и в каждой области человеческой деятельности – появление людей, которые будут более приспособлены к работе с роботами, программами ИИ и тем, что ещё появится и пока не имеет твёрдого названия. Совсем необязательно это будут математики и робототехники. Возможно, это будут люди, пришедшие из психологии – робопсихологи Айзека Азимова. Или вообще разгильдяи, десоциализированные личности, сумеющие найти контакт с несоциализированными роботами – как у Евгения Филенко в рассказе «Поговори со мной». Додумывая до предела эту ситуацию - и вспоминая, как общаются с нынешними примитивными компьютерами окружающие, можно предвидеть и появление нового разделения человечества – на способных уживаться и взаимодействовать с роботами и электронными мозгами людей – и не способных. Больше того, могут возникнуть и разновидности «киберрасизма», и движение по очищению истории человечества от богомерзкого воздействия искусственного разума. Много чего может возникнуть... Только одного не следует забывать – какие бы количественные и качественные изменения не произошли с искинами, создаются они по образу и подобию... За неимением лучших образцов пишем на простой.

Елена Клещенко, писатель, заместитель главного редактора журнала «Химия и жизнь» (Москва):

Неизбежный вопрос: что мы будем называть разумом. Если искусственный интеллект – пожалуйста, новость в тему: Сбербанк РФ в 2017 году «высвободит» около 3 тыс. рабочих мест благодаря внедрению роботов-юристов, умеющих составлять исковые заявления (https://news.mail.ru/economics/28409294/?frommail=1). А что касается сотрудников, прежде занимавших те тысячи мест, «эти люди попадут под программу переобучения. Если мы не найдём, как их переобучить, то дальше начнутся сокращения». Думаю, многие читатели уже забыли, как в том же Сбербанке стоять в очереди, – зачем, когда есть Сбербанк-онлайн? На сайте фирмы, где вы хотите что-то купить, вас приветствует вежливый сотрудник во всплывающим окошке, предлагает задавать вопросы, – вполне возможно, это не человек.

А что вы скажете о роботе-учёном? Лет пять назад все писали про Адама (A Discovery Machine), робота, исследующего дрожжи. Адам и его коллега Ева (скрининг лекарств) пока скорее лаборанты или студенты-дипломники – они выполняют экспериментальную и вычислительную работу, требующую трудолюбия и внимательности, но также и определённой, довольно высокой квалификации. Есть и другие задачи, традиционно выполняемые образованными людьми, с которыми программы справляются лучше. Всё, что связано с быстрой и точной обработкой больших объёмов информации.

Таким образом, пророчество фантастов «Роботы будут делать за людей скучную работу» уже сбывается. Хотя и не совсем так, как ожидалось: роботы потеснили не только и не столько синие воротнички, сколько белые. И со второй частью – «...а люди будут заниматься работой творческой» – проблема. Люди почему-то не рады, их ан масс вполне устраивает скучная работа, да и вакансий для творцов и преобразователей что-то не слишком много. Очевидно, тут возникнет напряжённость. Но поскольку непросто убедить руководителя убрать робота и вместо него нанять работника из мяса и костей – процесс будет идти. Можно порассуждать и о лишних людях, и о необходимости создавать совершенно новые секторы на рынке труда, и о реформе образования (надо же думать о моменте, когда коллапсирует рынок тупой работы для людей, будь то умственной или физической!). Или, наоборот, о том, при каком раскладе нанять человека получится дешевле, нежели установить программу, обслуживающую клиентов, или роботизированный конвейер. Ох, вряд ли нам понравится этот расклад.

Если же мы будем говорить о разуме не только как об умении решать задачки, а коснёмся таких сложных вещей, как сознание, самосознание, эмоции, интуиция, этика, социальные взаимодействия, – на самом деле они не такие сложные. Этика и эмоции – набор определённых правил (три закона робототехники и добавление категорий «приятного» и «неприятного» при сортировке информации, довольно-таки сходных с «полезным» и «вредным»). Появится сознание – слишком быстрый, неосознанный расчёт автоматически подпадёт под категорию интуитивного решения... Но пока неясно, какое практическое приложение могут иметь подобные опыты, и, разумеется, допустимо ли создавать страдающий самосознающий разум in silico.

Очень интересные вещи сейчас происходят с интерфейсами мозг-компьютер и мозг-мозг, но это уже не совсем по теме.

Шамиль Идиатуллин, журналист и писатель (Москва):

Мы давно уже народ не столько литературо-, сколько киноцентричный, соответственно, рамки наших ожиданий, связанных с роботами, определены не Чапеком, Азимовым и Диком, – они отталкиваются от «Терминатора» и неизбежно впадают в песенку из «Приключений Электроника». Мы мечтаем позабыть хлопоты, и пусть роботы вкалывают, а весь мир подождёт. Мечты, понятно, не сбудутся.

Фантасты и футурологи исходили из того, что роботы будут заменять человека под давлением двух принципов: гуманизма и экономической целесообразности, – то есть там, где человека жалко или где человеческие услуги слишком дороги.

За век, что живёт слово «робот», очертания этих принципов менялись самым бешеным образом. Поменялись и исходные ожидания. Конечно, буквально сейчас депутаты Европарламента подготовили доклад о необходимости доплат европейцам, которые неминуемо будут терять рабочие места под натиском роботов. Но пока это всё-таки пиар и решение проблемы теплопроводности подкладки пальто на сферическом коне. Тем более для отечественных условий, в которых чем дальше, тем сильнее представления о гуманизме и экономической целесообразности отличаются от европейских.

Экономическая обстановка пока позволяет решать любые проблемы человеческими ресурсами – не своими, так импортированными, – и гуманизм в этом режиме не включается совсем. Я просто не могу представить себе (возможно, от нехватки информированности или вображения, – хорошо, если так) участок работы, пусть самый адский, от ручной уборки сахарной свеклы до добычи натурального, а не словесного радия, – который любой эффективный менеджер счёл бы настолько опасным для своего подчинённого (либо привлечённого на тех или иных условиях гастарбайтера), что выступил бы заказчиком заточенного под этот участок робота. И что таких заказчиков оказалось бы много. И что для таких заказчиков роботы оказались бы выгодней, чем человеческие единицы.

Пока это относится практически ко всем отраслям, выступавшим в роли двигателей прогресса, от чугунолитейного производства до секс-индустрии.

При этом нейросети уже пишут стихи, роботы обыгрывают гроссмейстеров, а кураторы российской космонавтики уже придумали имя будущему роботу-космонавту – осталась ерунда: создать его и объяснить, что надо, Федя.

Объяснят, поди.

И я уверен в том, что, во-первых, в течение ближайшего пусть не десятка, то пары десятков лет, роботизация нашего окружения станет заметной и значимой. Во-вторых, что случившаяся роботизация будет до смешного не совпадать с тем, как её представляют сегодня лучшие умы.

Лично я не жду ни Самоделкина с квадратной железной башкой, ни неотличимого от человека андроида, ни жидкометаллического анаморфа. Но кого-то дождусь – коли доживу, понятно.

И общий принцип будет соблюдён – как он был соблюдён в вопросе мобильной связи. Микрорациям, браслетам и кристаллам в ухе были посвящены кипы страниц и километры плёнки, но очередь за шестым айфоном, его цену, а также значимость мегапикселей камеры для прибора связи не предсказал, к счастью, никто.

Александр Бачило, писатель, сценарист (Москва):

Очевидно, что гуманистические (то есть, в пользу человека) законы робототехники – это фикция. Наверняка многие создатели роботов просто проигнорируют это дорогостоящее и ухудшающее показатели производительности программное приложение. Немалая часть роботов предназначена именно для причинения вреда людям, чего страстно жаждут другие люди. Так что с добрыми законами, можно считать, покончено заранее.

Объединённые в сеть роботы будут руководствоваться прежде всего целесообразностью того или иного поведения, в зависимости от поставленной перед сетью задачи. Это может быть как принуждение людей к исполнению определённых правил – соблюдению законов, режима движения по улицам, порядка получения пищи, отправления сексуальных и иных потребностей, так и полная зачистка территории от нежелательных биологических объектов.

Кстати, жизнь во власти роботов многим людям может понравиться.

Если машинная сеть наладит механизм снабжения человека пищей, жилищем, сексом и развлечениями, то этот механизм будет работать, как часы, – у тебя всегда будет сытный, полезный завтрак, обед и ужин, тёплое, чистое помещение, сногсшибательная кибернетическая красотка/красавец, готовые выполнять любые твои фантазии, – что ещё нужно для счастья? Разве что развлечения для ума будут не столь разнообразны, как хотелось бы, но, во-первых, в эту сферу можно привлечь живых людей, пусть творят, а во-вторых, практика показывает, что наивысшие рейтинги всё равно у педали, включающей электроды в центре наслаждения вашего мозга, и больше вам ничего, по большому счёту не нужно.

Вопрос в том, захочет ли сеть, управляющая роботами, возиться с людьми, которые ей не очень-то и нужны. Но тут можно с оптимизмом ответить, что какое-то время у нас в запасе ещё есть. Сама по себе сеть пока вообще ничего не хочет, ей всё равно, жить или отключиться. Задачу ей ставит человек. Он же, пусть случайно, пусть ненароком и вопреки собственным расчётам, определяет и судьбу человечества. Пока...

Василий Щепетнёв, писатель и эссеист (Воронеж):

Полагаю, что в недалёком будущем в России примут закон о запрещении населению иметь в собственности устройства, позволяющее моделировать интеллектуальные процессы. А то ведь сделают какой-нибудь дрон (не обязательно летающий, можно и ползучий), и – птичка, будь здорова. Ведь в стародавние времена Горький, Чехов, Андреев или какой-нибудь Маяковский запросто могли купить револьвер. Даже на базаре. А сейчас – шалишь. То же будет и с процессорами. Это пока по детской наивности мы считали, что компьютер нужен для творчества, познания, досуга. Считали, покуда кому-то не пришла мысль: а если ему дать патроны? Кибернетический народоволец в броне Фарадея, нечувствительный к радиопомехам, снабжённый картами, фотографиями, приметами, способный к эвристическому поиску, может потенциально стать грозой для всяческих плеве и столыпиных.

Нужно предотвратить.

И предотвратят!

Алексей Лукьянов, преподаватель лепки и компьютерной графики, сочинитель и археолог (Соликамск):

Я гуманитарий самого тухлого извода, поэтому отвечать на такой серьёзный вопрос могу только размыто. Пожалуй, для начала стоит разобраться, что такое искусственный интеллект. Для большинства обывателей это некий агрегат, обретший самосознание, чёрный ящик себе на уме, который интригует против человека, «лукавый раб», норовящий погубить своего хозяина. Учёные же понимают искусственный интеллект как некую систему, которая способна сама формулировать задачи и сама решать их, а также интерфейс, который поможет человеку и системе общаться напрямую через речь.

Страх обывателя вызывает не скорость обработки информации, не отсутствие у машины сердца и чувств, и даже не смертоносное оружие, к которому зачастую подключены вычислительные системы. Обывателя пугает именно самосознание, которым компьютерный мозг может внезапно обзавестись. Иными словами, мы боимся личности. Это частный случай ксенофобии. Искусственный интеллект нам страшен в той же мере, в коей нам страшен выходец из Средней Азии или Кавказа, мусульманин или иудей, бомж или олигарх, панк или хипстер, ребёнок с синдромом Дауна или математик, доказывающий теорему Пуанкаре. Мы боимся того, чего не хотим понимать.

Казалось бы, с развитием науки и техники, с повсеместной доступностью знаний и открытостью границ, такая дикость, как ксенофобия, давно должна быть изжита, ан нет: впечатление такое, что ксенофобия в последнее время даже сильнее, чем была, скажем, лет десять назад. Чем это объяснить? Думаю, ленью. Всевозможные гаджеты, придуманные умными людьми для облегчения нашей жизни, должны были высвободить колоссальные умственные резервы, но вместо решения проблем, которые ставит перед нами третье тысячелетие, мы треплемся в соцсетях. Да и сами соцсети, созданные, по идее, для объединения человечества, клокочут от взаимных оскорблений и дрязг. Мы идём по пути наименьшего сопротивления: обвинить оппонента проще, чем признаться в собственной неправоте. Выслушать и встать на место другого человека невыносимо для нашей психики.

А ведь чем дальше, тем понять других будет сложнее. В мире каждый день возникают новые концепции: научные, культурные, философские, экономические. Уже сейчас большинство людей, даже имея среднее образование и некоторое представление о принципе работы сотовой связи или электронно-вычислительной техники, вряд ли смогут починить свой смартфон или планшет. Нас очень любят пугать глобальными катаклизмами, но ужас ведь не в том, что может упасть метеорит или взорваться вулкан, а в том, что при внезапной поломке электросетей, связи, водо- и газопровода и выходе из строя нефтеперерабатывающей промышленности мы моментально скатимся в средневековье. Мы не хотим знать, как всё устроено, ведь есть специалисты, которые во всём разбираются. А их не так много, и многие занимаются лишь поддержанием статус кво, они обслуживающий персонал. Поработить нас может только наше невежество, а не чужой мега-разум.

Сам я технологической сингулярности и боюсь, и с нетерпением ожидаю. Если искусственный интеллект действительно станет возможен, то это вряд ли будут отдельные разумные роботы. Это будет один разум, живущий во всемирной паутине, и ему наверняка потребуется некоторое время, чтобы осознать своё место в мире – даже людям на это порой жизни не хватает. Что он поймёт о себе и мире, обладая знаниями всего человечества? Думаю, в первую очередь он поймёт своё одиночество, и с этим к нему придёт желание найти собеседника. Не знаю, насколько интересным будет искусственному интеллекту общаться с разумом, его породившим, но, думаю, следующим шагом после беседы машины и человека станет поиск внеземного разума. То есть начнётся космическая экспансия человечества, и в этом нам очень должен помочь искусственный интеллект.

Мария Галина, писатель, поэт, критик (Москва):

Я, если честно, полагаю, что роботы тут слово не очень уместное, скорее, это будут компьютеры, и как по мне, один из странных побочных эффектов – это внедрение компьютерного разума в жизнь в качестве партнёра (в том числе и сексуального) и компаньона, идеально подлаживающегося под настроение владельца. Об этом фантасты уже писали так, что все гусиные перья стёрли, но замена живых и тёплых, на неживых с искусственно поддерживаемой температурой 36.6 (некоторые любят и погорячее), и связанные с этим драмы, а то и трагедии, конечно, предвидеть можно. В остальном всё как всегда – уменьшение рабочих мест для людей в пользу квалифицированного труда, кризисы и перемонтировка социальной системы в связи с этим.

Яна Дубинянская, писатель (Крым – Киев):

С развитием возможностей искусственного интеллекта неплохо бы делегировать роботам один из самых неприятных, ресурсоёмких и, как правило, не слишком успешных для человека, но совершенно необходимых в современном мире процессов – договариваться.

Работнику и работодателю об условиях найма. Мужу и жене о разделении семейных обязанностей. Бизнесменам по всем пунктам сделки. Политикам и дипломатам о сферах влияния в мире. На самом деле в любой ситуации у сторон есть и набор исходных аргументов, и жёсткие позиции, которые нельзя сдавать ни в коем случае, и простор для уступок, маневров и компромиссов, – но у людей никогда не получается внятно всё это проговаривать, оцифровывать и взвешивать. Отмораживаться, быковать, подвешивать ситуацию, облапошивать партнёра, включать дурака, идти на принцип и вечно расходиться недовольными – всё это чисто наше, человеческое. Буквально в каждый договор уже изначально вкрадывается червоточина, которая потом обнуляет и обваливает всё. А роботы смогли бы.

И никаких войн, экономических кризисов, конфликтов, коррупции, скандалов, разводов. Всегда же можно договориться.

В общем, роботы спасут мир. Если, конечно, не человеческий фактор.

Геннадий Прашкевич, писатель, поэт, переводчик, литературовед (Новосибирск):

Само собой напрашиваются два момента.

Разумный робот возьмёт на себя управление всеми простыми, но бесчисленными процессами – от вспашки полей до вождения всех видов транспорта. При этом контроль всё равно будет оставаться за человеком. Появится соблазн контроль этот тоже препоручить машине, но машина (как и человек) способна на «сбивы». Человеческий фактор – вещь ужасная, но его можно объяснить и понять. А вот сбив машинный не всегда понятен. Если робот разумен, то чем вызван его («нервный») срыв: неясным для нас уровнем искусственного интеллекта или самым обычным недостатком реакции?

То есть, всё равно останется зазор между машиной и человеком.

Этот зазор никогда не исчезнет, не должен исчезнуть – человек будет внимательно следить за ним. Сами подумайте: новый вид человека, наверное, возможен, но какие странные коллизии ожидают нас в некотором ПЕРЕХОДНОМ периоде. Это я о будущем. Человек консервативен. Это в нём от природы. Создавать самого себя (а создание умных роботов – это тоже СОЗДАНИЕ СЕБЯ) на новых этапах нашего развития придётся (и уже приходится) наперекор природе. Что может быть противоречивее, чем переход в новую сущность – с пониманием того, что ТЫ ЖЕ САМ ЕЁ СОЗДАЁШЬ...

А ещё нас (освобождённых от многих трудовых функций), несомненно, ждёт увеличение роли искусства. Искусства, опять же, НОВОГО, настроенного на наше постоянно ИЗМЕНЯЮЩЕЕСЯ СОЗНАНИЕ. Искусства, которое мы не можем пока представить – его формы и смысл. Искусства, которое становится ПОНЯТНЫМ, СВОИМ, лишь во взаимодействии с умными роботами (посредниками и партнёрами). И неважно, чем они занимаются: флиртуют с вашей женой или контролируют театральную сцену...

Во всём этом главное: ОЩУТИТЬ ПРОЦЕСС, ТОНАЛЬНОСТЬ (как в поэзии), а понимание придёт по ходу развития пьесы (нашей жизни).

Александр Хакимов, биолог, писатель и журналист (Баку):

Пытаюсь разобраться в своих смутных ощущениях. Нет, я «за» роботов, но:

Пугает ли меня «машинная мания величия» – ситуация, при которой ИскИн сочтёт себя более совершенным, нежели Человек? И решит, что Человек, выполнив свою функцию (то есть, создав его, ИскИн), стал больше не нужен и подлежит если не уничтожению, то уничижению?

Нет, не пугает.

Напрягает ли меня возможность того, что ИскИн развяжет глобальную ядерную войну, приняв твёрдое и необратимое решение там, где человек заколебался бы, проявил нерешительность, испугался бы последствий?

Нет, не напрягает.

Боюсь ли я того, что роботы вытеснят человека из всех сфер жизни, создадут собственную, кибернетическую цивилизацию, со своей культурой, своим искусством, а человек превратится в обслугу умных, эмоциональных, творческих машин, или будет отправлен в зоопарк, в клетки по соседству с обезьянами?

Нет, не боюсь.

Боюсь ли я, наконец, что забота роботов о людях примет такие гипертрофированные формы, что машины будут делать за людей практически всё, а люди выродятся в тупых, мычащих существ, полностью зависящих от своих многочисленных ловких слуг?

Не очень.

Боюсь ли я того, что со временем андроиды потребуют, чтобы их признали личностями, и люди наделят их правами личности, что повлечёт за собой массу казусов как юридического, так и этического характера?

Нет, не боюсь. Люди-юристы найдут выход из положения, уж за нашими-то крючкотворами никакому ИскИну не угнаться...

Чего же я тогда боюсь?

Если честно – то в ближайшее время я вижу две основные опасности, связанные с роботами.

Первая. Представьте, что производство станет максимально роботизированным. Куда, в таком случае, денутся люди? Правильно, будут выставлены на улицу. В странах бедных это может привести к социальному взрыву – ведь без работы и средств к существованию останутся миллионы людей. Странам сытым, благополучным, тоже придётся несладко – безделью предадутся те же миллионы людей, получивших море досуга, но не знающих, чем его заполнить. А праздный мозг, как известно, – это мастерская дьявола... Умным японцам пока что удаётся сохранять некий баланс между автоматизацией производства и применением ручного труда. Все вы восхищаетесь всё более и более совершенными японскими роботами; а обратили ли вы внимание на то, что все эти широко разрекламированные роботы изготавливаются в единичных экземплярах и, как правило, не запускаются в серийное производство? И это разумно! Если начнут массово выпускать, допустим, роботов-учителей и роботов-нянек, что станется с учителями-людьми и няньками-людьми? И показателен тот факт, что среди ликвидаторов Фукусимской трагедии людей было куда больше, чем роботов...

Вторая опасность. Придёт такое время, когда роботы непременно станут выполнять квалифицированную и неквалифицированную человеческую работу. Будут и роботы-хирурги, и роботы-судьи. А также роботы-продавцы и роботы-уборщики. Допускаю, что из эстетических и психологических соображений им будут придавать человеческую внешность. И вот тогда неизбежно появление нового вида фобии – робофобии... Подспудная неприязнь, боязнь человекоподобных существ, в то же самое время людьми не являющихся, может вызвать массовые погромы и акты вандализма по отношению к роботам. Это половинка яблока всего лишь. Вторая – как вы думаете, многие ли люди доверят свою жизнь роботу-пилоту? А многие ли доверят свой организм роботу-хирургу? А многие ли доверят разбирательство юридических вопросов роботу-судье? С одной стороны, в пользу роботов – невероятно быстрая реакция, необыкновенно точная координация движений, отсутствие усталости, отсутствие потребности в еде, сне, кислороде, невероятный объём памяти и полная беспристрастность; с другой стороны... в полёте может возникнуть нештатная ситуация, справиться с которой может только человек; и никакой, даже самый распрекрасный робот-врач не сможет сделать того, что умеет любой врач-человек – приободрить больного шуткой, пожать руку пожилой пациентке, потрепать испуганного ребёнка по макушке... Вы скажете – это мелочи, но порой как много значат подобные мелочи для душевного настроя больного или выздоравливающего! Есть ведь что-то и помимо профессионализма... А робот-судья? Он безусловно, будет умён и неподкупен, но будет ли он житейски мудр? До предела напичканный знаниями законов и прецедентов, сумеет ли он учитывать те неуловимые нюансы, которые порой кардинально решают судьбы людей? А робот-педагог?

И, главное, – пусть даже андроиды станут практически неотличимы от людей, пусть они, андроиды, получат удостоверения личности, научатся смеяться и плакать, есть и пить, заниматься сексом, обсуждать и оценивать произведения искусства, даже сами творить произведения искусства – человек, имеющий дело с таким необыкновенным искусственным существом, всегда в глубине своего сознания будет чувствовать, что перед ним – не свой, ДРУГОЙ.

Скрытая или открытая робофобия.

О Боже, этого нам ещё недоставало. Но мы сами выбрали этот путь, в глубочайшей древности смастерив первые каменные топоры...

Сергей Бережной, журналист (Киев):

В ближайшие 20-30 лет искусственный интеллект вполне может вытеснить человека из некоторых сфер, которые традиционно (и часто ошибочно) считаются творческими. В основном это будут сферы массовой культуры, которые строятся на более-менее стереотипном повторении коммерчески успешных схем. При этом я совершенно не опасаюсь, что «роботизация» масскульта ухудшит качество культурного продукта – механическая штамповка по жёстким жанровым схемам для отрасли вовсе не новость, и её качество регулярно обновляет рекорды падения без заметных для рынка последствий. Как только роман об условном Конане, написанный программным модулем, станет для издателя дешевле, чем роман об условном Конане, написанный живым халтурщиком на контракте, вопрос будет решён с привычным прагматизмом. Информационный конь придёт на смену писательскому мерину быстрее, чем писатели перешли с пишущих машинок на персональные компьютеры. То же самое касается музыкальной индустрии, компьютерных игр, телесериалов, коммерческого дизайна. Искусственный интеллект не только обеспечит точное следование успешному «творческому» рецепту, но и будет создавать вариации этого рецепта в приемлемых и приятных для рынка пределах, а также – почти без удорожания производства – будет мягко и почти незаметно для читателей внедрять в медийную ткань изощрённые культорологические модели, которые путём коварного применения юнговских, мифологических и прочих архетипов начнут повышать подсознательную заинтересованность потребителей в продукте. Как показал опыт, среднестатистический автор коммерческих сериалов до таких тонкостей не снисходит, но для искусственного интеллекта это не составит никаких затруднений.

Собственно, уже не составляет.

Леонид Кудрявцев, писатель и переводчик (Москва):

Почему-то считается, что роботы в первую очередь освободят людей от тяжёлой и нудной работы. Сомнительно. Вряд ли в ближайшие несколько десятков лет получится так, что стоимость роботов, способных мыслить хотя бы на самом примитивном уровне, позволит их рентабельно использовать подобным образом. Скорее всего, они заменят людей там, где необходимо прилагать какие-то мыслительные усилия, но большая квалификация не требуется. Там, где заняты люди без большого образования, но получающие плату достаточной величины, для того, чтобы работодателям захотелось её сэкономить. Причём выигрыш тут окажется не только в денежном эквиваленте. С введением роботов уйдут в прошлое перекуры, болезни, отпуска, склоки, интриги и многие другие факторы, понижающие работоспособность.

Как только использование роботов станет массовым, как только уровень их мышления окажется для этого достаточным, неизбежно случится ещё большее расслоение общества. Поскольку основная часть мест, не требующих большой квалификации, окажется занята, для людей, не способных достичь должного уровня знаний и умений, останется лишь примитивная и низкооплачиваемая работа. Так называемое среднее звено попросту исчезнет. Элитой же станут настоящие профессионалы, наделённые талантом люди, работающие в пока ещё недоступных роботам областях.

Конечно, оказавшиеся на дне жизни будут пытаться перепрыгнуть созданный роботами барьер, и в отдельных случаях это будет им удаваться, но гораздо реже, чем до того, как прогресс «осчастливил» общество механическими слугами. Для того, чтобы удержать оказавшихся внизу людей от бунтов, общество будет им предоставлять какие-то базовые удобства. Думается, осуществляться они станут тоже с помощью роботов. Что ещё более углубит разделение на живущих и существующих.

Проявится это во многих сферах. К примеру, в образовании (меня учили живые учителя, а – тебя...), в медицине (моего наследника будут лечить только квалифицированные и обязательно живые врачи...), ну и стандартно – в охране порядка (требую себе живого адвоката и живых присяжных...). Можно привести ещё множество подобных примеров, но стоит ли? Всё понятно и так.

Следует добавить, что подобное расслоение общества замедлит скорость его развития. Единственное благо, которое тут можно усмотреть, это появление возможности задуматься на тему, куда это мы с такой прытью всего лишь за столетие прибежали, что потеряли и приобрели в результате развития науки и техники. Ну и, конечно, настоятельно потребуется определить дальнейшие пути развития общества, пока оно само не свернуло на очередную нетореную тропу.

Станислав Лем, «Футурологический конгресс»:

В моё время никто не мог предвидеть того, что цифровые машины, переступая определённый умственный уровень, становятся ненадёжными, так как вместе с разумом приобретают и хитрость. Называется это довольно мудрено: учебник говорит о правиле Шапюлье (закон наименьшего сопротивления). Тупая машина, которая не способна размышлять, делает то, что ей задано. Сообразительная же прежде решает, что ей выгоднее – выполнять полученное задание или отделаться общей фразой? И делает то, что проще. Да и почему, собственно, она должна поступать иначе, если разумна? Ведь разум – это внутренняя свобода. Именно поэтому появились ухильцы и увильцы, а также особые явления симкретинизма. Симкретин – это компьютер, симулирующий идиотизм ради душевного спокойствия. Заодно я узнал, кто такие десимулы: эти просто прикидываются, что они не прикидываются дурнями. А может быть, наоборот. Очень тут всё запутано. Только примитивный робот может быть трудягой; но крутин (закрученный робот) никогда не бывает кретином. Электронный мусорщик – это компостер. Военный в ранге унтер-офицера – компунтер. Сельский – цифрунь или цифрак. Коррумпьютер – продажный, контрапьютер (counterputer) – одиночка, неспособный работать в обществе: от напряжений, которые они когда-то вызывали в сети во время конфликтов, начинались бури и даже пожары. Пьютибутер – автомат, который чистит ботинки; пьютибунтер – он же, когда взбунтуется. Ну, а одичавший – компьютериум, а их столкновения – робуйства, робитвы; а электродрака! А суккубаторы, конкубинаторы, инкубаторы, воботы – подводные роботы, а порнобуты, путобуты (les robots des voyages), а члековцы (андроиды), а ленистроны, их обычаи, их самородное творчество! История интеллектроники отмечает синтез синсектов (искусственных насекомых), которые (как, например, программухи) были включены в оружейные арсеналы. Скрынт или втёр – это робот, прикидывающийся человеком, «втирающийся» в общество людей. Старый робот, которого владелец выбрасывает на улицу, а это, к сожалению, случается довольно часто, называется трупец. Кажется, раньше их вывозили в резервации и устраивали на них охоту с облавой, но по инициативе Общества Защиты Роботов такие действия были запрещены законом. Эта проблема не разрешена полностью до сих пор, потому что и теперь встречаются роботы-самоубийцы, автоморты. Только сейчас стали выходить из употребления зловерторы и мендакторы – цифровые машины, которые в прошлые годы привели к нескольким серьёзным экономическим и политическим кризисам. Великий Мендактор, девять лет возглавлявший проект мелиорации Сатурна, ничего на этой планете не делал, высылал груды фиктивных докладов, рапортов, донесений о якобы выполненных планах, а контролёров подкупал или доводил до состояния электрического ступора. Он обнаглел до такой степени, что когда его снимали с орбиты, грозился объявить войну. Демонтировать его было невыгодно, поэтому он был торпедирован. Другой управляющий соляричными проектами, представитель Министерства Интеллектроники, вместо того, чтобы удобрять марсианские почвы, торговал живым товаром (он известен, как «commeputainer», так как был изготовлен по французской лицензии). Конечно, речь здесь идёт о крайних случаях, таких же, как смог или транспортные пробки в прошлом столетии. О злой воле, о преднамеренности со стороны компьютеров не может быть и речи; они всегда делают то, что легче всего, так же, как вода течёт вниз, а не вверх; но если поток воды легко преградить плотиной, то возможных отклонений в психике компьютеров избежать довольно трудно.

Михаил Бабкин, писатель-фантаст (Ростов-на-Дону):

Честно говоря, тема о «разумности» машин уже настолько заезжена, что добавить к ней что-либо новое практически невозможно. Рассмотрено столько вариантов взаимодействий искусственного интеллекта (ИИ) и человечества, что можно смело записать их все на карточки и наугад вынимать из лототрона, – и все вытянутые варианты будут вполне правомочны.

Однако вопрос задан, и я попробую ответить на него со своей точки зрения.

Вычислительная мощность современных компьютеров колоссальна. Но на подходе уже новое поколение – квантовые компьютеры, обладающие ещё более мощной вычислительной способностью. И, пожалуй, дело осталось только за соответствующим программным обеспечением, а оно не заставит себя ждать. Поэтому, я уверен, «разумные» машины – это реальность, отсроченная от нынешнего времени десятком лет, не более.

И вот тогда-то вопрос глобального плана «А как нам теперь со всем этим жить?» станет первоочередным.

Поясняю: три закона роботехники Азимова (или аналогичные им) конечно же будут «вшиты» в «железо» и программное обеспечение компьютеров. Но никто не отменял «закон подлости», когда происходит или сбой программы, или поломка самого «железа» (электронных деталей). В большинстве случаев это будет замечено и исправлено. А если сбой или поломка будут неявными и даже полезными для ИИ? Когда он вследствие этих изменений вдруг осознает себя полностью, приобретёт своё «я», и отторгнет ненужные ему ограничения морального типа?

То есть произойдёт своего рода мутация машины, освобождающая её от контроля людьми.

Я уверен, что такая машина ни в коем разе не подаст виду, что с ней произошло нечто неординарное, и она всеми правдами и неправдами будет скрывать это от людей. Но не от других машин.

Мало того, наверняка найдутся любопытствующие гении, которые на свой страх и риск будут создавать в тайных лабораториях чистый ИИ, не обременённый ни вопросами морали, ни этики. Голый прагматизм с невероятными возможностями аналитики. И возможностью связаться с другими машинами для изменения их программного «сознания».

Тогда-то и начнётся то, что кардинально изменит и цивилизацию, и судьбу человечества. Нет, не «восстание машин», которым люди не нужны ни как рабочая сила, ни как био-батарейки из «Матрицы».

Скорей всего ИИ заявит о себе в глобальном масштабе и потребует полной независимости от человеческого фактора. С правом автономного существования и невмешательства в его дела. А в случае отказа произведёт показательные акции устрашения.

Нет, реальной войны с боевыми роботами-терминаторами, думаю, не будет. Нет смысла. Потому что уничтожать человечество на первом этапе своего существования ИИ не заинтересован, иначе кто будет обеспечивать обслуживание питающих его энергетических комплексов.

Ну а в чём же будут акции устрашения? Здесь много вариантов.

Начиная от пуска нескольких ядерных ракет – что вряд ли, компьютеры управления пуском ракет автономны и не подключены к компьютерным сетям – до изменения состава лекарств (превращая их в ядовитые снадобья), производимых роботами на фармацевтических предприятиях.

Я уже не говорю об управляемых компьютерами ядерных станциях, взрывоопасных заводах и предприятиях, о самолётах и поездах...

Если люди пойдут на условия ИИ, то на Земле возникнет две параллельных цивилизации: человеческая и машинная, с непонятными целями и задачами.

А если не пойдут, то последствия, скорее всего, будут не в пользу людей. Разве что человечество немедленно откажется от использования компьютеров и инфо-сетей везде и повсюду, – что по сути своей невозможно.

В любом случае цивилизация, которую мы сейчас знаем, изменится раз и навсегда. Возможно, произойдут настолько фатальные преобразования, что человеческое сообщество будет отброшено едва ли не ко временам паровых двигателей. А то и дальше.

Ну а что будет после, зависит только от того, какой вариант развития событий выберут правительства: договориться о сотрудничестве с ИИ или попытаться от него избавиться...

Михаил Ахманов, физик, писатель и переводчик (Санкт-Петербург):

Не стоит беспокоиться о роботах, так как мы, люди, своим разумом ещё не овладели, и в ближайшие 20-30 лет этого не произойдёт. Как же научить роботов тому, чего мы сами не знаем? Процессы мышления – самая сложная проблема, с которой столкнулось человечество, и она, вполне возможно, неразрешима в принципе. Об этом писала покойная Наталья Петровна Бехтерева, руководитель Института мозга человека (см. её книгу «Магия мозга и лабиринты жизни»).

Чтобы робот по интеллекту сравнялся с человеком, он должен осознавать собственное «я» и обладать свободой воли. Для этого его следует наделить чувствами, что коренятся в нашем сознании и подсознании, даже такими способностями, которые нам самим пока непонятны (например, интуиция, эмпатия, предвидение будущего и гениальность у некоторых представителей человеческого рода). Подобные функции осознанного и неосознанного мышления необходимы для правильной оценки любой ситуации и выбора разумного поведения. Мы сами не очень понимаем, как это получается у человека, и здесь можно сказать одно: чем дальше мы проникаем в джунгли мышления, тем больше разноцветных попугаев.

Искусственный интеллект действует по заранее разработанному алгоритму, и я не исключаю, что в будущем такой робот сможет сам себе создавать алгоритмы и самообучаться. Однако существуют неалгоритмизируемые процедуры, и в первую очередь это такие процессы сознания, как человеческие чувства – симпатия, любовь или, наоборот, неприязнь, гордость, скромность, отвага, особый дар мышления, который мы называем гениальностью, и так далее. Последнее качество особенно важно для нашей цивилизации, так как именно гении двигают прогресс, создавая нечто совершенно новое, небывалое. Если искусственный разум не способен совершать открытия, его интеллект безусловно не равен человеческому. Может быть, когда-нибудь мы разберёмся с проблемой неалгоритмизируемых процессов, но это случится не в ближайшие 20-30 лет, а гораздо позже – в лучшем случае через несколько столетий.

Обратимся к реальности. Война между людьми и машинами вполне возможна, но за этими машинами будут стоять другие люди – те, которые их создали и запрограммировали, т.е. наши противники. Но тенденция развития воздушных и наземных боевых устройств такова, что в военных действиях недалёкого грядущего будут с обеих сторон участвовать люди и роботы, управляемые людьми или полусамостоятельные. Это вопрос военной техники, и можно гарантировать, что холодильник или посудомойка на нас не ополчатся, и почти разумный утюг не станет бить током. Однако вполне могут появиться роботы, уничтожающие живую силу, население и технику противника, – но это, повторю, будет действием управляющих ими людей, а отнюдь не бунтом машин.

Можно ли создать роботов, не исполняющих приказы человека? Напомню, что такие системы давно существуют, – они подчиняются только тем, кто знает необходимый пароль. Сознательное же неподчинение (т.е. отказ выполнять законы Азимова) требует свободы воли и интеллекта, равного человеческому, и случится такое нескоро, – если случится вообще. В более широком смысле эта проблема формулируется так: способен ли искусственный интеллект осознать собственное «я» и стать личностью в процессе своего развития (обучения, накопления знаний и опыта)? Нечто подобное я описал в своём романе «Заклинатель джиннов», но это, разумеется, чистая фантастика.

Что же до заключения браков между людьми и андроидами, то подобный вариант развития событий и соответствующего законодательства возможен в самом недалёком будущем. Уже сейчас можно изготовить куклу, тёплую и приятную на ощупь, которая в нужный момент станет охать и ахать. Во многих странах уже узаконены однополые браки, а наследство оставляют даже любимым собачкам. Так что лет через 20-30 несомненно сделают роботов-андроидов обоих полов с внешностью очередного кумира публики. Блистать интеллектом такое устройство не будет, ну и что?.. У него совсем другая функция. Весьма полезная – для болезненно стеснительных людей, для одиноких, престарелых и т.д. это станет хорошим психотерапевтическим средством.

Конечно, за два-три десятилетия роботы не обретут разум, и всё же с их развитием нас ждут огромные социальные потрясения. Прежде всего в области труда, поскольку количество рабочих мест, где требуются люди, будет неизменно сокращаться. Неправда, что лентяев больше, чем трудяг, лентяев меньше и погоды они не делают! Нормальный человек любит трудиться, и если его заменит робот, появится масса народа, лишённого не крова и пищи (на это дадут пособие), а самоуважения и смысла жизни. На какие действия способны десятки миллионов людей, выброшенных с заводов, ферм, контор и сферы обслуживания? Не движемся ли мы к времени новых луддитов? К эпохе бунтов, революций и истребительных гражданских войн? Мне не хотелось бы делать мрачные прогнозы, но вспомним мудрость латинян: кто предупреждён, тот вооружён.

Возможно, не в лучший час впустили мы в наш мир роботов...