Довольно рано цифровое пространство стало восприниматься как поле демонстрации жизни. Это заметно даже на интуитивном повседневном опыте почти каждого пользователя. Мы используем коммуникационные сервисы, чтобы общаться с друзьями, приятелями, коллегами. Мы подгружаем огромное количество приложений, инструментов и сервисов, для того чтобы осуществлять повседневные или профессиональные практики: покупать билеты, путешествовать, планировать день.
В конечном итоге любой наш шаг в цифре – это демонстрация презумпции присутствия, жизни. Но, как заметили исследователи, и среди них Майкл Антфилд, цифра быстро стала пространством не только репрезентации жизни, но и репрезентации смерти. Понятно, что ни жизнь, ни смерть в цифре на самом деле не существуют как феномены, это всегда репрезентация.
Тем не менее вокруг существует много сервисов, которые работают как виртуальные кладбища. Условно похоронить там можно и знакомого, действительно умершего, и какую-нибудь известную личность, вокруг которой есть мистика, связанная со смертью. Есть виртуальные кладбища домашних животных, которые прекрасно работают для скорбящих хозяев собак, кошек, особенно в ситуации, когда офлайн подобные захоронения не очень легитимны.
Давайте посмотрим на феномен некролога. Мы его знаем, он достаточно классический. СМИ переносят в онлайн эту практику производства надгробных речей, но в блогах, социальных медиа, микроблогинговом пространстве люди делают то же самое. Достаточно умереть кому-нибудь в большой степени известному или даже в малых сообществах именитому, как появляются абсолютно интуитивные скорбящие высказывания, распространяющиеся синхронно вирусным образом. Социальные медиа превращаются на время в место поминок, поминовения и горевания.
Если мы посмотрим на социальные медиа более пристально, то увидим, что они не просто стареют – в этом обвиняют и Facebook, и Instagram, – но становятся кладбищами, пространством, где существуют мертвые, и их количество возрастает. И там же одновременно мы видим создаваемые мемориалы и прочие места горевания.
Если попытаться суммировать это пространство общения, которое всегда было привязано к чему-то связанному с жизнью, то оно часто оказывается коррелирующим с практиками прощания как минимум с мертвыми. Не стоит забывать, что существуют завещания, где передают цифровые данные, что существует репрезентация смерти в онлайн-играх. Смерть, как ни грустно, получила прописку в цифровом пространстве в полной мере.
Это никого специально не волновало до конца 2000-х годов, когда в медийном пространстве и одновременно научном поле появляется Майкл Массими, специалист в области человеко-машинного взаимодействия. Он задался вопросом, можно ли сделать цифровую среду центрированной на смерти. Не сделать все пространство пространством макабра, чтобы все было про смерть, а чтобы у людей было ощущение того, что цифра позволяет им горевать, скорбеть. Пространство, в которое можно перенести старые добрые ритуалы, дающие человеку или группе людей возможность терапевтировать себя. Пространство, в котором можно будет отыгрывать и прорабатывать смерть другого или даже планировать свою собственную. Задачей было придумать правила, регламенты или гайдлайн, который позволит дизайнерам, разработчикам и клиентами соответствующих приложений создавать локальные или глобальные механизмы, дающие человеку ощущение, что смерть для цифры – это феномен, с которым можно взаимодействовать.
Поскольку Массими – специалист по интерфейсам (он приложил руку к созданию корпоративного мессенджера Slack), в его задачу входил ответ на два вопроса. Прежде всего, это необходимость создания глобальных рекомендаций для любых разработчиков и ответ на этический вопрос, как перевести такое антропологическое и очень личное событие, как смерть, в систему знаков и символов, которую можно обработать с помощью машинной логики. То есть как объяснить машине, что такое смерть, чтобы она могла проработать функциональные решения, которыми смогут пользоваться люди, которые действительно хотят запрограммировать умирание, либо те, кто хочет скорбеть по умершему.
Второй вопрос был связан с тем, что существуют локальные традиции отношения к смерти. Мы прекрасно понимаем, что даже сейчас в разных культурах это отношение может сильно различаться. Это означает, что единый гайдлайн должен быть не просто этическим словарем, как правильно программировать смерть, а он должен быть гибким и работать на метауровне, то есть для всех культур.
Массими с 2008–2009 годов разрабатывал такие рекомендации. Его задачей было общаться с пользователями, пытаться работать с танатологами – людьми, изучающими смерть. В том числе Массими работал с представителями социальных и гуманитарных наук, которые работают в области digital death studies, то есть изучения того, что такое цифровая смерть. У сообщества гуманитариев возникло понимание того, что Массими делает. Несколько исследователей, в частности Пэм Брикс и Лиза Томас, решили описать, что такое танатосенситивная цифровая среда не с точки зрения веб-разработки, не с точки зрения того, как это будет описано с помощью языков программирования, а дать определение на уровне этики, на уровне социальных паттернов и фреймов.
Они сказали, что танатосенситивность – это последовательное движение в следующем направлении. Прежде всего, это создание логик курирования производства артефактов о себе, я-артефактов, которые позволят или будут позволять людям создавать какое-то корректное желаемое повествование, используемое в рамках памятования. То есть я сейчас должна иметь инструменты, сервисы и возможности, для того чтобы создавать автомемориал еще при жизни. Это может принимать разные формы.
Мы можем получать сервисы, которые позволяют вытаскивать весь наш пользовательский контент из всех социальных медиа. Мы можем получать инструменты, которые позволят создавать аналоги фотоальбомов или других альбомов, которые передаются по наследству и рассказывают о чем-то очень важном и ценном. Человек должен это уметь делать при жизни, если есть такое желание. Но это необязательно, производство автовоспоминаний не должно вступать в противоречие с политикой крупных цифровых компаний вроде Facebook или Twitter, которые обладают правом на удаление записей при дезактивации аккаунта после смерти.
Артефакты можно использовать, чтобы мемориальные нарративы создавались и вокруг человека. То есть не только я припоминаю себя и выстраиваю удивительную непротиворечивую или, наоборот, полную приключений картинку собственной жизни, но и меня надо припоминать. Это означает, что у сервисов, которые связаны с общением на уровне микрогрупп, должна быть возможность самостоятельно запоминать, припоминать, архивировать, отыгрывать воспоминания. Причем мы должны иметь в виду, что разные люди по-разному припоминаются, а значит, нужно придумать разные стратегии. Кто-то хочет скорбеть путем создания закрытых аккаунтов, которые ничего не могут делать, – аккаунтов-памятников. Кто-то хочет иметь возможность создать интерактивное кладбище. Кто-то может захотеть создать цифрового двойника.
Все эти практики могут быть использованы для animating the death, то есть для создания реминисценций, каким-то образом взаимодействующих с теми, кто остался на этой бренной земле, чтобы у людей была возможность общаться с умершим. Это скорее создание видимости общения. В ряде современных приложений вам предлагают еще прижизненно настроить отложенный постинг. Вы можете написать миллион статусов, которые будут опубликованы после вашей жизни с определенной последовательностью, и у ваших читателей будет ощущение, что вы с ними общаетесь. Правда, отложенный постинг редко предполагает, что аккаунт может ставить лайки или делать репосты, но ощущение, что человек присутствует в актуальной жизни, есть.
Мы знаем, что сейчас активно работают над созданием в той или иной степени самообучающихся чат-ботов. Есть несколько приложений на стадии бета-тестирования, которые еще больше развивают эти идеи и предлагают создавать настоящих виртуальных двойников. Они будут иметь вид цифрового аватара, полностью визуально повторяющего облик умершего, с которым можно будет общаться посредством технологий, похожих на Skype. То есть будет возможность позвонить по ту сторону нашего бренного и тленного мира и пообщаться с умершим родственником.
Из приведенных примеров уже понятно: то, что предложил Массими, работает. Разработчики и дизайнеры включились в создание специального блока коммуникационных сервисов, которые обрабатывают смерть. Но есть одна загвоздка.
Поскольку всегда, когда мы говорим о цифре, мы говорим о смерти не физической, а социальной, то и вопрос бессмертия тоже решается социальным образом. Вам предлагают вечно пролонгировать себя как общающегося субъекта. Но как только вы начинаете создавать вместо себя аккаунт, или чат-бота, или еще какую-то программу, которая будет действовать post mortem, после вашей смерти, вы передоверяете свое социальное присутствие цифровой вещи. Это не вы, живой человек, будете действовать – это будет действовать цифровая вещь. Примерно то же самое происходит при жизни, потому что ваш аккаунт не равен вам в офлайн-реальности.
Когда мы говорим о пространстве Facebook, это пространство цифровых вещей, а не людей. Но за этими цифровыми вещами стоят живые персонажи. И мы обычно, когда пишем условному Васе, понимаем, что аккаунт Васи – это не Вася, но за этим аккаунтом стоит тот же самый Василий Иванович, к которому мы обращаемся. В случае с существованием post mortem и такого рода танатосенситивностью мы передоверяем свою жизнь цифровым вещам. Это означает, что танатосенситивность цифровой системы – это выход за пределы антропоцентризма. То есть это разговор о том, что цифра может быть адекватной, чтобы говорить о смерти, только если вы в какой-то момент решите, что вы больше не люди, которые живут и умирают, а вещь. Смерть для нее – моральное устаревание или поломка. А в цифре есть undo, backup, все можно восстановить.
Если вернуться к Массими, надо сказать, что он все-таки создал эти рекомендации. Именно благодаря наличию этих рекомендаций мы действительно имеем эти сервисы и поворот от антропоцентризма к вещизму. Эти рекомендации интересны потому, что они фиксируют высокую степень развития продуктовой или отраслевой этики внутри компьютерных наук. Если их суммировать, то рекомендации такие: скорбь – это необязательно то, что сопровождает умирание. Во-первых, возможно, человек, который программирует свою смерть, или его родственники вовсе не захотят скорбеть, поэтому соответствующие коммуникативные сервисы необязательно должны погружать нас в уныние, тоску и горе.
Во-вторых, далеко не всегда люди хотят общаться, когда сталкиваются со смертью. Иногда вместо того, чтобы общаться, они хотят молчать, они хотят производить некоторый мутизм, поэтому, когда вы постоянно напоминаете о годовщинах смерти, как это происходит в любом сервисе, это может быть антитерапевтично. Они не хотят постоянных поминок, они не хотят вспоминать. Это надо учитывать, когда вы придумываете механики сервисов.
В-третьих, у сервисов должна быть возможность для разного сторителлинга – с помощью картинок, видео, с помощью аудиальных сообщений и мемориальных статусов. Этого должно быть много, потому что есть люди, имеющие по-разному активированные сенсорные системы, по-разному работающие аттракторы, и нужно удовлетворять их желания, потому что смерть – это то, что нужно терапевтировать.
В-четвертых, физическая смерть для цифры не так страшна, как социальная. Именно социальная смерть прекращает общение, поэтому как разработчики, как люди, работающие в рамках инжиниринга этой среды, вы должны об этом помнить. Для родственников самое страшное – тленность и бренность человека, потому что вместе с человеком умирает все, остаются только следы, в том числе цифровые. Для разработчиков все только начинается, и радость от этого нужно демонстрировать умеренно. Социальная жизнь, которая может продолжаться после жизни, должна быть построена на очень аккуратных и гибких интерфейсах, настраиваемых не только по умолчанию самими создателями сервисов, но и пользователями. Все должно быть не просто интерактивно, а очень партиципаторно.
Люди часто хотят общаться с мертвыми. Это может выглядеть несколько странно, если это не предусмотрено в культуре (например, за пределами практики ритуала поминок). Это может выглядеть как вечное возвращение, как что-то очень болезненное, но люди это делают. Отвечая на вопрос, общаетесь ли вы с мертвыми френдами в Facebook, люди говорят очень разное. Нельзя стигматизировать ни тех, кто отказывается от мертвых в своей цифровой жизни, ни тех, кто постоянно центрирован на этой теме. Нужно относиться с уважением и к той и к другой практике.
Танатосенситивность не просто центрированность на смерти, но представление о том, что жизнь и смерть – это взаимозависимые экзистенциальные понятия. И если мы попытаемся понять, как представить, репрезентировать, рассказать, описать образ смерти с помощью цифровых инструментов, может быть, мы поймем, что для человека жизнь в цифре.
После того, как друг Евгении Куйды, соучредителя российского стартапа искусственного интеллекта Luka, погиб в автокатастрофе, она обучила чатбот с нейронной сетью, чтобы с ним можно было поговорить, как с другом. Журналист и программист-любитель Джеймс Влахос предпринял более активный подход, сделав обширное интервью со своим неизлечимо больным отцом, чтобы создать впоследствии его цифровой клон, когда тот умрет.
Для тех из нас, у кого нет времени или опыта создавать собственный аватар с искусственным интеллектом, стартап Eternime, предлагает взять ваши сообщения в социальных сетях и переписки, а также вашу личную информацию для создания копии вас, которая сможет общаться с родственниками после вашей смерти. Сервис до сих пор работает в виде частной беты с несколькими людьми, но 40000 уже стоят в очереди, поэтому очевидно, что рынок есть.
На текущий момент трудно сказать, поможет ли взаимодействие с умершим человеком в преодолении скорби или же усугубит ее. Существуют опасения, что оно может не дать человеку «отпустить» или «двигаться дальше». Другие считают, что все это может сыграть полезную терапевтическую роль, напоминая людям о том, что только потому, что кто-то умер, не значит, что он ушел, и предоставляя им новый способ выражения и смирения с чувствами.
Хотя в настоящее время большинство рассматривают эти цифровые воскрешения как способ увековечить память о близких, есть также более амбициозные планы использовать эту технологию как способ сохранить совет и опыт. Проект Массачусетского технологического института под названием Augmented Eternity («Дополненная вечность») исследует, можем ли мы использовать ИИ, чтобы собрать чьи-либо цифровые следы и извлечь как их знания, так и элементы их личности.
Руководитель проекта Хоссейн Рахнама говорит, что уже работает с CEO, который захотел оставить после себя цифровой аватар, с которым могли бы советоваться будущие руководители, когда он умрет. И вам не обязательно ждать своей смерти – эксперты могли бы создавать виртуальных клонов самих себя, чтобы раздавать советы как можно большему числу людей. Вскоре эти клоны могли бы стать большим, чем просто чатботы. Голливуд уже начал тратить миллионы долларов на создание 3D-сканов своих самых ценных звезд, чтобы они могли оставаться активными за пределами могилы.
Привлекательность идеи сложно не заметить: представьте, что мы могли бы вернуть Стивена Хокинга или Тима Кука, чтобы их мудрость оставалась с нами. Что, если бы мы могли создать цифровой мозг, просто объединяя опыт и мудрость величайших мыслителей мира?
Впереди еще много препятствий, которые мешают нам создать действительно точную репрезентацию человека, просто собрав его цифровые останки. Первой проблемой остаются данные. Цифровые следи большинства людей только начали достигать значительных масштабов за последнее десятилетие или около того и охватывают относительно небольшой период их жизни. Может пройти много лет, прежде чем появится достаточно данных, чтобы создать нечто большее, чем просто поверхностное подражание кому-либо.
И это если предполагать, что данные, которые мы производим, действительно представляют, кто мы такие. Тщательно отретушированные фотографии в Instagram и аккуратные рабочие письма вряд ли отражают беспорядочные реалии жизни большинства людей.
Возможно, если идея просто состоит в том, чтобы создать хранилище чьего-то знания и опыта, то точное определение сущности характера было бы менее важным. Но тогда эти клоны были бы статичными. Настоящее люди постоянно учатся и меняются, но цифровой аватар – это снимок или скорее слепок характера и мнений в момент, когда они умерли. Неспособность адаптироваться, учитывая изменчивость мира, может сократить полезный срок существования этих реплик.
Все это не остановит людей, пытающихся создать цифровые версии себя. Рождается более важный вопрос: кто будет отвечать за нашу цифровую загробную жизнь? Сами мы, наши семьи или компании, которые хранят наши данные?
В большинстве стран законы по этой теме достаточно туманные. Компании вроде Google и Facebook имеют в своем распоряжении процессы, позволяющие вам выбирать, кто должен контролировать ваши учетные записи в случае смерти. Но если вы забыли это сделать, судьба ваших виртуальных останков будет решаться государственным законом, местным законом и техническими условиями предоставления услуг компании.
Это отсутствие регулирования может создать стимулы и возможности для недобросовестного поведения. Голос покойного человека может быть очень убедительным инструментом для эксплуатации, а цифровые реплики уважаемых экспертов могут стать мощным средством продвижения скрытой повестки.
Из этого следует, что существует необходимость создания четких и недвусмысленных правил. Ученые из Оксфордского университета недавно предложили этические принципы, по которым к вашим цифровым останкам будут относиться так же, как музеи и археологи рассматривают смертные останки – с достоинством, но в интересах общества. От этих принципов будет зависеть, станет ли цифровая загробная жизнь раем или адом.
Итак, цифровое бессмертие (англ. Digital immortality) – гипотетическая концепция технологии, позволяющей сохранять и передавать личность человека на более долговечных носителях информации, то есть компьютерах, и в будущем предоставлять виртуальной копии возможность общаться с людьми. На основе информации, полученной о человеке при жизни, копия личности должна иметь возможность вести себя, реагировать и мыслить тем же образом, что человек. Такой процесс сходен с резервным копированием.
Значительная часть сторонников трансгуманизма и сингуляриантсва возлагают большие надежды на то, что смогут достичь цифрового бессмертия к 2045 году в рамках «Инициативы 2045» путём создания одной или множества небиологических функциональных копий своего мозга, тем самым оставив свою «биологическую оболочку».
Информация должна описывать поведение и действия человека, соответственно, этому удовлетворяют множество источников: от историй переписок, дневников и фотографий до психологических тестов, аудио- и видеозаписей с участием человека. Реконструкция личности по сохранённой информации является обратной задачей моделирования мозга, требует огромной вычислительной мощности и технологии сильного искусственного интеллекта, что на данный момент недоступно. Поэтому реконструкция личности является гипотетической процедурой отдалённого будущего. Сейчас возможна только фрагментарная запись: вся информация, вроде электронных переписок может быть записана в логи, все телефонные разговоры могут быть записаны, вся информация, которую слышит, видит и говорит человек – может быть записана на носимые устройства аудио- и видеозахвата.
Станислав Лем упомянул об этом в главе VI «Диалогов» (изд. в 1957), описывая перспективы загрузки сознания на «мозговой протез». Были попытки реализовать подобные проекты и вывести их на рынок, в частности Cyber All Project от Microsoft Research и Terasem, важно отметить, что значительную часть собственно концепции цифрового бессмертия разработал Microsoft Research.
Идея цифрового бессмертия и связанная с ней концепция загрузки сознания содержит множество парадоксов. Так, если возможно создать точную копию сознания, то можно создать и несколько таких копий (как виртуальных, так и материальных), а также, как вариант, сохранить живой оригинал параллельно созданному. С материалистической точки зрения, сознание неотделимо от тела, а интерпретации подобные такой, как «одна и та же личность существует в нескольких местах пространства одновременно», отвергаются как абсурдные, и все копии признаются равнозначными на момент создания, развиваясь дальше каждая по своему пути, примерно, как близнецы. Согласно той же точке зрения перенос сознания невозможен, даже если оригинал уничтожается в ходе считывания, ибо в таком случае погибает материальный носитель сознания – мозг, то есть теоретически возможно только копирование (в любом количестве). Иногда похожая аргументация дополняется идеалистическими утверждениями, что одна и та же личность не может быть субъектом более одного жизненного опыта одновременно, поэтому и не может существовать в двух местах одновременно. Следовательно, нельзя создать даже одной копии сознания (копии с сохранением оригинала).
Некоторые философы считают, что концепция выгрузки и загрузки сознания основана на неверном учении о независимости личности от тела. Согласно точке зрения выраженной, например, Корлиссом Ламонтом, личность представляет собой жизнь, функцию или деятельность тела. Это – действующее тело, живущее тело; точнее, это – тело, действующее и живущее определённым способом, тесно связанным с головным мозгом и с остальной центральной нервной системой. По его мнению, личность может быть абстрагирована от человеческого тела не в большей степени, чем дыхание или пищеварение. То есть личность, таким образом, является качеством тела, а не независимо существующей вещью. Ламонт считает, что личность является таким же неотъемлемым качеством мозга, как красный цвет является неотъемлемым качеством красной розы.
Если рассматривать маргинальную гипотезу о квантовой природе сознания, то важным аргументом против возможности загрузки сознания является Теорема о запрете клонирования квантовой теории, говорящая о невозможности создания идеальной копии произвольного неизвестного состояния. С другой стороны, если квантовые процессы не очень существенны для человеческого сознания, то достаточно точности копирования квантовой информации состояния мозга, допустимой этой теоремой.
Также гипотеза о возможности «загрузки сознания» и цифрового бессмертия критикуется со стороны дуалистических теорий сознания, постулирующих существование нематериальной духовной субстанции – души, которую, как считают дуалисты, нельзя смоделировать или перенести на другой носитель.
Перспективы рисуются фантастически привлекательные. Например, скопированное на жесткий диск (или что там придумают в будущем?) «я» трудится на работе и совсем не устает – оно же компьютер! А настоящее «я» отдыхает, философствует, размышляет над интересными вопросами. Или еще одна идея – придать человеческому интеллекту, который во многих специальных вычислительных задачах и сейчас уступает компьютеру по быстродействию, сверхчеловеческие вычислительные возможности. Мы мыслим глубоко, как человек, и считаем быстро, как суперкомпьютер, – о таком можно только мечтать! Ну и наконец, главное – перенесение сознания из головы на сервер фактически дарует человеку бессмертие, если предположить, что этот сервер будет всегда находиться в рабочем состоянии. А может быть, это будет не сервер, а робот, который сохранит ощущения «я» того человека, сознание которого скопировано в электронный мозг андроида. Есть альтернативный вариант: с помощью нанороботов постепенно и безболезненно для человека заменить в его голове биологические элементы мыслительной машинерии на почти вечные наночипы, которые точно смоделируют работу своих недолговечных аналогов.
Реально ли кремниевое бессмертие? При всей привлекательности этой концепции есть множество ученых, скептически оценивающих ее реалистичность. Одно из препятствий связано с огромной материало- и энергоемкостью ныне существующих цифровых аналогов участков мозга. Мозг человека весит как обычный ноутбук при потребляемой мощности 20Вт. Проект Blue Brain включает в себя массив суперкомпьютеров, стоящих в огромном зале и пожирающих колоссальное количество энергии. По сегодняшним расчетам, полная компьютерная эмуляция мозга человека потребует по меньшей мере футбольного поля, заставленного суперкомпьютерами. Энтузиасты сингулярности возражают в ответ: мы уже видели на своем веку, как вычислительные возможности многоэтажных мэйнфреймов вдруг оказывались в распоряжении портативных устройств. Вот и в будущем – возможно, благодаря развитию квантовых компьютеров – нынешние футбольные поля с серверами сожмутся до карманных масштабов. И может быть, эти люди правы, но на пути к сингулярности есть препятствия и более фундаментального характера.
Мозг – живой, а потому он постоянно меняется и развивается, реагируя на ту или иную информацию, которую поставляют ему органы чувств. Причем реакция на одинаковую информацию всякий раз будет отличаться от предыдущей. Такую систему очень трудно «уловить» в статике, зафиксировать ее однозначное состояние. Кроме того, прежде чем переносить сознание из мозга живого человека в компьютер, управляющий роботом, надо для начала выяснить две вещи: во первых, что такое сознание, и во-вторых, каким же образом мозг кодирует информацию внутри себя.
Пока научные представления об этом сводятся к набору гипотез. В частности, сознание описывается как сочетание внимания и кратковременной памяти, но этого слишком мало, чтобы понять, способен ли робот ощущать свое «я». Попытки расшифровать нервный код, тот самый «софт», которым пользуется мозг, приносят определенные результаты: в частности, установлено, что в кодировании задействованы не просто электрические сигналы, но и разные значения их уровня, а также временные промежутки между ними. Однако до того момента, когда всю нашу богатую чувственную и интеллектуальную жизнь ученые смогут однозначно описать на языке нервного кода, а потом переложить этот код в бинарный цифровой, так далеко, что даже нельзя точно сказать, настанет ли когда-нибудь этот момент.
Но даже если идеал кремниевого бессмертия технически недостижим для ныне живущих поколений, есть более реалистичные варианты продления существования своего «я» во времени с помощью современных информационных технологий. Скажем, большинство из нас ничего не знает о своих предках, живших сто лет назад, если только они не были знаменитыми людьми своего времени. Память о жизни рядового человека живет недолго. Однако сейчас в сети появились проекты, предлагающие самым обычным людям создавать нечто вроде электронного архива своей жизни.
Такие сервисы, как, например, Lifenaut, приглашают пользователей создать свой компьютерный аватар и наполнять его «багаж знаний» любой информацией, имеющей отношение к личности. Это не только фото, видео, дневники, карты перемещений, но и данные о привычках, манерах, пристрастиях. Кто-то в подобных проектах сможет узреть еще один трюк с целью добычи персональных данных для рекламодателей, но их участники наверняка надеются на то, что когда-нибудь в далеком будущем их пра-пра-правнуки смогут почти в живую пообщаться с компьютерным двойником пращура. И это будет тоже что-то вроде бессмертия.
Если вы когда-нибудь играли в ролевые игры – будь то онлайн или старомодный двор – вы знаете, как легко привязаться к своему аватару, то есть вжиться в роль «казака-разбойника». Вы буквально чувствуете боль, когда персонажа бьет тролль, поджаривает дракон или убивает шаман. Американский социолог (и заядлый геймер) Уильям Симс Бейнбридж завел эти отношения еще дальше, создав виртуальные представления 17 почивших членов семьи. В эссе на тему онлайн-аватаров 2013 года он предвидит время, когда мы сможем загружать свою личность в искусственную разумную симуляцию нас самих, которая сможет действовать независимо от нас и даже останется после нашей смерти.
Какого рода ответственность мы сможем возложить на этих смоделированных людей? Хотя мы с подозрением относимся к жестоким компьютерным играм, никто всерьез не считает убийством подрыв виртуального нападающего. Однако уже не абсурдно воображать, что однажды смоделированные люди будут существовать, а также обладать в некоторой степени автономией и сознанием. Многие философы считают, что разум вроде нашего не обязательно должен храниться в сети нейронов нашего мозга, а мог бы существовать в разного рода материальных системах. Если они правы, нет никаких причин полагать, почему достаточно мощные компьютеры не могли бы хранить сознание в своих микросхемах.
Сегодня многие нравственные философы пытаются осмыслить этику изменения человеческого населения и задаются вопросами вроде этих: какова цена человеческой жизни? Какого рода жизнь мы должны стремиться сформировать? Сколько ценности мы должны вкладывать в человеческое разнообразие? Но когда речь заходит об этике обращения с моделируемыми сущностями, не совсем понятно, стоит ли нам опираться на те же логику и интуицию, которые мы применяем в нашем мире из плоти и крови. Глубоко в душе мы чувствуем неправильным убивать собаку или даже муху. Но будет ли отключение модели мозга мухи – или человека – убийством? Когда «жизнь» принимает новые цифровые формы, наш собственный опыт больше не может выступать надежным нравственным спутником.
|
