?

Log in

No account? Create an account

Previous Entry | Next Entry

Мы биороботы

McDermott D. (2001) Mind and Mechanism

Книга посвящена обоснованию шокирующего тезиса, что люди являются биороботами. Мозг человека или животного - компьютер, причем не в метафорическом, а в самом буквальном смысле. То, что элементная база мозга состоит из нейронов, а не из транзисторов, не принципиально. Сознание - иллюзия, порождаемая необходимостью когнитивной системы моделировать себя саму. Свобода воли - иллюзия, порождаемая непредсказуемостью поведения такой сложной системы как человек, подверженной случайным воздействиям среды.

Нельзя сказать, что приводимые автором аргументы вполне убедительны, но альтернативных объяснений человеческой природы современная наука кажется не предлагает. Дуалистические объяснения освящены вековыми культурными традициями и могут звучать гораздо приятнее, но это еще не придает им научной доказательности. Души в мозгу не обнаружено, не найдено подходящей области, откуда бы велось потустороннее управление активностью нейронных сетей.

Во всяком случае, следует принять полностью материалистическую картину как правдоподобную гипотезу. Наиболее интересна последняя глава, в которой автор оговаривает следствия из такого положения дел. Если элементная база не важна, то разумные машины могут в полной мере обладать сознанием и являться субъектами морали. Симуляция сознания становится неотличимой от реального сознания. С другой стороны, сконструированный разум может быть лишен некоторых человеческими атрибутов, таких как юмор и эстетическое чувство. Стоит ли распространять человеческую мораль на существ без чувства юмора? Не переродится ли само человечество в подобных существ? С развитием технологии множество вопросов из разряда умозрительных курьезов переходит в область животрепещущих проблем.

И наконец, где в полностью материальном мире найдется место богу? Автор прямо заявляет, что не является ни атеистом, ни деистом. Материальный мир есть воплощение Бога, физические законы - Его манифестации, а Человек - Его частица, реализующая Его волю.

Comments

( 7 comments — Leave a comment )
spamsink
Nov. 1st, 2014 01:00 am (UTC)
Мораль - это иллюзия, порожденная необходимостью когнитивных систем взаимодействовать минимально деструктивным образом.

Аналогом морального функционирования в электронных системах будет, например, механизм когерентности кэша в многопроцессорной системе. Использовать кэшированные данные, не спрашивая у коллег, обновили ли они эти данные (cache snooping) — "аморально", поскольку хотя и более эффективно при работе в одиночку, в случае коллективной работы приведет к ошибке.

solomon2
Nov. 1st, 2014 01:03 am (UTC)
Нет, мораль это не иллюзия, это протокол эффективного функционирования.
spamsink
Nov. 1st, 2014 01:06 am (UTC)
В таком случае нет необходимости задаваться вопросом, будут ли разумные машины являться "субъектами морали", поскольку протокол, обеспечивающий (локально-)оптимальную эффективность функционирования, существует объективно. Как только сложность взаимодействия систем позволяет варьировать протоколы, и как только есть некоторая оценочная функция эффективности, "мораль" образуется автоматически-математически.
solomon2
Nov. 1st, 2014 01:10 am (UTC)
Протокол протоколу рознь. Вопрос в том, подлежат ли люди и разумные машины общим моральным правилам, или все-таки нужны существенно различные правила.
spamsink
Nov. 1st, 2014 02:02 am (UTC)
Строго говоря, общее подмножество правил даже у людей между разными популяциями невелико, и с математической точки зрения примерно эквивалентно по уровню банальности правилам типа "если хочешь максимизировать неотрицательное значение, не умножай его на ноль". Но, конечно, многое будет зависеть от конкретного популяционного механизма этих машин. Скажем, будь у человека не K-стратегия размножения, а r-стратегия, моральные правила, касающиеся детей, были бы существенно другими.
alexaggi
Nov. 1st, 2014 01:38 pm (UTC)
> Симуляция сознания становится неотличимой от реального сознания.

Очень меня веселят такие утверждения. Искусственная клетка становится неотличимой от естественной :), какой ужас. Джон Серль со своим (риторически ошибочным) построением "китайской комнаты" сильно мозги закомпостировал.
solomon2
Nov. 1st, 2014 02:35 pm (UTC)
Серль искал черную кошку в темной китайской комнате, но ее там нет: сознание есть симуляция, а симуляция симуляции - это такая же симуляция!
( 7 comments — Leave a comment )