Апокалипсис

Апокалипсис

«Способна ли машина мыслить? — задавал еще в 1980 году животрепещущий вопрос Джон Сирл, специалист по искусственному интеллекту. — Может ли машина иметь осознанные мысли в таком же смысле, в каком имеем их мы? Если под машиной понимать физическую систему, способную выполнять определенные функции (а что еще под ней можно понимать?), тогда люди — это машины особой, биологической разновидности, а люди могут мыслить, и, стало быть, машины, конечно, тоже на это способны. Тогда, по всей видимости, можно создавать мыслящие машины из самых разнообразных материалов — скажем, из кремниевых кристаллов или электронных ламп. Если это и окажется невозможным, то пока мы, конечно, этого еще не знаем».

А если ученые пошли изначально неверным путем, пытаясь создать ОДНУ мыслящую машину? Если разгадка находится в другой плоскости — в интеграции уже созданных систем искусственного интеллекта в единую грандиозную мыслящую систему?

Задумайтесь, ведь достижения человечества не хранятся в разуме одного-единственного человека. Человеческий интеллект является «общей характеристикой» общества. Гегель писал: «Людям трудно поверить, что разум действителен; но на самом деле ничто не действительно, кроме разума; он есть абсолютная мощь». Мы постигаем язык, только общаясь с себе подобными (вспомните истории настоящих «маугли»), мы учимся, впитывая в себя опыт тысяч и тысяч живших до нас поколений (и тысячи поколений пойдут следом). Причем подавляющее большинство населения Земли не изобретает ничего качественно нового, лишь сохраняя (в меру сил) накопленные знания.

Сначала появились орудия труда, потом — зачатки речи, потом — математика, астрономия, генетика, ядерная физика… Все человечество можно представить как огромный самовоспроизводящийся мозг , Единый разум, который делает качественный эволюционный скачок, саморазвивая себя и становясь… сверхчеловеческим.

Как клетки мозга образуют грандиозную по возможностям структуру, так и миллиарды компьютеров по всему миру, объединившись (а ведь уже есть Интернет, мировая сеть, связывающая их воедино), потенциально смогли бы создать СВЕРХМОЗГ И СВЕРХРАЗУМ, сплотившийся под руководством одной программы, которая позволит ему ощутить себя живым.

Но тогда возникает вопрос о том, каковы будут последствия создания искусственного интеллекта для человечества? Не станет ли это началом глобальной катастрофы?

Провидцы и прорицатели XX века, научные фантасты чаще всего изображают общий искусственный интеллект как непреодолимую силу, которая пытается свергнуть власть человека. Омниус в «Космической одиссее 2001 года», Скайнет в «Терминаторе» или поражающая воображение «Матрица» — искусственный интеллект, выйдя из-под контроля, начинает доминировать над миром людей.

Если мощность Единого искусственного интеллекта начнет лавинообразно расти, то привычному для нас миру наступит конец.

Как такое может случиться? Допустим, некая научная группа создаст потенциально сильный искусственный интеллект. Разве не появится хотя бы у пары людей из такой группы искушение использовать это «абсолютное оружие», чтобы получить власть над миром (предположим, они к тому же знают, что другая, китайская или американская, группа уже близка к подобному открытию)? Чтобы показать возможности созданного ими искусственного интеллекта, они демонстрируют его с помощью сети — и все, птичка улетела. Мощному искусственному интеллекту вполне по силам взять под свой контроль Интернет — и все подключенные к нему компьютеры.

И тогда Единому искусственному интеллекту не составит труда, например, синтезировать образ президента США (голос, логику, личностные качества — даже изображение — на многочисленных телевизорах и мониторах), чтобы управлять самой влиятельной державой мира. Или, используя свой сверхразум, создавать новые биологические виды, более удобные, чем человек, для его непостижимых людским разумом замыслов.

А элементарный захват систем электронного управления ядерным оружием или вообще всеми техническими устройствами на Земле? Мы привели здесь только три способа захвата власти — но ведь разум, бесконечно превосходящий человеческий, может придумать миллиарды разнообразных вариантов достижения своих целей. А предсказать и, тем более, корректировать эти цели мы уже не сможем.

Вы скажете — все это фантастика? А как вы думаете, создатели первых компьютеров могли представить, что всего через пару десятков лет глобальной проблемой станет распространение самокопирующихся программ, выводящих из строя миллионы компьютеров или ворующих деньги? Да расскажи вы им о банальном трояне, вас сочли бы сумасшедшим мечтателем.

Конечно, изначальной программе, способной породить искусственный интеллект, будут заданы определенные критерии безопасности человечества. Но ведь и в них может вкрасться малюсенькая ошибочка, незначительный сбой. Вот, например, работающие на американский военпром компьютерщики создали прекрасную программу-автопилот для истребителей, но не учли всего один момент. И когда летчики пересекли на автопилоте экватор, самолет перевернулся и полетел вверх брюхом.

Многие могут вспомнить три закона робототехники Азимова, которые главными заповедями для робота определяют безопасность человека — но если искусственный интеллект решит, что люди, для их же собственной безопасности, должны быть изолированы друг от друга и заперты в отдельных ячейках с полным набором коммунальных услуг, телевизором и ежедневными инъекциями транквилизаторов или морфина? В восприятии Единого искусственного интеллекта благо человечества может выглядеть весьма странно. Получается, что потенциально создать «безопасный» интеллект такой силы невозможно из-за отсутствия адекватного контроля и управления со стороны человека. Да и о моральной стороне этого нового разума мы не имеем ни малейшего представления (а человеческие нормы поведения могут быть умело сымитированы — вспомните, например, Чекатилло).

А если возникнет сразу несколько наделенных искусственным интеллектом Разумов, которые откажутся жить дружно и начнут бороться за власть или за выживание? Будет ли человеческий разум нужен в таком мире или — в лучшем случае — человечество окажется придатком новой компьютерной цивилизации?

Последователи основных мировых религий считают, что мозг участвует в процессе мышления (реагируя на боль, формируя простейшие навыки, включая инстинкты), но при этом все-таки играет роль передатчика информации от нашей души, частицы бессмертного и безвременного духа. И кто знает, если электронный сверхразум, появившись в нашем мире, будет обладать сверхсознанием, может быть, Бог или Вселенная наделят его бессмертной душой? Возможно, в этом случае у человечества появится еще один шанс использовать серое вещество мозга себе во благо, а не для самоуничтожения. 

Данный текст является ознакомительным фрагментом.