Александр Розов ([info]alex_rozoff) wrote,
@ 2007-02-08 05:17:00
Previous Entry  Add to memories!  Tell a Friend  Next Entry
Феноменология технологической сингулярности
Согласно представлению, принятому в футурологии: технологическая сингулярность (ТС) - это взрывное ускорение научно-технического прогресса, после которого дальнейший путь развития цивилизации невозможно предсказать, опираясь на человеческую социальную психологию, политологию, историю и гуманитарные представления.

Обычно ТС связывают с некоторыми конкретными событиями, прогнозируемыми ориентировочно между 2020 и 2030 годом:


1- реализация полнофункционального искусственного интеллекта, экземпляры которого будут связаны через глобальную сеть в нечто наподобие «мыслящего интернета»
2 - появление эффективного интерфейса, непосредственно связывающего нервную систему человека с системой ввода-вывода информации компьютера (директ-интерфейс).
3 - создание самовоспроизводящих роботизированных устройств, способных к автоселекции (аналогу высокоскоростной направленной эволюции).
4 - конструирование синтетического живого (квазибиологического) организма
(примечание: иногда п.3 и 4. объединяют в один, т.к. они по существу очень сходны).

Основным прогнозируемым следствием ТС считают возникновение т.н. «постчеловека», т.е. полностью или частично синтетического существа, которое будет представлять вторую (наряду с человеком вида Homo sapiens) разумную расу в составе нашей цивилизации.

Не оспаривая данного прогноза, я хочу заметить, что привязка ТС к каким-либо конкретным событиям, на мой взгляд, не вполне верна методически. По своей сути ТС это не какие-то конкретные новые технологии, а общее состояние технологического ансамбля.
Поясню вкратце, почему это состояние можно называть сингулярностью. В математике сингулярностью называется особая точка, в которой некоторая функция не вполне определима по значению аргумента (например, функция или ее производная стремится к бесконечности).
Если представлять технологическую вооруженность цивилизации функцией времени, то точка сингулярности означает, что скорость технологического развития (интенсивность прогресса) при приближении к моменту ТС стремиться к бесконечности, а в момент ТС понятие «скорость технологического развития» теряет смысл.

Что это означает практически?

Прежде всего – утрату возможности определять наличный научно-технический потенциал традиционными средствами сбора и анализа информации. Изменения будут происходить слишком быстро, так что за время, необходимое для сбора и анализа данных, результат анализа уже станет неактуальным. Так сегодня обзор по компьютерам и средствам программирования за 1987 год уже можно считать музейным экспонатом, как, впрочем, и выпущенные в 1987 году модели компьютеров вместе с их программным обеспечением.
В окрестностях ТС этот процесс будет занимать уже не 20 лет, а 2 года. Новые разработки в области High tech будут устаревать раньше, чем можно успеть наладить их серийное производство (сейчас нечто подобное происходит с программным обеспечением).

Экономическая логика, однако, требует: show must be go on. Если классические гибкие автоматизированные производства и технологии сбыта окажутся слишком медлительны, то их функции придется объединить в общее целое с системами автоматизированного проектирования. Затем потребуется объединение всего получившегося с системами автоматизации прикладных научных исследований.

Функции человеческого персонала оказываются сведенными к обслуживанию единого машинного комплекса, некой НТР-машины. Эта машина выполняет следующие функции:
1. На одном входе она потребляет фундаментальную научную информацию и различные промышленные полуфабрикаты.
2. На другом входе она собирает информацию о заказах на новые, еще не произведенные и даже еще не спроектированные, а только прогнозируемые товары High Tech.
3. На одном выходе она выдает прогнозы будущих товаров на основании анализа будущих возможностей и потока спроса.
4. На другом выходе она рассылает потребителям готовые изделия.
5. Внутренней функцией такой машины является разработка и реализация собственной модификации, замена своих внутренних устаревших технологий новыми, созданными самой этой машиной.

Еще ближе к точке ТС ситуация обостряется, поскольку автоматизации и присоединению к единому комплексу подвергается также значительная часть фундаментальных научных исследований (с одной стороны) и значительная часть персональных потребительских систем формирования заказов.
Складывается ситуация, когда:
1 - единственной интеллектуальной функцией работников фундаментальной науки становится формулировка новы идей в самом общем виде.
2 – единственной функцией участия потребителя в выборе товаров становится формулировка своих пожеланий – также в самом общем виде.

Посмотрим теперь на общую картину человеческого общества.

Потребители – получают товары, которые для них выбирает и заказывает «машина желаний». Машина также объясняет им, как этими товарами пользоваться, поскольку иначе потребитель не успеет этому научиться до того, как товар морально устареет.

Техники, инженеры, рабочие – обслуживают отдельные узлы машин, о работе которых знают только по инструкции, которую сами машины сочли нужным им выдать. Им даже не известно, что именно и с какой целью они обслуживают.

Интеллектуалы фундаментальной сферы генерируют идеи и сообщают их машине, при этом не представляя, что с этими идеями произойдет дальше. Они получают оценку своей деятельности от машины, причем принцип этой оценки им неизвестен.

Бизнесмены - пользуясь советами одной машины, выбирают другую машину, которая перераспределяет их инвестиции между линиями третьих машин производящих четвертые машины… Разумеется, никто не мешает бизнесмену пользоваться своей собственной интуицией, но это в данном случае то же, что пользоваться гадальными картами: ведь функции всех этих машин ему просто не известны.

Политики и чиновники – выполняют ту же функцию, что инженеры и техники: обслуживают некоторые узлы машины, которая собирает налоги, распределяет бюджетные средства, организует координацию с другими машинами, находящимися в частной собственности. Сказать, что эти политики управляют государством, будет, по меньшей мере, странно.

Но и это еще только окрестности сингулярности. Собственно точка сингулярности достигается, когда людям, для того, чтобы успеть за ходом событий, приходится использовать уже упоминавшиеся директ-интерфейсы. Это означает, что каждый социализированный хобитант постоянно подключен через свой персональный компьютер к интеллектуальному интернету, откуда постоянно передает и получает сообщения. Кроме того, он постоянно получает рекомендации самого разного рода. Он может не следовать этим рекомендациям – но вероятность, что он сам примет более удачное решение, чем компьютер, очень низка.
Как будет выглядеть психология такого человека, я не в состоянии описать, мне просто не с чем сравнивать. Аналогии вроде муравейника здесь не годятся, аналогии вроде суперкомпьютера с периферией из миллиардов людей – тоже не годится.
Пожалуй, ближе всего аналогия с большим роем мошек или с полем планктона – и то и другое представляет собой децентрализованную сеть с частично детерминированным поведением автономных однородных единиц, каждая из которых преследует собственные интересы, но при этом в силу общего потока информации, включена в глобальную картину общего регулярного поведения.

Особо стоит вопрос о том, как будет отличаться «информационно-психологический климат» внеземных колоний, которые по прогнозам, появятся почти одновременно с достижением точки технической сингулярности. Этот вопрос крайне интересен, но весьма объемен и требует отдельного доклада. Не менее интересен вопрос о семейной и сексуальной жизни в окрестностях точки сингулярности, но этот своеобразный и бесспорно эпатирующий вопрос я тоже оставлю для отдельного доклада.



(51 comments) - (Post a new comment)


[info]reader59
2007-03-04 11:39 am UTC (link)
Блестяще!
Одному удивляюсь - почему Вас так редко комментируют?
Или, дочитав, отваливаются от компьютера в полуобморочном состоянии, сраженные наповал мощью Вашего интеллекта? :)))))0

(Reply to this) (Thread)


[info]alex_rozoff
2007-03-05 02:12 am UTC (link)
Вы мне льстите.
А почему комментов мало - я и сам не знаю.
Может, потому, что большинство статей я дублирую в сообществе Карианство?

С уважением
Алекс Р.

(Reply to this) (Parent)(Thread)


[info]reader59
2007-03-05 03:19 am UTC (link)
Да их и в Карианстве не сильно больше.
Причина, в общем, понятна - после прочтения подобного материала 99% умных людей... хм... постесняются лезть со своими корявыми комментариями. Да и содержательно добавить что-либо сложно, уж больно все убийственно логично, и язык хорош. Опять же аллегории: "подросшая Тигра, забивающая охапку сена в пасть РПЦ" - ух...
А дурак просто не дочитает до конца, поскольку уже после пары абзацев поползет зализывать зияющие раны на своем комплексе неполноценности :)))
Так что - "аффтар, пиши исчо" :))))
Кстати, кроме ЖЖ где-нибудь в инете что-нибудь еще Ваше есть? Или в печатном виде7 Поделитесь ссылочками, плиз, не лишайте удовольствия...

(Reply to this) (Parent)(Thread)

Ну, кое-что есть на моей старой страничке
[info]alex_rozoff
2007-03-10 11:07 pm UTC (link)
http://zhurnal.lib.ru/r/rozow_a_a/
Сейчас уже там не пишу, ищу новый ресурс, поудобнее.

С уважением
Алекс Р.

(Reply to this) (Parent)


[info]slobin
2007-05-14 11:13 pm UTC (link)
По-моему, достаточно первого пункта. К тому, что будет реально происходить на планете и в окрестностях, мы (люди) просто не будем иметь отношения. Вполне возможно, что мы вообще ничего не заметим и будем жить как раньше. С точки зрения планктона, на земле последние сотни миллионов лет ничего существенного не произошло. А прямые интерфейсы -- это всё равно, что шить динозаврам тёплую одежду, чтобы они могли угнаться за млекопитающими.

... Curiouser and curiouser! ...

(Reply to this) (Thread)


[info]ua_omnius
2007-09-01 01:33 pm UTC (link)
Если бы динозавры умели шить тёплые одежды - они бы этим занялись.
Так что скорее всего будут и прямые интерфейсы, и ДНК-проектирование.
Люди всегда озабочены своим выживанием. И всегда среди людей есть те, что, пардон, ни в вагину ни в красную армию.

(Reply to this) (Parent)


[info]ympo8
2007-09-01 08:45 am UTC (link)
как вы считаете моэно ли рассматривать точки любой сингулярности как места возникновения новых вселенных, сложность которых будет не ниже исходной?

(Reply to this)


[info]ympo8
2007-09-01 09:00 am UTC (link)
и еще ... может ли произойти такая ситуация когда "созданный людьми" функционал после обретения самоосознания мозет прийти к убеждению что имеено он "создал людей" и что за этим может последовать?

(Reply to this) (Thread)


[info]ua_omnius
2007-09-01 01:35 pm UTC (link)
Может ли быть полностью эффективной система, опирающаяся на неверные факты?

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-03 07:52 am UTC (link)
а если эта система сочтет себя воплощением самоорганизации?) что в некоторой степени для неё будет позволительно. тогда у неё будут спорные для человека но идеально логичные для самой системы факты

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-03 11:14 am UTC (link)
Чем бы она себя не сочла - при наличии конкуренции, она всегда будет проигрывать со временем.

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-04 09:49 am UTC (link)
верно, но реальную конкуренцию ей смогут составить либо порождения других размумных расс, контакт с которыми может произойти завтра а может никогда, либо с её собственным порождением - тогда просто произойдет некий аналог смены богов

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-05 06:52 am UTC (link)
Либо несколько альтернативных разумных систем, созданных в других странах.
Столь важные проекты по типу разумной машины - никогда в единичном экземпляре не разрабатывались.

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-05 07:24 pm UTC (link)
согласен, но вариант намеренного изготовления ии я все-таки считаю менее вероятным чем спонтанное возникновение или перенос на искуственные носители человеческого сознания

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-06 07:43 am UTC (link)
Да нет. Технологии полностью искусственного ИИ вовсю используются в системах автоматического проектирования и в игровой индустрии. Так что я как раз вижу основания для намеренного изготовления. И нет - самоосознания не может быть, к сожалению. Современные компьютерные системы и сети не умеют делать ничего за рамками программ отдельных компонентов, да и не могут уметь.
Равно как и не вижу пока оснований надеятся на перенос.

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-06 07:17 pm UTC (link)
примитивыне устройства нейтростимуляции уже существуют так что до переноса край 20 лет. а что касается рамок и компонентов - речь о том что в ходе интеграции для урощения работы с данными тысячи различных программ могут заработать как единая с абсолютно новыми свойствами

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-06 09:56 pm UTC (link)
Может быть перенос и будет, но... Это тема отдельного разговора.
Тысячи разных программ не заработают как единое целое. Ваш компьютер - не единое целое, хотя и выглядит таковым. Каждое отдельное устройство имеет свой командный процессор. Сеть - тоже далеко не единое целое. Тут сам принцип таков, что только раздробленность. Для того, чтобы осознание могло произойти, нужно изменить сами архитектуры компьютеров, а это ТАКОЙ труд, что нужны крайне веские причины для его проделывания. Их пока нет. Ресурс текущей модели всё ещё не выработан.

(Reply to this) (Parent)(Thread)

(no subject) - [info]ympo8, 2007-09-06 10:47 pm UTC
(no subject) - [info]ua_omnius, 2007-09-06 11:16 pm UTC
(no subject) - [info]ympo8, 2007-09-07 12:04 am UTC
(no subject) - [info]ua_omnius, 2007-09-08 04:40 pm UTC
(no subject) - [info]ympo8, 2007-09-08 06:57 pm UTC
(no subject) - [info]ua_omnius, 2007-09-08 09:54 pm UTC
(no subject) - [info]ympo8, 2007-09-09 08:45 am UTC
(no subject) - [info]ua_omnius, 2007-09-09 10:37 am UTC
(no subject) - [info]ympo8, 2007-09-09 09:11 pm UTC
(no subject) - [info]ua_omnius, 2007-09-10 08:00 am UTC
(no subject) - [info]ympo8, 2007-09-10 02:35 pm UTC
(no subject) - [info]ua_omnius, 2007-09-10 09:13 pm UTC
(no subject) - [info]ympo8, 2007-09-11 11:00 am UTC
(no subject) - [info]ua_omnius, 2007-09-12 08:54 am UTC
(no subject) - [info]ua_omnius, 2007-09-12 08:56 am UTC
(no subject) - [info]ympo8, 2007-09-12 09:26 am UTC
(no subject) - [info]ua_omnius, 2007-09-13 06:27 am UTC
(no subject) - [info]ympo8, 2007-09-13 11:05 am UTC
(no subject) - [info]ua_omnius, 2007-09-15 09:48 am UTC
(no subject) - [info]ympo8, 2007-09-15 11:13 am UTC
(no subject) - [info]ympo8, 2007-09-12 09:24 am UTC
(no subject) - [info]ua_omnius, 2007-09-13 06:26 am UTC
(no subject) - [info]ympo8, 2007-09-13 11:04 am UTC
(no subject) - [info]ua_omnius, 2007-09-15 09:43 am UTC
(no subject) - [info]ympo8, 2007-09-15 11:15 am UTC

[info]ympo8
2007-09-10 02:47 pm UTC (link)
неффективных систем не существует, все зависит от направления эффективности
неверных фактов кстати тоже не существует

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-10 08:56 pm UTC (link)
Неэффективные системы есть. Человек - невероятно неэффективная система транспортировки грузов за океан. А потому он придумал корабли.

А система, которая строит свои заключения из неверных предпосылок обречена на неэффективное функционирование, и как последствие - провал в конкурентной борьбе. Направление эффективности у мыслящего существа одно - продолжать существование.

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-11 11:11 am UTC (link)
***. Человек - невероятно неэффективная система транспортировки грузов за океан. А потому он придумал корабли.***
но ведь человек как система транспортировки грузов за океан не существует, он часть системы траспортировки грузов за океан в которую входят корабли кораблестроители энергетики... человек не есть невероятно неэффективная система транспортировки грузов за океан :)) система транспортировки грузов за океан не является человеком, не совсем корректный на мой взгляд пример:)
***Направление эффективности у мыслящего существа одно - продолжать существование.***
их два:) увиличение числа себе подобных и расширение ареала обитания:) виртуальная среда (не обязательно в нынешнем виде) может являться средой обитания?)
p.s. переходите на эту ветвь а то там скоро станет неудобно читать:)

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-12 08:45 am UTC (link)
Quote:
но ведь человек как система транспортировки грузов за океан не существует, он часть системы траспортировки грузов за океан в которую входят корабли кораблестроители энергетики... человек не есть невероятно неэффективная система транспортировки грузов за океан :)) система транспортировки грузов за океан не является человеком, не совсем корректный на мой взгляд пример:)
Вы не поняли. Если человека нагрузить какой-нибудь ерундой и отправить переплывать море, он скорее всего утопнет. Потому как система транспортировки грузов не канает.

Quote:
их два:) увиличение числа себе подобных и расширение ареала обитания:) виртуальная среда (не обязательно в нынешнем виде) может являться средой обитания?)
Нет. Это у ЖИВЫХ есть такие цели. У мыслящего - только продолжать существование, если не задано обратное.

З.Ы. Я через почту отвечаю - это несравненно удобнее чем так.

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-12 09:23 am UTC (link)
***Нет. Это у ЖИВЫХ есть такие цели. У мыслящего - только продолжать существование, если не задано обратное***
для мыслящего аеалом обитания будет информация, значит вместо расширения ареала обитания ставим рост потребления информации

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-13 06:29 am UTC (link)
Quote:
для мыслящего аеалом обитания будет информация, значит вместо расширения ареала обитания ставим рост потребления информации
Не факт. Доказано обратное. Мой сосед - вроде мыслящее существо, но кроме водки его ничего не интересует. Всё что его роднит со мной в идеологическом плане - желание дожить до завтра.

(Reply to this) (Parent)(Thread)


[info]ympo8
2007-09-13 11:05 am UTC (link)
***Мой сосед - вроде мыслящее существо, но кроме водки его ничего не интересует. Всё что его роднит со мной в идеологическом плане - желание дожить до завтра.***
Водка это вирус, ваш сосед инфицирован (болен) а значит рост потребления информации будет происходить лишь для развития этого вируса.

(Reply to this) (Parent)(Thread)


[info]ua_omnius
2007-09-15 09:51 am UTC (link)
Но мышление не выключает.

(Reply to this) (Parent)(Thread)

(no subject) - [info]ympo8, 2007-09-15 11:14 am UTC

(51 comments) - (Post a new comment)

Create an Account
Forgot your login or password?
Login w/ OpenID
English • Español • Deutsch • Русский…