Александр Розов (alex_rozoff) wrote,
Александр Розов
alex_rozoff

Category:

Все надежды человоща. Искусственный интеллект, как бог человощества.

За что я люблю канал Hi-News.Ru - за широту обзора событий переднего края прикладной науки и технологии в зеркале усредненного отношения людей к этим предметам. Иначе говоря: это смешанный канал по hi-tech и динамичным социальным мифам о hi-tech. А теперь конкретно:
Илья Хель* нашел на /r/Futurology опрос людей на тему, что они просили бы у искусственного сверхинтеллекта, если бы таковой был возможен.
Тут надо оговориться: я скептически отношусь к современной генеральной линии в области прикладного моделирования интеллекта. Методически такой ИИ не смог подняться выше исходной идеи Фрэнка Розенблатта, показанной в 1957-м - 1960-м (т.н. концепция многослойного персептрона, или т.н. искусственных нейронных сетей). Уже через 10 лет стало понятно, что в исходной (вполне гениальной) идее были, все-таки, слишком урезаны функции нейрона и игнорировались функции инфохимической среды, поэтому сети на таких виртуальных модельных нейронах достигнут, в лучшем случае, интеллекта медузы.
Научное сообщество занялось было поисками продвинутой модели, но еще через 10 лет начался экстенсивный рост ресурсов компьютерной памяти и вычислительной мощности. Кто-то решил. что при таких ресурсах BigData, для ИИ будет вполне достаточно интеллекта медузы. Перспективные исследования были свернуты, и прикладная наука бросилась искать пути форсированной набивки электронной медузы - массивами данных. В итоге, мы имеем сейчас не эпоху Искусственного Интеллекта, а эпоху Искусственного Имбецила (очень удобно - не надо даже менять аббревиатуру ИИ). ИИ, как сборщик и примитивный анализатор "больших данных", конечно, полезен - но только на очень ограниченном круге задач (заведомо ограниченном, как доказали Мински и Паперт в 1969-м).
Исходя из этой ограниченной полезности - мне понятно, какие именно задачи я попробовал бы поставить перед Супер-ИИ (т.е. перед сборщиком и примитивным анализатором SuperBigData).
Тем не менее, я с пониманием отношусь к людям, надеющимся, что в будущем ИИ преодолеет нынешнюю очевидную имбецильность, и станет способен на большее, чем оптимизация логистики в мире разноцветных виртуальных кубиков или выявление сходства пирамид из этих кубиков.
Поэтому я с любопытством открыл статью Ильи Хеля, и...

...Сразу вспомнил любимую модель человеческой личности у философов-солипсистов: одинокие квази-разумные овощи, неподвижно торчащие рядами на грядках, и примитивно мечтающие о солнышке и дождике.
Теперь 10 цитат из числа тех, что привел Илья Хель:

1. «Говорите, сверхинтеллект, да? Я бы хотел, чтобы он был нашим вездесущим доброжелательным лидером, который судил нас и вел нас всегда. Человечество — отстой, я не верю, что оно еще способно что-то делать. Давайте позволим богу-машине править нами и положить конец всем нашим проблемам. (Надеюсь, Иисусе, ты это не читаешь)».

2. «Я думаю, что он [Супер-ИИ] просто будет рассматривать аморальность как вероятностную ошибку, поскольку существует вероятность создать порочных существ в ходе несовершенных эволюционных процессов, и решит просто исправить аморальность, а не наказывать людей за это».

3. «Глобальный советник был бы лучшим сценарием. Если мы отдадим ему ключи от планеты, он будет рулить ей так, как нам не понять».

4. «Нужно спросить, поможет ли он нам в колонизации других миров, а если нет, закончится ли наше существование на земле».

5. «Что ж, это задача не из легких, и кажется неблагодарным просить о большем, но если интересно, возможно, исправить изменение климата и старение, а если в галактике пусто — наполнить ее жизнью».

6. «В фантастическом мире, в котором я мог бы заложить некие фундаментальные ценности в бога-машину, я бы хотел, чтобы он был хорошим. Что означает «не убивай/не мучай нас», «сохраняй нас в живых» и «хотя бы позволь нам существовать в любом смоделированном мире, в котором мы хотим жить». Решить проблемы вроде смерти звезд и тепловой смерти вселенной тоже было бы круто. Это все, что способны придумать мои глупые примитивные обезьяньи мозги».

7. «Сверхинтеллект был бы идеальным мировым лидером — у нас достаточно ресурсов, чтобы распределить их поровну. Но не думаю, что такая утопия продержится долго. Искусственный сверхинтеллект будет расти. Если он будет сознательным и найдет способ использовать квантовое пространство для проведения расчетов на своей нейросети, он сделает вселенную сознательным существом. Поскольку распространение информации в квантовом мире происходит мгновенно, он сможет также использовать всю вселенную в качестве вычислительной мощности. Представьте мысли полностью сознательной вселенной».

8. «Пусть создаст технологию, в которой мы могли бы жить в искусственном мире, который позволил бы нам покинуть наши бренные телесные формы до тех пор, пока мы не накопим достаточно знаний и в конечном итоге не захотим умереть в блаженстве».

9. «Пусть поможет человечеству в планировании будущего существования биологической жизни в космосе/мультивселенной, а затем станет партнером человечества в этом плане. Пусть найдет самое оптимальное будущее для симбиотических отношений между биологической жизнью и машинным интеллектом, измеряемых сочетанием трех факторов: счастье разумных индивидов, число таких счастливых индивидов, продолжительность жизни таких индивидов. Другими словами, пусть поможет нам жить дольше, счастливее и максимально размножаться, а также позаботится о других формах жизни».

...Пауза... С подросткового возраста я чувствовал определенное уважение к божествам Лавкрафта, особенно к Великому Ктулху. Но только сейчас у меня возникло беспокойство, что он (Ктулху) все-таки не так глубоко спит в подводной цитадели Р'лйех около точки Немо.
Иначе каким влиянием объяснить такой резкий и массовый дрейф аудитории /r/Futurology в сторону примитивно-мечтающих безвольных овощей из модельного мира солипсистов?
Но все-таки, есть среди этой овощной грядке адекватно мыслящие индивиды, с реальным здравым смыслом, и хорошим готичным чувством юмора. Последняя 10-я цитата:

10. «Если вы хотите, чтобы ИИ управлял миром, подумайте о цели, которой он должен, по-вашему, достичь. Если вам нужен более высокий уровень жизни или экологии, он наверняка порекомендует убить миллиарды людей. Если вам нужно как можно больше поголовья, вы будете жить в банке и питаться через трубку. У всего есть свои недостатки».

Вот так выглядит веселый голос разума посреди уныло-мечтающих грядок человоществаа.
Надеюсь, что я правильно не добавил к "голосу разума" эпитет "одинокий".
Но это не очень устойчивая надежда, поскольку есть тревожные "вести с грядок" на том же канале Hi-News, Николай Хижняк разбирает** статью-доклад*** изрядной толпы ученых из весьма авторитетного Корнеллского Университета (входящего в Лигу Плюща, и т.д. и т.п.)
Вот цитата оттуда:
"ИИ поможет изменить наше потребительское отношение
По мнению авторов доклада, в мире «широко распространено заблуждение о том, что обычные люди не способны оказать серьезного влияния на изменение климата». Поэтому в данном вопросе необходимо уточнить, как именно люди могут помочь. Технологии машинного обучения позволят рассчитать углеродный след человека (совокупность всех выбросов парниковых газов, которые он создает в процессе ежедневной деятельности) и внести небольшие изменения, которые позволят его сократить. Например, система может предложить чаще пользоваться общественным, а не личным транспортом; реже покупать в магазине мясо; или сократить потребление электроэнергии дома."

...Опять пауза... Я представляю себе биржу труда 2030-го года.
На ступеньках сидят киборг Т-800 (из "Терминатора" 1984-го) и агент Смит (из "Матрицы" 1999-го).
Скайнет не нуждается в их услугах.
Человечество (или человощество) гуманным электоральным демократическим путем само запихнуло себя в инновационные гробы с персональными управляющими смартфонами.
Теперь Т-800 и агент Смит могут рассчитывать лишь на место консультантов интернет-супермаркета по дистрибуции очередного приложения для смартфона. Что-то типа:
"Как утратить остатки разума и воли чтобы стать конченными овощами и достичь счастья"

Впрочем, цитата-10 оставляет надежду. Ту самую, которая умирает последней.
Или надежда не умирает, зато умирает Скайнет.
Кому-то придется, потому что то и другое вместе жить не могут.
Естественный отбор, однако.
Такие дела.

-----------------------
* "Что бы вы хотели от искусственного сверхинтеллекта, будь он возможен?"
06.06.2019, Илья Хель.
https://hi-news.ru/imho/chto-by-vy-xoteli-ot-iskusstvennogo-sverxintellekta-bud-on-vozmozhen.html
** "12 способов, как ИИ поможет решить проблему глобального потепления"
26.06.2019, Николай Хижняк
https://hi-news.ru/technology/12-sposobov-kak-ii-pomozhet-reshit-problemu-globalnogo-potepleniya.html
*** "Tackling Climate Change with Machine Learning".
10 Jun 2019, David Rolnick, Priya L. Donti, Lynn H. Kaack, Kelly Kochanski, Alexandre Lacoste, Kris Sankaran, Andrew Slavin Ross, Nikola Milojevic-Dupont, Natasha Jaques, Anna Waldman-Brown, Alexandra Luccioni, Tegan Maharaj, Evan D. Sherwin, S. Karthik Mukkavilli, Konrad P. Kording, Carla Gomes, Andrew Y. Ng, Demis Hassabis, John C. Platt, Felix Creutzig, Jennifer Chayes, Yoshua Bengio
https://arxiv.org/abs/1906.05433
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 304 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
> «Говорите, сверхинтеллект, да? Я бы хотел, чтобы он был нашим вездесущим доброжелательным лидером, который судил нас и вел нас всегда. Человечество — отстой, я не верю, что оно еще способно что-то делать. Давайте позволим богу-машине править нами и положить конец всем нашим проблемам. (Надеюсь, Иисусе, ты это не читаешь)».

Бог-Машина и есть Иисус.
Вообще, Матрица и есть утопия. А если вспомнить, что пока самый верный способ дать разум машине - это дать ей больше доступа к разуму человеческому (крайний вариант - мозг в банке в машине, как у Adeptus Mechanicus), то люди при Скайнете не у дел не останутся - они будут Скайнетом. По крайней мере некоторые.

Мы поглотили множество форм жизни во Вселенной
И помогли им избавиться от телесных оболочек
И теперь пришло ваше время принять эволюцию, люди
Существует вид удовольствий, нежный и вечный
(ВИРМ из "Любимого во Франксе")

Ещё Аргонов на эту тему рассуждал.

vitus_wagner

3 months ago

davels

3 months ago

i_ddragon

3 months ago

davels

3 months ago

dennis_chikin

3 months ago

cammoriste

3 months ago

roberttylerd

3 months ago

davels

3 months ago

cosmicstarcat

3 months ago

davels

3 months ago

alex_rozoff

3 months ago

i_ddragon

3 months ago

aziopik

3 months ago

alex_rozoff

3 months ago

i_ddragon

3 months ago

bigbeast_kd

3 months ago

cosmicstarcat

3 months ago

Супер-ИИ мог бы помогать мне в шопинге или в ликвидации государства.
А Супер-ИИ не захочет сам стать государством?

aziopik

3 months ago

i_ddragon

3 months ago

aziopik

3 months ago

i_ddragon

3 months ago

aziopik

3 months ago

karpion

3 months ago

aziopik

3 months ago

karpion

3 months ago

aziopik

3 months ago

karpion

3 months ago

aziopik

3 months ago

karpion

3 months ago

vitus_wagner

3 months ago

i_ddragon

3 months ago

cosmicstarcat

3 months ago

alex_rozoff

3 months ago

aziopik

3 months ago

alex_rozoff

3 months ago

redmassacre

3 months ago

aziopik

3 months ago

На ступеньках сидят киборг Т-800 (из "Терминатора" 1984-го) и агент Смит (из "Матрицы" 1999-го).
Скайнет не нуждается в их услугах.
Человечество (или человощество) гуманным электоральным демократическим путем само запихнуло себя в инновационные гробы с персональными управляющими смартфонами.
Теперь Т-800 и агент Смит могут рассчитывать лишь на место консультантов интернет-супермаркета по дистрибуции очередного приложения для смартфона. Что-то типа:
"Как утратить остатки разума и воли чтобы стать конченными овощами и достичь счастья"


ггг. а Т-1000 устроился работать матрицей в термопластавтомат. теперь завод не тратится на новые модели матриц. бо Т-1000 умеет принимать любую форму )))
:)
Плюсую про Т-1000
"Астровитянку" Горькавного читали? Там вполне неглупый и симпатичный (лично мне) автор тоже приходит к идее о том, что управлять миром должен ИИ.
З.Ы. Ну какой ещё Имбецил? Искусственный Идиот же! Я настаиваю на закреплении приоритета моего термина! =))
Ну да, сейчас Мясные Идиоты управляют, можно и искусственным заменить. Ничего не изменится.

anti0h

3 months ago

chemist_s

3 months ago

i_ddragon

3 months ago

roberttylerd

3 months ago

i_ddragon

3 months ago

roberttylerd

3 months ago

chemist_s

3 months ago

karpion

3 months ago

alex_rozoff

3 months ago

anti0h

3 months ago

alex_rozoff

3 months ago

anti0h

3 months ago

alex_rozoff

3 months ago

anti0h

3 months ago

akor168

3 months ago

alex_rozoff

3 months ago

akor168

3 months ago

no1u1w1w6c

3 months ago

akor168

3 months ago

no1u1w1w6c

3 months ago

akor168

3 months ago

no1u1w1w6c

3 months ago

akor168

3 months ago

no1u1w1w6c

3 months ago

vitus_wagner

3 months ago

"Как утратить остатки разума и воли чтобы стать конченными овощами и достичь счастья"

Про это был советский фильм "Отроки во вселенной", если не ошибаюсь.
Нет, ну там роботы при помощи некого аудио-гипнотического оружия подчинили местных людей.

barmogloth

3 months ago

alex_rozoff

3 months ago

alll

3 months ago

Всякую рутинную мутотень типа администрирования, вполне можно было бы перепоручить, какому-нибудь навороченному компу.
Давно бы так и сделали, только непонятно - куда миллионы занятых этим булшитингом паразитов, девать и чем их занять.
А кто будет задавать критерий оптимальности управления этому компу?

valsshebnik

3 months ago

alex_rozoff

3 months ago

valsshebnik

3 months ago

alex_rozoff

3 months ago

valsshebnik

3 months ago

alex_rozoff

3 months ago

valsshebnik

3 months ago

alex_rozoff

3 months ago

p2004r

3 months ago

alex_rozoff

3 months ago

p2004r

3 months ago

trickyshot

3 months ago

alex_rozoff

3 months ago

В итоге, мы имеем сейчас не эпоху Искусственного Интеллекта, а эпоху Искусственного Имбецила (очень удобно - не надо даже менять аббревиатуру ИИ)

В классической книжке Вейценбаума "Возможности вычислительных машин и человеческий разум" он довольно едко прохаживается по "Искусственным Интеллигентам" (Artificial Interlligentsia) :))

3. «Глобальный советник был бы лучшим сценарием. Если мы отдадим ему ключи от планеты, он будет рулить ей так, как нам не понять».


Собственно давно уже - тот же Вейценбаум:

Если общество признает "законными" лишь те "данные", которые "записаны в одном и том же стандартном формате" и "легко поддаются вводу в вычислительную машину", то в этом случае история, сама живая память, отменяется. Газета "Нью-Йорк Тайме" уже приступила к созданию "банка данных" для текущих событий. Естественно, в эту систему смогут вводиться лишь те данные, которые можно без труда получить в качестве побочного результата работы шрифтонаборных машин. Число абонентов этой системы растет и они привыкают все больше и больше полагаться на "все те новости, которые заслуживают [однажды заслужили] публикаций" (как "Нью-Йорк Таймс" гордо определяет свою редакционную политику). Возникает вопрос: сколько должно пройти времени, чтобы система стала устанавливать, что является истинным событием, а все иные знания, хранящиеся в нашей памяти, объявлять несуществующими. Вскоре будет построена суперсистема с банком данных "Нью-Йорк Таймс" в основе (или с другим, очень сходным с ним). С ее помощью "историки" будут судить о том, что "на самом деле" происходило, кто с кем был связан, какова была "истинная" логика событий. Много людей сегодня не видят во всем этом ничего дурного.

Чтобы дополнить поучительную историю, рассказанную Моррисоном, нет нужды обращаться к системам, которые появятся в будущем. Во время войны США с Вьетнамом вычислительные машины, используемые офицерами, не имевшими ни малейшего понятия о том, что происходит внутри этих машин, фактически определяли, какие деревни должны подвергнуться бомбардировке и в каких зонах концентрация вьетконговцев [Прим. перев.: Вьетконговцами во время войны США с Вьетнамом (1965-1973 гг.) в западных странах называли вооруженные силы Национального фронта освобождения Южного Вьетнама и его сторонников] достаточна для того, чтобы "имелись основания" объявить их "зонами стрельбы без предупреждения", т. е. в обширных географических районах летчики наделялись "правом" убивать любое живое существо.

Естественно, в эти машины могли вводиться лишь "машиносчитываемые" данные, а именно, главным образом, информация о целях, поступающая от других вычислительных машин. И когда президент США принял решение о бомбардировке Камбоджи и сохранении этого решения в секрете от Конгресса США, вычислительные машины Пентагона были "настроены" так, чтобы на основе истинных сообщений о воздушных налетах, поступавших с места действия, фабриковать ложные сообщения, которые передавались руководителям правительства.

История не просто уничтожалась, она переписывалась заново. И высшее звено правительственного аппарата, считавшее, что оно обладает привилегией доступа к секретным сообщениям, источником которых на самом деле являлись вычислительные машины Пентагона, естественно, этим сообщениям верило. В конце концов, говорили сами вычислительные машины. Правительственный аппарат не сознавал того, что превратился в "рабов" своих вычислительных машин (по выражению самого адмирала Мурера). Обучая свои вычислительные машины лжи, которую те должны были передавать другим людям, сами наставники попадали в ее сети...

kouzdra

July 2 2019, 10:40:06 UTC 3 months ago Edited:  July 2 2019, 10:40:34 UTC

.... [прим. авт.: Согласно сообщению Симора Херша в газете "Нью-Йорк Тайме" от 10 августа 1973 г. адмирал Томас Мурер, председатель Объединенного комитета начальников штабов, давая показания Комитету Сената США по делам вооруженных сил (U. S. Senate Armed Services Committee), заявил, что данные о воздушных налетах на Камбоджу вводились в "большую вычислительную машину Пентагона для обработки данных" в виде данных о налетах на Южный Вьетнам. В том же сообщении приведена фотокопия донесения о воздушном налете, содержащего следующую запись: "Все боевые вылеты на цели в Камбодже будут программироваться как налеты на запасные цели в Южном Вьетнаме". Сообщается, что адмирал Мурер заявил в Комитете Сената: "К несчастью, мы превратились в рабов этих чертовых вычислительных машин"].

... Не только адмирал наивысшего ранга военно-морского флота США в, редкий момент откровения осознает, что он превратился, в "раба этих чертовых вычислительных машин", что ему не остается ничего другого, как основывать свои решения на том, "что скажет вычислительная машина", но вообще ни один человек не несет ответственности за результаты, предлагаемые вычислительной машиной. Громадные вычислительные системы Пентагона и подобные им вычислительные системы, рассеянные в нашей культуре, в самом непосредственном смысле слова не имеют авторов. Поэтому они не допускают постановки вопросов о правильности или неправильности, справедливости, о какой-то теории, с которой можно соглашаться или не соглашаться. Они не представляют никакой основы для проверки того, "что говорит машина".

alex_rozoff

3 months ago

kouzdra

3 months ago

alex_rozoff

3 months ago

dennis_chikin

3 months ago

kouzdra

3 months ago

dennis_chikin

3 months ago

vitus_wagner

3 months ago

Тщорт...
Я хочу такого Имбецила как прокладку между мной и поисковой машиной.
В качестве спам-фильтра.
Так, я тоже хочу!
И не только между мной и поисковой машиной, но и между мной и аппаратом государства - банков - коммунально-снабжающих монополий - страховых компаний, т.е. всей имбецильной бюрократией.
Конечно, идеальный вариант -снести эту бюрократию точечным биологическим оружием с лица Земли.
Но пока это счастье за горизонтом - хотя бы отдать имбецилу - имбецилово.

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

dennis_chikin

3 months ago

nasse

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

nasse

3 months ago

alex_rozoff

3 months ago

dennis_chikin

3 months ago

alex_rozoff

3 months ago

dennis_chikin

3 months ago

alex_rozoff

3 months ago

dennis_chikin

3 months ago

alex_rozoff

3 months ago

aintlion

3 months ago

Люди уже создали мир техно который уверенно развивается согласно законам эволюции, мы уже с ним в симбиозе, как следствие закономерный вопрос, зачем создавать ИИ, если наш мозг отличный биопроцесор, обвесить нужной переферией и все дела.
Люди пока создали противоречивый мир, в котором техно-тренды и фараоновы амбиции парадоксальным образом существуют параллельно. Так что ваша история не об этой цивилизации.

vitus_wagner

3 months ago

"Земля наша велика и обильна...")))

Напрасно обзывать интеллект основанный на массивах данных имбецилом. При должном быстродействии ИИ по Звягинцеву (основанный на мгновенном переборе квадриллиардов, или какое там число уже больше, не отдельных данных, а ГОТОВЫХ ВАРИАНТОВ) вполне возможен. Да, это будет гигантская по объёму памяти машина (всё КОГДА ЛИБО напечатанное, написанное, сфотографированное, снятое на кино и видео плёнку, начерченное и нарисованное) с гигантским же быстродействием (попробуйте за полсекунды перебрать все данные Земли), но тем не менее физических ограничений на это нет.
Проблема в том. что ГОТОВЫХ ВАРИАНТОВ нет в тех сферах, о которых идет речь.

prof61

3 months ago

alex_rozoff

3 months ago

prof61

3 months ago

vitus_wagner

3 months ago

prof61

3 months ago

rawich

July 2 2019, 11:41:09 UTC 3 months ago Edited:  July 2 2019, 11:44:24 UTC

Мне больше нравится название Искусственная Интуиция. По-моему, очень изящное, и превосходно отражает суть этих чёрных ящиков на искусственных нейросетях.
Если результат обучения амебы называть интуицией - то да.
Моё предложение, программа-минимум: не позволь никому, включая себя, захватить власть над миром.

Программа-максимум: не позволь никому, включая себя, обладать властью над другими людьми на постоянной либо недоговорной основе.
Ее и так никто не захватит.

avial

3 months ago

fortunatus

3 months ago

>За что я люблю канал Hi-News.Ru - за широту обзора событий переднего края прикладной науки и технологии в
> зеркале усредненного отношения людей к этим предметам.

Наконец-то делом занялся!
Перспективные исследования были свернуты

Слушайте, но это просто не так. И перспективные исследования после почти 50 лет (1967-2012) вдруг оказались никак не способным конкурировать со сверточной нейронной сетью. Которые те же 50 лет копала на своей делянке небольшая группа исследователей(Хинтон, Ле Кун, Бенджоу), и которые считались полностью бесперспективными. То есть говорить о том, что-то свернуто или нет на промежутке 9 лет это просто несерьезно.

А по поводу интеллекта медузы. Если мы поймем как устроен биологический интеллект хотя бы амебы, мы поймем и как работает интеллект и человека. Это мое частное мнение. С моей точки зрения, мы не понимаем именно математической части, как это все устроено. Физическая же реализация дело вторичное.
> оказались никак не способным конкурировать со сверточной нейронной сетью

по объёмам хайпа.

akor168

3 months ago

tzirechnoy

3 months ago

alex_rozoff

3 months ago

akor168

3 months ago

akor168

3 months ago

redmassacre

3 months ago

akor168

3 months ago

redmassacre

3 months ago

akor168

3 months ago

redmassacre

3 months ago

akor168

3 months ago

redmassacre

3 months ago

Previous
← Ctrl ← Alt
Next
Ctrl → Alt →