Все надежды человоща. Искусственный интеллект, как бог человощества.

За что я люблю канал Hi-News.Ru - за широту обзора событий переднего края прикладной науки и технологии в зеркале усредненного отношения людей к этим предметам. Иначе говоря: это смешанный канал по hi-tech и динамичным социальным мифам о hi-tech. А теперь конкретно:
Илья Хель* нашел на /r/Futurology опрос людей на тему, что они просили бы у искусственного сверхинтеллекта, если бы таковой был возможен.
Тут надо оговориться: я скептически отношусь к современной генеральной линии в области прикладного моделирования интеллекта. Методически такой ИИ не смог подняться выше исходной идеи Фрэнка Розенблатта, показанной в 1957-м - 1960-м (т.н. концепция многослойного персептрона, или т.н. искусственных нейронных сетей). Уже через 10 лет стало понятно, что в исходной (вполне гениальной) идее были, все-таки, слишком урезаны функции нейрона и игнорировались функции инфохимической среды, поэтому сети на таких виртуальных модельных нейронах достигнут, в лучшем случае, интеллекта медузы.
Научное сообщество занялось было поисками продвинутой модели, но еще через 10 лет начался экстенсивный рост ресурсов компьютерной памяти и вычислительной мощности. Кто-то решил. что при таких ресурсах BigData, для ИИ будет вполне достаточно интеллекта медузы. Перспективные исследования были свернуты, и прикладная наука бросилась искать пути форсированной набивки электронной медузы - массивами данных. В итоге, мы имеем сейчас не эпоху Искусственного Интеллекта, а эпоху Искусственного Имбецила (очень удобно - не надо даже менять аббревиатуру ИИ). ИИ, как сборщик и примитивный анализатор "больших данных", конечно, полезен - но только на очень ограниченном круге задач (заведомо ограниченном, как доказали Мински и Паперт в 1969-м).
Исходя из этой ограниченной полезности - мне понятно, какие именно задачи я попробовал бы поставить перед Супер-ИИ (т.е. перед сборщиком и примитивным анализатором SuperBigData).
Тем не менее, я с пониманием отношусь к людям, надеющимся, что в будущем ИИ преодолеет нынешнюю очевидную имбецильность, и станет способен на большее, чем оптимизация логистики в мире разноцветных виртуальных кубиков или выявление сходства пирамид из этих кубиков.
Поэтому я с любопытством открыл статью Ильи Хеля, и...

...Сразу вспомнил любимую модель человеческой личности у философов-солипсистов: одинокие квази-разумные овощи, неподвижно торчащие рядами на грядках, и примитивно мечтающие о солнышке и дождике.
Теперь 10 цитат из числа тех, что привел Илья Хель:

1. «Говорите, сверхинтеллект, да? Я бы хотел, чтобы он был нашим вездесущим доброжелательным лидером, который судил нас и вел нас всегда. Человечество — отстой, я не верю, что оно еще способно что-то делать. Давайте позволим богу-машине править нами и положить конец всем нашим проблемам. (Надеюсь, Иисусе, ты это не читаешь)».

2. «Я думаю, что он [Супер-ИИ] просто будет рассматривать аморальность как вероятностную ошибку, поскольку существует вероятность создать порочных существ в ходе несовершенных эволюционных процессов, и решит просто исправить аморальность, а не наказывать людей за это».

3. «Глобальный советник был бы лучшим сценарием. Если мы отдадим ему ключи от планеты, он будет рулить ей так, как нам не понять».

4. «Нужно спросить, поможет ли он нам в колонизации других миров, а если нет, закончится ли наше существование на земле».

5. «Что ж, это задача не из легких, и кажется неблагодарным просить о большем, но если интересно, возможно, исправить изменение климата и старение, а если в галактике пусто — наполнить ее жизнью».

6. «В фантастическом мире, в котором я мог бы заложить некие фундаментальные ценности в бога-машину, я бы хотел, чтобы он был хорошим. Что означает «не убивай/не мучай нас», «сохраняй нас в живых» и «хотя бы позволь нам существовать в любом смоделированном мире, в котором мы хотим жить». Решить проблемы вроде смерти звезд и тепловой смерти вселенной тоже было бы круто. Это все, что способны придумать мои глупые примитивные обезьяньи мозги».

7. «Сверхинтеллект был бы идеальным мировым лидером — у нас достаточно ресурсов, чтобы распределить их поровну. Но не думаю, что такая утопия продержится долго. Искусственный сверхинтеллект будет расти. Если он будет сознательным и найдет способ использовать квантовое пространство для проведения расчетов на своей нейросети, он сделает вселенную сознательным существом. Поскольку распространение информации в квантовом мире происходит мгновенно, он сможет также использовать всю вселенную в качестве вычислительной мощности. Представьте мысли полностью сознательной вселенной».

8. «Пусть создаст технологию, в которой мы могли бы жить в искусственном мире, который позволил бы нам покинуть наши бренные телесные формы до тех пор, пока мы не накопим достаточно знаний и в конечном итоге не захотим умереть в блаженстве».

9. «Пусть поможет человечеству в планировании будущего существования биологической жизни в космосе/мультивселенной, а затем станет партнером человечества в этом плане. Пусть найдет самое оптимальное будущее для симбиотических отношений между биологической жизнью и машинным интеллектом, измеряемых сочетанием трех факторов: счастье разумных индивидов, число таких счастливых индивидов, продолжительность жизни таких индивидов. Другими словами, пусть поможет нам жить дольше, счастливее и максимально размножаться, а также позаботится о других формах жизни».

...Пауза... С подросткового возраста я чувствовал определенное уважение к божествам Лавкрафта, особенно к Великому Ктулху. Но только сейчас у меня возникло беспокойство, что он (Ктулху) все-таки не так глубоко спит в подводной цитадели Р'лйех около точки Немо.
Иначе каким влиянием объяснить такой резкий и массовый дрейф аудитории /r/Futurology в сторону примитивно-мечтающих безвольных овощей из модельного мира солипсистов?
Но все-таки, есть среди этой овощной грядке адекватно мыслящие индивиды, с реальным здравым смыслом, и хорошим готичным чувством юмора. Последняя 10-я цитата:

10. «Если вы хотите, чтобы ИИ управлял миром, подумайте о цели, которой он должен, по-вашему, достичь. Если вам нужен более высокий уровень жизни или экологии, он наверняка порекомендует убить миллиарды людей. Если вам нужно как можно больше поголовья, вы будете жить в банке и питаться через трубку. У всего есть свои недостатки».

Вот так выглядит веселый голос разума посреди уныло-мечтающих грядок человоществаа.
Надеюсь, что я правильно не добавил к "голосу разума" эпитет "одинокий".
Но это не очень устойчивая надежда, поскольку есть тревожные "вести с грядок" на том же канале Hi-News, Николай Хижняк разбирает** статью-доклад*** изрядной толпы ученых из весьма авторитетного Корнеллского Университета (входящего в Лигу Плюща, и т.д. и т.п.)
Вот цитата оттуда:
"ИИ поможет изменить наше потребительское отношение
По мнению авторов доклада, в мире «широко распространено заблуждение о том, что обычные люди не способны оказать серьезного влияния на изменение климата». Поэтому в данном вопросе необходимо уточнить, как именно люди могут помочь. Технологии машинного обучения позволят рассчитать углеродный след человека (совокупность всех выбросов парниковых газов, которые он создает в процессе ежедневной деятельности) и внести небольшие изменения, которые позволят его сократить. Например, система может предложить чаще пользоваться общественным, а не личным транспортом; реже покупать в магазине мясо; или сократить потребление электроэнергии дома."

...Опять пауза... Я представляю себе биржу труда 2030-го года.
На ступеньках сидят киборг Т-800 (из "Терминатора" 1984-го) и агент Смит (из "Матрицы" 1999-го).
Скайнет не нуждается в их услугах.
Человечество (или человощество) гуманным электоральным демократическим путем само запихнуло себя в инновационные гробы с персональными управляющими смартфонами.
Теперь Т-800 и агент Смит могут рассчитывать лишь на место консультантов интернет-супермаркета по дистрибуции очередного приложения для смартфона. Что-то типа:
"Как утратить остатки разума и воли чтобы стать конченными овощами и достичь счастья"

Впрочем, цитата-10 оставляет надежду. Ту самую, которая умирает последней.
Или надежда не умирает, зато умирает Скайнет.
Кому-то придется, потому что то и другое вместе жить не могут.
Естественный отбор, однако.
Такие дела.

-----------------------
* "Что бы вы хотели от искусственного сверхинтеллекта, будь он возможен?"
06.06.2019, Илья Хель.
https://hi-news.ru/imho/chto-by-vy-xoteli-ot-iskusstvennogo-sverxintellekta-bud-on-vozmozhen.html
** "12 способов, как ИИ поможет решить проблему глобального потепления"
26.06.2019, Николай Хижняк
https://hi-news.ru/technology/12-sposobov-kak-ii-pomozhet-reshit-problemu-globalnogo-potepleniya.html
*** "Tackling Climate Change with Machine Learning".
10 Jun 2019, David Rolnick, Priya L. Donti, Lynn H. Kaack, Kelly Kochanski, Alexandre Lacoste, Kris Sankaran, Andrew Slavin Ross, Nikola Milojevic-Dupont, Natasha Jaques, Anna Waldman-Brown, Alexandra Luccioni, Tegan Maharaj, Evan D. Sherwin, S. Karthik Mukkavilli, Konrad P. Kording, Carla Gomes, Andrew Y. Ng, Demis Hassabis, John C. Platt, Felix Creutzig, Jennifer Chayes, Yoshua Bengio
https://arxiv.org/abs/1906.05433

i_ddragon

July 2 2019, 10:02:36 UTC 3 months ago

Collapse
Expand
New comment

> «Говорите, сверхинтеллект, да? Я бы хотел, чтобы он был нашим вездесущим доброжелательным лидером, который судил нас и вел нас всегда. Человечество — отстой, я не верю, что оно еще способно что-то делать. Давайте позволим богу-машине править нами и положить конец всем нашим проблемам. (Надеюсь, Иисусе, ты это не читаешь)».

Бог-Машина и есть Иисус.

i_ddragon

July 2 2019, 10:09:46 UTC 3 months ago

Collapse
Expand
New comment

Вообще, Матрица и есть утопия. А если вспомнить, что пока самый верный способ дать разум машине - это дать ей больше доступа к разуму человеческому (крайний вариант - мозг в банке в машине, как у Adeptus Mechanicus), то люди при Скайнете не у дел не останутся - они будут Скайнетом. По крайней мере некоторые.

Мы поглотили множество форм жизни во Вселенной
И помогли им избавиться от телесных оболочек
И теперь пришло ваше время принять эволюцию, люди
Существует вид удовольствий, нежный и вечный (ВИРМ из "Любимого во Франксе")

Ещё Аргонов на эту тему рассуждал.