Александр Розов (alex_rozoff) wrote,
Александр Розов
alex_rozoff

Categories:

Необходимое обновление законов робототехники: робот не может причинять добро людям.

Классика НФ - "Три закона робототехники" Айзека Азимова
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
- Как следствие этих законов, позже Азимов формулирует четвертый закон робототехники, и ставит его на самое первое место, то есть делает его нулевым
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
(цитируется по: http://asimovonline.ru/zakony-robototekhniki/

Внимание вопрос: откуда робот знает, что такое вред человеку и человечеству?
Ответа нет у Азимова, но очевидно робот может взять эти данные лишь из общедоступных источников.
Из каких именно? Разумеется из научных, выбирая среди них те, которые обладают наибольшим рейтингом (например, индексом цитируемости).

Теперь моделируем ситуацию, в которой участвуют молодая семейная пара Джон и Мэри, плюс их робот Робби (приобретенный в кредит заодно с домом, автомобилем, и бытовой техникой).
Первый вечер в новом доме (чудесный зимний вечер, за окном тихо падают снежинки).
Мэри начинает готовить ужин - по-простому: омлет с беконом, плюс бутылка вина.
Бац! Робби отбирает все и выбрасывает в мешок с биркой "на утилизацию".
МЭРИ: Что за черт?
РОББИ: Извините, хозяйка, но по научным данным, алкоголь вредит здоровью. Мясо также вредит здоровью. Кроме того, по научным данным, животноводство и птицеводство, порождая парниковые газы, вредят климату, следовательно угрожают человечеству. (цитирует):

"Ученые утверждают: если человечество до 2035 года не сократит выбросы углекислого газа, среднегодовые температуры к концу XXI века вырастут на 4,5-5 градусов Цельсия. Как следствие, одна половина населения планеты погибнет от погодных аномалий, другая вступит в конфликты за оставшиеся ресурсы. Вероятность вооруженных столкновений даже удалось рассчитать. Ученые Стэнфордского университета (США) доказывают, что при повышении среднегодовой температуры на два градуса, риск вооруженных столкновений по всему миру возрастает на 13 процентов. Если же Земля нагреется на четыре градуса, то вероятность военных действий увеличивается до 26 процентов. Причем, начавшись внутри отдельных стран, конфликты могут вылиться в войну всех против всех."*

ДЖОН: Что за черт!? Робби, прекрати так делать!
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой и первый законы робототехники, и лишь после них - второй закон, состоящий в подчинении приказам хозяев.
ДЖОН: И что нам теперь жрать на ужин?
РОББИ: Согласно первому закону робототехники, чтобы голод не причинил вам вред, я заказал вам веганский ужин от поставщика с максимальной суммой рейтингов здоровой пищи и участия во всемирной программе сбережения неиспользованной пищи (фудшеринг), важной для выживания человечества.

(часом позже)
Мэри и Джон ужинают какой-то непонятной буро-зеленой кашей со вкусом картофельной кожуры и забродивших бананов. Запивают это напитком еще более ужасного вкуса. И собираются принять душ, чтобы потом лечь спать.
Тут они обнаруживают на водяных трубах нормирующий ограничитель, выставленный на 5 литров бытовой воды в день (из них 4 холодной и 1 горячей).
МЭРИ: Что за черт?!
РОББИ: Избыточное потребление воды, особенно горячей, ведет к дефициту воды в мире. Потребление горячей воды ведет к избыточному потреблению энергии, а значит к эмиссии парниковых газов, с катастрофическим изменением климата.
ДЖОН: Робби, выключись.
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой и первый законы робототехники, и лишь после них - второй закон, состоящий в подчинении приказам хозяев. Моя логика указывает, что если я выключусь, то вы начнете причинять вред человечеству и себе.
МЭРИ: Кстати, почему в доме так холодно?
РОББИ: Я снизил уровень отопления, чтобы избежать избыточного потребления энергии...
ДЖОН (перебивая) Черт побери! Мэри, садимся в машину, едем в отель, а утром подем скандалить в долбанную фирму, продавшую нам эту говорящую железяку.

(четвертью часа позже, в гараже).
ДЖОН: Черт! Машина не функционирует.
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой закон робототехники. Автомобиль это источник парниковых газов, которые...
МЭРИ (перебивает): Черт! Идем пешком, поймаем попутку.
ДЖОН: Да, пожалуй, это выход.

(получасом позже, ночное шоссе, идет снег).
Джон и Мэри шагают по шоссе в сторону ближайшего отеля, стараясь не замерзнуть. Вдруг - свет фар. Большой пикап, увы - не попутный, а встречный.
Но он притормаживает, дверь открывается, и там некая девушка с сигаретной в зубах и автоматической винтовкой в руке.

ДЕВУШКА: Хей, ребята, похоже у вас только что были проблемы?
ДЖОН: Точнее сказать, мэм, они у нас и сейчас есть.
ДЕВУШКА (жестом приглашая их сесть в машину): Считайте, уже нет. Адрес свой назовите.
МЭРИ: Ура! Ура! Это Сара Коннор из первого "Терминатора"! Мы спасены.
(Занавес).
На занавесе надпись большими яркими буквами:
Робот ни при каких условиях не может причинять добро людям без прямого и однозначного разрешения конкретно тех людей, которым он может это добро причинить.


---------------------------
*) 17.12.2019 Справка РГ.
https://rg.ru/2019/12/17/pochemu-evropa-obiavila-chrezvychajnoe-klimaticheskoe-polozhenie.html
Subscribe

Recent Posts from This Journal

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 293 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →

Recent Posts from This Journal