?

Log in

No account? Create an account

Previous Entry | Next Entry

Перечитывал тут "Я робот" и подумал -- какие нафик законы роботехники? это же просто морально-этические нормы, обязательные для любого приличного человека. Смотрите сами:


Три закона роботехники

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Если хоть немногоподумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле. Конечно, каждый человек наделен инстинктом самосохранения. У робота это Третий Закон. Каждый "порядочный" человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам. Он прислушивается к мнению своего врача, своего начальника, своего правительства, своего психиатра, своего приятеля; он исполняет Законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это - Второй Закон. Кроме того, предполагается, что каждый "хороший" человек должен любить своих ближних, как себя самого, защищать своих товарищей, рисковать своей жизнью ради других. Это у робота - Первый Закон

Может нужно сделать так, чтобы государство выполняло три закона роботехники по отношению к своим гражданам? Смотрите как хорошо формулируется:

  1. Государство не должно вредить людям или своим бездействием допустить, чтобы им был причинён вред.

  2. Государство должно выполнять свои функции, если они не противоречат Первому Закону.

  3. Государство должно заботиться о своей безопасности, если это не противоречит Первому и Второму Законам.

Вот только КАК этого добиться?

promo torin_kr december 5, 2015 19:43 26
Buy for 200 tokens
Этот пост -- заказной. Меня его попросила написать одна моя хорошая знакомая, с которой мы знакомы такое количество лет. что аж страшно становится. Как говорит в таких случаях мой младший брат -- "Да ну нафиг. Столько и не живут". Живут... к сожалению. Ладно, это было лирическое…

Comments

( 12 comments — Leave a comment )
prokazi
May. 21st, 2015 08:53 am (UTC)
По сути мы все роботы.. нами управляют и манипулируют, мы подчиняемся системе.. Движет только нами нечто другое.. того чего нет у роботов..
(Deleted comment)
torin_kr
May. 21st, 2015 09:17 am (UTC)
Почему -- в принципе он может остановить процесс взаимоубийства, не причинив вреда ни одному ни другому
mikerrr
May. 21st, 2015 09:45 am (UTC)
Формулировка получилась просто супер!)
Вот так и надо писать конституцию!
(Deleted comment)
torin_kr
May. 21st, 2015 11:09 am (UTC)
Ну как минимум его ПЫТАЮТСЯ практиковать. Не всегда получается, но хотя бы пытаются...
(Deleted comment)
torin_kr
May. 21st, 2015 11:24 am (UTC)
В свое время меня потрясла формулировка ВЫИГРАННОГО дела в суде США -- "Роберт Маклафлинн против народа и правительства США". ВЫИГРАТЬ судебное дело "против народа и правительства" -- это с точки зрения любого гражданина России абсолютно невероятно.
(Deleted comment)
torin_kr
May. 21st, 2015 12:10 pm (UTC)
Эх... 21 век ведь на дворе -- ну сколько можно жить в дикости
(Deleted comment)
torin_kr
May. 21st, 2015 12:55 pm (UTC)
Боюсь что Вы правы...
ohapkin
May. 21st, 2015 11:41 am (UTC)
Государство всегда действует в интересах социальной группы, которую представляет, а не абстрактного "народа"
torin_kr
May. 21st, 2015 12:09 pm (UTC)
Спасибо, я читал Маркса. А ленинское "О государстве" некогда мог цитировать страницами наизусть -- за что кстати чуть и не вылетел из комсомола и заодно из университета -- за не вовремя процитированную фразу о том, что "любое государство представляет собой прежде всего аппарат насилия".

В этом посту я пишу не о том, что есть, а о том что МОГЛО БЫ БЫТЬ при некоторых определенных условиях.

Edited at 2015-05-21 12:11 pm (UTC)
helkanarie
May. 21st, 2015 02:05 pm (UTC)
вот и не допускают: чтоб чувствам верующих был причинён вред, чтоб богатым людям был причинён вред и так далее. А ещё государство, в отличие от робота, может и самостоятельно пересмотреть понятие "люди" и кого-то в него просто не включить, причём даже не говоря об этом.
Да и "вред" - очень растяжимое и многообразно трактуемое понятие...
torin_kr
May. 21st, 2015 02:09 pm (UTC)
"государство, в отличие от робота, может и самостоятельно пересмотреть понятие "люди" и кого-то в него просто не включить" -- не просто может, а именно так оно постоянно и поступает. Весь вопрос в том -- каковы критерии такого отбора...
a_spyd
May. 21st, 2015 03:09 pm (UTC)
Да ладно Вам :)
Три закона роботехники годятся лишь для примитивных конечных автоматов, которым понятие "вред" задано в виде ограниченного списка физических воздействий на человеческий организм. Любой хоть сколь-нибудь самообучающийся робот под действием 1-го закона бросит всё и станет чинить велосипед выяснять, какое расширительное толкование понятия "вред" он пока ещё не постиг. И от этого занятия его не оторвёт ни производственная необходимость, ни приказ человека: приоритет первого закона выше.

Если же прилагать эту тему к человеческому обществу, то возникает дополнительное море коллизий: предположим, что предотвращение вреда одному принесёт вред двум-трём другим, предотвращение вреда десяти людям принесёт вред троим с вероятностью 60%, сорока семи с вероятностью 39%, и трём тысячам с вероятностью 0.9%. А тут ещё и величина вреда не градуирована. Так что нашему бедному роботу останется лишь убить себя об стену.

Кстати, Азимов тоже понимал нечто подобное. И в одном из романов ввёл "нулевой закон" (робот не может причинить вред человечеству... и пр.), но это уже сильно напоминает инфляцию идеи, нет?
( 12 comments — Leave a comment )

Latest Month

April 2019
S M T W T F S
 123456
78910111213
14151617181920
21222324252627
282930    
Powered by LiveJournal.com
Designed by Akiko Kurono