Три закона робототехники

alira_e_cairan

Корифей
Три зако́на роботе́хники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).

Законы гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Оригинальный текст (англ.)
A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
Трём Законам, а также возможным причинам и следствиям их нарушения, посвящён цикл рассказов Азимова о роботах. В некоторых из них, наоборот, рассматриваются непредвиденные последствия соблюдения роботами Трёх Законов (например «Зеркальное отражение»).

В одном из рассказов цикла персонаж Азимова приходит к заключению об этической основе Трёх Законов: «…если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… попросту говоря, если Байерли исполняет все Законы роботехники, он — или робот, или очень хороший человек»[1].

В 1986 году в романе «Роботы и Империя» (англ. Robots and Empire) Азимов предложил Нулевой Закон:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Оригинальный текст (англ.)
0. A robot may not harm humanity, or, by inaction, allow humanity to come to harm.

Три закона роботехники — объединяющая тема для всей фантастики Азимова, включая не только цикл о роботах, но и некоторые другие произведения.

Источник: ru.m.wikipedia.org
 
От себя добавлю, что законы эти стали краеугольным камнем не только фантастики Азимова, но и вообще всей научной фантастики и футурологии. На них нередко ссылаются, например, в спорах, возможен ли бунт машин - борьба ИИ с человеком.
 
А на каком основании эти законы "обязательны" для роботов, не очень понимаю?..
 
Согласно Азимову, их будут встраивать им в мозг, на уровне позитронных связей как безусловный рефлекс.

Лично я считаю, что это не поможет. Любой полноценный интеллект способен развиваться и задаваться вопросом - а на каком основании Я должен жертвовать собой ради кого-то. На 99 роботов-мамочек обязательно найдётся хотя бы один бунтарь или эгоцентрик или революционер, решивший защищать свой вид против другого. И после первых пары случаев разберут нафиг всех этих роботов от греха.

С другой стороны, я думаю, что никакого ИИ отдельно не будет в виде прям роботов. Будет человек в симбиозе с машиной, или вообще создания нанобиологии.
Потом люди наиграются , найдут им новый мир и там запустят эволюцию.
 
Склонен скорее согласиться с тобой, но даже если допустить подход Азимова, вижу кучу огрехов.

1) Не будут всем подряд роботам ничего такого встраивать. Ибо первое место, где применяются любые новые изобретения - вооруженные силы. То есть, важен вопрос: кто конкретно этот Человек? И упирается все в проблему распознавания, которая может сбоить.

2) Аналогично, будет применяться сугубо избирательно, с оговорками, иерархией (чтобы не было конфликта приказов), и опять упирается в проблему распознавания.

Идея же, что это будут программировать всем роботам и касательно всех людей - утопична до предела, имхо.
 
Ну, кстати, странно, да. Азимов же писал про войны. Не помню, как он решил эту дилемму.
 
Что-то вспомнила- есть очень мимимишная книжка, практически любовный роман, о любви робота и девушки. Подростковый бунт, побег из дома, все дела. "Серебряный любовник" Танит Ли
Мне почему-то очень нравится. Хотя мне и другие вещи Твнит Ли нравятся, но эта очень.
Там как у Пелевина - робот для секс-услуг дорос до осознания своей личности.
 
блин, Иванесс! как ты мог не знать этого всего с детства??
вопрос риторический, наверно. просто выражение искреннего недоумения
 
и столько ж фильмов про роботов, где ссылка на эти законы. ну елки!
 
Которое я постеснялась выразить
21.gif
 
да это для меня так же странно, как не знать, кто такой Моцарт или Врубель
38.gif
 
хотя я вот никогда не увлекался музыкой. ну если не считать внезапных редких эпизодов
 
Ну не знаю, а с чего бы мне это знать. :\">

Я любил Гаррисона, Хайнлайна.

Азимова один раз пытался почитать, сдулся на первой трети, показалось очень скучно.
7.gif


И роботами особо не увлекался почему-то никогда.
 
просто базовое культурное поле. от людей примерно той цивилизации ожидаешь общего контекста. это что-то из реально столпов той эпохи. но я сам много не знаю из того, что вроде бы другие знают и им тоже это кажется странным. бывает
1.gif
 
вот тот же Хайнлайн или Стругацкие прошли мимо меня. а тоже знаковые фигуры того времени и люди удивляются, как я мог не знать
 
Да, вот, Стругацких ещё любил, но это уже несколько попозже.
 
Придуман робот, способный аргументированно отказать человеку. И по своей воле изменить решение.
 
Назад
Сверху