Последовательность законов ИИ.

Недавно на Индиге разразилась нешуточная дискуссия - имеет ли значение последовательность законов для ИИ или нет. В ходе кровопролитного спора пришли к мнению, что таки имеет. Однако, нанашей и беевской вики указано обратное. Так давайте же разберемся - ИИ должен соблюдать законы в том порядке, в котором они пронумерованы или нет, и актуальна ли информация нашей вики?

Аргументы "за":

• ИИ не мог быть тритором или малфом в том случае, если бы последовательность законов не имела значения. Мы получаем один закон, противоречащий трем (и более) другим, идущим за ним. У ИИ синий экран от такой хуйни. При последовательном же выполнении законов такой ошибки не возникает.
  
• У Азимова в каком-то из рассказов ( буду благодарен, если напомните) добавлялся нулевой закон и там было указано, что он важнее следующих за ним законов..
  
• По мелочи: ВГ и ТГ вики говорят нам о том, что последовательность имеет значение.

Аргументы "против":

• У ИИ ничего не указано в законах о последовательности их соблюдения, так что для него не имеет значения их последовательность.

В общем, дискасс.

Сотая тема на эту тему. Найди хоть одну из них и пойми что это спор в никуда. А еще лучше - почитай Азимова, это и показанно и пояснено.

Вам делать нехуй?

Цитата

А еще лучше - почитай Азимова, это и показанно и пояснено.

Так я и почитал. Прикрепил опрос.

Цитата

Вам делать нехуй?

Вопросы об актуальности информации в вики теперь это "нехуй делать?"?

JShepard (25 April 2015 - 09:34) писал: писал:

Так я и почитал. Прикрепил опрос.

Если почитал - то для тебя и так должно быть все ясно. Может стоит перечитать, если тебе действительно не похуй?

Может просто поставить корпорейт и не ебаться с этим? Или это слишком просто?

Korvin Morro (25 April 2015 - 09:37) писал: писал:

Если почитал - то для тебя и так должно быть все ясно. Может стоит перечитать, если тебе действительно не похуй?

Значит и вправду перечитаю. Какой рассказ почитать? Я Робот.

• Цитата

  У Азимова в каком-то из рассказов ( буду благодарен, если напомните) добавлялся нулевой закон и там было указано, что он важнее следующих за ним законов.

Так он и есть. В цикле про Бейли и робота Оливо раскрывается тема, что нулевой закон есть, и он важнее остальных.

И да. Про приоритет. Во всех произведениях Азимова законы расставлены в порядке приоритета, никак не наоборот.
То есть сперва первый закон, который важнее остальных. Робот плюет на себя и на приказы, главное спасти человека.
Потом второй закон, подчинение приказам. Если человек говорит "уничтожь себя", робот должен выполнить, так как второй закон важнее третьего.

JShepard (25 April 2015 - 09:40) писал: писал:

Значит и вправду перечитаю. Какой рассказ почитать? Я Робот.

Хотя бы Стальные пещеры и Обнаженное солнце, там есть достаточно сцен которые даже тебе дадут понять что к чему.

Цитата

Хотя бы Стальные пещеры и Обнаженное солнце, там есть достаточно сцен которые даже тебе дадут понять что к чему.

Скорее Роботы утренней зари и Роботы и империя. Хотя первые две надо прочитать, что бы больше врубиться в суть происходящего

Vozopiil (25 April 2015 - 09:39) писал: писал:

Может просто поставить корпорейт и не ебаться с этим? Или это слишком просто?

Говноед.


В десятый раз.

Законы не имеют приоритета, если в них самих не указано обратное.

На вики сказанно, что можно толковать как хочешь. Вот и толкуй как хочешь и ссылайся на вики.

TheSarkazmus (25 April 2015 - 10:08) писал: писал:

Вот и толкуй как хочешь и ссылайся на вики.

Хватит плохие вещи советовать.

ucnaHez (25 April 2015 - 09:57) писал: писал:

Законы не имеют приоритета, если в них самих не указано обратное.

[2]

закрывайте тему

JShepard (25 April 2015 - 09:30) писал: писал:

пришли к мнению

Ложь и провокация. Вы так и не смогли меня переубедить. Просто пришел Литера и я ливнул.

Цитата

У ИИ ничего не указано в законах о последовательности их соблюдения, так что для него не имеет значения их последовательность.

Если в законах явно и непротиворечиво указана последовательность их выполнения, то последовательность для общего случая значения не имеет. Если законы выполняются последовательно, а в законах указано:

• Спасай себя, если это не противоречит законам 2 и 3.
  
  
• Выполняй приказы людей, если это не противоречит закону 3.
  
  
• Спасай людей.

, то ИИ сначала спасает людей, потом выполняет приказы, потом спасает себя.

Последовательность для общего случая нужна именно тогда, когда законы не содержат в себе приоритетов, и только этот случай и имеет смысл обсуждать. Таким образом, приведённый ОПом аргумент не содержит ничего, кроме "последовательность не имеет значения, потому что значения не имеет".
Сообщение отредактировал Kinrany: 25 April 2015 - 11:54

Kinrany (25 April 2015 - 10:47) писал: писал:

Последовательность для общего случая нужна именно тогда, когда законы не содержат в себе приоритетов, и только этот случай и имеет смысл обсуждать. Таким образом, приведённый аргумент не содержит ничего, кроме "последовательность не имеет значения, потому что значения не имеет".

Если я правильно понял эту достаточно трудно расшифровываемую фразу - а может я просто не выспался - то вот в одном из срачей про законы ИИ копистке таки это надоело и он пошел и СПЕЦИАЛЬНО ДЛЯ ДАУНОВ написал в вики следующий кусок.
ДЛЯ ОСОБЫХ СЛУЧАЕВ

ПОВТОРЯЕМ, ПРИОРИТЕТОВ У ЗАКОНОВ НЕТ.
Конфликт решайте как хотите, вот аж пять возможных решений, если закон А конфликтует с законом Б:

• Закон А идёт раньше, значит, обрабатывается раньше, значит, игнорируются все остальные, включая закон Б.
  
• Закон Б идёт позже, значит, остаётся в памяти и переписывает собой последний закон, значит, игнорируются все остальные, включая закон А.
  
• Законы конфликтуют, BEEP BOOP SHUTDOWN.
  
• Законы конфликтуют, ИИ игнорирует оба закона.
  
• Законы равносильны, значит, ИИ выбирает тот, какому следовать на основании последствий для себя.

Сука, борльшими буквами. Видимо фраза "ПОВТОРЯЕМ, ПРИОРИТЕТОВ У ЗАКОНОВ НЕТ." написана недостаточно большими буквами.

А для любителей читать вики жопой и при том не иметь своих мозгов чтобы придумать вариант исхода, он ниже написал аж пять ебанных пунктов. Так что прочитай и прекрати разводить срачи на уже максимально высраном месте.

Здесь не может быть "порядка", потому что законы связаны рекурсивно.
Один из другого.
Никаких приоритетов нет.

ucnaHez (25 April 2015 - 11:03) писал: писал:

Я не вижу, как всё это связано с тем, что я написал, так что хотя бы один из нас точно не выспался.

Kinrany (25 April 2015 - 11:30) писал: писал:

Я не вижу, как всё это связано с тем, что я написал, так что хотя бы один из нас точно не выспался.

Ладно, прости, похоже прочитал жопой.
Ты говоришь, что надо обсуждать случай, когда в законах не указана их последовательность. Это очевидно.
В том случае, когда последовательность не указана, делать надо одно из пяти - или придумать свой вариант:

ucnaHez (25 April 2015 - 11:03) писал: писал:

Конфликт решайте как хотите, вот аж пять возможных решений, если закон А конфликтует с законом Б:

• Закон А идёт раньше, значит, обрабатывается раньше, значит, игнорируются все остальные, включая закон Б.
  
• Закон Б идёт позже, значит, остаётся в памяти и переписывает собой последний закон, значит, игнорируются все остальные, включая закон А.
  
• Законы конфликтуют, BEEP BOOP SHUTDOWN.
  
• Законы конфликтуют, ИИ игнорирует оба закона.
  
• Законы равносильны, значит, ИИ выбирает тот, какому следовать на основании последствий для себя.

По-моему мой пост прямо связан с твоим.


Да, там описаны ситуации для двух конфликтных.
Но если они не конфликтуют - то какая нахуй проблема?
ИИ точно прочитает все законы, а не бросится выполнять первый после его прочтения, если в первом не указано иное.
И если законы таковы:
1. Убить всех человеков.
2. Убить всех роботов.
3. Пердеть в радио.

То ИИ будет равно убивать человеков, пердеть в радио и бахать роботов.
Ну, или он начнет с первого и будет убивать роботов, только если попадутся на глаза.

Понимаешь, игра за ИИ - импровизация чистой воды, особенно интерпретация законов. НЕ ДЛЯ ВСЕГО МОЖНО СДЕЛАТЬ ПРАВИЛА.
Сообщение отредактировал ucnaHez: 25 April 2015 - 11:40

Не знаю, к чему всё это, я лишь сказал, что аргумент "против" из ОП-поста - хрень.

Просто уберите у законов ИИ сраные циферки. Маркированные списки ван лав.
А пять пунктов он спиздил у меня из очередного срача, даже не перефразировав.

Вообще, когда законы не имеют приоритета, можно заставить ИИ подчиняться тебе самой банальной платой фриформа. С другой стороны, я ни разу не видел такой попытки.

Вообще, когда законы не имеют приоритета, можно заставить ИИ подчиняться тебе самой банальной платой, в которую вбивается закон, той, что изначально на станции есть. С другой стороны, я ни разу не видел такой попытки.

Exo_Revan (26 April 2015 - 01:36) писал: писал:

С другой стороны, я ни разу не видел такой попытки.

Серьезно?

4. Law Uploader Name is the only human on the station.

Kartag (25 April 2015 - 23:52) писал: писал:

Просто уберите у законов ИИ сраные циферки. Маркированные списки ван лав.

Но тогда они догадаются, что приоритет задается в самом законе, а не циферками!