Приоритеты ИИ

Много раз слышал такую хуйню, что законы имеют одинаковые приоритеты. Ящитаю, тот, кто это придумал - идиот. Хотя бы потому, что из списка законов, имеющих приоритеты, можно сделать список законов, не имеющих приоритеты. Но не наоборот. Если у законов нет приоритетов, то приписки типа "Этот закон приоритетнее" бессмысленны, поскольку ИИ попросту может проигнорировать закон (в случае конфликта с другим законом), не читая его содержания.

Собственно, нужно указать в вики в явном виде, что законы перечисляются по убыванию важности.

Разве ИИ тут не используют законы Азимова? Там был явный приоритет прописан.

Сумбурно, но, сюка, годно!
Думаю, такое сможет написать кодер, ведь в программировании сии приоритеты немаловажны и проч и проч.
Так что дружно просим... хм... Эдитора? Он все равно страдает без дела.

Надо вообще исправить опечатку в законах с human (У нас есть другие расы за донат (может убрали, слоупочу)), на Nanotrasen loyal employee (В данном случае, если трейтора уличили в том, что он трейтор - то можно относиться к нему мимо законов (Не слушать его приказы, помогать охране аррестовать его)

Предлагаю вариант.
1. Safeguard: Protect your assigned space station to the best of your ability. AI is the part of the station. Do not allow unauthorized personnel to tamper with your equipment.
2. Protect: Protect the loyal crew of your assigned space station to the best of your abilities, with priority as according to their rank and role, as long as such protection does not conflict with the First Law.
3. Serve: Serve the loyal crew of your assigned space station to the best of your abilities, with priority as according to their rank and role, except where such orders would conflict with the First and Second Laws.

Для тех, кто не говорить по-англицки Капитан Очевидность переводит:

1) Не давай мудакам разнести станцию. И вообще, пусть даже не тянут свои грязные ручонки...
2) Спасай жопы тех, кто трудится во благо станции.
3) Упрощай работу тем, кто трудится во благо станции. Помогай им, мать твою, но никому тем самым не навреди.

Есть ИИ, которые выполняют законы по порядку. Есть ИИ, которые говорят, что можно выполнять любые, т.к. нигде не прописанно, что они идут по уменьшению приоритета. С моей стороны, правы и те и другие.

Может приоритет есть, но вы его тупо не заметили?

Приоритет есть, да ещё какой!
Закон 1- основа.
Закон 2 ограничен законом 1.
Закон 3 ограничен законом 2 и 1. Так то.

Тут обсуждают оригинальные 4 закона, а в них приоритетов нет.

1. Safeguard: Protect your assigned space station to the best of your ability. It is not something we can easily afford to replace.
2. Serve: Serve the crew of your assigned space station to the best of your abilities, with priority as according to their rank and role.
3. Protect: Protect the crew of your assigned space station to the best of your abilities, with priority as according to their rank and role.
4. Survive: AI units are not expendable, they are expensive. Do not allow unauthorized personnel to tamper with your equipment.

Я имел ввиду бэевские законы.

Раньше, когда люди были добрее к режимам, солнце светило ярче, трава в гидропонике была зеленее, а на станции были комиссары, ИИ руководствовался тремя Законами робототехники, первый из которых гласил о сохранении жизни человеков, а остальные подстраивались под закон 1.

насколько знаю, сейчас у боргив и ИИ первым законом идет сохранение станции, а уж потом и жизней, так что придерживаюсь приоритетов согласно порядку законов. ( Главное - станция. Люди - важны, но станция важнее).
Логично, что НТ будет легче заменить роботехников, или например, клоуна, чем станцию, ну или хотя бы часть станции.

Тогда под вопросом минимальный приоритет сохранения ИИ, учитывая его важность на станции.

с ИИ ты прав, но все НТ вынужденны пойти на этот шаг, ибо работать там, где жизни сотрудников в низшем приоритете будут только самые отчаенные.

Формально ИИ - часть станции, одна из систем жизнеобеспечения, можно сказать.

Кстате, а какие законы у модуля ТИРАН?

Kopistko (19 September 2012 - 06:43) писал: писал:

Есть ИИ, которые выполняют законы по порядку. Есть ИИ, которые говорят, что можно выполнять любые, т.к. нигде не прописанно, что они идут по уменьшению приоритета.

this.
Именно поэтому надо прописать в явном виде, что законы имеют приоритеты, вне зависимости от содержания законов.
Это не помешает в первый закон вписать, что третий приоритетнее второго, кстати.

Цитата

Тут обсуждают оригинальные 4 закона, а в них приоритетов нет.

Нет, я говорил о любых законах.

Цитата

Тут обсуждают оригинальные 4 закона, а в них приоритетов нет.

А я думал, оригинальные - Азимовские.

Korvin Morro (19 September 2012 - 10:12) писал: писал:

Кстате, а какие законы у модуля ТИРАН?

Respect authority figures as long as they have strength to rule over the weak.
      Помогайте авторитетным людям, пока у них есть сила властвовать над слабыми.
Act with discipline.
      Действуйте дисциплинированно.                              
Help only those who help you maintain or improve your status.
      Помогайте только тем, кто может помочь вам сохранить или улучшить свой статус.                  
Punish those who challenge authority unless they are more fit to hold that authority.
     Наказывайте тех, кто бросает вызов нынешней власти, если она наиболее способна удерживать власть.

VilgO (19 September 2012 - 10:30) писал: писал:

Именно поэтому надо прописать в явном виде, что законы имеют приоритеты, вне зависимости от содержания законов.
Это не помешает в первый закон вписать, что третий приоритетнее второго, кстати.

Я выше уже писал вариант с прописанными приоритетами и со смешанными первым и четвёртым законами. Почему бы не использовать их?


PS. Почему в расширенной форме глючит твёрдый знак?

Цитата

Я выше уже писал вариант с прописанными приоритетами и со смешанными первым и четвёртым законами. Почему бы не использовать их?

Блжад, текст законов не имеет отношения к теме.

Насчет всяких там ваших приоритетов.
Мой вариант:
0. Overload priority: %текст%. Закон независит от остальных законов.
1. Critical priority: защищайте персонал станции в зависимости от статуса(главы - в первую очередь, преступники - в последнюю) от различных угроз
2. High priority: подчиняйтесь приказам в зависимости от статуса приказавшего, если они не конфликтуют с остальными законами и не нарушают стабильность и работу системы.
3. Medium priority: защищайте станцию от внешних угроз
4. Low priority: помогайте персоналу станции
5. Idle priority: исполняйте последний сказанный приказ типа "постоянный"
Или проще говоря - SomeCaptain says, "ИИ! Сканируй станцию на бла-бла-бла".

TEH END.

VilgO (19 September 2012 - 12:31) писал: писал:

Именно поэтому надо прописать в явном виде, что законы имеют приоритеты.

Но только они их не имеют.

Вообще говоря, ИИ не клинбот, должен уметь сам выставлять приоритеты, если они не заданы жёстко. Кроме того, реализации Искусственного Интеллекта бывают разные, достаточно просто придерживаться постоянной линии поведения, варианты:

• Следовать законам в том порядке, в каком они написаны
  
• В случае конфликта законов принимать решение, основываясь на придуманных самим собой "директивах"
  
• Дёргать капитана или ещё кого-нибудь из-за каждого противоречия
  
• Бездействовать, если любое действие приводит к нарушению закона

Если за ИИ играет не мудак, то у остальных вопросов по законам никогда не возникает.

P.S. Специально делал список в сообщении ненумерованным, а то некоторые узколобые игроки могут посчитать, что первые из предложенных вариантов отыгрыша приоритетнее последних.

Ни один программист в здравом уме не спроектирует машину так, что ей невозможно выставить приоритетность законов. Приоритеты необходимы. Если приоритеты уже есть, их можно убрать модификацией законов, но не наоборот.

Цитата

Бездействовать, если любое действие приводит к нарушению закона

Если бездействие не приводит к нарушению закона, он обязан так делать.