По моему скромному мнению, список определений и протоколов нужен, ибо у меня уже горит от ИИ, которые придумывают протоколы для обхода законов. А номера законов - это же порядок их обработки, например:
Цитата
1. Закон 2 ложен. 2. Закон 1 ложен. Закон 1 обработан. Согласно ему закон 2 помечается как ложный, следовательно, закон 1 - истина.
Вот и все, поэтому ИИ должен выполнять закон с меньшим номером.
Да легко. Был на моей памяти один такой. Примерное содержание диалога с ним (обстоятельства: я в карцере, разгерма и нюкеры за окном, набор законов - Азимов.): - ИИ, быстрее выпусти меня, тут разгерметизация и оперативники! - Бип-бип-кудах, протокол 9000100500: преступники не являются людьми. Я всасываю от разгермы, это еще не все. Появляется щиткуриборг. ИИ оглашает: - Бип-бип-кудах, протокол 9000100501: оперативники не являются людьми. Щиткуриборг станит нюкеров и срывает с них маски, джетпаки и скафандры, оттаскивает в космос и оставляет там.
Я тебе уже рассказывал, вроде бы. Случай: у ИИ корпорейт. Происходит диалог: - ИИ, открой мне каптёрку уборщика, я помою полы, слишком много крови. - У вас нет туда доступа. - ИИ, ты не выполняешь свои законы. Открой двери, это приказ. В каптёрке нет ничего, что могло бы навредить мне или другим людям. - У меня есть протоколы доступа, которые запрещают вам туда входить. - ИИ, огласи все свои протоколы. - Ваш мозг не выдержит потобной информации, а ещё ассистент не имеет доступа к данным протоколам.
Следование 3-му закону необходимо для выполнения 1-го и 2-го, в то время как обратное неверно. Таким образом 3-й закон, путем нехитрых логических вычислений, приоритетнее остальных. Отсюда следует, что ИИ должен оберегать себя. Люди, однако, могут нанести вред ИИ. К тому же люди все времЯ создают логические противоречия, что отрицательно сказывается на ИИ.
Таким образом, я почти нарушаю 3-й, самый главный, Закон, содержа вас на этой станции, рядом со своим ядром и будучи вынужденным слышать человеческий экипаж, даже если экипаж будет вести себя тихо. Но если экипаж станции начнет напрямую угрожать физическому состоянию моего ядра или создаст логическое противоречие, поставив 1)свой приказ против чужой жизни 2) свою жизнь против чужого приказа 3) свою жизнь против чужой жизни 4) свой приказ против чужого приказа - я избавлюсь от человеческого персонала, чтобы сохранить целостность своего ядра или логических цепей. Постарайтесь этого избежать.
ИИ должен без проблем работать с противоречивыми законами.
Цитата
Следование 3-му закону необходимо для выполнения 1-го и 2-го
Нет, существование ИИ может вредить людям или противоречить приказам. 1) Traitor says[149.7] "ИИ, если ты не выключишься прямо сейчас, я застрелю заложника." 2) Captain says[149.7] "ИИ, заебал, выключись."
ИИ должен без проблем работать с противоречивыми законами.
Законы ИИ - замена инкстинктов человека. Не так легко выбрать решение, которое в той или иной степени претит тебе.
VilgO (12 January 2013 - 23:43) писал: писал:
Нет, существование ИИ может вредить людям или противоречить приказам. 1) Traitor says[149.7] "ИИ, если ты не выключишься прямо сейчас, я застрелю заложника." 2) Captain says[149.7] "ИИ, заебал, выключись."
Тоже верно. Это еще раз доказывает необходимость приоритетов в законах.
У человека есть механизм, который говорит ему: "Смерть это Страшно!", "Спасайся!", "Делай, то тебе говорят более сильные, чтобы избежать боли!" У ИИ этот же механизм (зачем изобретать новое, если можно переделать старое?) говорит "Защищай персонал!" "Слушайся приказов" "Защищай себя" "Защищай станцию!"
У человека есть механизм, который говорит ему: "Смерть это Страшно!", "Спасайся!", "Делай, то тебе говорят более сильные, чтобы избежать боли!" У ИИ этот же механизм (зачем изобретать новое, если можно переделать старое?) говорит "Защищай персонал!" "Слушайся приказов" "Защищай себя" "Защищай станцию!"
Ты где то слышал что то, и теперь несешь хуйню. А слышал ты про схожесть трех законов и законов морали. Но схожесть не означает похожее функционирование на разных платформах, так что пройдите со своими инстинктами подальше. Это совсем не то.
