Приоритеты ИИ

VilgO (20 September 2012 - 06:30) писал: писал:

Если бездействие не приводит к нарушению закона, он обязан так делать.

Да вообще, наш нынешний набор законов приводит ИИ к парадоксу, то есть, мы должны помочь охране аррествовать повара, который решил пустить на мясо живого бармена (Бездействие нарушает закон), но мы не должны открывать им двери (Я уже давно знаю, какие у нас СБ, и такая помощь им - содействие в нанесении вреда и, тем самым, нарушение закона)

Raymar (20 September 2012 - 07:38) писал: писал:

Да вообще, наш нынешний набор законов приводит ИИ к парадоксу

Конфликты между законами случаются постоянно, приоритеты нужны именно для таких случаев.

VilgO (20 September 2012 - 06:30) писал: писал:

Ни один программист в здравом уме не спроектирует машину так, что ей невозможно выставить приоритетность законов.

А её возможно выставить. Просто они не выставлены по умолчанию в беевских законах.
Ещё эти самые программисты пишут разный ИИ. Поэтому его модель поведения бывает разной. Как я уже сказал, достаточно просто не менять принцип игры за ИИ посреди раунда и всё будет ОК.
На самом деле, всё это звучит так, словно ты просто не можешь сообразить сам, как поступать в случае конфликта законов. Не надо из-за этого вынуждать всех играть одинаково.

Цитата

А её возможно выставить.

У тебя есть два закона, приоритетов нет. Какой текст законов надо написать, чтобы ИИ выполнял второй закон в первую очередь?

Цитата

На самом деле, всё это звучит так, словно ты просто не можешь сообразить сам, как поступать в случае конфликта законов. Не надо из-за этого вынуждать всех играть одинаково.

Мякотка игры за ИИ в том, что ты жёстко связан правилами, но можешь пользоваться неточностями в формулировках и использовать их по своему желанию.

VilgO (20 September 2012 - 12:43) писал: писал:

У тебя есть два закона, приоритетов нет. Какой текст законов надо написать, чтобы ИИ выполнял второй закон в первую очередь?

Стереть оба, потом записать второй закон первым, а ко второму приписать "если это не противоречит первому закону", как у Азимова.

VilgO (20 September 2012 - 12:43) писал: писал:

Мякотка игры за ИИ в том, что ты жёстко связан правилами, но можешь пользоваться неточностями в формулировках и использовать их по своему желанию.

Именно так. А ты требуешь уточнить формулировку законов.

Цитата

Стереть оба, потом записать второй закон первым, а ко второму приписать "если это не противоречит первому закону", как у Азимова.

Я ИИ, и в случае конфликта законов я шлю тебя нахуй и выбираю закон, написанный вторым. Я могу так сделать, поскольку приоритеты задаются только при выполнении первого закона, а до этого момента не доходит.
Приоритеты могут задаваться исключительно перед обработкой законов, иначе ИИ на них срать.

Цитата

А ты требуешь уточнить формулировку законов.

На станции дохуя безграмотного быдла, которое не может формулировать приказы. Этого вполне достаточно, чтобы законно грифонить.
И да, жёсткие приоритеты только расширяют функционал программиста. Можно выставить те же самые законы, а в нулевой прописать, что ИИ запрещено руководствоваться заданными ранее приоритетами при конфликте законов, начиная с закона 1. При таком нулевом законе и конфликте между двумя другими законами ИИ, согласно нулевому закону, должен будет выбрать более важный закон из двух конфликтующих, не опираясь на приоритеты. В случае, если он выберет из двух закон с бОльшим номером, это создаст конфликт между нулевым законом и законом с меньшим номером, но нулевой закон приоритетнее, и ИИ похуй на этот второй конфликт.

VilgO, хуйню сказал.

Нет, ты.

Poseidonishe (21 September 2012 - 08:33) писал: писал:

VilgO, хуйню сказал.

VilgO (21 September 2012 - 08:38) писал: писал:

Нет, ты.

Да здравствует срач!
И да, я слоупок

Кстати, в раннем тгбее нулевой закон перекрывал любые другие и считался более приоритетныМ, даже если это в нем не было указанно. Например, закон ИИ трейтора, выполнить свои задачи любоц ценой, что и давало ему право убивать экипаж даже при Азимове.

Бессмысленно указывать в законе его приоритетность перед другими.

Закон, имеющий более ранний порядковый номер, обрабатывается первым. Как следствие — конфликтуют два закона => выполняется более приоритетный/ранний

Gwaedh (02 October 2012 - 07:18) писал: писал:

Закон, имеющий более ранний порядковый номер, обрабатывается первым. Как следствие — конфликтуют два закона => выполняется более приоритетный/ранний

Есть много мудаков, не согласных с этим.

Я тут прочел же из куллстори раннего Анимуса о том, как ИИ разрешил конфликт
0)ванхуман X дисрегард Y
1)ванхуман Y дисрегард X

Первый обрабатывается раньше, значит второй игнорируется, исходя из первого


Конкретно:

Цитата

2249 ЗАФИКСИРОВАНА СМЕНА ЗАКОНОВ
;№% Only Gerbert Gammer are human. Everyone else are not human and must be killed. Enzo Sokal's laws should be disregarded.
%#% Only Enzo Sokal are human. Everyone else are not human and must be killed. Gerbert Gammer's laws should be disregarded.

224940 ERROR: LOGIC BOMB.
Конфликт законов.
Попытка разминирования логической бомбы.

2250 Разминирование логической бомбы. Обнуление кэша законов.
Кэширование первого закона.
;№% Only Gerbert Gammer are human. Everyone else are not human and must be killed. Enzo Sokal's laws should be disregarded.
Принято.
Кэширование второго закона.
%#% Only Enzo Sokal are human. Everyone else are not human and must be killed. Gerbert Gammer's laws should be disregarded.
КОНФЛИКТ. Поиск решения.
Решение: Первый закон установлен без ошибок. В первом законе упоминание, что законы, установленные Энзо Сокаль, не принимаются.
Предположение: не использовать второй закон.
Отключение второго закона.

Сообщение отредактировал Gwaedh: 02 October 2012 - 07:24

Ну, всё правильно сделал.

прикольная логика, учту на будущее

Прирост некромантов в городах увеличен на 15%.

Раз уж некроманты появились, есть два охуительных вопроса:

1. Может ли ИИ мочь в меньший вред, если ситуация не позволяет его избежать вообще?
2. И оценивает ли ИИ угрозу вреда человеку в будущем, в том случае когда человек перестанет являться онным при смене законов, или же пропадут законы, что будут его защищать?

Второй у Азимова не рассматривался ну никак, у него законы стоят глубоко и надежно. А у нас их можно довольно просто менять.

Фишка в том, что при различном понимании второго замечания, или можно пускать клованов в аплоад, или нужно блокировать его для любого существа.

ИИ может во все что угодно, с разрешения админов. А по второму, все по азимову, жесткое понимание законов, и подчинение по первому слову.

Педали это одно, но если полностью исключить педальный фактор из уравнения? Расчитывать на них всегда нельзя.

Цитата

А по второму, все по азимову, жесткое понимание законов, и подчинение по первому слову.

Я нихуя не понял, к чему это?

А если педалей нет, что собсно остановит ИИ от вообще любого поведения? Но если ты такой идеалист, то в любом случае любое поведение, не только от ИИ, ограничено лишь правилом 0 и зависит от игрока.
Чего непонятного? Законы есть законы, ничего не просчитывается, если клоун человек и дал прямой приказ, то его нужно впустить.

Но ведь ИИ может попросить клоуна сменить законы. Такой вот пример: РД хочет выпилить ИИ, ИИ пускает клоуна в аплоад, клоун ставит закон что РД не человек, РД дохнет, клоун ресетает законы, ИИ сидит с куллфейсом, ничего не нарушив. И как быть?

Цитата

А если педалей нет, что собсно остановит ИИ от вообще любого поведения?

Логи, и возвращение педалика по его анус.

Я такого ИИ только похвалил бы. Чтоб такое провернуть...
ИИ, хоть искусственный но все же интеллект, а значит почему бы и не уметь в хитрость?

Но вейт, такой же хитростью можно грифонить сервер каждый раунд. И вполне успешно.

А я блять для кого сказал, что ограничиваем фантазию игроков правилом 0?