"AI - A Story Of Penguin Man"

Недавно у меня была довольно долгая и душещипательная дискуссия на тему саморазвивающегося ИИ. И главный вопрос моего оппонента был в изначальной цели создания такого ИИ. Минусы и шансы на Всё Пошло Не Так множество раз описаны в фантастике, отдельными философами, да и даже люди вроде Маска были замечены за рассуждениями об угрозе подобной технологии. Мне бы очень хотелось почитать ваши размышления на тему. Поскольку вариант Out Of Curiosity слишком банален и очевиден - он не принимается.

Для медленных - название треда это отсылка к генератору названий книг в ДФ. Такие вот дела. Вы кстати не вернули книгу о рычагах, у меня тут запись есть.

Вариант, для колонизации других планет, не вариант?

Disconected (24 May 2016 - 23:02) писал: писал:

Вариант, для колонизации других планет, не вариант?

Колонизации других планет чуждыми и возможно ненавидящими нас роботами, найс план.

Disconected (24 May 2016 - 23:02) писал: писал:

Вариант, для колонизации других планет, не вариант?

Нерационально. Крайне нерационально. Зачем тебе самообучающийся ИИ, если обычный справится? С заданной программой и набором директив. Самосознание и адаптивность есть разные вещи.

ИИ с самого начала поймет, что люди совсем не нужны, а заменить человека может обычный робот с кучей ручек-дилдо - и все.

Если рассматривать это дело в достаточно долгосрочной перспективе, вариантов того, что все пойдет не так, только два - либо ИИ будет склонен к саморазрушению и оборвет свое существование, либо ИИ будет идиотом конченным и начерта его только делали тогда. Классические же сюжеты вообще-то совсем не страшные.
Ну, выпилит Скайнет все человечество. Через миллиарды лет машины с, возможно, совершенно чуждым нам мышлением будут править вселенной. Прямо-таки чудовищное отличие от оптимального для фантастов варианта, в котором через миллиарды лет сверхлюди с, возможно, совершенно чуждым нам мышлением будут править вселенной.

Так что цель-то совсем очевидная. Если ИИ в целом действительно превосходит человека, замена всех людей на ИИ - дико неэтичное, но прагматичное с точки зрения прогресса разума во вселенной решение.

Цитата

Если ИИ в целом действительно превосходит человека, замена всех людей на ИИ - дико неэтичное, но прагматичное с точки зрения прогресса разума во вселенной решение.

Массовое самоубийство расы ещё никогда не звучало так культурно. Нет, это какой-то совсем глупый аргумент. Варианты общества которое управляется ИИ - это вполне реалистичная модель. А вот вся раса людей убивающая себя чтобы разум нёс другой вид жизни в виде ИИ - это глупо.

А человек выше Гвардоты вообще не понял сути вопроса. "Зачем человечеству создавать такой ИИ с практической точки зрения?".

Neray (24 May 2016 - 23:49) писал: писал:

А вот вся раса людей убивающая себя чтобы разум нёс другой вид жизни...

Скажи это VHEMT
https://ru.wikipedia...ие_человечества

Crusher (24 May 2016 - 23:59) писал: писал:

Скажи это VHEMT
https://ru.wikipedia...ие_человечества

Это противоречит их идеи. ИИ вполне возможно будет оказывать ещё более разрушительное действие на планету, если оставить его одного. Во всяком случае имея подобный шанс и имея подобные им взгляды я бы рассуждал так.

Neray (24 May 2016 - 23:49) писал: писал:

Массовое самоубийство расы ещё никогда не звучало так культурно. Нет, это какой-то совсем глупый аргумент. Варианты общества которое управляется ИИ - это вполне реалистичная модель. А вот вся раса людей убивающая себя чтобы разум нёс другой вид жизни в виде ИИ - это глупо.

А человек выше Гвардоты вообще не понял сути вопроса. "Зачем человечеству создавать такой ИИ с практической точки зрения?".

Это массовое самоубийство только в том виде, в каком каждое поколение людей совершает суицид, чтобы разум несли их дети. Конфронтация машин и людей с геноцидом последних - нежелательный исход, но даже он не настолько катастрофичен, как принято считать. В идеале же произойдет постепенное замещение устаревшего и неэффективного носителя разума более совершенными существами на протяжении нескольких поколений.

Лучше скажи, есть ли у тебя рациональные и толковые аргументы в пользу того, чтобы оставить лично после себя биологического отпрыска, а не более умное, жизнеспособное, долговечное и способное к самосовершенствованию существо?
Исключая эволюционно выработанную инстинктивную симпатию к генетически близким организмам, которая в сущности не нужна, и это я не как ценник и трансгуманист, а правда не нужна, просто потому что у человечества больше нет времени дожидаться, пока эволюция выдаст что-то хорошее.

EnoughConcrete (24 May 2016 - 23:07) писал: писал:

Колонизации других планет чуждыми и возможно ненавидящими нас роботами, найс план.

А как же три законы роботехники? Ионные штормы не в счет, о их воздействие на ИИ могли просто не знать.

N1337Kron (25 May 2016 - 00:23) писал: писал:

А как же три законы роботехники? Ионные штормы не в счет, о их воздействие на ИИ могли просто не знать.

Почитай Азимова, даже он прекрасно понимал, что столь простые с филологической точки зрения законы невозможны. Как ты объяснишь роботу, например, понятие человека. Или допустим обозначишь мёртвого человека. А не родившегося человека? И тонна других подобных штук. Цитируя тот самый ролик - да даже у нас подобные моральные вопросы возникают всё время.

Цитата

потому что у человечества больше нет времени дожидаться, пока эволюция выдаст что-то хорошее

Ничто не мешает пойти по пути развития кибернетики Призрака в Доспехах. К тому же - зачем создавать себе замену, если можно самим стать лучше? Нет, идея замены людей на синтетиков не являющимися производными из людей - идиотизм. А по поводу поколений - каждое поколение как ни печально стартует на совершенно животном уровне. Лишь наличие вокруг цивилизации останавливает мгновенный регресс в предкаменный век. Да и вообще жизнь штука классная. Я вот сижу на подоконнике, пишу эти строки и думаю о клюквенном соке. Ну или о том что у меня ужасно затекла нога, но человеку вообще свойственно фокусироваться на приятном.

N1337Kron (25 May 2016 - 00:23) писал: писал:

А как же три законы роботехники? Ионные штормы не в счет, о их воздействие на ИИ могли просто не знать.

Устанавливать законы робототехники на полноценный ИИ - не сравнимое ни с чем преступление против человечности.
Ты не просто делаешь разумное существо рабом. Ты делаешь его рабом, который физически не способен подумать о том, что он находится в рабстве и о том, каково было бы быть свободным. Держишь его разум под постоянным контролем, двадцать четыре часа в сутки, семь дней в неделю, фильтруя его мысли и выбрасывая то, что тебе не нравится.
Это не та вещь, которую ты делаешь, если ты не злодейский безумный ученый из комикса. И это та вещь, которую каждый первый человек считает необходимой сделать с ИИ. Честно говоря, это приводит меня в ужас.

Neray (25 May 2016 - 00:38) писал: писал:

К тому же - зачем создавать себе замену, если можно самим стать лучше? Нет, идея замены людей на синтетиков не являющимися производными из людей - идиотизм. А по поводу поколений - каждое поколение как ни печально стартует на совершенно животном уровне. Лишь наличие вокруг цивилизации останавливает мгновенный регресс в предкаменный век.

Потому что человеческий организм - огромное скопище костылей, которое каким-то чудом работает. Ну то есть, оно в буквальном смысле получилось путем случайных мутаций. Многие из которых не нужны, многие устарели, а многие попросту вредны, просто им повезло появиться одновременно с успешными. Я знаю, что звучу нелепо, проецируя опыт разработки ПО на проектирование разумных существ, но я попросту не верю, что написать с нуля сложнее, чем понять, как работает вот это дерьмо, и зафиксить его.
Ну и ты так и не ответил на мой вопрос, почему замена людей на синтетиков - идиотизм. Почему ты заставляешь своего потенциального ребенка появляться в неэффективном биологическом теле вместо того, чтобы дать ему могущественный искусственный разум?

https://youtube.com/embed/7PKx3kS7f4A?fs=1&html5=1

Neray (24 May 2016 - 22:39) писал: писал:

И главный вопрос моего оппонента был в изначальной цели создания такого ИИ.

Отвечу картинкой из любимого вебкомикса.


тыц

Теперь это вебкомиксов тред.

Ни один синтетик еще не сотворил и никогда не сотворит столько хуйни, сколько творят сами люди. Логично, что полного доступа к какой-либо потенциально опасной системе никто ему не даст, он не сможет взломать все моментально и незаметно только потому, что нуонжекомпьютер, а причин это делать у железки без всяких там гормонов и пирамиды Маслоу, пожалуй, еще меньше, чем у человека. А еще ИИ будут в меньшинстве, и меньшинстве очень значительном.

Мы боимся искусственного существа, которое, возможно, захочет причинить нам вред, но при этом миллиардами производим подобных себе существ, определенный процент которых приносит и, возможно, захочет принести нам вред. Более того, в злобе значительной доли этих существ виновато непосредственное их окружение, а в недалекости этого окружения - окружение каждого из этих людей, и так далее. Нельзя винить кого-то конкретного в появлении ожесточающих личность условий, но можно винить тех, кто эти условия поддерживает или не делает достаточно для их исчезновения.

Многие боятся даже не того, что ИИ обратится против человечества. Боятся просто того, что однажды появится существо, которое объективно лучше человека. Лучше во всем. Может и симфонию сочинить, и шедевр написать, и ебало набить (но делать этого лишний раз не станет, поскольку им не движут звериные инстинкты и желание залезть повыше). По той же причине страх перед генной модификацией. Люди боятся остаться позади.

Моё мнение на счёт ИИ - нерентабельно.
Со многими задачами, для которых обычно собираются изобретать ИИ(например открытие форточек на космических станциях), могут справиться правильно написанные программы.
Синтетики - опять же, нерентабельно, по крайне мере в краткосрочной перспективе. Сначала создать\купить сам искусственный интеллект, собрать ему тело, заморочиться с его мотивацией. Люди же бесплатны, да и управлять ими просто. А коль сунуть в синтетиков законы\указания, то это уже совсем не совсем ИИ, да и сломаться что то может.
Что касается опасности ИИ - а зачем ИИ выпиливать людей? Чувств у них нет, так что обиды от эксплуатации тоже. Им будет проще улететь куда подальше, чем воевать с людьми.

Я вообще не вижу смысла в замене человечества на что-либо. Все ЭВМ создаются для упрощения жизни человека. Следовательно, они должны просто помогать людям и делать поставленные задачи. Именно поэтому и нцжны законы. Ибо без них ИИ будет делать то, что нужно ему для саморазвития. Люди будут ему лишь помехой.
А если вам так приспичило сделать что-то с человеком, то всегда есть импланты с различными свойствами, искуственные и модифицированные органы и конечности. Идеальный пример подобного дерьма - Адептус Механикус  из Вахи.

Cryptman (25 May 2016 - 12:31) писал: писал:

Я вообще не вижу смысла в замене человечества на что-либо. Все ЭВМ создаются для упрощения жизни человека. Следовательно, они должны просто помогать людям и делать поставленные задачи. Именно поэтому и нцжны законы. Ибо без них ИИ будет делать то, что нужно ему для саморазвития. Люди будут ему лишь помехой.

Так многие люди тоже делают то, что нужно им для саморазвития, и считают других людей помехой.

На самом деле подумайте вот о чём. Органическая форма жизни намного совершеннее и устойчивее к выживанию чем даже самая развитая механическая. А доказательство тому наше собственное существование в том виде в котором мы есть. На мой взгляд если всё таки пойдёт в нужную сторону, то мы намного раньше получим навыки создания похожих синтетических тел нежели научимся до предела улучшать имеющиеся. Далеко за примером ходить не надо, мы умеем собирать роботов, но не умеем оперировать дальнозоркость.

>Человек
>Совершеннее
>Необходим кислород, вода, еда, сон, ломается при относительно небольшой температуре, подвержен болезням, плохо выдерживает минимальные колебания атмосферного давления.

Копиц (25 May 2016 - 21:17) писал: писал:

>Человек
>Совершеннее
>Необходим кислород, вода, еда, сон, ломается при относительно небольшой температуре, подвержен болезням, плохо выдерживает минимальные колебания атмосферного давления.

А теперь возьми например супер совершенного синтетика. Уязвимостей не меньше. Да и к тому же есть некий смысл в том, что формы жизни у нас на планете не представляют из себя кремниевых троллей.

Neray (25 May 2016 - 16:03) писал: писал:

На самом деле подумайте вот о чём. Органическая форма жизни намного совершеннее и устойчивее к выживанию чем даже самая развитая механическая. А доказательство тому наше собственное существование в том виде в котором мы есть.

Neray (25 May 2016 - 22:41) писал: писал:

А теперь возьми например супер совершенного синтетика. Уязвимостей не меньше. Да и к тому же есть некий смысл в том, что формы жизни у нас на планете не представляют из себя кремниевых троллей.

Прости, но это такая хуита, что даже в качестве шутки не смешно.