[Сантьяго]

Я осознал одну вещь. Для меня фильм Терминатор 2 это не борьба двух роботов, а того, как машина обучается, учится эмоциям и учится ценить человеческую жизнь. Когда машина начинает мыслить и обретать разум. А значит - становиться не машиной, а существом. Пусть из металла, но существом. Эволюция.

Comments

[Сёстр Мирового кАзла]

Ты, конечно, читал Стругацких? Там был момент про машину, которая проработала всего 4 минуты, а потом её выключили, потому что она начала себя вести.

[Сантьяго]

Сёстр Мирового кАзла, Напомни роман пожалуйста?

[DDD]

Эволюция.

Некроэволюция, по С.Лему.

[Сёстр Мирового кАзла]

"Далёкая радуга", если я не ошибаюсь.

[Сантьяго]

DDD, Лема мало читал. А почему некро то? Сложно мне читатьп ереводы Лема - мозг ломают.

Сёстр Мирового кАзла, Нет, не читал. Почитаю, если там про машину такую умную =)

[Сёстр Мирового кАзла]

Сантьяго, на самом деле, там это мельком упоминается, т.к. к теме не слишком относится, но произведение стоит внимания.

[Сантьяго]

Сёстр Мирового кАзла, А есть, что к теме относиться? А то я читал давно и многое забыл. Вдруг вообще что пропустил.

[DDD]

Сантьяго,

А почему некро то?

Эволюция машин - мертвой материи.

"Непобедимый" - пожалуй, лучшее, что вообще было когда-либо написано на эту тему за всю историю мировой научной фантастики. Сцена битвы циклопа с тучей до сих пор считается одним из эталонов жанра.

[Сантьяго]

DDD, Я погуглил. Глупый вопрос задал. А посоветовать годный перевод можешь?

[Сантьяго]

DDD, Я погуглил. Глупый вопрос задал. А посоветовать годный перевод можешь?

[Сёстр Мирового кАзла]

Сантьяго, я не помню, чтобы они сильно касались этой темы, потому как человечество быстро поняло, что мыслящие машины опасны.

[Сантьяго]

Сёстр Мирового кАзла, Неа, не поняло. Так как разрабатывает самообучающиеся нейронные сети.

[Лайверин]

как машина обучается, учится эмоциям и учится ценить человеческую жизнь. Когда машина начинает мыслить и обретать разум. А значит - становиться не машиной, а существом.

Хороший подход. Там ведь Сара так в финале и говорит: если робот понял ценность человеческой жизни, то, возможно, получится и у нас.

[Сантьяго]

Лайверин, Именно. Скоро пришлю умыл. Если есть возможность прочти кусок текста в теме "Роман" и скажи, как оно лады? Хотя часть будет вырезаться, потому что под конец - затяг идет. Там не дописано, только начало. Но это то, что видел я.

[Лайверин]

Если есть возможность прочти кусок текста в теме "Роман" и скажи, как оно лады? Хотя часть будет вырезаться, потому что под конец - затяг идет. Там не дописано, только начало. Но это то, что видел я.

Хорошо.

[mikrozavr]

машины будут развиваться. человеки делают себе слуг (я уже где-то писал: человеки мечтают о рабах). как в песне: вкалывают роботы - счастлив человек (может ни хрена не делать). тока вот этим роботы и опасны - человеки вымрут без стимула к развитию сами по себе. "и не рыбы вместо рыб и не люди вместо нас, город был - остался дым, город просто погас".
тока вот сейчас бьются над созданием аналогов человеческого мышления. мне хочется верить, что будет некое разнообразие.
мыслящие машины не более опасны чем другой разумный биологический вид. например дельфины. или вспомним фентазятину. с другой стороны человеки изначально ксенофобны и именно поэтому уничтожили других разумных человеков. шота сумбурно. прошу меня извинить.
а да. если робот получит личность, то он должен быть приравнен к личности биологической. ибо разница только в реализации. а ценность человеческой жизни... люди в лучшем случае ценят только своих. "чужих" готовы уничтожать в любых количествах. вопрос только в том кого они считают "своими".

[Мива]

Сантьяго, для меня всегда Терминатор 2 был тем же самым. Как собственно и "Двухсотлетний человек" и "Искусственный интеллект". Фильмами, где стираются грани между по сути изначально разными формами жизни. Из последних фильмов могу посоветовать все ту же "Машину".

[Сантьяго]

mikrozavr, Задумай о том, чему могут научить люди машин... убивать себе же подобных и тех, кто будет представлять опасность. А ведь может быть, как с тем же Скайнетом, когда попытка отключить примется деректива - "враг". И могут все три закона робототехника Азима пасть, это если их вообще задумаются внести.

[Сантьяго]

Мива, Надо будет глянуть.

[mikrozavr]

Задумай о том, чему могут научить люди машин... убивать себе же подобных и тех, кто будет представлять опасность

ну и что? а если некто задумает отключить твоего любимого человека, ты будешь спокойно на это взирать? разницы то никакой. страх основан на том что тот кому предназначено быть рабом сможет дать сдачи. на том что человек не сможет делать что захочет. что кто-то откажется беспрекословно подчиняться.

[Сантьяго]

mikrozavr, Я не о том. А о том, что люди надо научится учить чему то хорошему не только самих себя, а и задуматься о том, чему могут научить инопланетян, ИИ, АИ и так далее. В одной из космосаг, профессор, создавший ИИ уединился и прежде всего обучал любви и прекрасному. ИИ жаловался о том, что ему не дают полететь к людям. И когда ИИ стал не ребенком, но взрослым, хоть и в опасной близости от грани подростка, он, ИИ, понял почему сделал профессор так. И спас остатки человечества. И от самих себя и от злобных инопланетян. В одну каску. Клюква клюквой, но показательно.

[mikrozavr]

логика понятна: "он сильнее, значит он захочет меня убить или заставит подчиняться ведь я бы сделал именно так. поэтому нужно его опередить. сделать слабее или вообще уничтожить заранее. может посадить на поводок, лишить воли."

ок. зачем сознание, если лишать воли?
однако посмотри у меня ролик на тему эмоций у роботов. это нужно для взаимодействия. но тогда лишение воли есть самое страшное что можно сделать с мыслящим субъектом. и любой мыслящий субъект этому рано или поздно воспротивится. хотя я например вижу как минимум вариант когда субъект получает удовольствие от подчинения. тогда он не будет выкаблучиваться. думаешь заказчики и разработчики глупее меня?

[mikrozavr]

прости я не дождался ответа.
в пику "обучению любви".
может знаешь анимешку SAO. в ранобе есть "арка" алисизация. интересный вариант развития искусственного интеллекта. рекомендую. наивная местами, но вполне в "японском духе". иногда полезно взглянуть на представления другой культуры.

[Сантьяго]

mikrozavr, Не извиняйся, все ок.

[Сантьяго]

mikrozavr, Нет, логика не та. Оно меня отключает, я умру: враг - убить.
А у людей паника перед неизвестным. А может быть и так: они убивают друг друга, не могут договориться. убьют и меня - враг, убить.
Тема воли. тоже интересна.

Ролик эмоций роботов? Гляну, только какие сейчас ИИ и АИ? Да никаких и об эмоциях речи идти не может, имхо.

Анимэ не интересует чуть больше чем полностью. Своими словами рассказать можешь, что эта за такая ""арка" алисизация"?

[mikrozavr]

Оно меня отключает, я умру: враг - убить.

а ты бы рассуждал и действовал по другому?
я говорил про логику людского страха перед машинами. неизвестное страшит более чем известное. и поэтому неизвестному приписываются людские черты. а они весьма неприглядны. человек рисует на машине свой образ, наделяет его силой металла и сам себя пугается. ибо познать "иное" дано не каждому. это не в осуждение. так есть. это к разговору о стереотипах. я считаю их нормальной неотъемлемой частью человека. но все эволюционирует и стереотипы тоже.

ок есть роман (ранобе) реки кавахара (это автор такой). называется "мастера меча онлайн". по нему снято аниме. аниме тебе не предлагаю. предлагаю книгу. книга является сериалом разбитым на разные "темы". в русском сленге закрепилось понятие "арка" (вроде бы по созвучию) по смыслу похоже на "сезон". "алисизация" - обобщающее название нескольких книг. начиналась книга как типичная литрпг, но логика повествования вывела на полноценный искусственный интеллект. герой участвует в тестировании, но по стечению обстоятельств вынужден задержаться в мире "искусственно созданных личностей". они живут по определенным правилам (свод законов), которые принципиально не могут нарушить. и вроде идеальное общество, однако как оказывается не такое уж и идеальное. первых обучали четверо людей. обучали как раз любви. но тема выводится так, что зерно неидеальности присущее человекам с веками (время внутри мира было ускорено) проросло и вылилось в нечто ужасное. кроме всего прочего. ии разрабатывался в качестве начинки оружия и имеется противоположность идеальному обществу в виде "врага не имеющего законов". в общем рекомендую к ознакомлению. своими словами трудно передать - много линий (и социальная и футуристическая и любовная и моральная много короче и все друг на друге завязаны). если не понравится просто не читай. но читается легко. может зайти.

[mikrozavr]

youtu.be/pN0tGhKUuK8

[Мива]

Ролик эмоций роботов? Гляну, только какие сейчас ИИ и АИ? Да никаких и об эмоциях речи идти не может, имхо.

Сантьяго, соглашусь. Все разработки даже человекоподобных роботов сейчас все равно жестко привязаны к оператору, который ими управляет. Те же наиболее совершенные японские человекоподобные геминоиды все равно сейчас абсолютно несамостоятельны в плане собственных эмоций, либо привязаны ограничениями к заложенным в них программам. Так что о саморазвитии и познании мира не идет речь, пока не появится полноценного функционального геминоида, способного самостоятельно передвигаться и при этом не зависящего в плане общения и двигательных функций от оператора-человека. Мне эта сфера всегда была интересна, за какими-то новостями и разработками стараюсь следить. Вот в этой теме у себя собираю miva21.diary.ru/?tag=64477

[Мива]

Сантьяго, по поводу SAO, книгу стоит почитать, это именно обычный полноценный роман, а не манга-комиксы.

[mikrozavr]

тут вопрос всего лишь в вычислительных мощностях и размерах элементов. на самом деле те же гугломобили могли бы быть вполне автономными, тока для этого им нужна нейросеть (в современных технологиях) размером с грузовик как минимум.