Previous Entry Share Next Entry
(no subject)
reading
northern_wind
В одной дискуссии не здесь упомянули что вряд ли искусственный интеллект появится резким скачком. Скорее постепенно машины научатся делать все то же, что и люди.
И что это будет значить что нет на самом деле никакого "интеллекта", принципиально отличающего человека от животных и машин. И что это будет очень страшно.

Cognitive scientist немного неприлично писать на эту тему, но что уж. Попробую.

Я, конечно, испорчена блейдраннером, но мне не кажется, что это будет страшно. Если у нас получится воссоздать чудо творческого мышления или чудо самозарождающейся этики (или же достаточный субстрат для этих вещей. а дух божий пусть и дальше веет где хочет), или что у нас нынче считается душой, то в чем проблема.
А если не получится, то машины явно не "научатся делать все то же, что и люди".

Страшнее другое - сколько всего мы узнаем в процессе про то, как у человека устроены те самые творчество и ценностная система (а если резкого скачка не будет - гарантированно узнаем). И что человечество будет делать с тем, что не все люди интеллектуальны и не все проходят обновленный тест Тьюринга. Вот это реально страшно.

У меня немного экстремистская позиция, но я считаю, что большую часть времени большая часть людей является биологическими автоматами. Мышление (создание новых структур и новых категорий, не только вывод по правилам в рамках существующих. внимание к слаборазличимым, но насыщенным смыслом деталям. другие клевые вещи, которые мы никак не замоделируем) - редкая и драгоценная вещь.
Интеллект не выдается раз и навсегда по факту принадлежности к биологическому виду или получения диплома о высшем образовании.

Просто пока мы все можем выучить базовый курс матанализа и успешно делать вид, что это не так.
Мне странно, что я до сих пор ни разу не встретила этой темы у фантастов. Все только про самосознание горазды.

  • 1
Ну не знаю, как можно говорить про ИИ "страшно".
Я выросла на Терминаторах 1-2 и на Silver Metal Lover Танит Ли, у меня мечты-впечатления от них, этих железяк, только самые радужные :)

А потому что этика альтруизма у человека не самозародилась чудесным образом, как мыши в тряпках, а долго-долго росла и форимровалась как продукт эволюции при соревновании групп родственных индивидов в рамках внутривидового отбора.
Для формирования подобного вида этики у ИИ естественным образом просто нет никаких предпосылок. Так что, если мы оставляем возможность логической и этической системе ИИ саморазвиваться, это закончится достаточно предсказуемо.
Дедушка Азимов был гениален, не только тем, как он это увидел, но и тем, как он балансировал в своей стилистике между краем розовых пони и антиутопией, чтобы донести все это более-менее доступно (в том числе, и для интеллектуального большинства).

"человек разумный имеет к разуму не большее отношение, чем очковая змея к широко распространенному оптическому устройству"(c)тругацкие :)

и, по-моему, это уже давно общее место.

Мне кажется, оно в формате angry rant общее место.
А в формате, скажем, антиутопии "мы официально признали, что вот эти люди и машины - с интеллектом, граждане и личности, а вот эти - без интеллекта, не граждане и не личности" - неа, не вижу.
В формате "ять, мы добровольно и массово превращаем себя в зомби, у 70% в этой оболочке к сорока годам не остается личности, хотя остаются достижения и умение складно говорить" - вижу у экзальтированных толкиенистов разве (в то время как это техническое и про то, что делать с собой).

Edited at 2017-05-25 06:12 am (UTC)

Мне кажется, это для западной культуры может быть страшно. А если у каких-нибудь японцев, скажем, изначально в культуре граница нечеткая между предметами, животными, людьми и духами - и для них ничего кардинально не поменяется.

А так-то, конечно, человечность - это возможность, а не данность:)

Интересная мысль про западную культуру... Наверное, так и есть.

Кажется, у Лукьяненки в "Спектре" была модель неиспользования интеллекта.

Была)) Я тоже вспомнила. "Думать зло, думать зло?"))

На тему признания субъектов личностями и гражданами на основе какого-то теста на интеллект тоже задумывался.
Недавно с коллегой обсуждали применение этой модели к выборам и праву голосовать. Я был бы только за, если в недалеком будущем для того, чтобы иметь право голосовать, гражданам было бы необходимо пройти несложный тест на тему организации власти в стране, на знание конституции, по программам различных партий и т.д.

Тогда число голосующих упадет до процента или еще ниже.
Но не знаю, на благо это будет или нет.

А фантасты боятся об этом, даже те, кто понимает. Когнитивщики-то боятся об этом, чего уж. Неполиткорректненько, и уже давно, и еще очень долго не будет ок.
Ты же знаешь судьбу письма "Mainstream Science on Intelligence"?
Ну и вот. И это были еще относительно вольные девяностые.

Вот меня удивляет что литераторы боятся. Офигенный же пиар.
И не обязательно ведь это будет фашизм. Можно прийти к более оригинальным моделям устройства общества.

Неа! Не знаю. Погуглю сейчас.

Мне по этой теме очень нравится Станислав Лем:

"Конечно, быть может, автоматы, превысив определенный «порог сложности», станут проявлять признаки своеобразной «индивидуальности». Если это произойдет, индивидуальность их будет столь же мало походить на человеческую, сколь человеческое тело – на атомный реактор. Мы должны быть готовы к неожиданностям, заботам и опасностям, которых не можем сегодня представить себе, – но не к возврату демонов и химер средневековья в технической личине."

все такъ, подпишусь
и я как раз прекрасно понимаю паранойю Хокинга, хотя и сам чуть оптимистичнее

Вроде ""Нейропат" в эту степь ступал. Что по большей части биологические автоматы, да и вообще, зомби Серля - не страшилка, а лишь драматизация обыденности

Я подозреваю, что эффективный критерий, по которому люди, вышедши в космос, будут отличать интеллектуальных существ от неинтеллектуальных, можно будет сформулировать примерно так: "Интеллектуальные существа - это существа такие, что многократные попытки людей относиться к этим существам как к объектам потерпели закономерную баснословную неудачу". Я готов поверить в то, что интеллект (в каком угодно определении) здесь будет необходимым условием, но я сомневаюсь, что он будет условием достаточным.
Естественно, официальный критерий может быть другим. Возможно, его будут переизобретать ad hoc каждый раз.

Edited at 2017-05-26 06:48 pm (UTC)

Мне вот что интересно по поводу этих гипотетических искусственных личностей: а вместо мотивации у них что будет? У человека-то мотивацию обеспечивают наработки эволюции за весь период существования жизни.
Я нигде не встречал, чтобы этот вопрос как-то освещался (впрочем, специально я не искал). Такое ощущение, что в коллективном бессознательном правит ползучий анимизм, согласно доктрине которого уж желания-то есть у всего на свете, хоть у булыжника. Просто проявиться вовне они не могут. Чтобы эти желания вышли на поверхность, нужна ачивка "самосознание", получаемая по достижению определенного уровня интеллекта.
Даже термин "искусственная личность" мне пришлось изобретать на коленке самостоятельно. Всем достаточно "искусственного интеллекта". При том, что кофеварка, предпочитающая одни сорта кофе другим, мне кажется, в большей степени претендует на роль предтечи Скайнета, чем суперкомпьютер, который по внешней команде реализует заложенный в него функционал, а в остальное время экономит электроэнергию.

О. Я выше толкаю телегу про Уоттса, а вы, оказывается, все то же уже написали. Прошу прощения.
Вот да!

Я не думаю, что ползучий анимизм. Скорее склонность дробить живой объект на части и изучать их по отдельности.
И преклонение европейского человека перед рациональностью и разумом, которые кажутся вершиной всего. И которые кажется возможным отделить от воли и целеполагания ("произвольное внимание"? не, не слышали)

Вопрос про связь эмоций с самосознанием много кого занимает, по-моему.
(в том числе "возможно ли самосознание без эмоций")

Edited at 2017-05-28 09:49 pm (UTC)

я бы выразил чуть по-другому
используя узкую фокусировку, мы потихоньку научились фиксировать общую статику, форму, фактуру, но динамика нам самим видна очень туманно.
если что и получается в подобии, то это больше случайность.
а вот если начнем видеть капельку больше динамики, то уже не сможем скрывать от себя многие детские огрехи и пакости..

Прошу прощения, ошибся веткой.

Edited at 2017-05-27 06:29 pm (UTC)

***И что человечество будет делать с тем, что не все люди интеллектуальны и не все проходят обновленный тест Тьюринга. Вот это реально страшно.***

А что страшного-то? Давно ли по историческим меркам одни люди официально принадлежали другим людям в статусе самодвижущегося инвентаря, от которого никакое поведение, свидетельствующее о мышлении, не то что не ожидается, а расценивается как баг? В быту обращение с окружающими как с объектами вроде бы тоже не сильно редко. Реклама из каждого утюга обещает кнопку, включающую у окружающих (или у самого потенциального покупателя) то или иное поведение или эмоцию.

Мне кажется, новости насчет автоматичности людей если и произведут какой-то эффект в обществе, то это будет не экзистенциальный ужас, а бум волшебных кнопок для управления окружающими и собой. Вот если бы эти открытия каким-нибудь образом привели к тому, что каждому или почти каждому пришлось бы включать мышление чаще привычного, тогда бы основы сотраяслись, но я пока не вижу, почему бы эффект от этих открытий был именно такой.

Очередная цитата А. Семенова (да, я сам потерял интеллект и не способен на свежие мысли):

Жил был мальчик, который как-то умел летать (как Ариэль). Против всяких законов логики не говоря уже физики.
Ученые мужи ломали, ломали горову, как так он это делает? Не смогли понять.
Пришли к мальчику и спросили: "Как это тебе удается так летать?"
- Не знаю! - чистосердечно ответил мальчик.- Летаю и все! Я не задумываюсь! Само получается! Зачем задумываться, если само получается!
- Так не должно быть! - возразили ученые мужи. - Все должно иметь объяснение! И твое умение тоже!
Задумался мальчик. Думал, думал... и ... ПОНЯЛ. Тут же рассказал мужам.
Мужы выслушали и тоже поняли. Обрадовались и сказали - Прекрасно! Теперь мы знаем как это происходит. Все верно. Покажи нам как ты это делаешь еще раз.
Мальчик попробовал и... НЕ СМОГ.
Он разучился летать!

Вот такая удлиненная версия истории про сороконожку, которая задумалась как она переставляет ноги.
Вас, видимо беспокоит это же самое и в случае с ИИ?

Если мы поймем что такое разум, мы... мы что-то потеряем, что имели не зная что такое разум? Что-то очень важное? Верно? И вас это очень сильно пугает.


Снова мимо ветки. Да что ж такое.

Edited at 2017-05-29 11:20 am (UTC)

Поднятая тема мне очень интересна, но не хватает профильных знаний для полноценного обсуждения ^^"

"У меня немного экстремистская позиция, но я считаю, что большую часть времени большая часть людей является биологическими автоматами."

И я теперь тоже. Путь к этой позиции был очень долгим и болезненным, на уровне психотравмы ><.





  • 1
?

Log in

No account? Create an account