May 24th, 2017

(no subject)

В одной дискуссии не здесь упомянули что вряд ли искусственный интеллект появится резким скачком. Скорее постепенно машины научатся делать все то же, что и люди.
И что это будет значить что нет на самом деле никакого "интеллекта", принципиально отличающего человека от животных и машин. И что это будет очень страшно.

Cognitive scientist немного неприлично писать на эту тему, но что уж. Попробую.

Я, конечно, испорчена блейдраннером, но мне не кажется, что это будет страшно. Если у нас получится воссоздать чудо творческого мышления или чудо самозарождающейся этики (или же достаточный субстрат для этих вещей. а дух божий пусть и дальше веет где хочет), или что у нас нынче считается душой, то в чем проблема.
А если не получится, то машины явно не "научатся делать все то же, что и люди".

Страшнее другое - сколько всего мы узнаем в процессе про то, как у человека устроены те самые творчество и ценностная система (а если резкого скачка не будет - гарантированно узнаем). И что человечество будет делать с тем, что не все люди интеллектуальны и не все проходят обновленный тест Тьюринга. Вот это реально страшно.

У меня немного экстремистская позиция, но я считаю, что большую часть времени большая часть людей является биологическими автоматами. Мышление (создание новых структур и новых категорий, не только вывод по правилам в рамках существующих. внимание к слаборазличимым, но насыщенным смыслом деталям. другие клевые вещи, которые мы никак не замоделируем) - редкая и драгоценная вещь.
Интеллект не выдается раз и навсегда по факту принадлежности к биологическому виду или получения диплома о высшем образовании.

Просто пока мы все можем выучить базовый курс матанализа и успешно делать вид, что это не так.
Мне странно, что я до сих пор ни разу не встретила этой темы у фантастов. Все только про самосознание горазды.