October 21st, 2011

(no subject)

Вот, кстати, частая ошибка тех, кто пытается изобретать ИИ, спорить с изобретающими ИИ, потрясать теоремой Гёделя и прочая.
Они почему-то считают, что можно попытаться моделировать хотя бы математическое мышление некой единой формальной системой/единым алгоритмом. Дальше они вспоминают или не вспоминают Гёделя и что-то из этого выводят. Иногда говорят, что нам нужна другая математика
Одно из главных свойств мышления при этом заключается в том, что человек способен переключаться между формальными и не очень системами/алгоритмами и даже применять их друг к другу. Выучивать новые. Выбирать границы объекта, к которому он это все применяет. Выбирать и менять систему координат. То же математическое мышление состоит минимум из двух частей - той самой математической интуиции (и не факт даже, что их не несколько) и оперирования жесткими формальными правилами. Одно без другого неполноценно.
Отдельные системы при этом сколько угодно могут быть противоречивы или неполны. Они вообще продукт окружающей среды чуть менее чем полностью (здесь мы вспомним, что читали Выготского). Математическая интуиция тоже.
И изучать надо субстрат, который это позволяет. Каким образом он это позволяет. Что такое для него эти алгоритмы. Что может научиться их все воспроизводить, и напоминает ли это хоть чем-нибудь известную нам математику. Это совсем другой уровень абстракции, там уже нет формальных систем в привычном нам понимании этого слова. Как только мы пытаемся ввести формальную систему, мы сползаем на уровень предыдущий. Любая система возникает на границе внешнего мира и порождаемого этим субстратом процесса, и только там. (и, кстати, это полностью разносит хомскианскую идею языка как инстинкта и, простигосподи, набора принципов и параметров)

Причем, об этом пишут и Хофштадтер и Пенроуз, и бог знает еще какие авторы научно-популярного, но это абсолютно не очевидно пока сам во все это не закопаешься. Фокус внимания все время съезжает на что-то еще.

И внятных работ именно про это я практически не знаю. Даже если делать поправку на то, что я больше читаю про лингвистику, их все равно мало. Люди пытаются заниматься language acquisition modelling, придумывают основанный на жесткой формальной системе алгоритм и всерьез пытаются сравнивать его с процессом обучения языку детей.
Так полагаю, что, когда всем это станет более или менее очевидно, а какой-нибудь светлый ум сможет это четко сформулировать, это и будет тем самым сломом парадигмы, который сейчас в воздухе витает.

(когда я пойму как сказать то, что сказать хотела, мне, наверное, сразу можно будет идти писать диссер в какой-нибудь крутой западный университет)