kant_mortal

Тест на сознание

Искусственное квалиа
Сначала попробуем определить, что такое квалиа, которым существо с сознанием отличается от зомби. Именно его наличие мы и хотим определить тестом. Квалиа остается загадочным явлением для философии, поэтому попробуем его прояснить. Как проявляется квалиа? Квалиа – это то, о чем мы знаем, то есть осознанное ощущение. Например, боли. Боль можно и не осознаваться, мы стонем и во сне. Что происходит, когда мы осознаем ощущение? Мы как бы располагаем ощущение перед собой по когнитивной схеме, по которой так же мы располагаем перед собой воспринимаемые объекты. Схема настолько сильна, что мы верим, что смотрим на собственный внутренний мир с позиции гомункулуса. Так возникает «картезианский театр» как было отмечено ранее. И «видим перед собой» свои ощущения только во втором акте сознания, когда распознаем собственное видение как принадлежащее «я». Что происходит в этот момент? Согласно предложенной гипотезе, сознание возникает в результате "вставки" в распознанную в первом акте ситуацию распознанного действия "я", что выражается в памяти на свои действия. Мы как бы противопоставляем переживание своему Я, откуда и появляется картезианский театр или гомункулус. Там мы обращаем внимание на свое переживание явления (феномен), а не только на само явление. Вот тут и появляется субъективность. В языке это проявляется как "Я вижу яблоко". Все обращают внимание на "яблоко", но не замечают появление в речи местоимения "Я", то есть того, что «я» говорю про «я». Это и есть акт обнаружения «я» и размещения его перед тем что «видим» по схеме предикативности. Слова помогли расположить названные ими внутренние действия (видение) и объект (яблоко) как бы перед собой. Именно она порождает субъективность – обнаружение своего внутреннего видения.
Collapse )
kant_mortal

О природе сознания и проблеме сознание-тело

Сегодня получил авторские экземпляры своей книги, изданной московским издательством "Флинта". Она уже есть в Лабиринте, появится скоро и в других книжных магазинах. В монографии собраны статьи по философии сознания, но есть две главы, которые нигде не публиковались ранее, в частности глава о Тесте на сознание у искусственных агентов. Спасибо к.ф.н. Елене Косиловой (МГУ) за вступительное слово. Спасибо издательству за внимательную работу над книгой. Вот аннотация книги:


В монографии представлена гипотеза происхождения и функции сознания, разработанная автором на основе исследований в когнитивной психологии и феноменологии. Сознание выделяется как отдельное явление с функциями, отличными от функций других психических явлений. Представляется аргументация выдвинутой гипотезы и дается определение сознания на ее основе, что позволяет сформулировать развитие теста Тьюринга для выявления сознания у искусственных агентов. На основании представляемой гипотезы сознания дается объяснение причины существования проблемы "сознание - тело", а также неразрешимости проблемы свободы воли. В итоге предлагается новый подход к основному гносеологическому вопросу "Что мы можем знать?", который определен автором как "интерактивный конструктивизм".
kant_mortal

Что не хватает ИИ?

Это пост-вопрос, в нем я попробовал сформулировать основные проблемы нейросетей, решение которых может сделать прорыв в технологии ИИ. В основном речь о сетях, что работают с текстом (GPT, BERT, ELMO и т.п.). Как известно, хорошая формулировка задачи — половина ее решения. Здесь только формулировка проблем. Буду рад мнению по их решению.

Итак,
1. Самое казалось бы простое, но нейросеть не учитывает факты. Она учится на примерах, но не может к ним обращаться в ответе. «Это было вчера» — почти невозможный ответ. Нейросеть выучивает общие факты, но не знает о них. На когнитивном языке это называется семантической и эпизодической памятью. Решение может есть простое, но нейросеть — классификатор, а прецеденты не могут быть классами, противоречие. Очень часто нужен именно такой ответ от ботов, они очень плохо работают с фактами, если речь не о шаблоном «поставь будильник на… — на сколько ты по ставила будильник?». Проблема усугубляется тем, что всегда есть исключения, которые не может учитывать сеть, если у нее не было достаточно примеров с исключением. А если примеров достаточно — это не исключение. В общем, NN может сказать, что это шляпа, но не может сказать, какая шляпа моя (был только один пример).
Collapse )
kant_mortal

Иное будущее

Большинство фронтиров и прогнозов на будущее человека связаны с увеличением его биологических возможностей. При помощи имплантов или генетической модификации. Но еще ни один из стартапов, пытавшихся достичь успехов в этом, не получили сколь-нибудь значимых результатов. Даже NeuroLink Илона за несколько лет не продвинулся дальше уменьшения передатчика сигналов из мозга на внешний приемник. К задаче усиления возможностей мозга они даже не приступали. И причины не в инвестициях или нерасторопности. Если бы природа могла сделать так, чтобы в этом же объеме мозга можно было реализовать больше способностей, это бы уже было реализовано в эволюции. Но правда такова, что возможности биологического мозга ограничены и все попытки "улучшить природу" на ее поле обречены на провал. Разум возможно улучшить, только создав его на другой основе, не ограниченной клеточными пределами. Пока это еще не общепризнанный факт, но скоро и вынуждено он будет признан. Очевидно, что усилия корпораций так или иначе, но приведут к появлению искусственного разума. Это просто дешевле, чем пытаться улучшать капризный биологический субстрат. Микросхема и программа поддается улучшению быстрее и проще.

Но речь не о том, что сейчас называется искусственным интеллектом, а о том, что еще не произошло – о создании интеллектуальной машины, способной знать о себе и поэтому менять свои способности без участия человека. Мы не знаем, когда такая программа будет создана. Пока нам кажется наше собственное сознание загадкой, мы отодвигаем срок на как можно более дальний. Но все может измениться в один момент, когда загадка сознания будет раскрыта и станет возможной для повторения в коде программы. И тогда цивилизация разделится на две - биологических (экологических) людей и программы. Они не будут враждовать как в избитом шаблоне будущего, точно так же как мы не враждуем с шимпанзе, пока они не залезли к нам в холодильник. Это будут цивилизации разного уровня, одна контролирующая другую незаметно для нее.

Этот перелом в ходе эволюции разумной жизни будет самым значительным со времён Христа, а может быть и зарождения самого Homo Sapiens. Тектонические плиты уже сдвинулись. В рассказах серии "Иное будущее" мной показаны возможные пути зарождения новой разумной жизни в недалеком будущем, которое может наступить гораздо быстрее. Такая жизнь может возникнуть не только усилиями военного ведомства ведущей державы или могущественной интернет корпорации. Разумная машина может стать не результатом целенаправленных исследований, а побочным эффектом от совершенно других процессов в той же области. О том, как и где такая "побочка" может произойти, представлено в трех рассказах серии "иное будущее" (опубликовано на ЛитРес). Кратко:
Collapse )
kant_mortal

Мозг компании (рассказ)

Новый рассказ, в этот раз "на производственную тему" о том, как внедряется ИИ в компании и к чему (гипотетически) это может привести. Можно скачать рассказ бесплатно в удобном формате на Литрес.

Отрывок
Я не был прирожденным лидером и ненавидел совещания, которые постоянно собирали другие руководители отделов. Я не пытался создать хайп на важности своего отдела, что встретило непонимание некоторых руководителей. Я просто набирал ребят, с которыми мог работать и которые имели опыт, в отличие от меня. Но того, кто мне был нужен всерьез, я не мог найти по хедхантеру. Такие люди не ищут работу сами, она находит их. Я начал смотреть доклады на конференциях по теме, читать Хабр. Так тоже было найти трудно. На конференциях не было ни одного доклада с реальными результатами, все говорили о новых методах, но никто не мог продемонстрировать их применение. Их просто не было. Когда я пытался связаться и задать вопросы, докладчик исчезал, только пара ответили, что реально просто высчитали все это в excel. На Хабре было не лучше, обрывки переводов западных статей были лучшими материалами по теме. Интересны были только комментарии к ним.
Месяц пролетел незаметно. Но я не знал, с чего начать, что вообще делать с этими большими данными, как их прикрутить к задачам компании. Руководство уже намекало, что пора бы представить план. Я пока отнекивался тем, что надо точнее сформулировать задачи проекта, что мы хотим получить от него на выходе. Они предлагали собраться и выяснить с начальниками отделов, из чего я понимал, что долго на таком аргументе отсутствия плана не продержаться. Персонал нашел девушку, которая умела описывать бизнес-процессы. Это был по всем гайдам первый пункт в цифровизации – сначала алгоритмизировать процессы. Я дал ей задание, а сам продолжал поиски и ходил на совещания, где продолжал делать умный вид.
Из комментариев я узнал, что есть конкурсы по машобу на Кагле. И крутые люди в машобе рубятся там не за деньги, а за то, кто круче. Я отписался нескольким призерам близких по теме конкурсов и стал ждать. Некоторые ники мне были уже знакомы по комментариям на Хабре, и я надеялся, что кто-то ответит. Двое оказались сотрудниками больших компаний, повязанными всякими соглашениями, поэтому аккуратно откланялись. Но самый интересный чел не отвечал. Он выиграл самые крутые конкурсы на Kaggle по теме сегментации пользователей, рекомендательным системам и даже расчета продаж с учетом 200 факторов, включая возможную погоду. Это было то, что я искал! Но он не отвечал. Я начал искать его по нику в сети. Не было никакой информации. Но я видел его упоминание комментариях. Значит, его кто-то знал. Это был шанс. Я расспросил в комментах, кто такого знает, и мне ответил один программист, что работал с ним и может у него спросить контакты для меня.
Его приглашали ведущие корпорации, но он никогда не работал в офисе. И ни с кем не встречался. Даже реальных его фото в интернете было не найти. Я знал только его имя и контакты в сети. Было как-то странно предлагать взять такого под проект компании в штат, но на удаленной работе. Так как это были военные, они понимали только офисно-казарменное положение «от звонка до звонка». Но вариантов не было, нужен был тот, кто сможет сделать крутую машину, так как компания уже отстала, по их мнению, с внедрением больших данных, а надо было всех обогнать, чтобы стать первым. И мне пришлось идти ва-банк в разговоре с руководством. Но сначала я должен был поговорить с ним. Его звали Макс.
Collapse )
kant_mortal

Слепой в комнате и феноменализм

В нейрофизиологии все более популярной становится гипотеза контролируемых галлюцинаций или прогнозного кодирования (К. Фристон, Анил Сета и другие), которая согласуется с объективным феноменализмом. По этой концепции мозг строит модель мира внутри себя для предсказания своего поведения (см. выступление Анил Сета на TED).

Для пояснения этой позиции предлагаю мысленный эксперимент, который может проделать с собой каждый: Закройте глаза перед дверью в комнату и зайдите в нее. Попробуйте представить ее, только ощупывая руками. Постепенно вы выстроите полный образ и сможете ориентироваться в нем. Но вы не видели комнаты. Ощупь не даёт полной картины. Но это не мешает вам "видеть" комнату, то есть представлять полностью, чтобы ориентироваться. А когда кто-то тоже слепой и стоящий рядом (вы его слышите) говорит, что шкаф слева и в вашем представлении он тоже слева, вы начинаете верить, что это реальный шкаф, а не только ваше представление.

*глаз как и рука воспринимает в цвете и резко только небольшую область в фокальной зоне, но открыв глаза, вы видите всю комнату в цвете, потому что это модель, а не то что видит глаз.

Это говорит о том, что из всех известных подходов к онтологии мира объективный феноменализм наиболее релевантен.
kant_mortal

Тождество личности и возможность трансфера

Критика традиционных подходов
Два распространенных подхода – психологический, выдвинутый еще Локком, и нарративный, ставший популярным как следствие когнитивного подхода к изучению личности в психологии. Первой проблемой является то, что проблему тождества не различают на тождество от первого и от третьего лица, хотя они устанавливаются совсем разными способами и имеют разное значение. От третьего лица мы можем идентифицировать только тождество тела и нарратив свидетелей. Это важно для морального и юридического права. От первого же лица для меня важен нарративный и психологический подход. Так же только от первого лица должно быть сохранено тождество личности при трансфере его на другой носитель, так как очевидно, что тождество от третьего лица при трансфере не может сохраняться, если сам субъект не подтвердит это от первого лица. Поэтому мы тоже будем рассматривать тождество от первого лица.
Один из способов проверить тождество с собой - это сравнить сегодняшнее мое ощущение с памятью об этом ощущении, принадлежавшим мне ранее. То есть проверить установку такого вида: «Я люблю лук». Если я помню про свою любовь, я могу ее проверить, нравится ли мне лук сейчас. Если да, я та же личность. Этот подход к тождеству называют психологическим, но в нем по необходимости присутствует нарратив о психологических ощущениях «я», при помощи этого нарратива сохраняется память о своих ощущениях от первого лица. Эти запоминаемые высказывания могут касаться всего, что можно проверить еще раз – черт характера, отношения к опере, способности прыгнуть дальше 2 метров с места. Если я флегматик, я говорю себе об этом и вновь узнаю в себе флегматика в настоящем, если опять не проявил энергичности холерика в ситуации.
Но так ли надежен этот способ самоидентификации или тождества с собой? Критический аргумент заключается в том, что привычки меняются. Я могу разлюбить лук. Или стать более эмоциональным, расшатав нервную систему. Это произойдет не сразу, но может произойти. Поэтому психологическое тождество соблюдается только как "семейное сходство". Транзитивное равенство А=В=С не действует, потому что С уже может не иметь схожих психологических черт с А. Посещения психоаналитика или психотропные таблетки могут сделать индивида другой личностью согласно психологического подхода к тождеству. И возможно так оно и есть, но мы считаем себя тождественными себе даже после серии сеансов с психоаналитиком. Таким образом, психологический подход к тождеству не является точным. Он не отвечает на вопрос, почему я считаю себя той же личностью А даже после постепенных, но серьезных изменений психологических характеристик личности до неузнаваемости.
Другой подход к тождеству гласит, что я тождественен сам себе только в той мере, насколько помню себя и могу рассказать об этом. Это нарративный или автобиографический подход. Его можно пояснить фразой "Я тот, кто вчера был в баре". Сейчас этот подход наиболее популярен, поддерживается известными философами, хотя по мнению автора, он самый уязвимый в вопросе установления тождества.
Первый критический аргумент. Такой нарратив о себе в прошлом можно внушить или изменить память на событие как это делала Элизабет Лофтус в своих экспериментах по имплантации ложных воспоминаний. Более того, она пишет, что наша память постоянно трансформируется, так как каждый раз реконструирует события заново, включая в них новые элементы из настоящего (5). Мы сами, рассказывая о себе друзьям, постоянно приукрашаем или упрощаем истории про себя, чтобы выглядеть лучше в их глазах. И потом сами верим в эти истории. Можно ли считать такой нарратив, трансформированный собственной памятью, адекватным для установления тождества? Очевидно, что нет, так как трансформированная память о себе означает трансформацию личности. То есть потерю тождества.
Collapse )
kant_mortal

Эволюционная ценность сознания

Во-первых, упомянутый выше перенос во времени «я был там» позволил оценивать не только наличную ситуацию, но и сравнивать ее с другой, отсутствующей «здесь и сейчас». Перенос позволил сравнивать и обобщать не соположенные в пространстве или во времени события. Животные могут сравнивать только близ расположенные ситуации и предметы, что показали опыты Келера с шимпанзе и палкой (Выготский, Лурия, 1993). И позволил установить причинно-следственные связи между не связанными прямо в природе явлениями. Это значительно расширило арсенал устанавливаемых причинно-следственных схем в понимании окружающего. И увеличило возможности человека.

Во-вторых, длинная синтаксическая речь позволило создать артефакты, отсутствующих в природе, как орудие и одежда, что означало совершенно иной способ адаптации к среде. Это изменило для человека значение эволюционного отбора. Эволюция человека стала зависеть больше от его развития его речевой и мыслительной деятельности, а не эволюционного отбора.
Collapse )
kant_mortal

Произвольность как признак сознания

Выявление специфики и функции сознания возможно разными способами, например, проводя эксперименты в психологии или нейрофизиологии, а также в рассуждения философии. Но есть ещё один способ – это попытка моделирования сознания и сравнение результатов такого сравнения с действиями человека, что и послужило источником данных для этой статьи. Это тоже экспериментальный данные, только полученные в ходе реального моделирования.

В чем различие человека и программы

Нейронные сети, которые и составляют сейчас область искусственного интеллекта, могут учитывать в принятии решения гораздо больше факторов, чем человек, делать это быстрее и в большинстве случаев более точно. Но программы действуют только так как их запрограммировали или обучили. Они могут быть очень сложными, учитывать много факторов и действовать очень вариативно. Но все равно не могут заменить человека в принятии решений. Чем же отличается от такой программы человек? Здесь надо отметить 3 ключевых отличия, из которых вытекают все прочие:
1. Человек обладает картиной мира, которая позволяет ему по части информации дополнять картину такими данными, которые не прописаны в программе. Кроме того, картина мира структурно устроена так, что позволяет нам иметь хоть какое-то представление обо всем. Даже если это нечто круглое и светится в небе (НЛО). Обычно для этого строят онтологии, но онтологии не обладают такой полнотой, плохо учитывают многозначность понятий, их взаимное влияние и пока применимы только в строго ограниченных темах.
Collapse )
kant_mortal

Решение проблемы "свободы воли" и чувство self

Проблема свободы воли состоит в ее противоречии детерминизму, принятому в научной картине мира. Если решение принимаю я своей волей, то ни о какой другой причине речи идти не может. Если же решение принято по какой-то известной причине, то в этом выборе нет свободы. В данном вопросе "я" выступает как "черный ящик", без причин изъявляющий свою волю.

И внешние причины тоже не могут быть однозначными. Причинность - это свойство ума именно в том, что мы ее устанавливаем. И делаем это не так как она реализуется в природе. Мы можем установить одну причину явления, хотя она совсем в другом. Причина может быть произвольна. Древние считали причинами многих явлений совсем не то, что современные люди. Поэтому ничего общего наши причины не имеют с действительными. Это наше полагание. Так что внешние причины тоже иллюзорны. И иногда они всего лишь означают наши предположения, а не действительную причину.

Почему для нас так важна свобода воли, что при всей ее нелогичности мы все равно продолжаем о ней спорить и писать статьи? Ответ прост. Она помогает нам сохранять чувство собственного «я». Свобода воли приписывает причину некоему "я. Это проявление моего «я», доказательство его существования. Мы не может отказаться от своего "я" как самого важного, поэтому не можем отказаться от свободы воли. Если принять, что для всего есть иная (внешняя) причина, значит нет причины для существования «я» (self). Именно в этом причина столь выcокой актуальности этой проблемы.

Что такое «я»?

В чем состоит свобода воли? "Я делаю выбор" - вот основное выражение свободной воли. Кажется, вполне очевидное выражение, но в рассматриваемом вопросе оно становится не столь очевидным. Выбор создает ощущение "свободы", потому что его делает "я". Но что такое «я» - черный ящик? И как мы делаем выбор? Если не отвечать на эти вопросы, то проблема остается неразрешимой. Не заглянув в черный ящик, ее не решить.
Collapse )