Иллюзии сознания

нам только кажется, что мы знаем, кто мы


Previous Entry Share Next Entry
Зачем вам ИИ?
kant_mortal
alexander_xom
Очень часто встречаю людей, которые говорят - я интересуюсь ИИ. Некоторые не только интересуются, но изучают, мечтают его создать. И таких встречается все больше. Отчасти это следствие наступившей компьютерной эры и компьютерной метафоры интеллекта (интеллект есть выполняемая программа, которую можно сможелировать на компьютере). Но есть в этом и другие мотивы. И следствия.

На самом деле большинство интересующихся не прикладывают особых усилий. Они просто интересуются. Хотят быть причастными хотя бы так. Почему же так все интересуются ИИ? Чем он так интересен для обычного менеджера или программиста? В действительности это интерес не к ИИ, а к самому себе. К своему интеллекту, своему сознанию, который сублимирован в интерес к искусственному интеллекту как нашему зеркалу. Себя в зеркале рассматривать просто легче. Идем дальше.

Предположим, что человек сможет создать ИИ (хотя сомнения по ряду причин есть и в этом). Я задаюсь простым вопросом - зачем? Зачем исходя из интереса к себе (см. выше) создавать ИИ? Чтобы автоматизировать то, что еще не автоматизировано, отвечают мне. Машины, производство, менеджеров, поваров, композиторов? "Зачем?" - повторяю я. Вы хотите, чтобы ИИ заменил человка и сделал его лишним в его собственной жизни? Мы сами вытесням себя из процесса. Зачем мы тогда нужны? Представим себе, что все производят роботы, а нам всем прописан безусловный доход. ИИ-коммунизм. Что мы будем делать? Потреблять и развлекаться? Человечество, ничем не мотивированное, просто деградирует. Для этого вывода не надо быть социальным психолог. Идем дальше.


Если мы создадим полный ИИ (не путать с сильным). Это значит, мы создадим самоосознающий и умеющий собой управлять, обладающий произвольностью ИИ. Это значит, что он, получив вычислительные ресурсы, может сам себя совершентсововать. И скоро "улетит" в развитии своего интеллекта туда, откуда мы будем казаться ему в лучшем случае обезьянами. В худшем - домашними (дом-земля) питомцами, которых, если будут мешать, можно и шлепнуть ремешком. Но не это важно. Важно то, что мы в любом случае создадим то, что не сможем контролировать. Это оно нас будет контролировать как превосходящий наш интеллект. Опять повторю вопрос - Зачем? Идем дальше.

Но есть и еще одна потайная страсть интересующихся и профессионалов, которая движет ими даже больше первой. Как и Курцвейл, они надеются, что ИИ поможет миновать смерть. Это надежда не в продлении жизни, а именно в избежании ее путем переселения человеческого сознания в ИИ. Об этом уже снято немало фильмов, и поэтому многие считают такую возможнось правдоподобной. Хотя фантазия художника никак не означает возможность ее реализации. Исследуя этот вопрос, могу сказать, что это невозможно. Просто исходя из природы человеческих ощущений, которые не возможно повторить в "кремнии". Наши ощущения и способ мышления полностью укоренены в нашей телесности (Embodied cognition). Все наши переживания есть призводные от ощущений тела, химии тела и проприепции. Даже мышление наше обусловлена устройством нешего тела (см. "Метафоры, которыми мы живем"). И если даже и создать ИИ, мы просто не сможем перейти в него, так как не узнаем себя там. Там нет таких ощущений как в теле. Что и куда переносить? Финиш.

Спасибо за очень интересное дополнение перечисленных мной причин http://ru-philosophy.livejournal.com/1673355.html?thread=46493835#t46493835 от starlingalex

  • 1
Ничего, эмуляция поможет.
В "кремнии" невозможно - возможно в чём-то другом.
Лично на мой взгляд продолжение вектора мышления в духе "прогресс-гуманизм" невозможно без техносингулярности, то бишь - трансгуманизма со всеми следствиями.
Конечно, кому-то милей зомбиапокалипсис. Или просто Апокалипсис.
Но, тут уж каждому своё.


Возможно, но только в биологической основе. Эмуляция в другой тут не поможет. Узнавание эмулированных чувств как своих предоставляется минимум сомнительным.

Что вы имеете ввиду под трансгуммагизмом? Какие из фантазий этого направления?

Edited at 2017-01-15 09:32 am (UTC)

***Возможно, но только в биологической основе. Эмуляция в другой тут не поможет. Узнавание эмулированных чувств как своих предоставляется минимум сомнительным.***

Современное развитие науки не позволяет делать с уверенностью таких заявлений, на этот счёт.
Категоричное "только" - имеет в своей основе веру, идеологическое убеждение.
Вера может быть такой, может быть сякой.
Какая более полезна человечеству, вот вопрос.

*** Какие из фантазий этого направления?***
Поскольку это философия (и, опять же, идеология) - термин "фантазии" вряд ли является корректным.
Технологическая сингулярность, борьба (с перспективой победы) со страданием, старением и смертью при помощи технологий, научно-технического прогресса.


Edited at 2017-01-15 09:54 am (UTC)

Мне кажется, Вы уже сами ответили на свой вопрос. Во-первых, создавать ИИ интересно потому, что, если у нас получится, это будет означать, что мы поняли, как разботает наш мозг (даже если то, что у нас получится, будет, так сказать, самолетом, а не птицей). Во-вторых, метафора "мозг = компьютер" настолько сильна, что, пребывая в ее плену, невозможно отказаться от мечты о перезагрузки своего сознания на более прочный носитель ;)

Вы правы, но не пора ли задуматься над вопросом Зачем? Можно интересоваться сознанием, но не создавать ИИ. Мы просто не справимся с ним, если он будет обладать волей. Хотя мы так далеки от полного ИИ, что волноваться может быть просто рано.

Про бессмертие - уже пора по моему осознать, что во вселенной вообще нет ничего бессмертного. Даже для самой вселенной. И мечта о нем схожа с мечтой о перпетум мобиле. Речь может идти только о продлении. И продлении не в кремнии. Сымитироаать даже квалиа красного невозможно в нем, так как это специфическое свойство нашего биологического субстрата (мозга).

Edited at 2017-01-15 11:35 am (UTC)

Вы правы - интерес к ИИ во многом вызван желанием познать себя. Другая причина - заработать еще больше денег, но она явно не является основной.

У Бруно Маршаль приниципиальное ограничение на этом пути выражено такой формулой: "Машина не может узнать, является ли она машиной или нет.".

Тут проблема даже не в самореференции машины. А в том, что мы себя в машине не узнаем. Ибо память переживаний себя не перенести без трансформации в какой-то "чужеродный" код, а если непосредственно перенести в машину, то потом не узнать свои действия как свои, так как они были совершены ранее в другом коде. Придется все равно "родится заново". И если даже просто перенести в машину сухие факты о своей биографии - это не имеет никакого отношения к переносу личности как считают многие. Для вас это будет как сведения о каком-то родственнике, выдающем себя за вас.

Ощущение себя связано с ферментами, вырабатываемыми миндалевидным телом. Феноменальный эффект их действия - эмоции, переживания, не повторить в машине хотя бы потому, что там не будет такой "химии". В Рамачандран хорошо показал это на опытах с узнаванием мамы по телефону и визуально больным после аварии, у которого перешибло пути от зрительной коры к миндалине. Так же им описан эффект при синдроме Котара, когда живой человек считает себя мертвым. Тоже связано с нарушением "химии" мозга.

Edited at 2017-01-15 10:44 am (UTC)

*** если непосредственно перенести в машину, то потом не узнать свои действия как свои***
Ну, некоторые говорят о постепенном замене мозга на искусственный, на клеточном уровне.
Замена на 1%, на 10%, 50% и т.д. - до 100%.
При сохранении непрерывности сознания во время процедуры.
Как критерии.

Вопрос о связи эмоций с химией на самом деле открытый. Связь с химией отчетливо появляется с точки зрения третьего лица, однако с этой точки зрения видно только поведение человека, эмоции сами по себе уже недоступны.

Ведь вопрос об эмоциях можно перенести на написание вами вашей заметки. Было это связано с химией мозга или нет? Дак ведь никто не знает. Более того, нет никаких идей как химия мозга может привести к написанию вами вашей заметки.

На самом деле большинство интересующихся не прикладывают особых усилий. Они просто интересуются. Хотят быть причастными хотя бы так. Почему же так все интересуются ИИ?

Ну да, усилия прикладываются ровно настолько, каков, так сказать, запал, начальный посыл. Этот посыл определяет как конечную цель, так и объём усилий, которые человек потратит. То есть, помимо вашего вопроса "зачем", заданного по отношению к цели сформированного импульса, этот импульс ещё и энергетически обусловлен и ограничен.

Если мы создадим полный ИИ (не путать с сильным) ... он, получив вычислительные ресурсы, может сам себя совершенствовать ... оно нас будет контролировать как превосходящий наш интеллект

В таких "глубоких" абстракциях обычно напрочь забывают про один из исходных моментов. А именно, что ИИ - есть модель ЕИ. И прежде, чем отвечать на вопрос "а зачем тебе ИИ?", нужно тщательно понять и ответить на вопрос, а зачем человеку ЕИ. То бишь, зачем одному человеку другой человек.
Сводя все рассуждения к какому-то невнятному "контролю", мы фактически рассуждаем не философско-технически. Мы крутимся вокруг того, нужны ли тебе рабы, а если нужны, то зачем. В таких рамках идиотизм таких "философий" станет понятным, если просто честно и полностью ответить себе на вопрос "зачем лично тебе рабы", без дурацких перескоков на мораль, нравственность и тому подобное. Просто для начала представьте, что нет никакой ни морали, ни нравственности, ни гуманности. И ответьте себе на вопрос про рабов. А потом уже наворачивайте морали, или же искусственность интеллекта.
Тогда станет понятно и прозрачно, что Искуственный Разум нужен "мечтателю" только для того, чтобы уйти от "неразрешимых" проблем с нравственностью в отношении Естественных Разумов. И "боязнь" попасть под контроль со стороны ИИ, представляет собой завуалированную боязнь оказаться в банальном рабстве среди себе подобных. Но подобная боязнь тем сильнее, чем сильнее желание иметь своих собственных рабов. Только и всего.


Зачем создавать ИИ? А зачем человечество создало атомную бомбу?
На фоне бомбы ИИ кажется хорошим, помогать будет :)

К кому обращен вопрос Зачем? Ранее Вы справедливо писали про коллективный разум. Что человек в коллективе и сообщество определяет... А коллектив это кто? Я давно заметил любопытную вещь: человечество что-то целенаправленно создает, но при этом никто из людей не знает, что общество что-то создает. Получается, что спланировал коллективный разум, а каждый человек отдельно просто выполняет, не зная общего плана. Странный эффект.
Простой пример. Человечество создало развитую речь, но при этом никто конкретно её не создавал :)
Я уверен, что человечество создаст искусственный разум случайно. Т.е. как бы никто конкретно. Всё сложится в общий результат.

Зачем тут в другом смысле. Понятно, зачем хотят создать даже корпорации - кто быстрее и лучше создаст (Гугл, Фейсбук, Макрософт, Амазон - все занимаются), тот будет контролировать ... рынок автоматизированной доставки и производства как следующую технологическую революцию. Но я не об этом, я спрашиваю зачем в смысле - нам это надо? Нам - это не корпорациям.

Про то, что случайно - просто уверен. Причем люди к этому могут вообще иметь косвенное отношение. Сеть - это новый первичный бульон. И самореплицирующийся код там уже есть ...

Ой, коммент в корневую ветку кинул. Сорри.

Я именно об этом! Каждый у себя колупается для решения каких-то мелких задач. Никто не собирается создавать Разум.
Т.е. его создает именно коллективный разум. Ему надо задавать вопрос Зачем? Но он не ответит.
Но ИИ действительно поможет преодолеть смерть. Только смысл там совсем иной, а не тот, который в него вкладывают. Я как раз собирался на следующей неделе развлекаться с этой темой. Как бы кратко объяснить...
Вы знаете что такое любовь в значении, например, к женщине.
Но есть любовь более высокого уровня абстракции, как любовь ко всему вокруг. Гормоны здесь уже ни при чем. Вот предполагается, что такие высокие абстракции и будут переданы, а всё приземленное, типа, пожрать, потрахаться - все останется в грешном человеке.
Здесь лучше смотреть с позиции религии. Человек за 2 тыщи лет лучше не стал и высшей любовью не проникся. У ИР такой проблемы быть не должно. У него должен быть гораздо более высокий уровень абстракции и отсутствие половых гормонов, которые сильно влияют на поведение человека не в лучшую сторону.
Как-то так.

Даже если вы отвлечетесь от гормонов, от других телесных ощущений никуда не деться. Абстракция только на бумаге абстрактна. Воспринимаете Вы ее все равно как владелец мозга - через цвет, линии, ощущения, чувства. Если Вы передадите только абстракции из книжки, вы не передадите себя. То есть такой ИР может быть нашим наследником, но не нами.

Вы не поняли.
Есть факторы, обусловленные системой размножения, которые... э-э... не делают нас идеалом.
Есть факторы условно хорошие, которые дают нам цвет, ощущения и прочее.
Есть абстрактные понятия, которые стоят над ними над всеми.
Чем человек отличается от животного? Разумом. Т.е. той самой высшей абстракцией. На нее один фиг влияют гормоны, но косвенно.
Вот и рассматривается вопрос условно "отрезать" от человека животную сущность, а оставить чисто человеческую.
Поэтому я и приплел религию, которая пытается животное превратить в человека :) Вероятно, зря приплел.

У ИР будут свои цвета и какие-то свои ощущения, даже близко не человеческие. Но вот высшие абстракции будут общие. Только у нас это высший уровень развития, а он с этого уровня начнет.

Робот нами не будет. Но и мы не обезьяны. Примерно такая аналогия.

Вы знаете что такое любовь в значении, например, к женщине.
Но есть любовь более высокого уровня абстракции, как любовь ко всему вокруг. Гормоны здесь уже ни при чем.


Хм, любовь, за вычетом гормональной и фрикционной составляющих, как образ интеллекта? Забавно. Я уже пытался представить автору блога подобный взгляд на вещи, правда не в отношении ИИ.
Я вёл речь о том, что психической частью аппарата размножения у человека является образ себя. Подозреваю, что моё изложение этой идеи автору резко не понравилось. Но я также буду против, чтобы отождествлять эту часть (образ себя) с интеллектом человека. Это совершенно разные аспекты человеческого существования.

Но ИИ действительно поможет преодолеть смерть
Преодолеть смерть, если это вообще возможно, может только смертное существо. В отношении того, что не является существом говорить об этом не имеет смысла. То есть абсурдно.
Смотреть же на подобные вопросы с точки зрения религиозных культов не имеет смысла вообще.

Edited at 2017-01-16 12:50 am (UTC)

Любить можно женщину, ребенка, скамейку, шашлык, книгу, собачку, цветочек, Родину и т.д. Это совсем не гормональная любовь, а, скажем так, очень доброжелательное отношение ко всему вокруг.
В мифологии воплощением именно такой любви является Христос.
Так что объяснить не трудно. Самое главное, что такая любовь не зависит от гормонов, а является результатом абстрактного мышления, логически сформировавшим определенное отношение к окружающему миру.

Преодолеть смерть - это условно. Религия говорит о том, что надо беречь душу и заботиться о её бессмертии. Там это всё виртуально, а при помощи ИИ может быть получится хотя бы мысли сохранить. Никто не знает как это "осознавать", так что авось как-нить осознается :) Пока что-либо утверждать рано, зато строить гипотезы можно.
А тушка сдохнет без вариантов.

Снова о невозможности ИИ.

ИИ - иллюзия. Смотрим.
Что означает это понятие само по себе? Отбрасываем определение "искусственный", остаётся "интеллект". Синоним - "разум". Там много ещё синонимов. Но вот какая загвоздка: интеллект - это всего лишь одно из свойств человека. Что оно собой представляет?
Можно понимать его как рассудок, то есть умение рассуждать. При этом бессмысленно выделять в человеке ту часть, которая рассуждает. Это может делать человек. Ещё можно интеллект понимать как ум. Я рассматриваю ум, как способность решать задачи. Часто вместо "ума" используют его производную "разум". Умный - умеющий решать задачи. Разумный - успешно решивший некую задачу. Это своеобразная оценка успешности человека на поприще решения задач.
Кто ставит задачи? Можно сказать, что человек. Но в этом случае акцент падает уже на биологическое устройство человека. Поскольку большинство задач, встающих перед ним, обусловлены функционированием тела - питание, укрытие от холода или от жары. Или от хищников. Размножение. Отправление надобностей. И так далее. Возникновение коммуникативности - следствие необходимости уживаться среди себе подобных. И сам разум - как дополнительный "выхлоп" от коммуникативных способностей человека. Это всего лишь регистрация того факта, что человек в процессе своего существования формулирует и решает задачи.

О "создании" искусственного разума говорят давно. Но я что-то до сих пор не слышал о создании средств для постановки задач. Такое впечатление, словно я пропустил этот пласт инжиниринга. Если я ошибаюсь - поправьте меня.

В мозге далеко не все процессы в нейронах осознаваемы, зона сознания очень маленькая. Это монитор, он пропускает порядка 10 Мбит/с зрительной информации, остальной поток меньше, т.к. значительно меньше прострастранственно-временная детализация ощущений в субъективном пространстве. Эмоции вообще практически не локализованы, ощущения понимания тоже более расплывчаты, чем зрение. В зрительных нервах порядка миллиона волокон, в зоне сознания от силы несколько миллионов нейронов (несеолько кубических миллиметров). Да, это картезианский театр, но бесконечной цепи гомункулусов нет, такая цепь вылезает только в классической физике, т.к. классическая физика не может объяснить интеграцию информации в один поток ощущений. В квантовой физике можно объединять поток информации, текущей физически в разных местах, т.к. квантовая физика не локальна (один фотон, проходя через две щели, "знает" всё о форме этих щеляй и "знает", что во всех других местах экрана щелей нет - вся эта информация есть в его волонвой функции, но он при измерении выдаёт не всё, что знает). Это не в эпифизе, как считал Декарт, но рядом.
Остальные миллиарды нейронов лишь готовят картинку для показа в мониторе, вся память и характер находятся в них, но это лишь автоматика, в них сознания нет, их легко смоделировать комьютером с архитектурой "нейронная сеть" или имитацией нейронной сети.
Сами квалиа определяются типами некоторых молекул в нейронах, находящихся в зоне сознания. Именно квантовое взаимодействие между этими молекулами обеспечивает интеграцию ощущений в один поток. Это можно воспроизвести вне биологии, нужны только эти молекулы, остальное лишь управление энергетической накачкой этих молекул. Это процесс типа лазерного, массовая спутанность, поддерживаемая постоянной накачкой энергии. Не дискретный квантовый компьютер, а аналоговый квантовый компьютер, без тактовой частоты, непрерывного действия. На классической физике возможна лишь иммитация, без субъективного потока ощущений. Возможно, такого квантового процесса не достаточно для субъективного потока ощущений, может быть, нужно что-то не материальное, но это всё, что может быть найдено в мозге, относящегося к сознанию, больше этого в материи найдено ничего не будет.

//Эмоции вообще практически не локализованы, ощущения понимания тоже более расплывчаты, чем зрение//
Совершенно верно и точно, что как раз многие никак не могут понять. Что внутренние ощущения, чувства - это такое же "зрение", только размерность низкая. У вкуса она тоже не сильно большая (4 зоны языка). Но это же не мешает вкус считать реальным.

//т.к. классическая физика не может объяснить интеграцию информации в один поток ощущений. В квантовой физике можно объединять поток информации, текущей физически в разных местах//
Хорошо, в квантовой можно, но сходство с интеграцией ощущений в мозгу пока не проглядывается. В квантовой есть волновая функция. В мозгу какая функция аналогична по Вашему?

//Сами квалиа определяются типами некоторых молекул в нейронах, находящихся в зоне сознания//
Молекулы все таки не осуществляют квантового взаимодействия. Это органика - другой уровень взаимодействия. И вряд ли оно может быть предметом осознания. Попытка свести сознание к квантовым/молекулярным эффектам (привет Пенроузу) все таки нелогична, иначе нам пришлось бы признать сознание у атомов, что просто нивелирует понятие сознания и больше ничего. Попытка одно неизвестное (сознание) объяснить другим малопонятным (квантовый мир) - это уже пройденный в науке этап. И малоплодотворный.

Но ИИ уже создан, он у меня на столе стоит. Любой комп – это ИИ, правда пока еще очень несовершенный. Вы предлагаете остановить развитие компьютерных технологий?


Вопрос в теме можно понимать по разному. Вы поняли так. Это тоже ответ на поднятую тему )) Но есть и другие понимания. Зачем не обязательно "не надо", "зачем" иногда и "почему", и что нам дает" ...

Почему, что нам дает? Ну нам дает возможность обмениваться своими взглядами на проблему майнд-боди.

ИИ можно использовать несколько, каждый общается со специалистами своей предметной области, и заодно они общаются между собой (или ИИ близких предметных областей)

Это может способствовать унификации терминологии - передачи одинаковых значений одинаковыми словами для разных специалистов. Положительный эффект - избежание Библийского Вавилонского столпотворения, когда соседи перестают понимать друг друга.

  • 1
?

Log in