Автомат vs Сознание

antcatt77

Алгоритмы можно поделить на две большие группы: целеполагательные и слепые алгоритмы.
Целеполагательный алгоритм имеет явную цель, которую старается достичь.
Слепой алгоритм себе явно цель не ставит, но в результате применения алгоритма цель всё равно достигается.
Самонаводящаяся ракета обладает целеполагательным алгоритмом: ставится конечная цель - поразить мишень, которая и достигается, робот-пылесос использует слепой алгоритм по обходу комнаты (делается ряд прямолинейных и случайных движений который в несложных случаях достигает цели - уборка всего помещения.
Большая часть ПО сейчас строится на слепых алгоритм, человек же достаточно активно применяет целеполагательные алгоритмы.
Целеполагательный алгоритм в своей основе имеет управляющий контур с обратной связью:
1. собирается текущее состояние окружающего мира,
2. на основе текущего состояния и ранее поставленной цели вычисляется рассогласование,
3. выбирается и выполняется действие, для которого ожидается, что оно лучше всего уменьшит рассогласование.
Слепые алгоритмы такого управляющего контура не имеют, а строятся на выполнении исходно заданной последовательности шагов.
Обе группы имеют свои плюсы и минусы:
1. слепые алгоритмы
"+": более экономичны, обеспечивают максимальную производительность.
"-": перестают достигать цели при изменении внешних условий.
2. Целеполагательный алгоритм
"-": высокозатратные из-за необходимости сбора данных об окружающей среде и их анализе
"+": достигают цели на широком диапазоне меняющихся внешних условий
Реальные сложные алгоритмы имеют элементы и того, и другого. Например, куры не могут решить задачу "достать зерно из-за сетки, если для этого сетку надо обойти влево или вправо", а собаки или крысы с этой задачей справляются много легче, также справляется и часть более умных видов птиц. И те, и другие при этом используют целеполагательный алгоритм, но куры для расчета рассогласования используют слепой критерий: расстояние до еды по прямой (который лишь в условиях отсутствия препятствий обеспечивает достижения целей более развитые животные в этом плане гибче, и используют более сложный алгоритм: целеполагательный поисковый рефлексивный алгоритм.
В целеполагательном рефлексивном алгоритме появляется 4-ый пункт:
1. собирается текущее состояние окружающего мира,
2. на основе текущего состояния и ранее поставленной цели вычисляется рассогласование,
3. выбирается и выполняется действие, для которого ожидается, что оно лучше всего уменьшит рассогласование.
4. мониторинг результатов выполнения действия, сравнение результата с ожидаемым эффектом; принятие решения об эффективности выполняемых действий и поиск причины для случая, если действие не возымело эффекта.
Например, делая шаг, ожидаем что передвинемся в пространстве, но по факту перемещения не произошло. Из такой ситуации делается вывод, что нас что-то держит, а значит просто повторять действие "делать шаг" далее бессмысленно.
Целеполагательный рефлексивный алгоритм можно представить как композицию двух целеполагательных алгоритмов:
- основной целеполагательный алгоритм, направленный на достижение цели,
- дополнительный целеполагательный алгоритм, отслеживающий адекватность способа достижения основной цели.
Другими словами к основному целеполагательному алгоритму добавляется рефлексия по способу достижения цели. Подобных рефлексий можно добавлять бесконечно много, например:
- рефлексия по адекватности сбора текущего состояния мира
- рефлексия по адекватности описания текущего состояния мира
- рефлексия по адекватности описания цели
- рефлексия по адекватности постановки цели
- рефлексия по адекватности декомпозиции целей на подцели
- рефлексия по оценке достижимости цели
- рефлексия по адекватности рефлексии..
и т.д.
Если к целеполагательному алгоритму добавлять и добавлять рефлексии, то на определенном этапе рефлексивный целеполагательный алгоритм превращается в сознание.
В большинстве текстов под словом “автомат” часто понимают именно слепой алгоритм.

Nefertyty

а бог за это молнией не испепелит?
если нет, то чем докажешь, что там сознание?

antcatt77

если нет, то чем докажешь, что там сознание?
"там" - это где?

Nefertyty

в алгоритме в твоём

demiurg

то на определенном этапе рефлексивный целеполагательный алгоритм превращается в сознание.
Можно было не писать всю предыдущую простыню, она никак не обосновывает данное заявление.
И вообще это как всегда ты используешь слова в своём собственном понимании, которого даже не рассказываешь и не поясняешь, но с таким видом, как будто это общепринято и все это понимают.
Например, не очевидно, что целеполагание должно быть необходимым свойством сознания. Кроме этого ты объяснил словом "рефлексия", которое в большой степени является синонимом.
Ну тогда можно было сразу написать что consciousness is that which is conscious :grin:

Nefertyty

Например, не очевидно, что целеполагание должно быть необходимым свойством сознания.
тут ничего не очевидно, конечно
но мне кажется, что сознание появилось, потому что оно помогает следовать плану (а план нужен, если есть цель)
но это исходя из того, как устроена память у нас
у компа память другая, и тут этот аргумент не сработает
Кроме этого ты объяснил словом "рефлексия", которое в большой степени является синонимом.
м, вроде нет
бывают reflection API разные в программировании, это не синоним сознания

demiurg

но мне кажется, что сознание появилось, потому что оно помогает следовать плану
Ну хуууй знает.
А ты в этой фразе имеешь в виду сознание которое и у высших животных есть? У них, я думаю, если и есть планы и цели, то в сильно другом варианте чем у нас :)
Для планов и целей нужны как раз алгоритмы, хаха, "бездушные", в смысле что с этим утверждением не будут спорить даже те чуваки которые постоянно обзывают других механицистами, редукционистами и физикалистами и которые любят рассуждать про поебень вроде квалий

demiurg

бывают reflection API разные в программировании, это не синоним сознания
А, ок. Я не в курсе, т.к. видимо это пока не вышло за пределы профессиональной терминологии

antcatt77

Кроме этого ты объяснил словом "рефлексия", которое в большой степени является синонимом.
во-первых, рефлексия ни коим образом не является синонимом целеполагания.
Рефлексия - это способность сомневаться в своих действиях(суждениях). Или другими словами, умение пересматривать раз за разом адекватность своих действий(своих суждений).
во-вторых, через рефлексию в тексте ничего не объясняется. Слово "рефлексия" используется лишь для обозначения определенного вида взаимосвязи целеполагательных алгоритмов.

Nefertyty

4. мониторинг результатов выполнения действия, сравнение результата с ожидаемым эффектом; принятие решения об эффективности выполняемых действий и поиск причины для случая, если действие не возымело эффекта.
Например, делая шаг, ожидаем что передвинемся в пространстве, но по факту перемещения не произошло. Из такой ситуации делается вывод, что нас что-то держит, а значит просто повторять действие "делать шаг" далее бессмысленно.
ну вроде это классический machine learning:
- попробовать самое подходящие действие для данной ситуации
- если оно недостаточно эффективно, обновить данные об эффективности разных действий, попробовать следующее
никакой рефлексии не нужно
поэтому я и думаю, что у людей сознание появилось, потому что так устроена память
а именно, нужно несколько раз повторить что-то, чтоб хорошо запомнилось
поэтому, чтобы держать в мозгу долговременный план, нужно его повторять
и появился тот, кто повторяет
у компьютеров память запоминает с первого раза
а забывает, если содержимое перезаписывается
поэтому им не нужно сознание
P.S. ну на самом деле сейчас уже можно отключать неиспользуемые микросхемы памяти для экономии энергии, например
при дальнейшем развитии такого подхода может и что-то вроде сознания получиться

Nefertyty

Рефлексия - это способность сомневаться в своих действиях(суждениях). Или другими словами, умение пересматривать раз за разом адекватность своих действий(своих суждений).
мм, нет, второе - совсем не то же, что первое

demiurg

во-первых, рефлексия ни коим образом не является синонимом целеполагания.
Я имел в виду синоним "сознания"

antcatt77

ну вроде это классический machine learning:
- попробовать самое подходящие действие для данной ситуации
- если оно недостаточно эффективно, обновить данные об эффективности разных действий, попробовать следующее
никакой рефлексии не нужно
во-первых, слово "machine" лишнее, т.к. в данном определении нет нигде отсылки именно к машине и любое обучение выглядит ровно также.
во-вторых, сравни следующие описания:
- использовать ранее запомненное действие, иначе при его отсутствии попробовать произвольное действие для данной ситуации
- если действие привело к результату, то запомнить его для дальнейшего использования в данном контексте, иначе попробовать следующее
и
- попробовать самое подходящие действие для данной ситуации
- если оно недостаточно эффективно, обновить данные об эффективности разных действий, попробовать следующее
первое есть "обучение без рефлексии", второе - "обучение с рефлексией".

Nefertyty

А ты в этой фразе имеешь в виду сознание которое и у высших животных есть? У них, я думаю, если и есть планы и цели, то в сильно другом варианте чем у нас
нуууу это весьма дискуссионный вопрос, есть ли сознание у высших животных, кроме людей
если и есть, то тоже сильно другое

Nefertyty

где рефлексия, объясни мне
есть база данных с таблицей вида (ситуация, возможное действие, вес)
при виде ситуации извлекается наилучшее действие, выполняется, оценивается эффективность, обновляется вес в таблице

antcatt77

есть база данных с таблицей вида (ситуация, возможное действие, вес)
при виде ситуации извлекается наилучшее действие, выполняется, оценивается эффективность, обновляется вес в таблице
в данном случае, рефлексии, конечно, же нет. Потому что не рассматривается, что ожидалось в результате своих действий и насколько это получилось.

antcatt77

есть база данных с таблицей вида (ситуация, возможное действие, вес)
при виде ситуации извлекается наилучшее действие, выполняется, оценивается эффективность, обновляется вес в таблице
такой алгоритм не жизнеспособен.
Простейший контрпример:
стоит задача пройти из пункта A в пункт B. На кратчайшем пути находится калитка, которая то открывается, то закрывается.
Данный алгоритм зациклится, если частота открытия/закрытия калитки много выше, чем время достижения калитки из пункта А. Алгоритм, то будет дергаться к калитке, то будет дергаться от неё, не ставя перед собой проблемы, что его действия не достигают цели.
Соответственно, рефлексия строго необходима для решения задач, в которых если элементы новизны (наличие явлений для которых у алгоритма нет готовых стратегий)

naami_moloko

В целеполагательном рефлексивном алгоритме появляется 4-ый пункт:
1. собирается текущее состояние окружающего мира,
Ok, состояние.
2. на основе текущего состояния и ранее поставленной цели вычисляется рассогласование,
Ok, вычисление скалярного функционала на множестве допустимых процессов.
3. выбирается и выполняется действие, для которого ожидается, что оно лучше всего уменьшит рассогласование.
Ok, управление.
4. мониторинг результатов выполнения действия, сравнение результата с ожидаемым эффектом;
Ok, хотим минимизировать функционал на множестве допустимых процессов.
Пока что чистая задача на абстрактный принцим максимума, хотя это и совсем не об алгоритмах.
принятие решения об эффективности выполняемых действий и поиск причины для случая, если действие не возымело эффекта.
А тут пошло-поехало. Формализацию «поиска причины» на «невозымевшем эффекта» шаге алгоритма приведи.

antcatt77

если оно недостаточно эффективно, обновить данные об эффективности разных действий, попробовать следующее
основной подвох в твоих рассуждениях в том, что ты рассуждаешь в терминах классической логики: самый эффективный критерий эффективности, конечно, же существует, поэтому давайте его возьмем и дело в шляпе.
Но для задач, имеющих элементы новизны, необходимо использовать конструктивную логику (т.к. классической логики для них не достаточно при которой необходимо не просто обосновать существование чего-либо, но и необходимо предоставить алгоритм по конструированию этого.
Соответственно, без рефлексии не обойтись при построении эффективного критерия эффективности.

antcatt77

Формализацию «поиска причины» на «невозымевшем эффекта» шаге алгоритма приведи.
Выдвижение гипотезы и ее перепроверка. Для выдвижения гипотезы при достаточности данных используется градиентный спуск, иначе случайный перебор гипотез.
ps
Человек ровно так же решает данную задачу.

naami_moloko

Для выдвижения гипотез точно сознание не участвует? Например, в твоём примере с калиткой? Если сознание не участвует, то, похоже, пункт 4 избыточен, так как сводится ко 2-му пункту заменой функционала.

antcatt77

Если сознание не участвует, то, похоже, пункт 4 избыточен, так как сводится ко 2-му пункту заменой функционала.
что значит "заменой функционала"?

naami_moloko

Значит минимизировали не тот функционал, замени на другой с учётом механичности процесса выдвижения гипотез, оставь ту же теорию и получишь решение изначальной задачи, но уже без четвёртого пункта, то есть он, грубо говоря, влияет только на параметры задачи. А если сознание участвует, то получается, что ты сознание пытаешься определить через сознание, что некорректно.

antcatt77

Для выдвижения гипотез точно сознание не участвует?
При такой постановке получается зацикленность утверждений. Выдвижение гипотез - это подчасть сознания, но при этом утверждается, что выдвижение гипотез - есть результат работы сознания.

antcatt77

Значит минимизировали не тот функционал
чтобы это понять и нужен четвертый пункт.

naami_moloko

Выдвижение гипотез - это подчасть сознания, но при этом утверждается, что выдвижение гипотез - есть результат работы сознания.
Ну если ты сознание пытаешься определить через целеполагательный рефлексивный алгоритм, а его определяешь через сознание, то такая формализация ущербна с точки зрения логики. При таком подходе можно и проще сказать, что сознание — это сознание.

antcatt77

Для выдвижения гипотез точно сознание не участвует?
Вообще, для эффективного выдвижения гипотез необходимо понимание.
Понимание - наличие и поддержание адекватной модели мира.
Сознание может существовать и без понимания (например, сумасшедшие сознание скорее имеют, но не имеют понимания).
Неэффективное выдвижение гипотез может делаться и без понимания.

naami_moloko

Для эффективного выдвижения гипотез только понимания не достаточно, нужны сила воли, анализ, деятельное начало. Понимание невозможно без сознания, то есть без отражения объективной реальности в психике субъекта.

antcatt77

Ну если ты сознание пытаешься определить через целеполагательный рефлексивный алгоритм, а его определяешь через сознание, то такая формализация ущербна с точки зрения логики. При таком подходе можно и проще сказать, что сознание — это сознание
За выдвижение гипотез отвечает вложенный целеполагательный алгоритм, который на вход берет противоречие(модель мира из которой следовало, что состояние S0 + действие D1 даст состояние S1; и факт, что применение действия D1 к состоянию S0 дало состояние S2, отличное от S1 а на выход выдает "патч" по изменению картины мира такой, чтобы S2 было следствием S0+D1.

antcatt77

Для эффективного выдвижения гипотез только понимания не достаточно, нужны сила воли, анализ, деятельное начало. Понимание невозможно без сознания, то есть без отражения объективной реальности в психике субъекта.
слишком много новых слов, которые суть тоже самое.
деятельное начало = сила воли
сила воли = целеполагательный алгоритм
психика субъекта = основной алгоритм деятельности субъекта
отражение объективной реальности = модель мира

demiurg

нуууу это весьма дискуссионный вопрос, есть ли сознание у высших животных, кроме людей
если и есть, то тоже сильно другое
Ну кое чо у них есть, понятно же, что больше чем там у таракана. Обучаются же, ну и интеллект даже у них меряют как-то.
Вот я и спросил, ты это тоже имеешь в виду под сознанием или только то что есть у человека, типа там аналитический ум.

demiurg

Так у тебя тоже разные слова, а суть всё та же — сознание

Nefertyty

Потому что не рассматривается, что ожидалось в результате своих действий и насколько это получилось.
оценка эффективности - это есть сравнение реально полученного результата с целевым, это и есть критерий (не "самый эффективный", а просто правильный)
или ты хочешь, чтоб я алгоритм разумного поведения тебе полностью написал? ну это не получится :)

Nefertyty

Вот я и спросил, ты это тоже имеешь в виду под сознанием или только то что есть у человека, типа там аналитический ум.
способность обучаться обычно не считается сознанием, она есть у всех животных и да, можно измерить; также они могут иногда планировать действия, или там случаются озарения в виде новых способов решить задачу
а вот есть ли у других животных эпизодическая память например - как я читал, не совсем понятно
вроде нашли у некоторых птиц, а у нечеловеческих обезьян пока найти не могут

antcatt77

оценка эффективности - это есть сравнение реально полученного результата с целевым, это и есть критерий (не "самый эффективный", а просто правильный)
приведи, пожалуйста, правильный критерий для оценки эффективности прохода из пункта A в пункт B

Nefertyty

планировали попасть в пункт B, затратив столько-то времени и столько-то энергии
на практике уже прошло в 2 раза больше времени, а ещё не дошли, значит, нужно скорректировать сведения об эффективности выбранного способа в сторону уменьшения

Nefertyty

насколько я знаю, в ИИ нет проблем с этим, а есть проблемы с выработкой новых способов взамен неэффективных, используя: обобщение, аналогии, моделирование (случайный поиск есть частный случай моделирования, так как нужно выбирать возможные варианты в некоторой модели)

antcatt77

верно замечает, что для начала стоит определиться с терминами. Причем термины должны вводиться не абы как, а по науке..
Вводные аксиоматические термины:
1. мир (он же реальность) - всё, что нас окружает, включая нас самих
2. явление - часть мира, выделенная из всего мира на основе какого-либо критерия
3. модель мира - информационное отражение реальности (чаще всего символьное)
4. понятие (он же термин) - часть (обычно одиночный символ) из модели мира, соответствующая определенному явлению мира
Для успешного использования описание термина должно содержать:
1. критерий, характеризующий соответствует ли произвольное явление данному термину или нет. Другими словами, необходимо задание функции Is_T(явление, термин)=>bool
Послесловие: в большинстве случаях дискретность мира много выше, чем различающая способность термина. Или другими словами, существует множество состояний мира, которые отличаются друг от друга, но которые с трудом можно различить друг от друга с точки зрения критерия.
Например, деление пространства RGB на понятия черный/белый/серый/другой цвет вызывает трудности с проведением точной грани между черным и серым, серым и белым, серым и другим цветом. В этом случае, удобнее использовать критерий 2, а при необходимости точной грани критерий 1 конструируется по месту на основе критерия 2.
2. критерий, характеризующий насколько данное явление соответствует термину (обоснование необходимости данного критерия см. послесловие п.1). Степень соответствия может быть или качественной, или количественной. В первом, случае это функция Tкч(явление, термин)=>нечеткое_значение, во втором случае - функция Tкл(явление, термин)=>double
Чаще всего данный критерий задается через пару противоположностей (например, черный/белый, хорошо/плохо, теплый/холодный, полезный/бесполезный и т.д. где каждая противоположность - это абсолютизированное идеалистическое состояние (в реальности, которое может и не существовать например, абсолютно черное тело, а все остальные состояния мира рассматриваются через призму этих противоположностей с помощью качественной или количественной шкалы.
3. алгоритм по построению данного понятия (и/или явления) из более элементарных. При отсутствии такого алгоритма невозможно эффективное оперирование понятием (и управление соответствующим ему явлением а возможно лишь использование понятия для описания.

antcatt77

планировали попасть в пункт B, затратив столько-то времени и столько-то энергии
и откуда взялся правильный план? дан свыше богом?
почему в качестве ресурсов используется только время и энергия? необходимость и достаточность учета именно этих ресурсов кем задается?
что эффективнее: переместиться в пункт B за 1с, затратив 1ГВт энергии, или за 1год, но затратив 1МВт энергии?
на практике уже прошло в 2 раза больше времени, а ещё не дошли, значит, нужно скорректировать сведения об эффективности выбранного способа в сторону уменьшения
желательно доказать сходимость такого алгоритма к решению задачи. например, в задаче с той же калиткой, использование только такого правила ни к чему хорошему не приведет. Для обоих путей (кратчайшего через калитку и обходного) показатель эффективности будет падать и падать до нуля.

Nefertyty

и откуда взялся правильный план? дан свыше богом?
ну я не привёл блок-схему модуля разработки плана, да
а ты хочешь, чтоб я тебе ИИ реализовал прям тут?
что эффективнее: переместиться в пункт B за 1с, затратив 1ГВт энергии, или за 1год, но затратив 1МВт энергии?
когда план есть, это означает, что уже известны целевые показатели для каждого действия
например, в задаче с той же калиткой, использование только такого правила ни к чему хорошему не приведет. Для обоих путей (кратчайшего через калитку и обходного) показатель эффективности будет падать и падать до нуля.
нет, с чего бы
эффективность обходного пути стабилизируется, когда мы убедимся, что попадаем в точку Б предсказуемым образом
эффективность прямого пути будет колебаться
для самого правильного решения нужно придумать новое действие (научиться открывать калитку либо ждать, пока сама откроется для этого нужен другой модуль
и многие животные на такое способны, хотя считается, что у них нет сознания наподобие нашего

antcatt77

Так у тебя тоже разные слова, а суть всё та же — сознание
В начальном посте сформулировано как сознание можно построить (п. 3 из правильного введения понятий).
Наличие же сознания (п.1) определяется, через способность самостоятельного решения новых возникающих задач. Может решать новые задачи - значит у явления есть сознание.
Также можно ввести качественную шкалу (п.2): у булыжника - 0 сознания, у человека - сознания больше, чем у животных; у автоматной программы меньше, чем у животного, но больше, чем у булыжника.

antcatt77

эффективность обходного пути стабилизируется, когда мы убедимся, что попадаем в точку Б предсказуемым образом
эффективность прямого пути будет колебаться
в том-то и проблема, что в конечную точку мы можем никогда не попасть, например, в следующей ситуации:

A k1 B
--------------------------------
k2

два прохода (через вверх напрямую, и через низ обходной калитка k2 открывается/закрывается наоборот по отношению к калитке k1 (при открытой k1 - закрыта k2, и наоборот)
алгоритм перед каждым шагом пересчитывает кратчайшую траекторию, и делает шаг по кратчайшему маршруту. калитка переключается раз в секунду, и раз в секунду алгоритм делает шаг.
В итоге, такой алгоритм будет дергаться между двумя клетками и никогда не дойдет до точки B.
и только с помощью рефлексии данный алгоритм может выйти на то, что проблема вообще есть, и необходимо искать новые способы решения данной задачи (например, вводить понятие калитка и использовать особый алгоритм для прохождения через нее)

demiurg

алгоритм перед каждым шагом пересчитывает кратчайшую траекторию, и делает шаг по кратчайшему маршруту.
А почему именно так?

antcatt77

А почему именно так?
в целом, без разницы какой алгоритм брать:
- путь прокладывается один раз и далее по нему идет движение без дальнейшего пересмотра пути
- путь перепрокладывается при непосредственном столкновении с препятствием
- путь перепрокладывается раз в n-шагов (n-секунд)
- путь перепрокладывается при непосредственном столкновении с препятствием и при условии, что препятствие не исчезло после n-шагов(или секунд)
Под любой из этих алгоритмов можно подогнать карту с калитками так, чтобы произошло зацикливание

antcatt77

А почему именно так?
такой алгоритм используется, когда ситуация часто меняется (например, если для прохода необходимо учитывать расположение вражеских юнитов)

demiurg

Ты вот выше писал про сопряжённый градиент. Чтобы не попадать в зацикливание достаточно добавить случайную компоненту, и никакой рефлексии не надо.

antcatt77

Чтобы не попадать в зацикливание достаточно добавить случайную компоненту, и никакой рефлексии не надо.
не поможет. представь остров от которого ходят два парома (с разных сторон острова причем период погрузки на паром много меньше, чем время ожидания прихода следующего парома к этой же точке.
При использовании вышеперечисленных алгоритмов при стремлении отношения период_погрузки/ожидание_парома к нулю, так же к нулю будет стремиться вероятность погрузиться на паром. В тоже время алгоритм, которые знает про особенности работы с "мигающими" проходами, попадет на паром в независимости от того, как мал период погрузки.
ps
и так же остается открытым вопрос: матожидание и распределение случайной величины какие выбрать? 42?

Arthur8

базовый алгоритм должен быть максимум продолжить свое существование

antcatt77

базовый алгоритм должен быть максимум продолжить свое существование
внутренний выбор целей зависит от внешних целей (или их отсутствия).
например, для ракеты поражающей цель максимизация своя существования - не самая адекватная цель, хотя при этом такая ракета может иметь и сознание, и самоосознание.

demiurg

при стремлении отношения период_погрузки/ожидание_парома к нулю, так же к нулю будет стремиться вероятность погрузиться на паром. В тоже время алгоритм, которые знает про особенности работы с "мигающими" проходами, попадет на паром в независимости от того, как мал период погрузки.
Если стремится к нулю, то это значит, что нету времени грузиться, и в общем-то понятно, что вероятностью к нулю стремится.
А зачем алгоритму, который знает про особенности, рефлексия?
и так же остается открытым вопрос: матожидание и распределение случайной величины какие выбрать? 42?
Это зависит от конкретной задачи, на самом деле не очень важно какие. Ты сначала формулируешь общие тезисы, а на комментарии к ним отвечаешь вопросами по деталям.
Пока что, с моей точки зрения, ничего нового/содержательного за весь тред ты не сказал. "Сознание — это сознание". (И я кстати не считаю, что сказать можешь)

antcatt77

А зачем алгоритму, который знает про особенности, рефлексия?
[..]
Это зависит от конкретной задачи, на самом деле не очень важно какие.
ты апеллируешь к странной и редкой ситуации, когда на момент появления алгоритма:
- весь мир досконально изучен,
- в нем ничего нового появиться не может
- алгоритм построен максимально эффективным образом.
Как только один из этих пунктов нарушается (а в реальности нарушаются сразу все три то алгоритму необходима рефлексия, чтобы в процессе исполнения иметь возможность выяснить, что его работа перестала быть адекватна реальности и перестроить себя, исходя из новых данных
ps
Пока что, с моей точки зрения, ничего нового/содержательного за весь тред ты не сказал.
это нефальсифицируемое утверждение из-за отсутствуя изложения твоих тезисов по данной теме.

demiurg

ты апеллируешь к странной и редкой ситуации, когда на момент появления алгоритма:
- весь мир досконально изучен,
- в нем ничего нового появиться не может
- алгоритм построен максимально эффективным образом.
Это ты к ней аппелировал вообще-то

antcatt77

Это ты к ней аппелировал вообще-то
стоит тогда вернуться к постановке задачи.
Общая постановка задачи звучит так:
возьмем некий мир и предположим, что на момент создания алгоритма известна не вся информация о мире (модель мира частична причем информация о том, что модель частична так же отсутствует (разработка алгоритма ведется из предположения, что модель мира полна).
Какими свойствами должен обладать разработанный алгоритм, чтобы не смотря на частичность модели мира и начальное предположение, что модель мира полна - алгоритм всё-таки мог решить поставленную задачу, самостоятельно по ходу восполнив свою модель мира?
Ответ на этот вопрос:
для успешного решения такого вида задач алгоритм обязан обладать рефлексией: способностью пересматривать правильность своих решений и предположений, сделанных ранее.
В качестве конкретного примера была взята задача с калиткой, в которой считалось, что на начальный момент появления алгоритма отсутствует знание о том, что в мире существуют калитки (проходы, которые открываются/закрываются по определенному регулярному закону). И ставился всё тот же вопрос: каким образом алгоритм, изначально не зная о калитках и о том, что они требуют специальной обработки, сможет понять что проблема вообще есть?
Я утверждаю, что без рефлексии в таких задачах не обойтись. И считаю неверным гипотезу -а о том, что рефлексия необходима только для исполнителя с плохой памятью(мозг и не нужна исполнителю с хорошей памятью (компьютер)

antcatt77

Так же я несогласен с твоим тезисом, в которым ты приравниваешь сознание к рефлексии, из-за того, что важно отличать существенное свойство от вынужденного.
Между ними есть тонкая грань:
- существенное свойство является необходимым всегда (в том числе, и в гипотетических мирах)
- вынужденное свойство является необходимым из-за устройство нашего мира
например, для треугольника наличие трех углов является существенным свойством, а то, что сумма всех углов равна 180 градусов - вынужденное свойство (это есть следствие того, как устроена плоскость в евклидовом пространстве)
Для отличия одного от другого используется следующий подход: представим черный ящик, который не имеет рефлексии, но может решать новые задачи, общаться с нами, может пройти тест тьюринга и т.д.
Будем ли мы считать такой ящик обладающий сознанием или нет? я считаю, что да, будем считать, что это - сознание.
И наоборот, если взять черный ящик у которого есть рефлексия, но который не может решать новые задачи - то нельзя это считать сознанием.
Соответственно, решение новых задач - это существенное свойство сознания, а наличие рефлексии - это вынужденное свойство.
В этом есть полное сходство с памятью:
с одной стороны, сознание не может существовать без памяти,
с другой стороны, сознание не есть память, а наличие памяти является лишь вынужденным свойством сознания, обусловленное мироустройством.

Nefertyty

и только с помощью рефлексии данный алгоритм может выйти на то, что проблема вообще есть, и необходимо искать новые способы решения данной задачи (например, вводить понятие калитка и использовать особый алгоритм для прохождения через нее)
почему ты называешь это рефлексией?
тут нужны модули придумывания нового поведения
что проблема вообще есть
эффективность всех известных поведений опустится ниже порогового значения - так мы и узнаем, что проблема есть

antcatt77

> тут нужны модули придумывания нового поведения
для того, чтобы поставить задачу придумывания нового поведения сначала необходимо выйти на осознание, что старое поведение не устраивает.
или ты предлагаешь каждую секунду запускать алгоритм по придумыванию новых способов поведения?
> почему ты называешь это рефлексией?
рефлексивная деятельность - это поиск ответов на вопросы следующего вида:
- почему я делаю то, что делаю?
- почему когда я хотел передвинуть zzz, то оно вместо этого сломалось?
- почему я делаю это именно так?
- почему те действия, которые вчера приводили к решению задачи сегодня перестали работать?
- почему я считаю, что мир устроен таким образом?
- было ли вчерашнее решение правильным, или можно было принять более лучшее решение?
- почему соседний индивидуум более успешен, чем я?
и т.д.
Соответственно, рефлексия в данном случае - это процесс, которые отслеживает успешность текущих действий, ищет нестыковки и противоречия в действиях или в реакции мира на эти действия. И пинает при необходимости - или перестройку понимания, или поиск новых способов решения задач, и т.д.
> эффективность всех известных поведений опустится ниже порогового значения - так мы и узнаем, что проблема есть
это возвращает нас к проблемам (от которой gimil отмахивается):
1. как не зная того с чем мы столкнемся можно выбрать пороговое значение?
2. что делать после того, как порог пересечен? запускать полный перебор новых способов решения задач? для градиентного спуска нужно не просто знание, что эффективность упала ниже пороговой, но и локализация первопричины (а это без рефлексии сложно сделать)

demiurg

пересматривать правильность своих решений и предположений
что старое поведение не устраивает.
У тебя просто антропоцентричная терминология, ну и понятно тогда что из этого вытекает необходимость сознания.
Что такое "поведение", что такое "устраивает", где граница между старым и новым? Эту границу ты вводишь искусственно совершенно, говоря, что вот это старое поведение, а вот тут произошло изменение решения, хотя можно посмотреть на это как на целое и считать одним и тем же поведением, просто более сложным.

antcatt77

эффективность всех известных поведений опустится ниже порогового значения - так мы и узнаем, что проблема есть
кол-во известных поведений - это бесконечное быстрорастующее множество.
даже если брать простого робота с командами: вперед на 1, повернуться на 1, подождать 1, то отслеживать все возможное количество поведения состоящего даже из 5 шагов - уже не под силу ни компу, ни мозгу.
Соответственно, невозможно отслеживать эффективность всего известного поведения, а можно лишь отслеживать каплю в море. И, соответственно, необходим какой-то критерий, говорящий о том, какую конкретную каплю отслеживать.

Nefertyty

кол-во известных поведений - это бесконечное быстрорастующее множество.
нет же :)
это значит у тебя ассоциации не функционируют, если поведений бесконечно много
должно отбираться лучшее быстро; и если эффективность у него всё равно плохая - значит, есть проблема на тему того, что делать дальше

antcatt77

У тебя просто антропоцентричная терминология
голословное утверждение.
Что такое "поведение",
последовательность выполняемых команд, задаваемая неким алгоритмом.
что такое "устраивает"
что максимизированы следующие критерии:
результативность, эффективность, экономичность, экологичность
 где граница между старым и новым?
для жестких алгоритмических систем, если код алгоритма необходимо перестроить, то это новое.
для самообучающихся систем, если необходимо ввести еще одно понятие, то это новое.
В более общем виде, если необходимо перестроить внутреннюю топологию сознания, то это новое.
хотя можно посмотреть на это как на целое и считать одним и тем же поведением, просто более сложным.
можно и так смотреть, рассматривая сознание, как черный ящик, но такой подход не продуктивен в рамках задачи исследования устройства сознания.

antcatt77

это значит у тебя ассоциации не функционируют, если поведений бесконечно много
ассоциирование - это тоже некий алгоритм, который также необходимо создать, и который также может работать не адекватно для решаемой задачи.
Это даже видно на примере людей: одни ассоциируют поведение одним способом, другие - другим, у третьих - третьим. И эффективность этого процесса у всех разная.
должно отбираться лучшее быстро; и если эффективность у него всё равно плохая - значит, есть проблема на тему того, что делать дальше
ты опять воспринимаешь как данность, что известно, что такое "лучшее", и что возможно лучшее отбирать быстро.
Это не достаточно, необходимо показать: как можно сконструировать сравнительный критерий (который будет отбирать лучше и сконструировать алгоритм, который действительно может быстро отбирать лучшее (например, за кол-во шагов менее 10^10)

Nefertyty

ассоциирование - это тоже некий алгоритм, который также необходимо создать, и который также может работать не адекватно для решаемой задачи.
Это даже видно на примере людей: одни ассоциируют поведение одним способом, другие - другим, у третьих - третьим. И эффективность этого процесса у всех разная.
ну бывает что и неадекватно, что ты хочешь этим доказать?
людям не отказывают в разуме, хотя иногда они поступают неадекватно
причём тут сознание? даже у неадекватных людей оно есть :) и наоборот, некоторые вполне адекватные действия можно делать бессознательно

antcatt77

ну бывает что и неадекватно, что ты хочешь этим доказать?
то, что существенное свойство сознание - это именно умение адекватного решения задач (в том числе и новых).
идеальное сознание - решает всё и всегда адекватно.
неидеальное сознание (коим обладают люди, животные и т.д.) - что-то решает адекватно, что-то нет, что-то может начать решать адекватно после подсказки (внешнего обучения) и т.д.
но если нечто, вообще, не умеет адекватно решать новые задачи, то это точно не сознание.
людям не отказывают в разуме, хотя иногда они поступают неадекватно
во-первых, часто путают неадекватное поведение с поведением, исходящим из других целей(ценностей). И ты сейчас действительно о первом, или все-таки о втором?
во-вторых, если люди при решений всех задач поступают неадекватно, то в наличии сознания им отказывают.
в-третьих, если люди на части задач показывают адекватное поведение, а на других - неадекватное. То про первое говорят, что это сознательное (или рациональное) поведение, а про другое - что это поведение, вызванное ошибками, заблуждениями, особенностями психики и т.д.

antcatt77

и наоборот, некоторые вполне адекватные действия можно делать бессознательно
Я использовал термин сознание из философии, и там нет деления сознания на сознательное и бессознательное. Деление на сознательное и бессознательное идет из психологии, и для задачи исследования работы сознания такое деление искусственное, потому что в качестве критерия используется особенность строения мозга человека: где один вид выполненных шагов запоминается (это называют сознательным а другой вид - не запоминается (это называют бессознательным).

demiurg

можно и так смотреть, рассматривая сознание, как черный ящик, но такой подход не продуктивен в рамках задачи исследования устройства сознания.
Так у тебя просто чёрные ящики меньше, а размер их ты выбрал произвольно. Я могу выбрать ещё меньше, например, равными одной строчке кода, и тогда там вообще любое почти поведение будет новым, и я объявлю это сознанием.

antcatt77

Так у тебя просто чёрные ящики меньше, а размер их ты выбрал произвольно. Я могу выбрать ещё меньше, например, равными одной строчке кода, и тогда там вообще любое почти поведение будет новым, и я объявлю это сознанием.
ты о чем-то не о том.
Алгоритм A - это конкретная последовательность бит. И этот алгоритм A может успешно решать множество задач Za.
Пусть дано множество задач Zx. Возьмем минимальный алгоритм X, который успешно решает все задачи из множества Zx .
Задача считается новой по отношению к множеству Zx, если для ее решения требуется поменять алгоритм X (изменить его набор бит).

demiurg

То есть рефлексивный алгоритм — это который может менять сам себя?

antcatt77

То есть рефлексивный алгоритм — это который может менять сам себя?
да, но не только это.
Менять может себя - самообучающийся алгоритм.
Рефлексивный алгоритм - это подмножество самообучающихся.

demiurg

А чем это отличается от алгоритма с ветвлением по условию?

antcatt77

А чем это отличается от алгоритма с ветвлением по условию?
У такого алгоритма множество успешно решаемых задач константно от времени существования алгоритма.
У самообучающихся алгоритмов множество успешно решаемых задач меняется от времени.

demiurg

А, понятно. То есть у него должна быть ещё база данных, которая изменяется/наполняется.

demiurg

Мне как пример голову приходит т.н. adaptive molecular dynamics.
Если надо на компьютере сэмплить фазовое пространство, то всегда есть проблемы с энергетическим барьерами, потому что туда система заходит редко. Ну и есть множество всяких трюков чтобы её туда загонять и их сэмплить, например umbrella sampling ну и ещё там всякие.
Один из них — это adaptive MD, где работает принцип что-то вроде "не ходить где уже ходил". Таким образом минимумы, по мере того как сэмлпятся "наполняются" и становятся вровень с барьером, на который теперь можно просто перейти не поднимаясь

antcatt77

А, понятно. То есть у него должна быть ещё база данных, которая изменяется/наполняется.
да, наполняется внутренняя база данных. Вопрос лишь в том, чем наполнять и как?
Оставить комментарий
Имя или ник:
Комментарий: