«Если мы делаем некий алгоритм, который устраняет ошибки и сбои, то что будет, когда произойдет сбой в самом этом алгоритме?»
Генеративные системы стремящиеся к увеличению свободной энергии, как и в случае с молекулярными системами в биологии, это попытка создать «искусственную жизнь».
И проблема там точно такая же. Все это существует пока вкладывается негэнтропия уже живого, а в данном случае уже существующего естественного интеллекта.То есть ИИ всегда являются завуалированной проекцией естественного интеллекта.
Далее, уже давно стоит фундаментальный тупик, поскольку самостоятельно или в отрыве от источника жизни (источника самоорганизации) такие системы не существуют.
Независимо от того, какая это вещественная или информационная самоорганизация .
- Теоретики, которые заметают «под ковер» этот факт, пока в массе даже отдалённого понятия не имеют, в чем состоят эти принципы и силы самоорганизации.
Попытки И. Пригожина и «К», найти какой то подход к решению этого вопроса, через механизмы детерминируемости, в лучшем случае, могли дать понимание, локального (во времени) преодоления теплового хаоса, но никак не касались вопроса самого источника сил самоорганизации (условий возникновения анти энтропии).
Вот и Фристон, строит свою программу на идеях как можно более изощренно использовать (препарировать) уже существующий потенциал самоорганизации от живого, даже не понимая (судя по всему), что по мере роста проблем на уровне этой молекулярной самоорганизации (жизни), следом полностью обнуляются возможности естественного интеллекта, а по мере нарастания его проблем (чему мы сейчас свидетели http://www.sciteclibrary.ru/rus/catalog/pages/7076.html ), ИИ превращается в фикцию (некому и нечему будет применять этот калькулятор).
Говоря упрощенно.
- Нельзя создать ИИ, который оперирует упорядоченными информационными структурами (например, игрой в шахматы или математическими зависимостями), если это не будет востребовано естественным интеллектом. То есть сколько бы не мог «нагененрировать» ИИ разных вариаций и комбинаций «игр», ценность всего этого многообразия (бесконечного в принципе) имеет только то, что обеспечивает рост естественного интеллекта. Который, в итоге, и определяет рост свободной энергии.
Понимание некоторыми, в том числе Фристоном, того факта, что из всего многообразия возможных информационных структур, принципам самоорганизации отвечают только те, которые ведут к росту упорядоченности и свободной энергии, ни на шаг не приближает к пониманию источника такой самоорганизации.
А следовательно, сколько бы не «комбинировал» или генерировал ИИ информационные структуры, они всегда будут диссипативными, с нарастанием хаоса и отрывом от матриц законов природы.
Постижение этих законов, кстати, и есть одна из основных миссий естественного интеллекта.
То есть как ни классифицируй, как ни комбинируй, или не заметай «под ковер» скрытые аксиомы, самоорганизующиеся (не диссипативные системы ИИ) создать невозможно.
А следовательно, это будет лишь манипуляция с продуктами Естественного Интеллекта или «арифмометр» в его руках.
Точно также как сейчас в генетике, сами живые «объекты» всегда естественные («искусственное зарождение жизни», со времен Пастера создать не удается…). А все эти ГМО, лишь более или менее завуалированная манипуляция с уже живым.
Сергей Луч. 15.12.2022
sergeylych777sss@gmail.com
P.S. Текст выше, даже для образованного человека может быть трудно понимаем.
Поэтому попробую дополнительно пояснить.
Возьмем пример, ИИ ( нейросети как его начальные варианты), генерируют художественные полотна, которые потом маститые эксперты не могут отличить от картин «настоящих» художников.
Причем, всем очевидно, что не за горами момент, когда нейросети начнут генерировать сами жанры, а не только комбинации в их пределах.
Казалось бы, чем это не доказательство того, что ИИ может заменять человека и самостоятельно «творить»?
Однако, начнем с самого простого — с самой категории «картина».
То есть почему нужно творить именно картины, а не какие то каллиграфические кракозябры?
Поскольку думаю, что ИИ любые кракозябры сотворит с тем же совершенством, что и художественные полотна 😁
То есть это к пониманию того, что сама категория объектов, с которыми работает ИИ, это суть следствие и продукт сотворенный естественным интеллектом.
А иначе это будет просто мусорный ящик, который генерирует бессмысленные наборы каких то цифровых последовательностей.
Причем, и потребитель этого продукта ИИ, который пред этим тренирует нейросеть и задает критерии, что из генерируемого ей мусора, есть действительно художественное, это тоже человек.
То есть альфа и омега, конец и начало, источник, потребитель, учитель ИИ, это ЕСТЕСТВЕННЫЙ ИНТЕЛЛЕКТ ЧЕЛОВЕКА .
Конечно, по этим темам можно впасть в дебаты, о том, возможна ли «самосборка» роботов, и можно ли придумать такую конструкцию, где ИИ, обслуживает сам себя (здесь как раз и зарыты все сингулярности и страшилки, насчет того, что люди вдруг окажутся лишними, а в силу их «несовершенства», ИИ будет с ними бороться).
С точки зрения профессионала такие дебаты бессодержательны, поскольку все написанное мной выше, касается фундаментального вопроса:
— А возможна ли в принципе «самосборка», делающая такие системы автономными?
Или условия определяющие ИИ как самодостаточный объект, а не инструментальный придаток типа калькулятора к «несовершенному» человеку (пусть и генерирующего картины).
Так вот, я утверждаю, что на нынешнем уровне развития человечества, создать устройство самосборки принципиально невозможно.
Не спешите приводить в пример сборочные конвейеры где роботы собирают роботов или самообучающиеся системы.
Вопрос гораздо глубже.
Он в том, что и за счет чего будет «ремонтировать» эту ИИ систему в случае сбоев (то есть вполне естественной диссипации).
Или где находится источник, который преодолевает естественный хаос.
Если мы делаем некий алгоритм, который устраняет ошибки и сбои, то что будет когда произойдет сбой в самом этом алгоритме?
Можно строго аналитически показать, что сколько ы мы не ухищрялись, максимум чего сможем добиться это «консервации» системы за счет заранее написанного алгоритма его восстановления (отката), да и то, на весьма ограниченное время, до первого серьезного катаклизма или до первых неучтенных факторов — типа амеб поедающих чипы…
Говоря проще, для обеспечения самостоятельности искусственно созданной системы (и уже не важно, что это ИИ или белковая краказябра), мы должны указать некое звено — в котором будет происходить мистический процесс, когда это звено ремонтирует НЕПРЕДВИДЕННЫЕ сбои и самосовершенствуется в этом. То есть, нужно указать, некий принцип или алгоритм, который позволяет «лечить» и совершенствовать систему. А вот с этим все плохо…
То есть даже намеков на подобные решения пока не существует (за исклбючением идеализаций — где или мироздание неизменно или есть некий внешний агент — например, Человек 😂, который и осуществляет ремонт и восстановление).
То есть великий «Скайнет», потребует для своего существования обслуживающую бригаду из живых людей.
Но, поскольку этим людям нужно будет решать «нестандартные» (непредвиденные) задачи, они должны быть творческими и интеллектуально развитыми. А для того. чтобы они были творческими и интеллектуально развитыми, должна быть среда которая их развивает, то есть интеллектуально развитое Человечество…
Вот и приходим к тому же выводу, что для того, чтобы ИИ рисовал картины, нужна сама такая категория и забава как «картины», их потребители и учителя ИИ — то есть Люди.
Тут же скажу по параллельной теме — молекулярным самоорганизующимся системам — то есть живой материи.
Молекулы РНК-ДНК это не молекулы алмазов… они «нежны» и непрерывно подвержены поломкам.
И если они не выходят за пределы пропуска клеточного «ОТК», то потом мы можем это видеть как естественные мутации.
Но тут есть тот самый, интересный вопрос — а кто или что непрерывно ремонтирует («репарирует») эти молекулы?
Дабы жизнь на планете не обрывалась на первой же секунде репликаций.
Так вот, не буду утомлять деталями, КАК именно происходит этот ремонт (вот здесь популярно https://scfh.ru/papers/kak-kletka-remontiruet-dnk/ ).
Поскольку вопрос в том, ЧТО обеспечивает такие процессы и противостоит хаосу?
Скажу так, если вся информация о клетке записана в ДНК, то где записана информация о том как именно надо восстанавливать эту ДНК?
Скажу проще, «ремонтная бригада» должна иметь некие более фундаментальные данные чем в самой ДНК, о том, какой именно должна быть неповрежденная ДНК, чтобы была возможность ее восстановить…
И сколько не пытайся при этом замести эту проблему, описывая технические детали самого процесса этого «ремонта», вопрос детерминируемости (противостояния энтропии) и самоорганизации (сил упорядочивающих хаос), по прежнему будут стоять ребром. Так же, как и в случае ИИ.
— Кто или что обеспечивает преодоление случайных поломок в системе, и на чем строится алгоритм, который сам себя исправляет?
То есть везде мы сталкиваемся с проблемой, чем живое отличается от неживого… и где это «ядро» жизни, которое творит из хаоса себе подобное.
P.P.S. Естественно, я давно работаю над этой проблемой. Ее решение в целом нетривиально.
— Оно касается самого фундамента нашего понимания мира — а именно вопросов о времени, предвосхищения и событийных телах — примерно также как в соответствующих опытах физиков, с коллапсом волновой функции. Здесь более подробно — https://synergy4all.net/?p=1775
То есть самоорганизация возникает тогда, когда замыкается обратная связь и будущее состояние системы влияет на ее текущее. А мозг это не только и не столько «вычислитель», сколько орган который способен формировать молекулярно- торсионное «подобие», через которое взаимодействует с будущим и прошлым. Через так называемые «спутанные» состояния.
Более развернуто здесь — https://synergy4all.net/?p=1760
(и далее по ссылкам).