О проблеме с глобальной программой AGI

У глобальной программы создания некого интеллектуального подобия человека, то бишь — AGI, на мой взгляд, есть фундаментальная проблема, напрямую связанная с реализуемостью задачи.

Если предполагать для сознания/мозга некоторую эмерджентную модель, важным требованием для неё является embodiment: прямая, сильная и неустранимая зависимость от контекста развития или обучения носителя. Есть, конечно, разные взгляды на этот вопрос, в качестве референтного базиса можно указать два полярных взгляда на моделирование когнитивных систем: иерархии Марра (Marr’s hierarchy of abstraction) и Кельсо (Kelso’s). У первого уровни рассмотрения (Evolution; Learning & Development; Computational Theory; Representation & Algorithm; Hardware/Software Implementation) полагаются слабо связанными (loosely coupled) и Марр настаивает, что проблему нужно решать на некотором уровне изолировано от других и только после решения переходить ниже. Эдакий водопад и эмерджентность тут не нужна.

У Кельсо наоборот — уровни (Boundary Constraints/Goals & tasks; Collective Variables/System behaviour; Components (e.g. neural systems)/Realized system) сильно связаны и его постулаты таковы:

  1. Убирая контекст, ты убираешь базис модели (Take away the context, and you take away the basis for the model);
  2. Реализация системы играет непосредственную роль в самой модели (Instantiation of the system has a direct role to play in the model Itself)
  3. Воплощение — неотъемлемая часть [экземпляра] модели (Embodiment is integral to the model)

Как по мне, модель Кельсо выглядит более симпатично и agile, в том смысле, что более эволюционно-пригодной и адаптивной.

Философия и мотивация программы AGI, в отличие от прагматичных narrow AI проектов, насколько я её понимаю, в  пытке сконструировать и воспитать искусственного компаньона с «богатым внутренним миром», который должен появиться очень похожим на человека, но при этом должен быть вылеплен из совершенно другой эволюционной среды и увлекаемый гравитациями других аттракторов. Мой тезис для обсуждения в том, что более реалистичная, прагматичная и эволюционно-оправданная цель состоит не в создании human-like intelligence, а в создании intelligence для выживания и развития в совершенно новом мире, новом ценозе. И этот ценоз только частично биологический.

Примитивная жизнь была движима хемо- и фототаксисом, и пока эволюция добралась до уровня человека, комплекс мотивов, ареал обитания и связанные с этим практики и воздействия радикально изменялись, как минимум в локусе операционного внимания особей и популяции. Этут тончайшую настройку мы несём в своих генах и она определяет в том числе наши интеллектуальные эпифеномены. Не хотелось бы нырять в спор, возможно ли сделать copy-paste неким образом зафиксированного состояния эндокортекса на экзокортекс (хотя, на мой взгляд, здесь цель — без вариантов, но попытки — ценны). Но, на мой взгляд, даже успешная такая попытка не решила бы проблему эволюции данного состояния в форму, пригодную для эффективного существования в новом мире.

Проблема, поминаемая как «скрипка Энгельбарта», показывает, что человек en masse ленив и эволюционировать желает только безсознательно: родите меня новым, дайте мне пилюлю знания, загрузите мне во сне в голову кунг-фу с джит-кун-до и пр. Сложность жизни, впрочем, по-своему удовлетворяет это желание, и к эволюции подталкивает часто совершенно нерациональными, но болезненными пинками по безсознательному телу. За исключением нескольких долей процента просветлённых и героически просветляющихся, человечеству гораздо проще развивать что-то вне себя. Такое положение дел пока статистически показывает, что если эволюция, скажем так, некоторой части биоценоза состоится, то центральным агентом оной будет киберпсихосоциальная система, в которой избыток порядка будет генерировать ленивый, но умный человек, и реализовывать его в виде киберорганоидов — технических и социальных. Сам при этом оставаясь не более как набором нейроклеток в сложном теле этого нового хищника для нового мира.

Смещение телеологии AGI с копирования человеческого мозга/сознания на конструирование очень интеллектуального «неизвестно-пока-чего» для решения проблем нового мира выравнивает мотивацию с общей эволюцией на стратегическом уровне: эволюция делает зигзаг, влекомая тяжестью нашей технокогносферы, а мы всё ещё пытаемся двигаться по древней эволюционной прямой, и строим Biologically Inspired Cognitive Architectures. Как бы с этим inspiration не слететь в эволюционную канаву — наш миньон просто не сможет решать новые проблемы, так как построен по старым лекалам.

Следуя принципам Кельсо, можно утверждать, что изменившийся эволюционный контекст должен повлечь изменения в модели. И, возможно, изменения архитектурные и морфологические для носителя, раз контекст меняется существенно. Это означает больший или меньший отход как от biologically inspired — архитектур, так и от physical symbol-архитектур, которые в значительной мере являются отражением промежуточного состояния развития сознания человека. И гибриды как просто их сочленение тут не решат проблемы без наличия/изменения именно фундаментальной установки и модели: они останутся безжизненными франкенштейнами, или недоделанными летенантами Рипли, спящими в баках с формалином, из 4ой части эпопеи «Чужие».

Читайте также:

1 комментарий

  1. Думка выглядае класнай.
    Не займацца «гістарычнай рэканструкцыяй», а ствараць новае. Гэта як і з усялякімі медыевальшчыкамі і этнасубкультурай: хочуць працягнуць старыя «традыцыі», замест таго каб ствараць новае і актуальнае.

    Можна параўнаць жыццё (існаванне жывых сістэмаў) з мовай. На мове трэба ствараць новыя тэксты, а не завучваць і пастаянна ўзнаўляць старыя; інакш мова загнецца.
    Як і любая сістэма. Калі яна хоча проста захоўваць сябе такой, як ёсць сёння, паўтараць існуючыя каноны, то яна непазбежна рассыплецца пад уздзеяннем знешніх сілаў.
    То бок, разумнае жыццё на зямлі можа знікнуць, калі ня з’явяцца розумы новых тыпаў.

Добавить комментарий для Borys Szczuka Отменить ответ