Возможно, одна из самых вредных идей, стратегически блокирующих развитие сильной вычислительной способности - это сама идея существования разума.
"Сознание" и "разум" объективированы где-то в 17 веке. Фуко это показал в своих работах. Этот модерновый объективистский конструкт, как и прочие в эпистеме, призван обслуживать индустриальное общество со всеми специфичными для данной эпохи ситуациями, ограничениями, мотивами. Но цивилизация уже переросла Модерн и силится выпрыгнуть из Постмодерна, которой модерновую эпистему "деконструировал", но взамен ничего не предложил.
"Сознание" или "разум" - уже такие же архаичные и ненужные понятия, (или как минимум, понятия с своей сферой применимости), какой для модернистов являются понятия "душа" или "бог". Метафизический "бог" и человеческое "спасение души" - это из религиозных онтологий, они живут в церквях и обслуживают определённые нужды населения. Польза от них социуму есть, но с известными оговорками.
Присутствие этих понятий проблема не сама по себе, а как часть модерновой практики объективизации в общем. То, о чём я не раз высказывался уже.
Симметрично с "сознанием" и "искусственным интеллектом": первое трансцендентно, толком не определяемо, предмет философских спекуляций; второй - человечен, практичен, но недостижим. Церкви позитивистских академий вполне могут и будут дальше существовать и производить что-то полезное на базе модерновых и постмодерновых онтологий, но часть общества будет выползать из скорлупы Постмодерна в новое состояние. И смотреть на первые и на вторые, как на культур-археологический материал или низлежащие уровни исполнительного стека.
Я из своих теоретизаций выбросил термин "сознание" года так 4-5 назад, заменив это на прекрасно операционализируемое "внимание". И это, как ты понимаешь, не просто игра терминами, это эпистемический сдвиг с далекоидущими последствиями. Это движение к распределённым многослойным, многоаспектными, многопроцессыми, поливариантым конструкциям, с которыми объективистские эпистемические практики работают очень неуклюже. Электромагнетизм против Эфира.