Эта статья была первоначально опубликована на сайте Aeon 8 апреля 2019 года и переиздана по условиям Creative Commons.
Когда я был студентом, в далеком прошлом, когда большинство компьютеров все еще были огромными мейнфреймами, у меня был друг, чей советник по аспирантуре настоял на том, чтобы он выполнил длинный и сложный расчет по атомной теории вручную. Это приводило к тому, что страница за страницей появлялись карандашные царапины, полные ошибок, так что мой друг в конце концов сдался. Однажды ночью он пробрался в компьютерную лабораторию и написал короткий код для выполнения расчета. Затем он кропотливо скопировал результат вручную и отдал его своему профессору.
Отлично, — сказал его советник, — это показывает, что вы настоящий физик». Профессор так и не понял, что произошло. Хотя я потерял связь с моим другом, я знаю многих других, кто сделал успешную карьеру в науке, не овладев карандашно-бумажной героикой прошлых поколений.
Принято обсуждать переходные процессы в обществе, делая акцент на новых навыках, которые становятся необходимыми. Но вместо того, чтобы смотреть на то, чему мы учимся, возможно, нам следует рассмотреть обратную ситуацию: что становится безопасным для забывания? В 2018 году журнал Science спросил десятки молодых ученых, чему школы должны учить следующее поколение. Многие ответили, что следует сократить время, затрачиваемое на запоминание фактов, и дать больше пространства для творческих занятий. Поскольку интернет становится все более мощным и всеобъемлющим, то зачем напрягаться, чтобы запоминать и сохранять информацию? Если студенты могут получить доступ к мировым знаниям с помощью смартфона, почему они должны носить столько информации в голове?
Цивилизации развиваются благодаря стратегическому забвению того, что когда-то считалось жизненно важными навыками. После аграрной революции эпохи неолита работник фермы мог позволить себе забыть многие лесные предания, навыки выслеживания животных и другие знания, необходимые для охоты и собирательства. В последующие тысячелетия, когда общество стало индустриальным, чтение и письмо стали жизненно важными, а знания о пахоте и сборе урожая могли отойти на второй план.
Многие из нас теперь быстро теряются без GPS-навигатора в смартфоне. Что же будет дальше? С появлением автомобилей без водителя мы забудем, как управлять машиной самостоятельно? Окруженные искусственным интеллектом, распознающим голос и способным разобрать самые тонкие фразы, забудем ли мы, как произносить слова? И имеет ли это значение?
Ведь большинство из нас уже не знает, как выращивать пищу, которую мы едим, или строить дома, в которых мы живем. Мы не понимаем, как разводить животных, как прясть шерсть, а может быть, даже как менять свечи зажигания в автомобиле. Большинству из нас не нужно знать эти вещи, потому что мы являемся членами того, что социальные психологи называют «транзактивными сетями памяти».
Мы постоянно участвуем в «транзакциях памяти» с сообществом «партнеров по памяти», занимаясь такими видами деятельности, как разговор, чтение и письмо. Будучи членами этих сетей, большинство людей больше не нуждаются в запоминании большинства вещей. Это происходит не потому, что знания полностью забыты или утеряны, а потому, что их хранит кто-то или что-то другое. Нам просто нужно знать, с кем поговорить или куда пойти, чтобы найти информацию. Унаследованный талант к такому совместному поведению — дар эволюции, и он значительно расширяет наш объем эффективной памяти.
Однако новое заключается в том, что многие из наших партнеров по воспоминаниям теперь являются умными машинами. Но искусственный интеллект, например поиск Google, — это такой же партнер по памяти, как и все остальные. Это скорее «суперпартнер» памяти, мгновенно реагирующий и всегда доступный. И он дает нам доступ к значительной части всего запаса человеческих знаний.
Исследователи выявили несколько подводных камней в сложившейся ситуации. Например, наши предки развивались в группах других людей — своего рода одноранговая сеть памяти. Однако информация, получаемая от других людей, неизменно окрашена различными формами предвзятости и мотивированных рассуждений. Они не соглашаются и рационализируют. Они могут ошибаться. Мы научились быть внимательными к этим недостаткам в других и в себе. Но представление алгоритмов ИИ склоняет многих людей к убеждению, что эти алгоритмы обязательно правильные и «объективные». Проще говоря, это магическое мышление.
Самые передовые интеллектуальные технологии сегодня обучаются в процессе многократного тестирования и подсчета баллов, при этом человек все равно проверяет правильность ответов и принимает решение. Поскольку машины должны обучаться на ограниченных наборах данных, а человек должен судить со стороны, алгоритмы имеют тенденцию усиливать наши предвзятые мнения — о расе, поле и многом другом. Внутренний инструмент для подбора персонала, использовавшийся компанией Amazon до 2017 года, представляет собой классический пример: обучившись на решениях внутреннего отдела кадров, компания обнаружила, что алгоритм систематически отбрасывает кандидатов-женщин. Если мы не будем бдительны, наши суперпартнеры ИИ могут превратиться в суперзверей.
Вторая проблема связана с легкостью доступа к информации. В нецифровом мире усилия, необходимые для поиска знаний у других людей или похода в библиотеку, позволяют нам понять, какие знания хранятся в других мозгах или книгах, а какие — в нашей собственной голове. Но исследователи обнаружили, что быстрота реакции Интернета может привести к ошибочному убеждению, закодированному в последующих воспоминаниях, что знания, которые мы искали, были частью того, что мы знали все это время.
Возможно, эти результаты свидетельствуют о том, что у нас есть инстинкт «расширенного разума» — идея, впервые предложенная в 1998 году философами Дэвидом Чалмерсом и Энди Кларком. Они предложили считать, что наш разум не только находится в физическом мозге, но и распространяется на вспомогательные средства для запоминания и рассуждения: блокноты, карандаши, компьютеры, планшеты и облако.
Учитывая наш все более беспрепятственный доступ к внешним знаниям, возможно, мы развиваем все более расширенное «я» — скрытую личность, чье раздутое самовосприятие включает в себя размывание того, где знания находятся в нашей сети памяти. Если это так, то что произойдет, когда интерфейсы «мозг-компьютер» и даже «мозг-мозг» станут обычным явлением, возможно, с помощью нейронных имплантатов? В настоящее время эти технологии разрабатываются для использования пациентами, находящимися в заточении, жертвами инсульта или больными ALS (болезнь двигательных нейронов). Но, скорее всего, они станут гораздо более распространенными, когда технология будет доведена до совершенства — это будет способствовать повышению производительности в мире конкуренции.
Похоже, зарождается новый вид цивилизации, богатой машинным интеллектом, с повсеместными точками доступа, позволяющими нам объединиться в проворные сети искусственной памяти. Даже с имплантами большая часть знаний, к которым мы получим доступ, будет храниться не в нашем «модернизированном» мозге киборга, а удаленно — в банках серверов. В настоящее время каждый запрос в Google проходит в среднем 1500 миль до центра обработки данных и обратно и использует по пути около 1000 компьютеров. Но зависимость от сети означает и новые уязвимости. Разрушение любой из сетей отношений, от которых зависит наше благополучие, например, продовольственной или энергетической, станет катастрофой. Без еды мы умираем от голода, без энергии — от холода. И именно из-за повсеместной потери памяти цивилизации рискуют погрузиться в надвигающуюся темную эпоху.
Но даже если можно сказать, что машина мыслит, люди и машины будут мыслить по-разному. У нас есть противоположные сильные стороны, даже если машины зачастую не более объективны, чем мы. Работая вместе в командах человек — ИИ, мы сможем играть в лучшие шахматы и принимать лучшие медицинские решения. Так почему бы не использовать умные технологии для повышения эффективности обучения студентов?
Потенциально технологии могут улучшить образование, значительно расширить доступ к нему, а также способствовать развитию творческого потенциала и благополучия человека. Многие люди справедливо считают, что они находятся в некоем лиминальном культурном пространстве, на пороге больших перемен. Возможно, педагоги со временем научатся становиться лучшими учителями в союзе с ИИ-партнерами. Но в образовательной среде, в отличие от совместной игры в шахматы или медицинской диагностики, ученик еще не является экспертом по содержанию. ИИ как всезнающий партнер по запоминанию может легко превратиться в костыль, порождая студентов, считающих, что они могут ходить самостоятельно.
Как показывает опыт моего друга-физика, память может адаптироваться и развиваться. Часть этой эволюции неизменно включает в себя забвение старых способов, чтобы освободить время и пространство для новых навыков. Если старые формы знаний хранятся где-то в нашей сети и могут быть найдены, когда они нам понадобятся, то, возможно, они не совсем забыты. И все же со временем одно поколение постепенно, но бесспорно становится чужим для следующего.
Джин Трейси — профессор физики университета Уильяма и Мэри в Вирджинии. Он является автором книги «Трассировка лучей и не только: Phase Space Methods in Plasma Wave Theory (2014). Он ведет блог о науке и культуре на сайте The Icarus Question.
