7 сентября 2021 года.
Элон Маск анонсировал человекоподобного робота, призванного помочь в выполнении тех повторяющихся, скучных задач, которые люди ненавидят делать. Маск предположил, что робот сможет сбегать за вами в продуктовый магазин, но, предположительно, он справится с любым количеством задач, связанных с ручным трудом.
Предсказуемо, социальные сети наполнились ссылками на ряд антиутопических научно-фантастических фильмов о роботах, где все идет ужасно не так.
Как бы тревожно ни было будущее роботов в таких фильмах, как «Я, робот», «Терминатор» и других, именно технологии, лежащие в основе реальных человекоподобных роботов, и намерения, стоящие за ними, должны вызывать беспокойство.
Робот Маска разрабатывается компанией Tesla. Казалось бы, это отход от автомобильного бизнеса компании, но если учесть, что Tesla не является типичным производителем автомобилей. Так называемый «Tesla Bot» — это концепт изящного человекоподобного робота весом 125 килограммов, который будет использовать автомобильный искусственный интеллект и технологии автопилота Tesla для планирования и соблюдения маршрутов, ориентирования в потоке машин — в данном случае пешеходов — и избегания препятствий.
Если не принимать во внимание антиутопические научно-фантастические нотки, план имеет смысл, хотя и в рамках бизнес-стратегии Маска. Окружающая среда создается людьми и для людей. И как утверждал Маск во время анонса Tesla Bot, успешные передовые технологии должны будут научиться ориентироваться в ней так же, как это делают люди.
Однако автомобили и роботы Tesla — это всего лишь видимые продукты гораздо более широкого плана, направленного на создание будущего, в котором передовые технологии освободят человека от биологических корней, соединив биологию и технологию. Как исследователь, изучающий этическое и социально ответственное развитие и использование новых технологий, я считаю, что этот план вызывает опасения, которые выходят за рамки умозрительных фантастических страхов о сверхумных роботах.
Человек с большими планами
Самодвижущиеся автомобили, межпланетные ракеты и интерфейсы «мозг-машина» — это шаги к будущему, которое видит Маск, где технологии станут спасителями человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой, люди будут работать в гармонии с разумными машинами и даже сливаться с ними, а люди станут межпланетным видом.
Это будущее, которое, судя по различным начинаниям Маска, будет построено на наборе базовых взаимосвязанных технологий, включающих датчики, исполнительные механизмы, инфраструктуру энергии и данных, системную интеграцию и значительные достижения в области компьютерных мощностей. Все вместе они представляют собой мощный набор инструментов для создания преобразующих технологий.
Маск представляет себе, как люди в конечном итоге преодолевают наше эволюционное наследие с помощью технологий, которые выходят за пределы человека, или «сверхчеловека». Но прежде чем технология станет сверхчеловеческой, она должна стать человеческой — или, по крайней мере, быть спроектирована так, чтобы процветать в мире, созданном человеком.
Именно такой подход к инновациям — «сделать технологию более человечной» — лежит в основе технологий, используемых в автомобилях Tesla, в том числе широкого применения оптических камер. Они, подключенные к «мозгу» искусственного интеллекта, призваны помочь автомобилям автономно ориентироваться в дорожных системах, которые, по словам Маска, «рассчитаны на биологические нейронные сети с оптическими имиджерами» — то есть на людей. По словам Маска, это небольшой шаг от вдохновленных человеком «роботов на колесах» к человекоподобным роботам на ногах.
Легче сказать, чем сделать
Технология «полного самообучения» Tesla, включающая сомнительное название Autopilot, является отправной точкой для разработчиков Tesla Bot. Эта технология впечатляет, но, как оказалось, она не совсем надежна. Аварии и смертельные случаи, связанные с режимом автопилота Tesla — последний из них связан с тем, что алгоритмы не могут распознать припаркованные автомобили экстренных служб — ставят под сомнение целесообразность столь скорого выпуска этой технологии на рынок.
Такой послужной список не сулит ничего хорошего человекоподобным роботам, работающим по той же технологии. Однако дело не только в правильном выборе технологии. Сбои в работе автопилота Tesla усугубляются поведением людей. Например, некоторые водители Tesla относились к своим автомобилям с технологией как к полностью автономным транспортным средствам и не уделяли должного внимания вождению. Может ли нечто подобное произойти с ботом Tesla Bot?
Сиротские риски Tesla Bot
В своей работе, посвященной социально полезным технологическим инновациям, я особенно интересуюсь сиротскими рисками — рисками, которые трудно оценить количественно и легко упустить из виду, но которые неизбежно ставят в тупик инноваторов. Мы с коллегами работаем с предпринимателями и другими людьми над решением подобных проблем в рамках проекта Risk Innovation Nexus, инициативы Института предпринимательства и инноваций имени Орина Эдсона при Университете штата Аризона и лаборатории Global Futures.
Бот Tesla поставляется с целым портфелем сиротских рисков. Среди них — возможные угрозы неприкосновенности частной жизни и автономности, поскольку бот собирает, делится и действует на основе потенциально конфиденциальной информации; проблемы, связанные с тем, как люди будут думать о человекоподобных роботах и реагировать на них; потенциальные несоответствия между этическими или идеологическими взглядами — например, при борьбе с преступностью или поддержании порядка во время гражданских протестов; и многое другое. Эти проблемы редко рассматриваются в рамках подготовки инженеров, но их игнорирование может привести к катастрофе.
Хотя робот Tesla Bot может показаться доброкачественным и даже немного шуточным, для того чтобы он приносил пользу и был коммерчески успешным, его разработчики, инвесторы, будущие потребители и другие люди должны задавать жесткие вопросы о том, как он может угрожать тому, что для них важно, и как преодолеть эти угрозы.
Эти угрозы могут быть как специфическими, например, несанкционированные модификации, повышающие производительность робота — например, заставляющие его двигаться быстрее, чем планировалось разработчиками, — и не задумываться о рисках, так и общими, например, использование технологии в качестве оружия. Они могут быть и более тонкими, например, как гуманоидный робот может угрожать безопасности рабочих мест или как робот, оснащенный передовыми системами наблюдения, может нарушить неприкосновенность частной жизни.
Кроме того, существует проблема технологической предвзятости, которая уже некоторое время мучает ИИ, особенно когда она приводит к выработке поведения, которое оказывается в высшей степени дискриминационным. Например, алгоритмы ИИ выдают сексистские и расистские результаты.
Только потому, что мы можем, должны ли мы это делать?
Бот Tesla может показаться маленьким шагом на пути к видению Маском сверхчеловеческих технологий, и его легко списать не более чем на хвастливую показуху. Но дерзкие планы, лежащие в его основе, очень серьезны — и они вызывают не менее серьезные вопросы.
Например, насколько ответственно видение Маска? Если он может работать над созданием будущего своей мечты, то кто сказал, что он должен это делать? Является ли будущее, к которому стремится Маск, лучшим для человечества или даже хорошим? И кто будет страдать от последствий, если что-то пойдет не так? Вот какие глубокие опасения вызывает Tesla Bot у меня как человека, изучающего и пишущего о будущем и о том, как наши действия влияют на него. Это не значит, что Tesla Bot — плохая идея, или что Элон Маск не должен иметь возможность напрягать свои мускулы для создания будущего. При правильном использовании эти идеи и технологии могут открыть будущее, полное перспектив, для миллиардов людей.
Но если потребители, инвесторы и другие люди будут ослеплены блеском новых технологий или не обратят внимания на шумиху и не смогут увидеть общую картину, общество рискует отдать будущее в руки богатых новаторов, чье видение превосходит их понимание. Если их видение будущего не совпадет с тем, к чему стремится большинство людей, или окажется катастрофически несовершенным, они рискуют встать на пути построения справедливого и равноправного будущего.
Возможно, именно этот урок из антиутопических научно-фантастических фильмов о роботах будущего следует извлечь людям по мере того, как Tesla Bot переходит от идеи к реальности — не более очевидные проблемы, связанные с созданием человекоподобных роботов, которые могут разгуляться, а гораздо более серьезная задача — решить, кто будет представлять будущее и участвовать в его создании.
Автор — Эндрю Мейнард, заместитель декана Колледжа глобального будущего, Университет штата Аризона.
