«Луддиты ИИ»: следует ли ограничивать распространение технологий
На фестивале New York Comic Con 2025 года Джим Ли, президент, издатель и главный креативный директор DC Comics, высказался против использования искусственного интеллекта при создании комиксов.
«DC Comics не будет поддерживать истории или иллюстрации, созданные искусственным интеллектом. Ни сейчас, ни когда-либо — пока Энн ДеПье и я у власти, — сказал Ли. — Искусственный интеллект не мечтает и не чувствует. Он не создает искусство, он его агрегирует».
Многие сочли, что высказывание Ли заслуживают похвалы: лидер уважаемого учреждения занимает твердую позицию против ИИ. Подобные заявления возникают из-за негативного влияния генеративного ИИ на актеров, писателей и других представителей творческих профессий. Аналогичные опасения возникали и в сфере здравоохранения, правосудия и образования.
Многие влиятельные деятели политики и культуры призывают к контролю над ИИ для защиты прав тех, на кого он влияет, будь то художники, пациенты, арендаторы или обвиняемые. Многие из этих призывов нашли отражение в современном движении, получившем название «луддиты ИИ». Подобно луддитам XIX века, сторонники этого движения не столько против технологий, сколько за человека. Они требуют, чтобы технологии укрепляли человеческое творчество и достоинство труда, а не заменяли квалифицированных работников неквалифицированным прекариатом или вовсе машинами. Они хотят, чтобы технологии были выбором тех, кто их использует, и тех, на кого они влияют, а не навязывались силой.
Подобные движения поднимают вопрос сложности в подходе к технологиям. В этом контексте мы сосредотачиваемся на недооцененной (и, возможно, ироничной) необходимости: социально ответственное сопротивление ИИ должно включать в себя получение и доступность знаний о нем, особенно среди сообществ, которые, вероятно, пострадают от него. Критикуя ИИ, мы должны дать рекомендации по ответственному взаимодействию с ним, а не просто призывать избегать его. Подобно луддитам прошлого, мы должны требовать владения и контроль, а не воздержание.
«Луддиты ИИ» являются символом растущего антитехнологического движения, движимого многочисленными проблемами, вызванными искусственным интеллектом, его бесконтрольным использованием и сомнительной этикой тех, кто его создает. В крайнем крыле этого движения некоторые предполагают, что способ предотвратить вред, причиняемый ИИ, — это просто отказаться от его использования. Даже если этот фундаменталистский подход продиктован благими намерениями, он подвергает риску уязвимых людей и подрывает лучшее оружие против бесконтрольного использования ИИ: общее понимание его возможностей, ограничений и рисков.
Мы не должны повторять ошибок подобных движений в прошлом. Например, сторонники полового воспитания, основанного исключительно на воздержании, советуют молодым людям полностью воздерживаться от интимной жизни до брака. Многочисленные исследования показали, что такой подход неэффективен или даже контрпродуктивен для снижения уровня подростковой беременности, а также заболеваний, передающихся половым путем. Он продиктован идеологией, а не доказательствами или эффективностью.
В качестве более свежего примера рассмотрим движение «Нулевой COVID», возникшее во время пандемии в более широком сообществе здравоохранения. Наиболее известное его воплощение в Китае, где придерживались жесткого подхода к искоренению вируса: строгие карантинные меры, ограничения на поездки и поведенческие предписания были выше личной свободы. Многие сторонники «Нулевого COVID», похоже, считали, что любые аргументы в пользу смягчения последствий вносят вред уязвимым группам населения и подстрекают противников вакцинации и науки.
Время расставило все на места. Накопилось множество доказательств того, что локдауны имели негативные последствия для образования, психического здоровья и неравенства. Мы по-прежнему являемся убежденными сторонниками скоординированной, централизованной политики в области общественного здравоохранения. Но экстремизм «нулевого COVID» вызвал сильную негативную реакцию в Китае и усилил поляризацию в Америке, что, возможно, подорвало цели общественного здравоохранения, которые, как утверждалось, он поддерживал.
Несмотря на различия между половым воспитанием, вирусом и множеством программных продуктов, эти аналогии полезны. Например, в концепции «Нулевого COVID» не учли, что готовность людей принять на себя некоторый риск ради сохранения нормальной жизни не делает их противниками науки. Это просто люди. Это было наивно, потому что невозможно запретить людям хотеть жить, работать, любить и взаимодействовать с другими. Точно так же подходы «Нулевой ИИ» наивны, потому что невозможно запретить миллиардам людей использовать широко доступную технологию, которая делает их жизнь проще или интереснее.
На сегодняшний день в использовании находятся миллиарды смартфонов, и прогнозы показывают, что в ближайшие годы многие из них будут оснащены аппаратным обеспечением, поддерживающим искусственный интеллект. Инструменты ИИ будут у нас на плечах, в глазах и ушах, а также на компьютерах. К лучшему или к худшему, системы ИИ уже помогают управлять бизнесом и организациями по всему миру. А большие языковые модели, технология, лежащая в основе чат-ботов с ИИ, помогают не только в технических задачах, таких как написание кода и анализ данных. Они организуют свадебные списки, подводят итоги встреч и создают приложения и веб-страницы для тех, кто не владеет компьютером. ИИ пока не может конкурировать с лучшими художниками или программистами, но он открывает широкие возможности для технологического и художественного творчества людям, которым иначе не хватало бы навыков или времени для этого.
Как и многие новые технологии, ИИ может либо усиливать неравенство, либо смягчать его, в зависимости от способа его применения. И опасения по поводу вероятности усиления стратификации и сегрегации вполне обоснованы. Но призывы к отказу от использования ИИ лишат сообщества доступа к инструментам, которые привилегированные слои населения уже используют для написания эссе для колледжа, решения домашних заданий и изучения второго языка. Пуританские взгляды оставляют людей неподготовленными к ответственному использованию этой технологии и не позволяют им извлечь из нее пользу.
Нашу точку зрения можно критиковать по многим причинам. Возможно, мы занимаемся утомительным «двусторонним подходом» или предлагаем расплывчатый подход «снижения вреда» к проблеме, которая требует более радикального вмешательства. Или, может быть, мы трусы, смиряющиеся с существующим положением вещей и не мечтающие о мире без ИИ.
Легче всего потребовать, чтобы мир просто избавился от того, что нас беспокоит. Игнорирование ИИ не заставит его исчезнуть. Люди окажутся неспособны критически оценивать сильные и слабые стороны этой технологии, и станут легкой мишенью для лжи и манипуляций.
Пуританские взгляды не позволяют людям ответственно использовать эту технологию и извлекать из нее пользу.
Хорошая новость в том, что решения несложно представить. Несмотря на абсолютистские коннотации названия, движение луддитов в отношении ИИ включает в себя многие нюансы, которые нужны для ответственного взаимодействия. Теперь у нас есть возможность исследовать новую технологию, проверять ее на точность и справедливость, а также сочетать социальную ответственность с технической экспертизой. Как и в сфере здравоохранения, нам необходимо создать экспертный кадровый резерв с подробными знаниями о том, как работает ИИ, включая экспертов из государственного сектора, не зависящих от корпоративной прибыли. Эти государственные эксперты могут развеять мифы об ИИ и сформировать широкое демократическое понимание этой технологии. Они могут работать с сообществами, активистами и политиками над разработкой стратегий и правил, которые позволят нам пользоваться преимуществами ИИ, одновременно смягчая его вред: требовать от него подотчетности и прозрачности перед всеми заинтересованными сторонами и помогать нам решать, когда, где, как и следует ли его использовать.
В соответствии с этим многие учреждения и ученые разрабатывают стратегии по сохранению качества образования в условиях развития ИИ. Искусственный интеллект уже значительно влияет на то, как люди производят и потребляют информацию. Мы опасаемся будущего, где студенты будут делать вид, что пишут эссе, а учителя — что читают их. Нужно понимать, что письменная речь — это мышление, и передача этих функций от человека опасна. Но в теории ИИ может помочь восполнить пробелы в языке, словарном запасе и доступе к знаниям, которые в настоящее время мешают многим получить образование. И частью этого образования должно стать предоставление людям возможности заглянуть «под капот» и «за кулисы», чтобы понять, как работает ИИ и что он может и чего не может делать.
Прошлое научило нас опасностям фундаментализма. Половое воспитание, основанное исключительно на воздержании, было моральным и религиозным лицемерием, замаскированной под политику здравоохранения, а абсолютистские взгляды на COVID-19 были продиктованы магическим мышлением, а не наукой. Мы не должны повторять ту же ошибку с ИИ. Выбор, который мы делаем сейчас, определит, станет ли ИИ инструментом для сильных мира сего, ослепляя остальных шумихой и подвергая нас негативным последствиям, или же он станет инструментом, несовершенным, но полезным, в руках каждого.
Сообщение «Луддиты ИИ»: следует ли ограничивать распространение технологий появились сначала на Идеономика – Умные о главном.