Люди – слабое звено

Татьяна Шабаева, редактор, публицист

Пока мы всё ещё пытаемся определиться со своим отношением к искусственному интеллекту, 43% российских организаций, по данным ВЦИОМа, уже используют его в своей деятельности. Много говорилось о нём и на прошедшем недавно Петербургском экономическом форуме.

Вице-спикер Госдумы Вячеслав Даванков рассказал, что с помощью одной нейросети проверяет домашние задания сына, которые тот сделал в другой, назвал такое положение абсолютной бессмыслицей, а вице-премьер Дмитрий Григоренко признался, что «борется» с сыном, использующим искусственный интеллект для решения задач. Заместитель председателя правительства РФ Дмитрий Чернышенко заявил, что ИИ – «новый Клондайк», и не надо стеснять его этическим кодексом. Губернатор Новосибирской области Андрей Травников сообщил, что искусственный интеллект будет формулировать понятные ответы на обращения граждан, потому что чиновники пишут непонятно, а министр финансов Антон Силуанов объяснил, что Минфину ИИ нужен для принятия управленческих решений. Ответственный секретарь ПМЭФ Антон Кобяков предостерёг чиновников и госкомпании: «Нейросети – идеальный инструмент разведки XXI века», но заместитель председателя правления Сбербанка Тарас Скворцов призвал россиян использовать нейросети, чтобы сделать свои расходы эффективнее.

Итак, искусственного интеллекта уже очень много в нашей жизни, и чиновники демонстрируют горячее желание внедрить его намного больше. Приводятся выкладки, сколько триллионов можно заработать, как ИИ сделает нас эффективнее, как он потрясающе ускорит научно-технический прогресс. Но это очень опасно.

И дело не только в том, что нейросеть – идеальный инструмент для шпионства. Например, ChatGPT сохраняет ваши переписки даже после того, как вы их удалите.

И не только в том, что искусственный интеллект обессмысливает учение. Да, когда-то мы считали столбиком и в уме, а потом у всех появились калькуляторы, и считать в уме многие разучились. Но мы всё ещё должны были правильно составлять слова во фразы и фразы – в тексты; мы всё ещё должны были понимать, какие параметры находить и какую последовательность действий применять для самостоятельного решения задач. Теперь это может сделать нейросеть, и это что угодно, только не прогресс. Люди становятся глупее вместе с тем, как нейросети становятся умнее. Недавно вышло исследование Массачусетского технологического института: люди, которые писали эссе с помощью нейросети, не могли вспомнить свою работу. И ухудшение памяти сохранялось даже после того, как они прекращали использовать нейросеть.

Когда чиновник не сам учится общаться с гражданами понятным языком, а использует нейросеть, чтобы она говорила за него, – он ставит крест на развитии собственного навыка и помещает безликого посредника между людьми и собой. Когда люди не сами планируют свои расходы, а просят, – они тоже вставляют посредника между реальностью и собой. Вероятно, это будет эффективнее – как пол, где не ходят, чище, чем тот, где ходят. Или как в фильме «Кин-дза-дза», где скрипач не нужен. Без людей – чище. Без скрипача – проще. «Люди – самое слабое звено», – заявил недавно глава Сбербанка Герман Греф, рассуждая о благах ИИ. И однажды даже чиновник, даже Греф может возопить, что получилась «абсолютная бессмыслица».

У людей один интеллект – естественный, и он должен быть для нас бесконечно важнее искусственного, даже если не обещает триллионов.