Медведев назвал вызовы, которые бросает людям "слишком быстрый" прогресс
Резкий технологический скачок в XXI веке подарил немало возможностей, но также несёт и угрозы.
Заместитель председателя Совета безопасности России Дмитрий Медведев обозначил пять ключевых вызовов, которые несет человечеству стремительный технологический прогресс. Искусственный интеллект, биотехнологии, беспилотники, 3D-печать и освоение космоса могут как улучшить жизнь, так и привести к катастрофам, считает политик.
В своей статье "Новые технологии: лестница в небо или дорога в ад" для журнала "Эксперт" Медведев перечислил основные, на его взгляд, риски. Так, развитие ИИ угрожает массовой безработицей, киберпреступлениями с цифровыми двойниками и сбоями, даже "по умыслу самого ИИ". Передача управления нейросетям на критических производствах рискует выйти из-под контроля человека.
Беспилотные системы дешевы и доступны террористам, через них может осуществляться контрабанда наркотиков, шпионаж, а тот же ИИ может брать под контроль сразу рои дронов.
"Делегирование решений о смерти алгоритмам без милосердия создает эсхатологический парадокс", — подчеркивает автор.
Биотехнологии способны породить искусственные пандемии: редактирование генома и сборка вирусов из цифровых кодов открывают "беспрецедентные риски". А аддитивные технологии (3D-печать) позволят производить несертифицированное оружие из наноматериалов и полимеров — отследить его будет невозможно.
Наконец, освоение космоса несет угрозы от вредоносных систем: будущие электростанции, дата-центры на орбите и добыча на Луне привлекут новых игроков, готовых отвоёвывать свою долю рынка в том числе агрессивными методами.
Медведев вспоминает исторические скачки технологий — огонь, колесо, паровой двигатель — каждый нес двойственность: прогресс повышал производительность, но требовал адаптации. Сегодня скорость прогресса беспрецедентна: "Человечество не готовилось к таким переменам", - отмечает замглавы Совбеза.
Цитируя Шпенглера ("Господин мира становится рабом машины") и Гёте ("Великая сила, что вечно хочет зла и совершает благо"), политик предупреждает: людям нужны "историческая мудрость и этический подход".
Впрочем, несмотря на риски, Медведев признает, что большинство инноваций последних десятилетий лично ему нравятся. Главное — цивилизационные вызовы XXI века требуют баланса между силой технологий и контролем.