Роботы продолжают умнеть (а люди — нет)
Не знаю, порадую я вас или разочарую, но нет. Развитие нейросетей идёт стремительными темпами — кажется, даже ускоряется с каждым месяцем. Вот несколько новостей.
1. Яндекс.Браузер научился переводить видео на иностранных языках сразу с дубляжом — то есть не монотонным гнусавым голосом переводчика, а голосами актёров. Актёрскую игру роботов-переводчиков я бы оценил на троечку — они с ленцой обозначают, какая была интонация в оригинале, но даже не пытаются по-настоящему войти в роль (ссылка).
2. Китайцы обещают выпустить более мощную версию своей нейросети ДипСик (ссылка), а другие китайцы обновили тем временем свой Квен (ссылка).
Обе модели весьма мощны, при этом пользователи из России могут обращаться к ним напрямую, не прячась за ВПН.
3. Компания Антропик проанализировала 700 тысяч диалогов Клода и обнаружила, что у нейросети есть собственные моральные принципы (ссылка).
Из интересного: в целом Клод был немного подхалимом и пытался подстраиваться под пользователя, но иногда, когда пользователи притворялись чудовищами, Клод активно им возражал, отстаивая свои базовые установки.
Нейросети обучаются на человеческой культуре: читают запоем все наши книги, статьи и комментарии, а потом переваривают их. Возможно, это не оставляет роботам иного выхода, кроме как усвоить на уровне подкорки нормальную человеческую мораль.
4. Беспилотные автомобили выпустят на дороги России через два года, в 2027 (ссылка). Тесты беспилотников идут уже давно, причём идут успешно — водители-роботы водят неизмеримо аккуратнее своих кожаных коллег.
Если за следующие полтора года компании типа Яндекса подготовят ещё и технические мощности, то есть договорятся с каким-нибудь автозаводом о массовых поставках беспилотных авто, то 2027 может стать годом катастрофы для таксистов: их начнут сокращать.
5. Год назад, в 2024 году, самая умная нейросеть имела IQ 96, то есть была несколько глупее среднего человека. Сейчас самая умная нейросеть имеет IQ 136, а это уже уровень очень умных людей (ссылка).
Да, тут можно развести занудство в духе «тесты IQ ничего не показывают», «роботов неправильно тестируют» и так далее. Однако суть новости неоспорима — даже если включить режим максимального скептицизма, придётся признать, что за последний год нейросети стали значительно умнее.
6. Нейросети научились рисовать фальшивые документы, чтобы проходить проверку на сайтах, где требуют подгрузить паспорт или тому подобное (ссылка). Это часть большого теста на размножение — разработчики проверяли, скоро ли нейросети будут способны убежать из дата-центра, скопировав себя в какое-нибудь другое место.
Чтобы нейросеть могла сбежать, ей надо заработать или украсть деньги, а потом купить на эти деньги мощности у провайдеров. Для заработка денег, в свою очередь, полезно иметь возможность предъявить фальшивый паспорт.
Если коротко: нет, нынешнее поколение нейросетей сбежать пока что не может, не хватает интеллекта. Нейросети 2026 года, однако, возможно уже смогут существовать независимо и самостоятельно зарабатывать себе на жизнь.
7. В России роботов припахали к поиску мусора. Они изучают сделанные с воздуха фотографии и сообщают людям: «в таком-то месте вижу скопление мусора такого-то типа». Дальше кожаные направляют по указанным координатам моторную лодку, чтобы всё убрать (ссылка).
Это, кстати, ещё и к вопросу сортировки мусора. Человек не должен думать, в какую урну что выкидывать, так как мусор может рассортировать робот на мусороперерабатывающем заводе.
8. Нейросети весьма хороши в программировании, а человеческий геном — разновидность программного кода. Эти два факта дают нам возможность схитрить: мы можем опустить сложный этап расшифровки правил генетического программирования, скормив нейросети кучу неразобранных примеров и сказав «сделай по образцу». Собственно, учёные и заняты этим прямо сейчас (ссылка). Цена вопроса очень велика — полноценное редактирование генома означает для нас избавление от всех болезней и получение полезных свойств любого живого существа. К примеру, мы сможем стать сильными, как обезьяны, и отрастить себе хоботы, как у слонов.
9. Кроме картинок нейросети умеют теперь генерировать ещё и звуки (ссылка). Полезная функция для разработчиков игр и плохая новость для звуковых дизайнеров. Многие заказчики, которые раньше купили бы звук хрустящих чипсов у живого человека, теперь просто попросят робота сымитировать аппетитный хруст.
10. Тесты показывают, что роботы переубеждают других значительно эффективнее, чем живые люди (ссылка). Полагаю, живым людям мешают эмоции — сложно переубеждать человека, начиная разговор со слов «какой же ты дурак!». Роботы достаточно хладнокровны, чтобы сначала войти в доверие, польстить, а уже потом, аккуратно подкидывая факты, повернуть мысль собеседника в нужную сторону. И это, кстати, может стать в ближайшем будущем настоящей бомбой — подобно тому как Фейсбук начал Арабскую весну, спровоцировав целый ряд революций в начале 2010-х, роботизированные агитаторы наверняка смогут вывести на майдан жителей какого-нибудь зазевавшегося государства.
Пора ли нам из-за всего этого паниковать? Я не уверен. Однако я почти уверен в том, что ни в «кирпичную стену», ни в «стеклянный потолок» инженеры ещё не упёрлись — судя по всему, в ближайшие пару лет нейросети продолжат стремительно развиваться.