Денис Драгунский о том, как нейросеть искала у него наркотики
Денис Драгунский неожиданно стал героем абсурдной новости: нейросеть, проверяющая книги на соответствие новому законодательству, усмотрела в его фамилии отсылку к наркотикам. В колонке для «Сноба» «попавший под лошадь» детский писатель размышляет о том, как это стало возможным и что нам, собственно говоря, со всеми этими новыми технологиями делать (спойлер: искать им няню).
«Мама, что такое аборт?» — «Боже мой, доченька, кто тебе сказал об этом?» — «По радио сказали: волны бились о борт корабля!» Этот детский анекдот невольно вспомнился вчера, когда по интернету разнеслась кошмарная новость: «Как сообщил директор издательства «Эксмо», книги писателя Дениса Драгунского будут изъяты из продажи: нейросеть обнаружила в них пропаганду наркотиков. В фамилии «Драгунский» читается английское слово «drug».
Мне тут же стали звонить с радиостанций за комментариями — получи, голубчик, свои 15 минут славы.
Однако всё было не совсем так. Вернее, совсем не так. В первоначальном сообщении директор издательства «Эксмо» господин Капьев написал об этом курьёзном случае и справедливо заметил: за нейросетью нужен глаз да глаз, за ней приходится подчищать вручную.
Верно. А то ИИ вам такое отыщет, замучаешься запрещать. Вот ИИ нашёл опасное слово «drug» (причём очень кудряво нашёл: слог «драг» он написал по-английски именно вот так, чтоб смахивало на «вещество»). Хотя моя фамилия по-английски пишется, конечно же, Dragunsky.
Ещё о «веществах». Теперь спокойнее писать: «Анна Каренина — главная, эээ… женская фигура романа Льва Толстого». Потому что в слове «героиня» тут же находится опасное сочетание букв.
Можно также сосредоточиться на теме ЛГБТ. В русской литературе от Радищева до Варламова — 290 сочетаний «лес был… (заснеженным, тёмным, молчаливым и каким хотите)». Лес был? То есть «лесб»! Ага! Пропаганда!
А всё дело в том, что ИИ работает не со смыслами, и даже не со словами, а с сочетаниями букв. Анализируя сотни тысяч, миллионы, миллиарды текстов, он может соорудить нечто почти неотличимое от того, что им было прочитано-пережёвано. Например, типовую рецензию. Дамский роман. Ответ на экзаменационный вопрос. Совет «как быть, если молчел сначала лавбомбит, а потом игнорит?». И даже «рассказ в стиле Дениса Драгунского» (полное безобразие, хотя читатель из другого полушария может кивнуть: да, чуточку похоже).
ИИ — это и в самом деле чудо цифрового мира. Он способен обработать грандиозные горы данных и вытащить что-то важное и нужное. Но со смыслом пока есть проблемы. Недавно мне надо было узнать, когда в СССР впервые показали фильм Феллини «Сладкая жизнь». ИИ по имени Алиса ответил (ответила) так: «Этот фильм был запрещён в СССР, потому что в нём содержалась резкая критика буржуазии». Хоть стой, хоть падай. А если ИИ попросить составить библиографию к научной статье — он непременно прибавит пару-тройку вымышленных монографий.
ИИ — это типичный вундеркинд. То есть не только Wunder (чудо), но и Kind (дитя). Мы много раз слышали о гениальных юных музыкантах, математиках, спортсменах — которые при этом не умеют ориентироваться в окружающем мире. Не знают, как купить хлеб в магазине, оплатить поездку в метро и что такое Сыктывкар. Их легко одурачить и обидеть.
Вундеркинду необходима внимательная и строгая няня. Которая, при всём уважении к его одарённости, научит его вытирать нос.