Роман под подозрением

Источник: Литературная газета. Судя по всему, история квебекского писателя Телисона Орельена, которого исключили из соперничества за Гонкуровскую премию, превращается из частного скандала в спор о будущем литературы. И не только её.

Ещё несколько недель назад роман C’йtait зa ou mourir («Это или умереть») канадско-гаитянского писателя Телисона Орельена считался одним из главных открытий французской литературной осени. Первый роман 38-летнего автора рассказывал историю гаитянского мигранта, вынужденного покинуть родину и отправиться в Квебек. Книга получила премию по литературе «Фнак» (Fnac), вошла в число претендентов на несколько других крупных французских литературных премий, а её продажи стремительно росли.

21 сентября, в тот самый день, когда Орельен получил премию Fnac, в социальной сети X появился анонимный аккаунт Balance ton Claude. Его автор заявил, что роман практически целиком создан с помощью искусственного интеллекта. В качестве аргумента были приведены результаты работы сервиса Pangram, предназначенного для выявления текстов, созданных ИИ.

Дальше события стали развиваться с головокружительной скоростью.

Уже 25 сентября Академия Гонкуров объявила об исключении романа из своей первой подборки. Формально речь не шла о лишении Орельена уже полученной премии: премию Fnac у него никто не отнимал. Роман был снят именно с конкурса на Гонкуровскую премию. Причём основанием стали не только подозрения в использовании искусственного интеллекта, но и появившиеся обвинения в плагиате в отношении более ранних текстов автора.

6 октября Академия Гонкуров опубликовала новую, сокращённую до восьми романов подборку претендентов. Книги Орельена в ней уже нет.

Самое интересное в этой истории всё же не решение жюри. А вопрос о том, что именно считается доказательством использования ИИ.

Главным техническим аргументом против Орельена стал Pangram. По данным журналистского эксперимента газеты Le Monde, сервис после анализа более половины романа определил вероятность использования искусственного интеллекта как очень высокую: более 95 процентов текста система сочла созданным ИИ.

На первый взгляд цифра впечатляет. Но здесь возникает принципиальная проблема: детектор искусственного интеллекта сам является закрытой технологической системой, работающей на основе алгоритмов машинного обучения. Читатель не может проверить её «рассуждения» так, как он мог бы проверить, например, совпадение двух абзацев при расследовании плагиата.

Более того, специалисты предупреждают: подобные инструменты не способны с абсолютной достоверностью установить происхождение текста. На точность могут влиять язык, стилистические особенности и характер самого произведения. Исследователи отдельно указывают на проблему работы детекторов с текстами на языках, отличных от английского. Роман Орельена написан по-французски и включает речь персонажей на их родных языках.

Получается парадоксальная ситуация. Человек написал роман, после чего машина анализирует роман и сообщает человеку: «Ты этого не писал». Кто в таком случае является экспертом – читатель, литературовед, редактор или алгоритм?

Орельен категорически отрицает использование ИИ при написании романа. По его словам, работу над книгой он начал ещё в 2017 году, а первую версию закончил в 2019-м. Его французский издатель Grasset выступил в защиту писателя, а канадское издательство Borйal заявило, что не обнаружило оснований автоматически принимать обвинения за доказанный факт.

Есть и ещё одно обстоятельство, которое делает историю значительно сложнее.

После обвинений в использовании ИИ появились сообщения о возможном плагиате в нескольких старых текстах Орельена. В частности, речь шла о публикациях, сделанных более десяти лет назад. Именно сочетание этих обвинений с результатами анализа ИИ и стало основанием для решения Академии Гонкуров.

И здесь необходимо провести важную границу. Плагиат можно доказывать сравнением конкретных текстов: вот фрагмент автора А, вот совпадающий фрагмент автора Б. Можно установить источник, последовательность публикаций, степень совпадения.

С искусственным интеллектом всё сложнее. Если писатель действительно использовал нейросеть как инструмент – для поиска идей, редактирования, перевода, стилистической обработки отдельных фрагментов, где проходит граница между «помощью машины» и «текстом, написанным машиной»?