Исследователи из России создали прототип онлайн-платформы, позволяющей пользователям выявлять тексты, которые были написаны не человеком, а сгенерированы при помощи произвольных систем искусственного интеллекта (ИИ). Платформа будет доступна широкой публике уже в 2025 году, сообщила в понедельник пресс-служба НИУ ВШЭ.
"Наша разработка отличается от разработок конкурентов. Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей - к примеру, ChatGPT. Мы "ловим" всех ботов, а не только одного или нескольких, находящихся в нашем распоряжении", - заявил профессор НИУ ВШЭ (Москва) Василий Громов, чьи слова приводит пресс-служба вуза.
Как отмечают разработчики этой системы, их подход опирается в своей работе на несколько различных областей математического знания, в том числе на теорию хаотических динамических систем, топологический анализ данных, теорию размерности, теорию кластеризации и другие математические инструменты. Это позволяет системе выявлять сгенерированные тексты даже в тех случаях, когда разработчики систем ИИ пытаются противодействовать подобному анализу.
"Нами проведены широкомасштабные вычислительные эксперименты с использованием различных методов анализа данных и искусственного интеллекта, что позволило определить наборы характеристик, наиболее подходящих для различения пространств и траекторий ботов и людей, и разработать прототип программного обеспечения", - пояснил Громов.
Планируется, что широкому кругу пользователей платформа будет доступна в 2025 году. Сначала она сможет "ловить" ботов на русском и английском языках, но ученые уже работают над увеличением числа языков, с которыми может взаимодействовать система. Это, прежде всего, языки стран БРИКС и языки народов России.