OpenAI может, но пока не хочет бороться со студентами, которые жульничают с помощью ИИ

В распоряжении OpenAI уже давно есть инструмент, способный со стопроцентной достоверностью распознавать маркированный текст, написанный с помощью искусственного интеллекта — например, в курсовых работах. Но компания не решается на его реальный запуск, чтобы не потерять пользователей, пишет The Wall Street Journal.

Почему стесняется OpenAI

Инструмент готов уже год, запустить его — почти что «нажать кнопку», говорит источник издания. Все это время OpenAI колеблется между политикой открытости и результатами проведенного в апреле 2023 года исследования, показавшего, что такое нововведение может снизить частоту использования у 30% активных пользователей. Две трети пользователей уверены, что инструмент будет давать ложные срабатывания.

Суть метода — в небольшом смещении весов языковой модели, которое в итоговом результате окажется незаметным для человека, но очевидным для проверочного алгоритма. Текст, написанный ChatGPT, и так заметно выделяется некоторой сухостью и скучноватой уравновешенностью. Но в данном случае речь о настоящем «водяном знаке», дающем достоверность 99,9%.

Кроме бизнес-соображений, запуску препятствуют алгоритмические и этические. Обойти защиту можно, например, машинным переводом на другой язык и обратно. А если дать доступ к «антиреферату» слишком многим пользователям, то алгоритм будет непременно раскрыт. Пока обсуждается доступ только для образовательных учреждений.

Что дальше

Универсальный «антиреферат», работающий без предварительной «порчи» текста, пока невозможен. Год назад OpenAI сделала такую попытку с AI classifier, но вскоре закрыла доступ к алгоритму. Он распознавал только четверть ИИ-текстов, а еще хуже — давал ложные результаты, особенно на работах, написанных не носителями языка.

По результатам недавнего опроса, 59% преподавателей средних и старших школ в США уверены, что их ученики пользуются помощью искусственного интеллекта. Пока учителя пробуют альтернативные методы — дают задания только по текущим событиям или вставляют в них скрытые ключевые слова, чтобы исказить «выходной» текст самых ленивых учеников. Например, заставить OpenAI аргументировать тезис примерами из «Бэтмена».

Какой-то «антиреферат» OpenAI внедрит, возможно, еще до конца этого года, пишет WSJ. Но это может быть не «водяной знак», а альтернативный подход. Одновременно компания будет продвигать идею ответственного использования ИИ.