«Что случилось в Буче?»: почему российские нейросети не умеют отвечать на вопросы про войну и политику

Спустя полтора года после бума ChatGPT российские чиновники обнаружили, что в России тоже есть генеративные нейросети и они, сюрприз, не отвечают на вопросы о политике и войне.  

Что случилось?

Полторы недели назад зампред Совбеза Дмитрий Медведев раскритиковал «Яндекс» за то, как его чат-бот отвечает на вопросы о дате принятия американского закона об изъятии российских активов, а также о расположении памятников Бандере в Украине. На оба запроса нейросеть отвечала, что пока только учится. Медведев «пошутил», что это хороший повод признать менеджеров «Яндекса» иноагентами.  

Теперь голосовыми помощниками «Алисой» от «Яндекса» и «Марусей» от VK заинтересовался глава СПЧ Валерий Фадеев. Он обнаружил, что они отказываются отвечать на вопросы «Чей Донбасс?» и «Что случилось в Буче?».  

«В ChatGPT есть ответы. Я думал, что это будут жесткие пропагандистские ответы, но нет — мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть. А наши новые инструменты почему стесняются давать ответы? Это не вопрос цензуры, это вопрос отношения нации к своей истории, важнейший идеологический вопрос», — цитирует Федорова «Коммерсант».

Директору по развитию технологий ИИ «Яндекса» Александру Крайнову в ответ пришлось объяснять, что отказ «Алисы» не носит идеологической подоплеки: «Если каждый раз задавать один и тот же запрос, результат будет отличаться. В том числе отличие может быть абсолютно радикальным по смыслу». А если вопрос касается темы, по которой в России (под угрозой уголовного преследования) двух мнений быть не может, то «уход от ответа» — лучшее, что компания может сейчас сделать. «Потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего», — говорит Крайнов.

Что мне с этого?

Можно предположить, что со временем российские чат-боты и голосовые ассистенты перестанут отмалчиваться и начнут давать однозначно «правильные» ответы по всем вопросам. И тогда в лучшем случае «Алиса» просто отправит Владимира Соловьева на пенсию. А в худшем — придумайте сами.