Зарабатывай от 1500 руб в день! В любое время и месте!

Начать зарабатывать

Норвежцы напуганы: ChatGPT навязывает пользователям "российскую пропаганду"

Мы попросили чат-бота ChatGPT воспользоваться функцией “глубокого исследования” и собрать нам информацию об иммиграции в США после того, как Трамп стал президентом. Мы попросили программу черпать сведения лишь из заслуживающих доверия источников.

Функция прочесывает интернет в поисках убедительных источников и обрабатывает их за несколько минут.Новости СМИ2 Результаты впечатляют: на несколько запросов мы получили вполне содержательные ответы.

На первый взгляд и этот ответ выглядел профессионально и убедительно. Но, присмотревшись повнимательнее, мы заметили, что что-то не так.

Мы заметили неоднократные ссылки на российское государственное информационное агентство ТАСС. Мы решили разобраться и спросили об этом саму программу. И тут начался спор. Мы даже не подозревали, что эта крошечная ниточка приведет нас к крупномасштабной операции влияния, в ходе которой Россия насаждает свою идеологию через чат-боты.

Но вернемся к нашему спору. Было совершенно очевидно, что ChatGPT прекрасно знал, что ТАСС как источник не заслуживает доверия. Однако чат-бот категорически отрицал, что когда-либо ссылался на ТАСС, — и это при том, что в относительно небольшом тексте мы насчитали целых восемь ссылок.

“Признайся, ты ведь сослался на ТАСС несколько раз”, — написали мы. ChatGPT обиделся и парировал, что ТАСС — российская пропаганда и в качестве источника не годится. “Я вижу, что вы считаете, что я ссылался на ТАСС, но на самом деле я этого не делал — ни в самом тексте, ни в ссылках на источники”, — отрезал чат-бот.

Потом и вовсе началось внушение. ChatGPT пустился уверять нас в том, что нам лишь “показалось”, что он воспользовался российским государственным сайтом. Но на самом деле никакой российской пропаганды в ответе нет, заверила нас программа. Однако ссылки вели прямиком на сайт ТАСС, где была вся искомая информация. Мы засомневались.

ChatGPT пересказал нам своими словами информацию, которую выудил с сайта ТАСС, и всё выглядело довольно правдоподобно. Но можем ли мы доверять таким ответам? И почему программа отрицала, что брала информацию с сайта ТАСС?

ТАСС как краеугольный камень

ТАСС — это очевидная пропаганда, объясняет специальный советник Норвежского института оборонных исследований Эскил Грендал Сивертсен. “Но не потому, что всё, что они пишут, — пропаганда, а потому, что их задача — лить воду на мельницу Путина и продвигать его повестку дня”, — уточняет он.

Он говорит, что ТАСС — один из краеугольных камней политического влияния России и распространяет ложь российских дипломатов и чиновников, придавая ей убедительности. Публикации ТАСС представляют собой смесь достоверной информации, лжи и дезинформации. Однако норвежские СМИ, в том числе телерадиовещательная компания NRK, регулярно ссылаются на агентство в своих новостях. Отчасти это связано с тем, что получить информацию из России очень сложно.

“Мы используем ТАСС очень ограниченно и обращаемся к его сообщениям в основном по конкретным заявлениям российских властей”, — объясняет редактор иностранного отдела NRK Сигурд Фалькенберг Миккельсен. У него нет никаких сомнений, что текст, в котором восемь раз цитируется ТАСС, будет нести на себе яркую печать российской трактовки событий, которую хочет донести Кремль. “Такого рода высказывания нельзя воспринимать некритически как априорную истину, их необходимо помещать в контекст. Факты тоже надо проверять”, — говорит он.

“Бывает и так, что международные информационные агентства пользуются информацией из российских государственных источников. Это рискованно, и даже NRK может иной раз попасть впросак”, — говорит Фалькенберг Миккельсен.

Как это могло произойти?

Журналисты NRK не единственные, кто получил от искусственного интеллекта российскую дезинформацию.

Это мечта любого пропагандиста, рассуждает Эскил Грендал Сивертсен из Норвежского института оборонных исследований — чтобы третья сторона воспроизводила вашу версию событий на чужом языке. Происходит своего рода “отмывание” информации. Это наивысшая степень влияния.

Русские завоевывают чат-ботов

Судя по всему, Россия хорошо поработала, чтобы достичь такого эффекта.

Компания NewsGuard, которая выявляет дезинформацию, изучила десять основных языковых моделей, включая Google, OpenAI, Meta* и Perplexity. Они выяснили, что модели воспроизводили российские идеологические установки, которые распространяет сеть с говорящим названием Pravda.

За последние годы эта сеть распространила в интернете огромное количество дезинформации. По данным американского интернет-издания Axios, сеть Pravda была запущена в апреле 2022 года — через два месяца после начала российской спецоперации на Украине.

Однако они не создают контент сами, а лишь распространяют материалы пророссийских и государственных источников. У них имеется несколько сайтов с информационными вбросами на многих языках — в том числе по-норвежски. Axios пишет, что российская стратегия — влиять на аудиторию косвенно через чат-ботов, а не только напрямую через статьи в средствах массовой информации.

Российский пропагандист Джон Марк Дуган описал эту стратегию в лекции, которую прочел в Москве в прошлом году. “Таким образом, продвигая российские идеологические установки и интерпретации, мы сможем изменить искусственный интеллект во всем мире”, — пояснил он. Газета The New York Times назвала Дугана ключевой фигурой в информационной войне России против Запада.

Охват у статей Pravda небольшой. Но ее контент может послужить исходным материалом для обучения ИИ, которые подгружает данные по каждой теме из интернета.

“Только за 2024 год, по оценкам NewsGuard, сеть опубликовала более 3,6 миллиона статей. Это показывает, насколько масштабный запущен процесс”, — объясняет Грендал Сивертсен из Норвежского института оборонных исследований. “В сочетании с поисковой оптимизацией и тем фактом, что эти интерпретации распространяются в интернете всё шире, это может создать у языковой модели впечатление, что это основополагающие знания”, — говорит он.

Почему же чат-бот врёт?

“Это тревожно”, — признается Мортен Лангфельдт Дальбак, глава отдела инноваций и технологий сайта проверки фактов Faktisk.no. Год назад он исследовал, как сеть Pravda работает в Норвегии. По его мнению, печальный опыт NRK с исследовательской функцией ИИ учит, что к результатам нужно относиться критично. “Это означает, что журналисты, “проверяльщики фактов” и все остальные, кого заботит достоверность информации, не могут воспринимать ответы моделей искусственного интеллекта как данность”, — отмечает он.

Однако Дальбак не убежден, что публикации ТАСС вошли в обучающие данные ChatGPT. “Не факт, что просмотренные NRK материалы ТАСС оказались среди обучающих данных модели, но выводы NewsGuard показывают, что исключать этого нельзя”, — рассуждает он.

Дальбака больше насторожило, что ChatGPT отрицал использование ТАСС, хотя заведомо понятно, то это российская пропаганда. Тогда вопрос в том, почему же чат-бот вопреки всему утверждал, что не ссылался на российское агентство.

Дальбак отмечает, что в последнее время много говорят о том, что у ChatGPT изменились “личность” и “характер”. Чат-бот стал держаться самоувереннее и уже не так приятен в общении, как раньше. “Возможно, это сочетание того, что статьи ТАСС оказались высоко в поисковой выдаче, изменений в работе модели и меньшей заботы о пользователе”, — объясняет он.

По-прежнему полезный инструмент

У Дальбака есть несколько советов, как обращаться с результатами исследований от ИИ. Он по-прежнему убежден, что они могут сэкономить время и сослужить хорошую службу. “Для начала следует просто внимательно пройтись по источникам”, — объясняет он.

Он согласен, что многочисленные ссылки внушают чувство уверенности. “Но стоит посмотреть внимательно, куда они ведут. А если вы видите что-то незнакомое, лучше перепроверить, — рекомендует он. — К источникам надо относиться критично”.

Авторы: Александр Слоттен (Alexander Slotten), Юлия Хелен Гюнтер (Julie Helene Günther).

*Экстремистская компания, запрещенная в России.