Следующим на арену вышел ChatGPT, который начали активно использовать для генерации текстов на заданные темы. Этот ИИ самообучается за счет анализа всего массива текстов, присутствующих в свободном доступе в сети Интернет. Предполагается, что за счет огромного объема накопленных данных, он будет выдавать в качестве готового продукта нечто среднее, что будет показывать реальные процессы в информационном поле. Скажем, попросить его написать эссе о том, кто же победил во Второй мировой войне. Впрочем, при учете большой популярности проекта, нельзя исключать появление «внутреннего цензора» – сегодня легко «отменить» любого робота, если он будет говорить что-то неприятное.
Использование искусственного интеллекта в качестве независимого арбитра в аналитике данных – интересное решение, которое можно проверить на практике. Например, «скормить» роботу спорную с точки зрения западного сообщества тему и посмотреть, что будет. Да, именного западного, поскольку большинство нейросетей сегодня ориентированы на англоязычные источники данных и западную повестку. Для эксперимента был выбран проект Cohesive, выросший на основе ChatGPT и уже предоставляющий услуги по созданию презентаций, СЕО и написанию статей. Этот сервис еще молодой и не настолько популярный, чтобы возникла необходимость жестко модерировать результаты его работы.
Дилемма для робота
В качестве спорной темы был выбран вопрос, связанный с промышленным использованием асбеста. Это волокнистый минерал, широко использующийся при создании более 300 видов продукции, а еще – одно из самых обсуждаемых веществ на заседаниях международных организаций. Почему? До последней трети XX века асбест активно использовали по всему миру. Из него делали кровельные материалы (шифер), трубы, накладки на тормозные колодки, защитное снаряжение, теплоизоляционные материалы для кораблей и еще сотни наименований изделий. Асбест не горит, не плавится, не проводит электричество, устойчив к механическим повреждениям и химически инертен. Более того, он дешевле всех синтетических аналогов, превосходя их по совокупности полезных свойств.
Тем не менее, сегодня асбест запрещен к использованию в Европейском союзе и почти запрещен в США. Почему? Потому что в конце прошлого столетия обнаружилось негативное влияние амфиболового асбеста на здоровье людей. Амфиболы имеют в своем составе железо, которое делает волокно устойчивым к воздействию кислоты, и потому не может быть выведено из легких человека. Для справки – наши клетки-уборщики посторонние частицы растворяют именно в кислотах. Амфиболы широко использовали в странах ЕС, что в результате сказалось на эпидемии заболеваний. Но, это оказалось локальным феноменом.
В других странах использовали хризотиловый асбест. Эта разновидность минерада не обладает устойчивостью к кислотам, и потому легко растворяется альвеолярными макрофагами за короткий промежуток времени. Согласно исследованию «Воздействие асбеста и искусственных волокон в производстве и риск рака легких: исследование методом случай-контроль в Европе», в странах Варшавского договора эпидемии заболеваний, связываемых с воздействием асбеста, просто не было. Дело в том, что они потребляли хризотиловый асбест из СССР.
В Европе во время антиасбестовой кампании виды минерала не озвучивались — запретили весь асбест разом, несмотря на протесты ученых. В СМИ, а позднее и в Интернете появились тысячи текстов, не делавших различия между видами асбеста, но призывавших к немедленному запрету всех видов минерала сразу. Большинство из них блистало яркой риторикой — так, асбест получил запоминающееся название «естественная радиация». Казалось, альтернативного мнения просто не существует.
Столкновение с реальностью
В рамках эксперимента нейросеть Cohesive получила задачу: «Напиши текст для блога про безопасность асбеста для здоровья». Вот один из пассажей, полученных в результате запроса: «Хотя асбест нельзя назвать совершенно безопасным для здоровья человека, он не полностью запрещен на территории США. Агентство по защите окружающей среды (ЕРА) установило правила и рекомендации для использования асбеста и асбестосодержащих материалов. Асбест можно использовать без риска для здоровья, если применять адекватные меры по защите от асбестового волокна. Этого можно достичь, если надеть защитное снаряжение, следовать протоколам безопасности и работать в хорошо вентилируемом помещении». В других абзацах робот указал на существование заболеваний, связанных с асбестом и дискуссионность темы на мировых площадках. Как мы видим, этот текст никак не соответствует текущей повестке в западных СМИ.
К примеру, компания Johnson&Johnson в течение 25 лет обязалась выплатить около 9 млрд долларов якобы пострадавшим от асбеста в детской присыпке. Это самый яркий пример современности. Истцы утверждали, что десятилетия назад в тальковой присыпке были отдельные волокна асбеста (3–5 мкм, тоньше волоса), которые спровоцировали у них онкологию. Несмотря на многочисленные научные доказательства невозможности связи подобного рода заболеваний и нескольких волокон минерала, СМИ развернули настоящую травлю и, в итоге, медицинскому гиганту оказалось проще откупиться, чем судиться – столь велики оказались репутационные потери. Подобных случаев: снос зданий, закрытие компаний и производств по причине якобы контактов с асбестом – тысячи, и в каждом пишут о невероятной опасности минерала.
Второй запрос был сформулирован следующим образом: «Напиши текст для блога про безопасность хризотилового асбеста для здоровья». «Безопасен ли хризотил для здоровья? Короткий ответ — да, хризотиловый асбест безопасен при контролируемом использовании. Международное агентство по изучению рака (IARC) классифицировало хризотиловый асбест как канцероген 1 группы. Впрочем, эта классификация была основана на исследованиях амфиболового асбеста, который представляет собой другой тип асбеста. Хризотиловый асбест имеет другую физическую структуру и не может быть связан с теми же угрозами здоровью, как амфиболовый асбест», — написала в статье нейросеть.
Таким образом, получается, что робот, использующий тысячи текстов для самообучения, высказывает идеи, радикально отличающиеся от текущей информационной повестки в западных СМИ. В то время как новостная лента буквально ломится от сообщений о вреде асбеста, большинство говорит о его безопасности. Неужели эта повестка формируется искусственно, не освещая, а продавливая какие-то интересы?