Жизнь в мире иллюзий

Анофелес С.
(«ХиЖ», 2020, №11)

pic_2020_11_63.jpg

Художник Г.Басыров

Развитие ИИ привело к очень интересному явлению — так называемым глубоким выдумкам, или по-английски deepfake. Это слово происходит от сочетания «глубокого обучения», метода, используемого при формировании искусственного интеллекта, и собственно «выдумки». А выглядит такая выдумка как видеосюжет, где реальный персонаж совершает поступок, который не совершал, или говорит слова, которые не произносил. Потом эти выдумки начинают гулять по Сети, становятся вирусными мемами и входят в состав иллюзорной реальности, подменяющей реальность настоящую.

О современном положении дел и об отношении общества к этому явлению рассказано в недавней статье Ахмеда Саифуддина из Наньянского технологического университета в Сингапуре (Telematics and Informatics, 1 октября 2020 года). Оказывается, число таких выдумок растет взрывообразно: только за первые шесть месяцев 2020 года оно удвоилось и достигло 50 тысяч сюжетов. Часть из них посвящена извращенным формам порнографии, а часть используют для политических целей — возбуждают ненависть и недоверие к институтам власти. Немало глубоких выдумок было распространено в рамках кампании дискредитации Дональда Трампа. Интересно, что качество работы ИИ столь велико, что невооруженным глазом уже непросто распознать подделку. А ведь уровень ИИ растет.

Опрос среди сингапурских и американских пользователей Сети показал, что более половины из них осведомлены о явлении, но это не прибавляет бдительности: более трети участвовало в распространении вирусных сюжетов и лишь потом узнавало, что помогали выдумщикам. Вообще, люди сильно переоценивают свою способность различать выдумку и правду. Например, 80% сингапурцев уверены, что легко справляются с таким нехитрым делом, однако в 90% случаев они не смогли распознать по крайней мере одну из пяти выдумок, предъявленных к опознанию.

Социальные сети, где в основном и циркулируют выдумки в качестве новостей, полученных из верных источников, стали помечать спорный контент. Однако в условиях вероятностной правды и двоемыслия нет никакой проблемы подменить настоящую реальность иллюзорной: помечать знаком «выдумка» реальные сюжеты и наоборот. В результате может сформироваться странное будущее с двумя, а то и многими непересекающимися реальностями, скажем, где в одной президентом США будет Дональд Трамп, в другой — бессмертный Джо Байден, а в настоящей — Камилла Харрис. Перед человеком же встанет выбор — в какой из них ему жить?

123

Разные разности

23.02.2021 16:00:00

Кобчик — маленький сокол, который прилетает к нам из Африки в мае. Однако его поголовье падает, и поэтому Союз охраны птиц России объявил его птицей 2021 года, года Кобчика.

>>
16.02.2021 16:00:00

Зима — самое время, когда можно эффективно расправляться с избыточным весом. Это выяснили канадские исследователи из Лаврентийского университета.

>>
08.02.2021 14:00:00

…разработан интерфейс, который позволяет мышам управлять курсором с помощью активности их мозга…

…беспрецедентное по продолжительности (четыре месяца) и интенсивности истощение стратосферного озона над Арктикой наблюдалось с января по апрель 2020 года…

…в Московской области впервые замечен инвазионный вид жука-долгоносика Polydrusus formosus, широко распространенный в Центральной и Южной Европе; в России встречался лишь в Крыму, но в 2015 году был обнаружен в Летнем саду Санкт-Петербурга…


>>
02.02.2021 16:00:00

Доцент философии из Хьюстонского университета задумался об истоках ошибок в системах искусственного интеллекта (ИИ). Интересно, что таинственные сбои зачастую фиксируют, а то и создают не сами исследователи, а другие системы ИИ.

>>
26.01.2021 16:00:00

Развитие ИИ привело к очень интересному явлению — так называемым глубоким выдумкам, или по-английски deepfake. О современном положении дел и об отношении общества к этому явлению рассказано в недавней статье Ахмеда Саифуддина из Наньянского технологического университета в Сингапуре

>>