Предсказания ИИ ненадежны и необъективны

Александр Гурьянов
(«ХиЖ», 2022, №8)

Искусственный интеллект обеспечивает работу разнообразных городских сервисов, автопилотирование транспорта, анализирует загруженность дорог, управляет картами проезда и пр. Им буквально напичканы смартфоны. Но многие из нас об этом даже не задумываются, и уж тем более о том, как организованы и работают алгоритмы ИИ.

Из тех, кто понимает, большинство уверено, что ИИ при решении какой-либо проблемы лучше человека находит объективно правильный ответ, а математические правила, лежащие в основе его программ, объективны, строги и однозначны.

А вот и нет. Свойством объективности ИИ и системы машинного обучения не обладают. На примере погоды это недавно показали ученые Оклахомского университета под руководством доктора Эми Макговерн (Amy McGovern). В университете она руководит метеорологическим направлением ИИ, который предсказывает погоду и как воздействует на нее потепление климата. Прогнозы очень важны, поскольку они помогают избежать погодных и климатических катастроф. Поэтому предсказания погоды на основе данных метеостанций о планетных температурах, давлениях, влажности и пр. должны быть очень надежными.

Макговерн и ее группа обнаружили, что предсказания ИИ, напротив, ненадежны и необъективны. В статье авторы на специфических примерах демонстрируют эти проблемы для погодных и климатических исследований с помощью ИИ. Исследователи рассмотрели многие ошибки по аналогии с другими областями применения. Там ИИ приводил к неожиданным социальным последствиям, например к сильному расовому сдвигу системы уголовного наказания или возрастающему экономическому неравенству финансовой системы.

Эми считает, что наука об окружающей среде не защищена от ненамеренных искажений. К примеру, если в каком-то регионе живет больше людей, чем в другом, то шанс, что кто-либо заметит и сообщит о торнадо или граде, возрастает. Это приведет к более частым предсказаниям в городских районах и недооценке вероятности в сельских.

Доктор Эми Макговерн считает, что ИИ может быть скомпрометирован, а люди, которые его создают, могут принести больше вреда, чем пользы, если не подойдут к задачам ответственно. Она надеется, что ее работа — это важный шаг к более этичному ИИ.

Прочитавший этот опус физик сказал бы, что женскому авторскому коллективу надо тщательнее ставить и скрупулезнее решать задачи. Тем более, когда они априори знают ответ, например уверены, что преступность не имеет национальности, или провидят разницу между добром и злом. Кто прав, кто нет в этих изысканно гуманитарных околонаучных материях, читатель решит сам.


Environmental Data Science, 1, 2022 - полный текст

Разные разности
Песни китов похожи на человеческую речь
Какой язык более эффективен? Тот, в котором слова короче. Во-первых, на их произношение человек тратит меньше энергии и меньше времени. А во-вторых, короткие слова легче воспринимать. Как выяснилось, и горбатым китам не чужда эта премудрость.
Ивановские нанотехнологии работают!
Химики всегда занимались нанотехнологиями, потому что постоянно манипулировали молекулами и атомами, молекулярными кластерами и комплексами (а это все нанообъекты). Всегда занимались нанотехнологиями и в Ивановском химико-технологическом университете...
Умные российские стекла
Под американские санкции неожиданно попала никому не известная в России маленькая наукоемкая компания «Октогласс». Ее основали в 2017 году молодые специалисты и предприниматели, выпускники МИФИ, СамГТУ и МИРЭА. Чем же наши молодые разр...
Ледники тают все быстрее и быстрее
Исследовательская группа из Цюрихского университета подготовила обширный обзор потерь массы ледников в мире. Ученые собрали данные региональных изменений массы ледников с 2000 по 2023 год. За период наблюдений масса ледников во всем ми...