Предсказания ИИ ненадежны и необъективны

Искусственный интеллект обеспечивает работу разнообразных городских сервисов, автопилотирование транспорта, анализирует загруженность дорог, управляет картами проезда и пр. Им буквально напичканы смартфоны. Но многие из нас об этом даже не задумываются, и уж тем более о том, как организованы и работают алгоритмы ИИ.

Из тех, кто понимает, большинство уверено, что ИИ при решении какой-либо проблемы лучше человека находит объективно правильный ответ, а математические правила, лежащие в основе его программ, объективны, строги и однозначны.

А вот и нет. Свойством объективности ИИ и системы машинного обучения не обладают. На примере погоды это недавно показали ученые Оклахомского университета под руководством доктора Эми Макговерн (Amy McGovern). В университете она руководит метеорологическим направлением ИИ, который предсказывает погоду и как воздействует на нее потепление климата. Прогнозы очень важны, поскольку они помогают избежать погодных и климатических катастроф. Поэтому предсказания погоды на основе данных метеостанций о планетных температурах, давлениях, влажности и пр. должны быть очень надежными.

Макговерн и ее группа обнаружили, что предсказания ИИ, напротив, ненадежны и необъективны. В статье авторы на специфических примерах демонстрируют эти проблемы для погодных и климатических исследований с помощью ИИ. Исследователи рассмотрели многие ошибки по аналогии с другими областями применения. Там ИИ приводил к неожиданным социальным последствиям, например к сильному расовому сдвигу системы уголовного наказания или возрастающему экономическому неравенству финансовой системы.

Эми считает, что наука об окружающей среде не защищена от ненамеренных искажений. К примеру, если в каком-то регионе живет больше людей, чем в другом, то шанс, что кто-либо заметит и сообщит о торнадо или граде, возрастает. Это приведет к более частым предсказаниям в городских районах и недооценке вероятности в сельских.

Доктор Эми Макговерн считает, что ИИ может быть скомпрометирован, а люди, которые его создают, могут принести больше вреда, чем пользы, если не подойдут к задачам ответственно. Она надеется, что ее работа — это важный шаг к более этичному ИИ.

Прочитавший этот опус физик сказал бы, что женскому авторскому коллективу надо тщательнее ставить и скрупулезнее решать задачи. Тем более, когда они априори знают ответ, например уверены, что преступность не имеет национальности, или провидят разницу между добром и злом. Кто прав, кто нет в этих изысканно гуманитарных околонаучных материях, читатель решит сам. (Environmental Data Science, 1, 2022 - полный текст)