Предсказания ИИ ненадежны и необъективны

Александр Гурьянов

Искусственный интеллект обеспечивает работу разнообразных городских сервисов, автопилотирование транспорта, анализирует загруженность дорог, управляет картами проезда и пр. Им буквально напичканы смартфоны. Но многие из нас об этом даже не задумываются, и уж тем более о том, как организованы и работают алгоритмы ИИ.

Из тех, кто понимает, большинство уверено, что ИИ при решении какой-либо проблемы лучше человека находит объективно правильный ответ, а математические правила, лежащие в основе его программ, объективны, строги и однозначны.

А вот и нет. Свойством объективности ИИ и системы машинного обучения не обладают. На примере погоды это недавно показали ученые Оклахомского университета под руководством доктора Эми Макговерн (Amy McGovern). В университете она руководит метеорологическим направлением ИИ, который предсказывает погоду и как воздействует на нее потепление климата. Прогнозы очень важны, поскольку они помогают избежать погодных и климатических катастроф. Поэтому предсказания погоды на основе данных метеостанций о планетных температурах, давлениях, влажности и пр. должны быть очень надежными.

Макговерн и ее группа обнаружили, что предсказания ИИ, напротив, ненадежны и необъективны. В статье авторы на специфических примерах демонстрируют эти проблемы для погодных и климатических исследований с помощью ИИ. Исследователи рассмотрели многие ошибки по аналогии с другими областями применения. Там ИИ приводил к неожиданным социальным последствиям, например к сильному расовому сдвигу системы уголовного наказания или возрастающему экономическому неравенству финансовой системы.

Эми считает, что наука об окружающей среде не защищена от ненамеренных искажений. К примеру, если в каком-то регионе живет больше людей, чем в другом, то шанс, что кто-либо заметит и сообщит о торнадо или граде, возрастает. Это приведет к более частым предсказаниям в городских районах и недооценке вероятности в сельских.

Доктор Эми Макговерн считает, что ИИ может быть скомпрометирован, а люди, которые его создают, могут принести больше вреда, чем пользы, если не подойдут к задачам ответственно. Она надеется, что ее работа — это важный шаг к более этичному ИИ.

Прочитавший этот опус физик сказал бы, что женскому авторскому коллективу надо тщательнее ставить и скрупулезнее решать задачи. Тем более, когда они априори знают ответ, например уверены, что преступность не имеет национальности, или провидят разницу между добром и злом. Кто прав, кто нет в этих изысканно гуманитарных околонаучных материях, читатель решит сам.


Environmental Data Science, 1, 2022 - полный текст

Разные разности
Желтки против пожелтения
Пробы красочного слоя, взятые с картин художников эпохи Возрождения, показали, что в них помимо пигментов и масла присутствуют еще и небольшие следы белка, который мог попасть в краску вместе с желтком. Действительно точно известно, что Леонардо да&n...
Споры против полиуретана
Ученые создали биоразлагаемый материал с помощью почвенных штаммов бактерии Bacillus subtilis, способных разрушать термополиуретан. Решение очень простое — подмешать бактерии к полимерам. Причем не сами бактерии, а их споры, которые остаютс...
Бактериофаги против дезодорантов
Метагеномный анализ кожной флоры позволил найти главного злоумышленника, виновного в резком запахе пота — это бактерии Staphylococcus hominis. Но можно ли от них избавиться, не убивая другие кожные бактерии? Исследователи предложили логичное реш...
Липучка против трипсов
Химики ищут замену инсектицидам, подсматривая за тем, как разные растения сами защищаются от вредных насекомых. Некоторые растения выделяют липкие вещества из так называемых железистых волосков. К ним прилипают насекомые-вредители и погибают. Эта стр...