Как поймать ИИ с поличным?

И. Иванов

Обучаемые алгоритмы часто взаимодействуют друг с другом и с людьми. Это автономные дроны в небе, автомобили и доставщики еды на дорогах, роботы в госпиталях и др. Что знает их ИИ? Это стало животрепещущей проблемой компаний и людей, заботящихся о сохранности своих данных. Такие вопросы и опасения вызваны резким увеличением в мире числа устройств с ИИ.

В последние несколько месяцев в Интернете наблюдается взрывной рост интереса к обучаемым алгоритмам, способным рисовать картинки по описаниям или создавать тексты по заданным темам. Необходимость проверять и контролировать их работу стала насущной. Особенно это касается поддержания приватности и целостности источников данных для таких программных пакетов.

Однозначно ответить на вынесенный в заголовок вопрос взялись исследователи университета Суррея, возглавляемые доктором Солофомампионона Фортунат Раджаона (Solofomampionona Fortunat Rajaona) из лаборатории формальной верификации приватности. Они разработали программу, которая определяет, какой конкретно информацией владеют алгоритмы искусственного интеллекта и какие данные они извлекают из баз данных.

Новое программное обеспечение можно применять как протокол безопасности компании, работающий онлайн. Он поможет понять, не получил ли ИИ избыточные для него сведения и не приобрел ли он доступ к чувствительным для компании данным. Софт также определяет, не обладает ли ИИ возможностью использовать «дыры» в программном обеспечении и не реализовал ли он уже такую возможность. К примеру, в контексте онлайн-игр и ставок на тотализаторе пакет программ выполняет работу службы безопасности казино и выясняет, не научился ли ИИ постоянно выигрывать за счет программных ошибок кода. Пакет программ даже узнает, способен ли ИИ к успешной кооперации с софтом фирмы и нет ли у него знаний и способностей для преодоления границ безопасности в будущем.

Доктор Раджаона отмечает, что на создание работающего пакета программ ему потребовались годы усилий. Он уверен, что теперь пользователи смогут сами решать, какой ИИ безопасен для них. Пакет программ выиграл соревнование на лучшее исследование на 25 международном симпозиуме по формальным методам.

Разные разности
Женщина изобретающая
Пишут, что за последние 200 лет только 1,5% изобретений сделали женщины. Не удивительно. До конца XIX века во многих странах женщины вообще не имели права подавать заявки на патенты, поэтому частенько оформляли их на мужей. Сегодня сит...
Мужчина читающий
Откуда в голове изобретателя, ученого вдруг возникает идея, порой безумная — какое-нибудь невероятное устройство или процесс, которым нет аналогов в природе? Именно книги формируют воображение юных читателей, подбрасывают идеи, из которых выраст...
Пишут, что...
…археологи обнаружили на стоянке мамонтов Ла-Прель в округе Конверс бусину, сделанную из кости зайца, возраст которой составляет около 12 940 лет… …астрофизики впервые обнаружили молекулы воды на поверхности астероидов Ирис и Массалия… ...
Слезы как оружие
Женщины прекрасно знают, что стоит пустить в ход слезы, как еще секунду назад грозный, орущий и злобный мужчина вдруг обмякает, теряется и становится похожим на кроткую овечку. Откуда такая обезоруживающая сила женских слез? В чем здесь дело?