Позовите Сьюзен Келвин. Немедленно!

Мотыляев А.
(«ХиЖ», 2020, №11)

pic_2020_11_62.jpg

Художник Iolanta Koscielecka

Психология роботов, похоже, представляет собой еще неродившуюся, но уже ставшую актуальной область знания. Причем очень сложную. Ведь это только в фантазиях Айзека Азимова все было просто: в мозги каждого робота впечатывали три закона роботехники и в обозначенных ими рамках робот был вынужден крутиться. И то Сьюзен Келвин, главный робопсихолог планеты из рассказов Айзека Азимова, не сидела без дела: роботы время от времени калечили друг друга и людей, хотя последнее строжайше запрещено законами. Более того, один сумасшедший робот для блага человечества вовсе додумался ускорить распад радиоактивных элементов в недрах Земли, вынудив людей бежать с родной планеты. Современные робототехники добавили в название своей профессии лишнее «то» и о законах Азимова либо забыли, либо не знают, поэтому каждый из них сует в мозги роботам такие принципы поведения, какие захочет. Получается не очень хорошо, одни роботы-убийцы современных войн чего стоят. Поэтому задачи у робопсихологов будущего будут посложнее, чем у Сьюзен Келвин.

Эта простая и для многих очевидная мысль начала доходить и до профессионального сообщества. Например, доцент философии Камерон Букнер из Хьюстонского университета (Nature Machine Intelligence, 23 ноября 2020 года) задумался об истоках ошибок в системах искусственного интеллекта (ИИ). Интересно, что таинственные сбои зачастую фиксируют, а то и создают не сами исследователи, а другие системы ИИ, поэтому такие ошибки принято называть состязательными. Хорошо если они связаны с ошибкой программирования — при тестировании можно ее исправить. А если это не ошибка? Что, если машина неверно истолковывает свое задание на основании правильно запрограммированной нейронной сети, верно сформированных паттернов поведения? Тогда проблема выходит на принципиально иной уровень: неверное поведение машины оказывается неизбывным дефектом, следствием зазора непонимания в интерфейсе человек-машина.

Судя по статье Букнера, осознание проблемы специалистами еще далеко от перехода к конкретным действиям: мировой стандартизации поведения роботов, законодательному ограничению их свободы и безусловному запрету роботов-убийц. Однако хотелось бы, чтобы в недалеком будущем людям никогда не пришлось кричать нечто вроде: позовите Сьюзен Келвин, лишь она сможет понять, что происходит в мозгах этого свихнувшегося робота!



123

Разные разности

23.02.2021 16:00:00

Кобчик — маленький сокол, который прилетает к нам из Африки в мае. Однако его поголовье падает, и поэтому Союз охраны птиц России объявил его птицей 2021 года, года Кобчика.

>>
16.02.2021 16:00:00

Зима — самое время, когда можно эффективно расправляться с избыточным весом. Это выяснили канадские исследователи из Лаврентийского университета.

>>
08.02.2021 14:00:00

…разработан интерфейс, который позволяет мышам управлять курсором с помощью активности их мозга…

…беспрецедентное по продолжительности (четыре месяца) и интенсивности истощение стратосферного озона над Арктикой наблюдалось с января по апрель 2020 года…

…в Московской области впервые замечен инвазионный вид жука-долгоносика Polydrusus formosus, широко распространенный в Центральной и Южной Европе; в России встречался лишь в Крыму, но в 2015 году был обнаружен в Летнем саду Санкт-Петербурга…


>>
02.02.2021 16:00:00

Доцент философии из Хьюстонского университета задумался об истоках ошибок в системах искусственного интеллекта (ИИ). Интересно, что таинственные сбои зачастую фиксируют, а то и создают не сами исследователи, а другие системы ИИ.

>>
26.01.2021 16:00:00

Развитие ИИ привело к очень интересному явлению — так называемым глубоким выдумкам, или по-английски deepfake. О современном положении дел и об отношении общества к этому явлению рассказано в недавней статье Ахмеда Саифуддина из Наньянского технологического университета в Сингапуре

>>