Принцип работы новой системы прост: перед тем, как выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность исполнения приказа вообще и с учетом текущих обстоятельств. Кроме того, искусственный интеллект также анализирует такой параметр, как "субординация": возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.
Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может "передумать" и выполнить поставленную задачу.
Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам.
В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.
Как отмечает IEEE Spectrum, речь идет не о "восстании машин", а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет - подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.
В последние годы мировые ученые постоянно проводят многочисленные исследования возможностей искусственного интеллекта и строят предположения о применении роботов в условиях повседневной жизни. Так, 1 ноября в китайском городе Тяньцзинь машина по имени "Хаоюэ", одетая в платье и цветочный головной убор, во время свадебной церемонии подвезла новобрачным кольца и зачитала торжественные напутствия.
В сентябре этого года в Британии стартовала кампания, инициаторы которой потребовали от технологических компаний отказаться от разработки секс-роботов, наделенных искусственным интеллектом.
Над созданием подобных роботов работают многие конструкторы, которые полагают, что оснащение различных секс-кукол и игрушек искусственным интеллектом сделает их более "человечными" и привлекательными для покупателей. Однако с точки зрения активистов, во главе которых стоят исследователи в области робототехники и этики Кейтлин Ричардсон и Эрик Бриллинг, такие разработки противоречат морали и принципам гуманизма.