Главная / В МИРЕ / «Восстание машин»: американские ученые научили роботов не выполнять приказы человека

«Восстание машин»: американские ученые научили роботов не выполнять приказы человека

Исследователи американского университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет искусственному интеллекту отказываться исполнять некоторые приказы, если у него есть достаточные основания для такого поведения. Результаты работы ученых уже были представлены на конференции AI-HRI, о которой пишет IEEE Spectrum.

Принцип работы новой системы прост: перед тем, как выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность исполнения приказа вообще и с учетом текущих обстоятельств. Кроме того, искусственный интеллект также анализирует такой параметр как «субординация»: возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам.

В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Как отмечает IEEE Spectrum, речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.