Ученые из Колледжа компьютерных наук технологического института в Джорджии придумали способ, с помощью которого роботов можно будет обучить морали. Для этого исследователи предложили использовать истории и рассказы, в которых поощряются человеческие ценности. Статья была опубликована на сайте колледжа.
Ученые полагают, что искусственный интеллект может научиться человеческим ценностям, если он
будет обладать обширной базой возможных поведенческих сценариев, в которых определенные действия награждаются, а другие наказываются. Такой базой могут служить романы и рассказы, где действия главных героев соответствуют морали. С помощью метода, называемого выравниваем ценностей, можно предотвратить нежелательное поведение робота.
Метод выравнивания ценностей выглядит следующим образом. На основе текстов создается дерево историй. Оно представляет собой все возможные варианты поведения робота. При этом каждому действию присваивается награда или штраф, в зависимости от того, какое действие чаще встречалось в изначальных текстах. Если дать роботу проанализировать все дерево событий, то награды определят его дальнейший образ действия, и он будет вести себя, как положительный герой из романа.
Для осуществления своего подхода ученые планируют воспользоваться другим
искусственным интеллектом — таким как «Шахерезада», которая ранее была
разработана в том же колледже. «Шахерезада» способна сгенерировать
историю на любую тему, используя тексты, доступные в сети Интернет. На
их основе она создает дерево историй из возможных действий и
взаимоисключающих событий.
Александр Еникеев
N+1
